구글이 최근 소개한 '터보퀀트' 기술은 거대언어모델(LLM)의 메모리 사용량을 혁신적으로 줄여줄 수 있는 기술로, 이에 대한 관심이 집중되고 있다. 구글은 터보퀀트를 통해 인공지능(AI) 모델의 메모리 사용량을 기존 대비 6분의 1로 줄일 수 있다고 밝혔으며, 한국과학기술원(KAIST)의 한인수 교수는 이 기술이 AI 모델의 메모리 과부하를 해결할 수 있는 기반이 된다고 설명했다.
한 교수는 터보퀀트의 핵심 알고리즘인 '양자화 존슨-린덴스트라우스 변환(QJL) 기술' 연구에 참여한 전문가로, 이 기술은 고비트의 정보를 더 적은 비트로 압축해 필요 자원을 줄이는 최적화 기법으로 설명되었다. QJL은 16비트나 32, 64비트로 표현되는 데이터를 1비트로 근사화하여 메모리 비용을 극단적으로 줄일 수 있으며, 이 과정에서 정보의 의미가 훼손되지 않는다고 한 교수는 강조했다.
한 교수는 QJL 기술을 통해 AI 모델의 메모리 사용량 최소화가 가능하다고 설명하며, 터보퀀트의 등장이 메모리 시장에 파장을 일으킬 것으로 전망하고 있다. 이러한 기술을 통해 AI 모델의 기능을 강화하고 메모리 반도체 시장을 활성화시킬 수 있으며, 영역이 확장되고 전체 메모리 사용량이 늘어날 수 있다는 우려에도 대응할 필요가 있다고 강조했다.