[시사금융용어] 터보퀀트

홈 뉴스 모아보기

26.04.03.

읽는시간 0분

◆터보퀀트(TurboQuant)는 '벡터 검색 엔진'에서 발생하는 메모리 병목 현상을 해결해 AI 효율성을 획기적으로 개선하는 데이터 압축 알고리즘을 의미한다.

구글은 지난달 25일 정확도 저하 없이 모델의 크기를 극단적으로 압축하는 기법을 이용해 AI의 메모리 사용량을 6분의 1 수준으로 줄일 수 있는 해당 기술을 공개했다.

KV 캐시에 저장되는 벡터 데이터를 3~4비트 수준으로 줄이면서도, 모델이 단어·이미지·정보 사이의 의미적 관계는 거의 그대로 이해할 수 있게 하는 것이 이 기술의 주요 특징이다.

결국 현재보다 적은 양의 메모리로도 복잡한 AI 연산을 할 수 있다는 의미다.

이렇다 보니 향후 메모리 반도체 수요가 둔화할 수 있다는 전망이 제기되면서 미국 마이크론과 국내 삼성전자·SK하이닉스 등의 주가도 조정 국면에 들어섰다.

다만, 일각에선 구글의 발표가 알고리즘 공개에 가까운 만큼 실제 상용화 여부는 불확실성이 크다는 전망이 나온다.

아울러 메모리 병목 현상이 해결될 경우 더 많은 데이터 처리를 할 수 있게 돼 메모리 수요는 더 자극될 가능성이 있다는 평가도 있다. (금융부 정원 기자)

(서울=연합인포맥스)

정원

jwon@yna.co.kr