D램 수요 둔화 우려도 시기상조…"엔비디아 CPX 영향 2027년 이후"
(서울=연합인포맥스) 전병훈 기자 = 구글의 메모리 최적화 기술 '터보퀀트(TurboQuant)' 충격에 최근 국내 반도체 주가가 급락했지만, 업황 펀더멘털 훼손으로 보기엔 과도하다는 분석이 나왔다. 터보퀀트가 인공지능(AI) 메모리 사용량의 일부를 줄일 수 있을지라도, 피지컬 AI 확산으로 AI가 처리해야 할 데이터 자체가 폭발적으로 늘어나 전체 메모리 수요는 오히려 증가한다는 이유에서다.
고영민·김연미 다올투자증권 연구원은 1일 보고서를 통해 "KV 캐시 압축 기술의 최선은 비현실적 수요를 그나마 현실적으로 낮춰주는 정도"라며 "향후 HBM 수요는 더 늘어날 가능성이 충분하다"고 분석했다.
KV캐시는 대형언어모델(LLM)이 문맥을 파악하기 위해 저장하는 메모리 데이터다. 질문이 복잡하고 길어질수록 저장해야 할 KV캐시 용량도 급증한다. KV캐시가 저장되는 곳이 바로 HBM인데, 터보퀀트는 KV캐시의 크기를 정하는 많은 변수 중 '숫자 하나당 바이트 수'를 줄여주는 기술이다. 일반적인 16비트 수준보다 2.5~3.5비트로 낮춰주는 것이다.
다만, 두 연구원이 주목하는 부분은 나머지 변수들이 향후 피지컬 AI로 커질 수 있다는 점이다. 보고서는 "로봇, 자율주행 등에서 발생한 시간 개념의 토큰화 등을 감안하면 현실적으로 감당이 어려울 정도로 KV 캐시가 커질 것"이라며 "최근 일론 머스크가 테라팹을 발표하면서 칩 공급사들의 생산량을 최대로 잡아도 부족하다고 언급한 것이 대표적 예시"라고 설명했다.
엔비디아 CPX 도입에 따른 일반 D램 수요 둔화 우려에 대해서도 시기상조라고 선을 그었다. CPX는 AI 추론 과정에서 프리필(Prefill)·디코드(Decode) 단계를 분리해 병렬로 처리하는 시스템이다. AI가 연산을 시작하기 전 사용자 요청을 임시로 쌓아두는 대기열 역할을 D램이 맡는데, CPX로 프리필 속도가 빨라지면 이 대기열이 짧아져 D램 수요가 줄어들 수 있다는 논리다.
두 연구원은 CPX 출시 시점이 올해 말인 데다, 실제 수요 변화를 체감하는 건 빨라야 2027년이라고 설명했다.
연구원들은 "실제 Rubin과 CPX를 합친 구조를 사용했을 때 기존 예상 대비 D램을 얼마나 아낄 수 있는지, 내년 생산업체들의 공급이 원활하게 늘어날 수 있는지를 함께 따져봐야 한다"며 "내년 상반기 중 경계는 해야겠으나 단정적으로 줄어들 것이라고 볼 수도 없다"고 했다.
보고서는 오히려 4월 실적발표 시즌이 모멘텀 회복의 계기가 될 수 있다고 봤다. 일부 고객사와 메모리 공급사 간 3년 이상 장기공급계약이 확인될 것으로 예상되는 가운데, 관련 계약의 매출 인식이 3분기부터 반영될 가능성이 높아 하반기 평균판매단가(ASP) 둔화되기도 어렵다는 분석이다.
연구원들은 "미국과 이란 전쟁 관련 불확실성이 해소된다면 반도체가 선봉장으로서 가장 가파른 반등이 나타날 것"이라며 삼성전자와 SK하이닉스에 대한 비중확대 의견을 유지했다.
[촬영 이지은] 2022.1.5 [촬영 김성민] 2024.10.24
bhjeon@yna.co.kr
전병훈
금융용어사전
금융용어사전