"AI 인프라 병목, GPU에서 '메모리'로 이동…내년 공급부족 심화"

(서울=연합인포맥스) 이규선 기자 = 인공지능(AI) 인프라 구축의 핵심 병목 현상이 그래픽처리장치(GPU) 중심의 연산 자원에서 메모리 반도체로 빠르게 이동하고 있다는 분석이 나왔다.

스스로 판단해 행동하는 '에이전틱(Agentic) AI' 시대로 진입하면서 요구되는 데이터 처리량이 급격히 늘어난 영향이다.

19일 KB증권에 따르면, 지난 15일부터 사흘간 미국 캘리포니아주 산타클라라에서 열린 'AI 인프라 서밋(AI Infra Summit) 2026'의 최대 화두는 메모리와 전력이었다.

엔비디아, 오픈AI, 구글 등 글로벌 250개 기업이 참석한 이번 행사에서 인텔 최고경영자(CEO)는 현재의 메모리 공급 부족이 일시적 현상에 그치지 않고 내년인 2027년에 더욱 심화할 가능성을 제기했다.

이는 AI용 고대역폭메모리(HBM) 신규 증설이 범용 D램 생산능력을 잠식하는 구조적 요인 때문이다. AI 투자가 확대될수록 HBM은 물론 전체 D램 공급 여력까지 제한되면서 메모리 수급은 더욱 타이트해질 수밖에 없다는 의미다.

특히 메모리 성능에 대한 요구는 에이전틱 AI의 등장과 함께 폭발적으로 늘어나는 추세다. 현재 대화형 AI의 응답 속도는 초당 100토큰 수준이나, 에이전틱 AI 환경에서는 이보다 10배 높은 초당 1천 토큰의 처리 성능이 필요하다. 시스템 성능을 결정짓는 요인이 단순 연산 능력에서 '메모리 대역폭'과 '데이터 공급 속도'로 옮겨가고 있는 셈이다.

KB증권에 따르면 삼성전자는 이번 행사에서 기존 2.5D HBM 구조를 넘어 GPU 상단에 메모리를 직접 적층하는 'zHBM' 기술을 대안으로 제시했다.

zHBM 적용 시스템은 기존 HBM5 대비 최대 8배의 성능 향상과 3배 이상의 전력 효율을 목표로 한다. 발열 문제를 통제하면서 대역폭을 획기적으로 개선할 수 있어 향후 고성능 AI 시스템의 핵심 기술로 부상할 전망이다.

KB증권은 삼성전자가 베이스다이부터 인터포저, 첨단 패키징, HBM을 동시에 제공하는 '원스톱 솔루션'을 갖추고 있어 시장 지배력을 빠르게 키울 것으로 내다봤다.

올해 2분기 33%였던 삼성전자의 HBM 시장 점유율은 HBM4 출하 확대에 힘입어 4분기 40% 수준까지 근접할 것으로 추정됐다.

데이터 폭증도 메모리 수요를 강력하게 견인하고 있다. 시장조사업체 IDC에 따르면 최근 1년간 기업 데이터는 25% 이상 늘었으며, 기업 10곳 중 7곳(74%)은 향후 3년간 데이터가 연평균 25% 이상 늘어날 것으로 관측했다.

KB증권은 "AI 모델이 고도화될수록 요구되는 하드웨어는 GPU에 국한되지 않고 HBM, 고용량 서버 D램, 기업용 SSD, 낸드 등 풀스택 메모리로 확장된다"며 "AI 성능 개선이 메모리 중심의 수요 확대를 가속하는 방향으로 전개되면서 삼성전자와 SK하이닉스는 최대 수혜주로 부각될 것"이라고 진단했다.

kslee2@yna.co.kr