SK하이닉스 안현 "메모리 계층 최적화로 데이터 병목 극복"
[촬영: 서영태 기자]
(서울=연합인포맥스) 서영태 기자 = SK하이닉스[000660]가 인공지능(AI) 산업 내 새로운 과제인 데이터 전송 병목을 '메모리 계층 최적화'로 극복하겠다며 차세대 메모리 기술 로드맵을 제시했다.
안현 SK하이닉스 개발총괄 사장은 14일 강남구 코엑스에서 열린 '반도체 대전 SEDEX 2026' 기조연설에서 AI 추론의 급속한 성장에 따른 새로운 메모리 병목을 해결하기 위해 3D 스택드 DRAM과 HBF(고대역폭플래시) 등 새로운 메모리 계층을 구축해야 한다고 주장했다.
AI 산업이 성장하며 데이터 저장량과 이동량도 함께 증가하고 있다. AI가 이전에 처리한 토큰 정보를 저장하고 재활용하는 KV 캐시(Key Value Cache)는 맥락이 늘어날수록 더 많은 메모리 용량을 필요로 한다.
이처럼 대규모로 발생한 KV 캐시 데이터를 효율적으로 처리하려면 HBM부터 DRAM, SSD까지 여러 메모리 계층에 데이터를 분산저장해야 한다. 이 과정에서 계층 간 데이터 이동이 증가하고, 새로운 데이터 이동의 병목이 발생하고 있다.
안 사장은 "AI 인프라의 지속적인 성장을 위해서는 개별 메모리의 성능 향상을 넘어 전체 메모리 계층을 최적화하는 접근이 필요하다"고 강조했다.
앞으로는 SRAM과 HBM, HBM과 DRAM, DRAM과 SSD, SSD와 네트워크 스토리지 사이에 새로운 메모리 계층이 추가되는 구조로 발전한다는 게 안 사장의 구상이다.
안 사장은 SRAM과 HBM 사이의 성능 병목을 해결할 기술로 '3D 스택드 DRAM을 소개했다. 또한 AI 추론 과정에서 증가하는 메모리 용량 수요에 대응하기 위한 새로운 계층으로 HBF를 제시했다.
안 사장은 "AI 시대의 메모리 경쟁력이 개별 제품의 성능과 용량을 높이는 것을 넘어 다양한 메모리 계층을 유기적으로 연결하고 시스템 전체의 효율을 극대화하는 방향으로 발전할 것"이라고 강조했다.
ytseo@yna.co.kr
서영태
ytseo@yna.co.kr
함께 보면 도움이 되는
뉴스를 추천해요
