0

"인공지능 추론이 메모리 반도체 르네상스 불러온다"

25.11.13.
읽는시간 0

(서울=연합인포맥스) 서영태 기자 = 인공지능(AI) 산업의 무게 중심이 학습(training)에서 추론(inference)으로 이동하는 가운데 메모리 반도체가 르네상스를 맞이할 수 있다는 의견이 나왔다.

강석용 신영증권 연구원은 13일 보고서를 통해 "C-HBM의 등장은 XPU 및 ASIC 설계사의 개별 요구를 반영할 수 있는 기반을 마련하며 메모리 반도체의 르네상스를 예고한다"고 말했다.

맞춤형(Custom) 고대역폭메모리(HBM)인 C-HBM은 프로세서와 메모리 간 결합방식을 맞춤형으로 설계할 수 있는 구조를 가졌다. 따라서 확장형처리장치(XPU) 및 주문형 반도체(ASIC) 설계사의 개별 요구를 반영할 수 있다.

강 연구원은 "C-HBM용 지식재산권(IP) 생태계가 빠르게 확장되고 설계 경쟁이 본격화할 것으로 예상된다"고 말했다.

메모리 반도체 제조사가 트랜지스터 집적도를 높이는 경쟁을 멈추고 칩과 칩의 연결 구조를 혁신하는 경쟁으로 돌입한다는 전망이다.

강 연구원은 "산업의 중심은 추론으로 이동하고 있으며, 추론은 학습보다 다양한 연산 단계(프리필과 디코드 등)를 요구하기 때문에 메모리 구조의 다변화가 필연적"이라고 설명했다.

실제로 엔비디아는 추론의 프리필(질문 이해) 단계를 위한 그래픽처리장치(GPU)인 CPX를 발표했고, 메모리 업체들과 추론의 디코드(답변 준비) 단계를 위한 메인 메모리인 하이브리드 본딩을 활용한 3D-IC DRAM 개발에 돌입했다.

강 연구원은 이에 대해 "추론용 프로세서를 위해 한층 과감한 아키텍처 혁신을 실현하려는 시도"라고 해석했다.

ytseo@yna.co.kr

서영태

서영태

금융용어사전

KB금융그룹의 로고와 KB Think 글자가 함께 기재되어 있습니다. KB Think

금융용어사전

KB금융그룹의 로고입니다. KB라고 기재되어 있습니다 KB Think

이미지