고성능 연산 능력이 필요한 시대

홈 경제 경제 심층분석

인공지능 시대 새로운 성장 동력 HBM(고대역폭메모리) 1화

시리즈 총 4화

2023.07.24

읽는시간 4분

최근 몇 년간 디지털 전환이 가속화되면서 정보통신기술(ICT) 세계에서 생성되고 사용되는 데이터의 양이 폭발적으로 증가

코로나19 이후 전 세계적으로 데이터 사용량이 크게 늘었고, 향후 5년 동안 인공지능·자율주행·빅데이터 등의 ICT 기술이 일상화되면 지금보다 3배가 넘는 데이터가 생성될 전망
- 2023년 한 해 동안 120ZB(제타바이트¹)에 달하는 데이터가 생성될 전망이며, 이런 엄청난 양의 데이터를 처리하기 위해서는 컴퓨팅 성능·전력 사용량·처리 비용 등의 측면에서 꾸준한 개선이 필요

디지털 데이터 생성량 변화

자료: 스태티스타(Statista)

초거대 AI 모델 발전과 파라미터 수 증가

자료: 관련 자료 종합, KB경영연구소

최근 공개된 초거대 인공지능(Super-Giant AI)인 챗GPT의 상업적인 성공을 계기로 대용량 데이터 생성과 빠른 연산에 대한 수요가 더욱 폭증할 전망

주요 기업들을 중심으로 대용량 연산이 가능한 컴퓨터 인프라를 구축하여 대량의 데이터를 인간처럼 학습하고 사고하며 추론하는 초거대 인공지능 개발이 진행 중
- 초거대 인공지능은 기존 AI보다 무수히 많은 파라미터²와 학습 데이터를 바탕으로 종합적 추론이 가능한 모델로서, 인간의 다양한 능력을 모방하기 위해서는 복합 지능³을 갖춘 모델이 필요

초거대 인공지능의 데이터 학습에는 기존 모델과는 비교할 수 없을 정도로 방대한 연산량과 빠른 데이터 처리 속도가 필요
- 인공지능의 원할한 작동을 위한 필수 조건으로 방대한 데이터 처리가 가능한 초고성능 컴퓨팅이 요구되면서 대용량 데이터 처리에 최적화된 메모리 반도체의 필요성이 대두

¹ Zettabyte, 1제타바이트는 10의 21승 바이트(byte)
² Parameter, 매개변수. 학습한 데이터를 보관하는 장소로 인간 뇌의 시냅스(뉴런 간 정보 전달 통로)와 유사한 기능을 수행하며, 파라미터 수가 많을수록 인공지능은 높은 성능을 보임
³ 언어·영상·소리 등 다양한 반응을 통해 얻은 정보를 하나로 통합해 학습하고 사고하며 판단하는 능력

#HBM #빅데이터 #챗GPT #대용량 #속도

KB경영연구소 홈페이지에서 콘텐츠 더 보기

심경석

KB경영연구소

총 4화

인공지능 시대 새로운 성장 동력HBM(고대역폭메모리)

미·중 반도체 갈등과 HBM

2023.07.24 심경석

인공지능의 성능을 높이는 HBM

2023.07.24 심경석