IT (451510)

AI 가속기 확산 변곡점, 수요 급증 기대

■ [GTC 2024 기조연설] AI 가속기 연산 능력 확대 → 산업 채택 증가

KB증권은 엔비디아 (Nvidia) GTC 2024에 직접 참가해 현 시점이 AI 가속 컴퓨팅의 중요한 변곡점인 점을 확인할 수 있었다.
가속 컴퓨팅 연산 용량이 폭발적으로 확대되며 산업 현장에 도입 비용 이상의 가치 (매출증가, 원가절감)가 창출되기 때문이다.
GTC 2024 기조연설에서 Nvidia는 지난 8년간 GPU 연산 능력이 +1,000배 확대됐다는 사실과 함께, Nvidia가 신규 공개한 AI 시스템 Blackwell이 기존 AI 시스템인 Grace Hopper 대비 압도적 연산 능력을 갖고 있음을 강조했다.
즉, 최신의 오픈소스 LLM (1.8조개 파라미터)을 기존 Grace Hopper (4,000 TFLOPs) 시스템으로 학습한다면 8,000개의 GPU, 15MW의 전력 용량이 필요한 반면, 새로운 Blackwell (20,000 TFLOPs)은 2,000개의 GPU, 4MW 전력 용량으로도 동일한 작업을 수행할 수 있다는 것이다.
Nvidia의 CEO 젠슨 황은 새로운 가속 컴퓨팅 자원 사용으로 비용 절감 뿐 아니라 실시간 디지털 트윈 (Digital Twin)*과 같은 기능들이 기업들에 높은 가치를 준다는 점을 들어 다양한 산업에서 AI 적용 속도가 폭발적으로 확대될 것이라고 예상했다.