2화. ‘AI 혁신을 가속화하라’ -엔비디아 GTC 2023 기조연설

○ [인공지능] 엔비디아 GTC 2023 기조연설에서 젠슨 황(Jensen Huang) CEO는 “아이폰이 스마트폰 시장에 혁신을 가져온 것처럼 AI 기술도 그렇게 될 것이다”라며 인공지능(AI, Artificial Intelligence)의 중요성을 몇 차례나 강조

• “오늘날의 시장은 매우 빠른 속도로 발전하고 있다. 엔진은 가속 컴퓨팅이고 그 연료는 AI”, “생성형 AI의 등장은 전 세계 기업들에게 제품과 비즈니스 모델을 재구성해야 한다는 긴박감을 불러 일으켰다”라며 현재 상황을 함축
• 엔비디아는 데이터센터 규모의 가속 컴퓨팅 플랫폼부터 새로운 칩, 라이브러리, 클라우드 서 비스에 이르기까지 모든 분야를 아우르는 풀스택(full-stack)을 선보이며, 기업의 생성형 AI 도입 에 필요한 모든 인프라를 제공 중 
• 과거 GTC 기조연설에서는 하드웨어 신기술을 우선하여 발표한 반면, 올해에는 하드웨어가 아닌 소프트웨어와 협업 사례를 먼저 앞세워 소개한 것이 큰 차이점
  - 아울러 이번 기조연설은 총 1시간 17분 가운데 56분을 AI소개에 할애했으며, 지난해 GTC 대부분을 차지했던 메타버스는 20분이 전부
  - 엔비디아는 300개의 소프트웨어 라이브러리와 400개의 AI모델 가속 컴퓨팅을 제작하 고, 더불어 물리학·화학·지구 및 생명과학 전반에 걸쳐 AI 기능을 향상시킬 100개의 업데이트를 진행했다고 밝힘 

○ [GPU의 위상 변화] ChatGPT 같은 생성형 AI로 인해 GPU(Graphics Processing Unit) 수요는 계속해서 확대될 것이며, CPU(Central Processing Unit)가 중심이던 IT 시장이 GPU로 이동하는 변곡점이 될 것

• 이제는 GPU가 CPU보다 연산 성능이 뛰어나며, 영상과 이미지 구현을 넘어 대규모 언어 모 델과 데이터베이스를 구성하는 데에도 주요한 역할을 하고 있음
  - 그러나 전 세계 기업들은 글로벌 데이터센터에 적용된 CPU가 월등히 많다는 이유로 여전히 CPU 사용을 우선하는데, CPU만을 활용하는 것은 시간적인 그리고 효율적인 측면에서 옳은 선택이 아님

○ [DGX클라우드] 기업들이 별도 물리적 컴퓨터 설비가 없더라도 생성형 AI를 구축할 수 있는 슈퍼컴퓨터 클라우드 구독 서비스 ‘DGX클라우드’를 공개  

• 그동안 AI 기업들은 고비용을 투자하여 자체 서버를 구축하거나 외부 클라우드를 활용해야 했으나, DGX클라우드를 도입한다면 초기 투입 비용을 절약할 수 있음
  - 월 36,999달러부터 A100 칩을 사용한 클라우드 서비스를 활용할 수 있으며, 32,000 개에 달하는 GPU, 저장장치, 소프트웨어 등도 묶음으로 사용할 수 있음 
• DGX클라우드는 마치 웹 페이지를 제작하는 것만큼 쉽고 적은 비용으로 슈퍼컴퓨터를 활용 할 수 있으며, 이는 생성 AI의 대중화로 이어질 것
  - 오픈AI(Open AI)¹를 포함한 포춘 100대 기업 중 절반 이상이 이미 사용 중
  - 또한 마이크로소프트(MicroSoft)와 구글(Google) , 아마존웹서비스(AWS, Amazon Web Service)등 클라우 드 기업에게도 DGX클라우드를 공급하겠다고 밝힘 

○ [쿠리소(cuLitho) ] TSMC, ASML, 시놉시스(Synopsys)와 협력해 선보인 ‘쿠리소(cuLitho) ’는 포토마스크 에 새겨진 회로 패턴을 빠르게 시뮬레이션하여 불량률을 줄이도록 돕는 소프트웨어

• 반도체 공정이 나날이 소형화, 미세화되면서 포토마스크 설계에 연산 수요가 기하급수적으로 늘어나는데 반해 이를 뒷받침해주는 인프라가 부족한 상황
  - 하지만 CPU 대신 엔비디아 GPU 도입하면 기존 성능 대비 40배 빠르면서 9배 높은 효율성을 유지할 수 있음
  - ①포토마스크 작업 시간을 2주에서→ 8시간으로 감축하고, ②4만개의 CPU가 하던 작업을→ 500개의 DGX H100이 대체함으로써 ③공간, 소비전력, 탄소 배출량을 절감 하고, ④향후 혁신 가속화를 위한 새로운 제조 공정이 가능함

○ [AI 파운데이션] DGX클라우드 기능을 활용해서 기업이 자체적으로 맞춤형 생성 AI 모델을 구 축하고 생성할 수 있는 ‘AI 파운데이션’을 출시

• AI 시장에서 파운데이션이란 초거대 AI 기술로 구축한 서비스를 API(Application Programming Interface)나 오픈 소스로 제공하는 비즈니스를 말하는데, 해당 영역은 빅테크 기업의 전유물 이었음. 그러나 AI 파운데이션을 활용하면 개발 능력이 부족하거나 초거대 AI를 구축하기 어려운 회사들도 직접 개발이 가능해짐
  - 기존 AI 관련 빅테크 기업이 제공하는 서비스도 학습한 이미지의 라이선스 문제가 불 거지며 여러 소송들이 잇따라 제기된 상태
  - 이런 상황에서 이미지·비디오 데이터 플랫폼 회사인 게티이미지(GETTYIMAGE) , 어도비(Adobe) , 셔터스톡(Shuttersock) , 모닝스타(Morningstar) 등은 자체 언어 모델 구축할 수 있게 됨
•  AI 파운데이션은 ▲AI 언어 모델을 구축하는 ‘니모(NeMo) ’, ▲텍스트를 이미지, 비디오, 3D로 출 력하는 ‘피카소(Picasso) ’, ▲바이오 분야에 특화된 ‘바이오 니모(BioNeMo) ’로 구성 

○ [AI 추론 플랫폼] 생성형 AI를 가속화하는 ▲L4, ▲L40, ▲H100 NVL, ▲Grace Hopper 총 네 가지 추론 플랫폼이 공개

• DGX클라우드부터 소프트웨어, 엔지니어 서비스까지 One-Stop으로 제공하면서, 마치 ‘AI공 장’처럼 AI 모델들을 만드는 수직계열화 모델을 구성
  - 젠슨 황 CEO는 “이제 그래픽 처리장치 업체가 아닌 종합 컴퓨팅 회사”라고 발표 
• ▲AI 비디오용 L4는 CPU대비 120배 높은 성능과 99% 향상된 에너지 효율성 제공, ▲이미 지 생성용 L40은 AI기반 2D, 비디오 및 3D이미지 생성에 최적화, ▲LLM(Large Language model)²에 이상적인 H100 NVL은 ChatGPT-3와 비교하면 10배 높은 성능, ▲추천 모델용 Grace Hopper는 그래프 추천 모델, 벡터 데이터베이스 및 그래프 신경망에 이상적