해외투자
Not Rated
차세대 GPU가 만들어갈 미래
미국주식+ | 엔비디아 GTC 2024 탐방기
2024.03.26
읽는시간 4분
URL을 복사했어요
■차세대 GPU가 만들어갈 AI 생태계
엔비디아 GTC 2024가 성황리에 마무리됐다.
가죽 재킷을 입은 젠슨 황 최고 경영자에 환호하는 모습은 마치 록 콘서트를 방불케 했다.
이번 GTC의 핵심은 차세대 GPU ‘블랙웰 (Blackwell)’과 이를 중심으로 만들어질 AI 생태계였다.
이미 아마존, 마이크로소프트와 같은 데이터 센터 기업들이 블랙웰에 관심을 갖고 있으며, 지멘스, 애플, 닛산 등 다양한 기업들이 파트너십을 맺었다.
엔비디아는 블랙웰을 중심으로 1) 데이터 센터 및 클라우드 컴퓨팅, 2) 인공지능,
3) 디자인 및 시뮬레이션, 4) 로보틱스 및 엣지컴퓨팅, 5) 자율주행 및 자동차, 6) 고성능 컴퓨팅, 7) 제약 및 바이오 등의 영역까지 깊숙이 침투하여 AI 시대에서 중심적인 역할을 하기 시작했다.
■현존하는 최고의 AI 칩, ‘블랙웰 (Blackwell)’
차세대 블랙웰은 기존 H100 칩에서 호환 가능하며, 호퍼 대비 연산 능력이 2.5배에 달한다.
챗 GPT 모델을 훈련하는데 호퍼칩 8천개와 15MW의 전력 용량이 필요했다면, 블랙웰은 2천개의 칩과 4MW의 전력만으로 가능하다.
블랙웰이 모이면 더욱 강해진다.
엔비디아는 블랙웰 칩 2개와 그레이스 CPU를 결합하여 GB200 수퍼 칩을 공개하고, NV링크 기술을 이용하여 GB200칩을 36개까지 결합한 NVL72 모델을 제시했다.
이는 기존 HGX H100 대비 최대 4배의 인공지능 훈련이 가능하며, 25배의 에너지 효율, 3.3배의 쿼리 속도를 자랑한다.
마지막으로 최대 576개의 블랙웰 GPU를 연결하는 DGX 슈퍼팟도 공개했다.
DGX는 LLM 추론을 위한 엔비디아 H100 텐서 코어 (H100 Tensor Core) GPU에 비해 최대 30배 향상된 성능을 제공한다.
엔비디아 GTC 2024가 성황리에 마무리됐다.
가죽 재킷을 입은 젠슨 황 최고 경영자에 환호하는 모습은 마치 록 콘서트를 방불케 했다.
이번 GTC의 핵심은 차세대 GPU ‘블랙웰 (Blackwell)’과 이를 중심으로 만들어질 AI 생태계였다.
이미 아마존, 마이크로소프트와 같은 데이터 센터 기업들이 블랙웰에 관심을 갖고 있으며, 지멘스, 애플, 닛산 등 다양한 기업들이 파트너십을 맺었다.
엔비디아는 블랙웰을 중심으로 1) 데이터 센터 및 클라우드 컴퓨팅, 2) 인공지능,
3) 디자인 및 시뮬레이션, 4) 로보틱스 및 엣지컴퓨팅, 5) 자율주행 및 자동차, 6) 고성능 컴퓨팅, 7) 제약 및 바이오 등의 영역까지 깊숙이 침투하여 AI 시대에서 중심적인 역할을 하기 시작했다.
■현존하는 최고의 AI 칩, ‘블랙웰 (Blackwell)’
차세대 블랙웰은 기존 H100 칩에서 호환 가능하며, 호퍼 대비 연산 능력이 2.5배에 달한다.
챗 GPT 모델을 훈련하는데 호퍼칩 8천개와 15MW의 전력 용량이 필요했다면, 블랙웰은 2천개의 칩과 4MW의 전력만으로 가능하다.
블랙웰이 모이면 더욱 강해진다.
엔비디아는 블랙웰 칩 2개와 그레이스 CPU를 결합하여 GB200 수퍼 칩을 공개하고, NV링크 기술을 이용하여 GB200칩을 36개까지 결합한 NVL72 모델을 제시했다.
이는 기존 HGX H100 대비 최대 4배의 인공지능 훈련이 가능하며, 25배의 에너지 효율, 3.3배의 쿼리 속도를 자랑한다.
마지막으로 최대 576개의 블랙웰 GPU를 연결하는 DGX 슈퍼팟도 공개했다.
DGX는 LLM 추론을 위한 엔비디아 H100 텐서 코어 (H100 Tensor Core) GPU에 비해 최대 30배 향상된 성능을 제공한다.
