데이터 센터에서 온디바이스 AI까지 (Feat. 엔비디아 vs. AMD)

미국주식+

■가성비 승부수 띄운 AMD, 엔비디아는 H200 2분기 출시 예정


인공지능 트렌드 확대에 따라 엔비디아와 AMD의 성장이 예상된다.
두 기업은 데이터 센터 AI에 최적화된 칩을 시장에 내놓는 동시에, 개인용 PC에서의 LLM 기반 생성형 AI를 가속화해주는 온디바이스 AI 칩을 공개하여 시장의 이목을 집중시키고 있다.
AMD는 지난 12월 엔비디아의 H100 칩의 성능을 뛰어 넘는 MI300X 시리즈를 공개했다.
리사 수 CEO는 “엔비디아보다 비용이 더 낮아야 한다”고 언급하면서 비싼 엔비디아 칩을 공략하고 있다.
H100 칩이 시장에서 수요가 공급보다 높은 점도 긍정적이다.
MI300 시리즈 가격은 미정이지만, AMD는 이미, 오라클, 마이크로소프트, 메타, 미국 국립연구소 등과 계약을 체결하는 등 수요를 검증했다.


■AMD MI300 시리즈, 엔비디아 H100 성능 추월


엔비디아의 신형 H200칩이 2024년 2분기 출시를 앞두고 있지만, 현재 기준에서 MI300X은 거의 모든 부분에서 H100을 뛰어넘고 있다.
MI300X의 고속 컴퓨팅 성능은 H100의 2.4배 수준, AI 연산 성능은 1.3배 수준으로 발표됐다.
메모리 역시 용량과 대역폭 등 H100 대비 우위에 있었고, AI 추론 부분에서 최소 10%에서 60% 정도 빠른 것으로 나타났으며, AI 훈련에서는 H100과 비슷한 성능을 기록했다.