치열해지는 생성형 AI 추론 경쟁…엔비디아에 위협
(서울=연합인포맥스) 이윤구 기자 = 생성형 인공지능(AI) 추론 분야 경쟁이 심해지면서 엔비디아(NAS:NVDA)에 위협 요소로 떠오르고 있다는 분석이 제기됐다.
엔비디아의 2분기 데이터센터 매출 263억달러 중 AI 추론 부문이 약 40%를 차지하고 있지만, 후발주자들의 추격이 거세다.
(샌타클래라[미 캘리포니아주]=연합뉴스) 김태종 특파원 = 19일(현지시간) 전 세계에서 온 취재진에게 개방된 미국 캘리포니아주 실리콘밸리 샌타클래라 시에 위치한 인공지능(AI) 칩 선두 주자 엔비디아 본사 외부. 2024.3.20 taejong75@yna.co.kr
1일(현지시간) 비즈니스인사이더에 따르면 아마존웹서비스(AWS)의 CEO(최고경영자) 맷 가먼은 최근 팟캐스트에서 "생성형 AI 추론이 현재 AI 컴퓨팅 서버에서 수행되는 작업의 절반을 차지한다"며 "그 점유율은 더 높아져 엔비디아의 왕좌에 도전하려는 경쟁자들이 몰려들 것"이라고 말했다.
실제로 엔비디아의 시장 점유율을 뺏으려는 많은 기업이 AI 추론에서 출발하고 있다.
예컨대 구글 출신들이 설립한 미국 AI 반도체 스타트업 그로크(Groq)는 지난 8월 6억4천만달러 규모의 신규 자금을 조달해 회사 가치가 28억달러로 뛰어올랐다.
지난달 27일(현지시간) 세레브라스는 접시 크기의 CS-3 칩을 기반으로 하는 '세레브라스 추론' 플랫폼을 발표했다. 세레브라스는 자사 설루션이 엔비디아 호퍼 칩에 비해 AI 추론 속도가 20배 빠른데 가격은 훨씬 싸다고 설명했다.
CS-3 칩에는 엔비디아가 사용하는 고대역폭 메모리 칩 대신에 칩 웨이퍼에 내장된 메모리를 갖춘 아키텍처가 들어간다.
아마존은 최근 자체 AI 반도체 '트레이니움'과 '인퍼런시아'를 개발하는 등 반도체 설계부터 서비스까지 AI 전 영역으로 사업을 확대하고 있다.
디-매트릭스는 연말에 자체 칩 플랫폼인 '코르세어'를 내놓을 계획이다.
AI 추론 분야는 컴퓨팅 작업의 대부분을 차지할 것으로 예상된다.
가먼 CEO는 "아직 실현되지 않은 수천억달러의 AI 인프라 투자 수익을 실현하기 위해서는 이러한 추론이 이루어져야 한다"고 강조했다.
yglee2@yna.co.kr
이윤구
yglee2@yna.co.kr
함께 보면 도움이 되는
뉴스를 추천해요
