Not Rated

오픈AI의 높은 토큰 처리량, 네오 클라우드 최적화 기업 수혜

글로벌 기업+
25.10.20
읽는시간 1분

퀵하게 보기

  • 분당 60억개 토큰 처리 중인 오픈AI, 고성능 GPU 최적화 기업 수요도 함께 증가할 것
  • 오픈AI, 엔비디아 모두 ‘토큰 (Token)’ 생성에 주목, 고성능 데이터센터 수요 증가
  • 데이터센터 성능의 주요 변수 = 토큰, 저전력, 저지연
■ 분당 60억개 토큰 처리 중인 오픈AI, 고성능 GPU 최적화 기업 수요도 함께 증가할 것


인공지능 트렌드는 대형 언어 모델 (LLM)을 기반으로 생성형 AI에서 에이전틱 AI (추론형 AI)로 진화하고 있으며, 이에 따른 토큰 (언어 모델 처리 데이터 단위) 사용량도 약 20배 증가하면서 고성능 GPU에 대한 수요도 크게 증가 (김세환 3/21)하고 있다.
고성능 데이터센터의 성능은 저전력, 저지연, 고성능 GPU에 달려 있는 만큼 네트워크, 리타이머, AEC, 전력, 냉각 및 운영, 서버 랙, 저장장치, HBM 등의 최적화 관련 기업의 수요도 증가할 것으로 기대 (김세환 9/22)하며, 관련 기업으로 코어위브, 네비우스, 아이렌 ,어플라이드 디지털, 아리스타 네트워크, 아스테라 랩, 크레도 테크놀로지, 버티브, 델, 암페놀, 씨게이트, 퓨어 스토리지, 마이크론 테크놀로지, 어플라이드 머티리얼즈를 제시한다.


■ 오픈AI, 엔비디아 모두 ‘토큰 (Token)’ 생성에 주목, 고성능 데이터센터 수요 증가

작게

보통

크게

0

금융용어사전

KB금융그룹의 로고와 KB Think 글자가 함께 기재되어 있습니다. KB Think

금융용어사전

KB금융그룹의 로고입니다. KB라고 기재되어 있습니다 KB Think

이미지