AI 사업 모델과 최근의 변화를 통해 보는 관전포인트, Weekly EU
Global Insights
25.11.28
읽는시간 1분
퀵하게 보기
- 구글 TPU가 흔드는 엔비디아 독점력. 그만큼 중요하게 관찰해야 하는 중국 AI 기술 경쟁력
그만큼 중요하게 관찰해야 하는 중국 AI 기술 경쟁력
AI 사업 모델.
생성형AI를 활용한 AI 사업은 막대한 설비투자가 필요한 자본집약적 장치 산업.
1) AI 데이터센터 구축.
이 산업은 고성능 가속기를 활용한 대규모 AI 데이터센터를 구축해서 2) LLM 학습.
파운데이션 모델 (LLM)을 학습 (pre-training)시키는 과정에서 밸류체인이 시작.
3) 추론.
학습된 모델이 고개의 요청에 대응하는 추론 (inference) 단계에서 수익이 발생.
고객이 ChatGPT 같은 서비스를 구독할 때 발생하는 구독료 수익도 있지만, 기업 시장에서는 API를 호출을 통해 모델을 사용하고 토큰 (token) 사용량을 바탕으로 과금하는 MaaS (Model as a Service)가 핵심 사업 모델.
고객의 프롬프트를 처리하는 과정에서 비용을 얼마나 덜 발생시키는지가 수익성을 결정.
3-1) 소프트웨어.
비용을 낮추기 위해서는 연산을 덜 하면서도 높은 성과를 낼 수 있도록 해야 하는데, 이 과정에서 양자화 (quantization, 정밀도를 낮춰서 연산 속도를 높이는 방식)나 증류 (distillation, 거대 모형을 경량 모델에 이식하는 방식), 전문가혼합 (MoE, Mixture of Experts, 답변에 필요한 특정 모델만 활성화해서 연산량을 줄이는 방식) 등과 같은 모델 경량화 기술을 적용해서 연산량을 줄이는 소프트웨어 기술이 필요.
3-2) 하드웨어.
또한, 고대역폭메모리 (HBM)나 NVLink 같은 고속 연결 기술로 대역폭 병목을 해소해서 데이터센터의 하드웨어 가동률을 극대화하는 네트워킹 능력도 매우 중요.
데이터센터 가동에 필요한 전력 비용을 낮추는 것도 중요한데, 냉각 기술이 전력효율을 높이는 데에 활용.
3-3) 전력.
안정적인 전력을 저렴한 가격으로 사용할 수 있어야 추론 비용을 낮출 수 있음
KB증권은 동 조사분석자료를 기관투자가 또는 제3자에게 사전 제공한 사실이 없습니다. 본 자료를 작성한 조사분석담당자는 해당 종목과 재산적 이해관계가 없습니다. 본 자료 작성자는 게제된 내용들이 본인의 의견을 정확하게 반영하고 있으며, 외부의 부당한 압력이나 간섭 없이 신의 성실 하게 작성되었음을 확인합니다.
작게
보통
크게
