AI Margin Compression

■ AI 수요가 늘고 있다는 사실에 과도하게 집중하면 놓칠 수 있는 시장의 변화

AI 수요는 늘고 있다.
토큰 사용량이 늘고 있고 AI 데이터센터 임대 계약도 계속 나오고 있다.
B200 임대료 가격도 최근에 빠르게 반등하는 중이다.
하지만 AI 시장에 불안이 커지는 지금, AI 수요가 늘고 있다는 소식에 안도할 수 없다.
인터넷 침투율 상승세가 약해지면서 IT 버블이 터진 건 아니었던 것처럼, AI 수요 증가세에 둔화 조짐이 없다고 해서 문제가 없는 건 아니기 때문이다.

■ Model Layer: 범용재가 되고 있는 AI 모델

1) 4월 2일, 구글은 오픈웨이트 모델 Gemma 4를 공개했다.
구글은 Gemini 3를 증류한 Gemma 4로 중소형 모델 시장을 범용화 (commoditize)했다.
Gemma 4로 OpenAI와 앤트로픽처럼 순수 AI 모델 제조사들이 만드는 프론티어 모델을 비싸 보이게 만들었다.
2) 6월 13일, 중국 Z.ai가 공개한 GLM-5.2는 프론티어 모델 시장을 겨냥했다.
오늘로 공개한 지 한 달이 됐는데, 이미 많은 미국 기업들이 GLM-5.2로 토큰 비용을 절약하고 있다.
3) 6월 30일, 중국의 생활서비스 전자상거래 기업 메이투안은 LongCat-2.0을 공개했다.
중국 반도체 클러스터를 활용해서 학습시키고 배포하는 모델인데, 프론티어 모델 시장의 추격 기업들이 선도 기업의 프리미엄을 얼마나 빠르게 낮추는 지를 보여주는 사례다.
4) 7월 8일, SpaceX는 Grok 4.5를 공개했다.
가격은 출력 100만 토큰당 6달러지만, 토큰 효율성을 높여서 동일한 작업을 하는 데에 Claude Opus 4.8 (max)보다 약 1/4의 토큰만 사용한다.
프론티어 모델의 토큰 가격 인하 경쟁이 공식화됐다.
5) 7월 9일, 메타는 Muse Spark 1.1을 공개했다.
모든 걸 잘하는 SOTA 모델 경쟁에 뛰어들기보다는, 메타 플랫폼에서 활용도를 극대화할 수 있는 에이전트 기능에 집중했다.
유료 API도 열어서 수익성도 챙기기 시작했다.
출력 100만 토큰당 가격을 4.25달러로 설정해서, 토큰 가격 인하 경쟁에 불을 지폈다.
6) 6월 23일, 일본의 Sakana AI는 Fugu와 Fugu Ultra를 공개했다.
Fugu는 적절한 모델을 선택해서 비용 효율성을 높여주는 라우팅 (routing) 모델이고, Fugu Ultra는 작업을 세분해서 각 작업을 적절한 모델에게 맡기고 결과를 통합하는 오케스트레이션 (orchestration) 모델이다.
뛰어난 단일 모델이 전담했던 작업을 여러 모델이 나눠서 수행하는 움직임은 프론티어 모델의 수요 증가세를 낮추고 있다.