2025년과 2026년을 가르는 차이는 전성비 (Power Efficiency)

■ 풀 스택 접근법의 성과를 보여준 구글.
전력 효율로 이동할 시장의 관심

압도적인 성과를 보여준 구글의 풀 스택 AI (Full-Stack AI) 전략.
구글의 Gemini 3가 호평을 받는 가운데, Gemini 3가 100% TPU를 활용해 학습한 것으로 알려지면서, 구글과 TPU를 설계한 브로드컴의 주가가 상승하고 GPU를 제작하는 엔비디아의 주가는 하락.
엔비디아는 자사의 GPU가 여전히 한 세대 앞선다고 했지만, 이건 칩 1개를 비교했을 경우.
그러나 대규모 학습은 반도체를 수 십만 개 이상 연결해서 진행하기 때문에 연결된 반도체의 성능을 비교하는 게 바람직.
구글의 TPU는 광학 회선 스위치 (OCS)라는 독자 기술로 연결되어 TPU Pod을 구성.
OCS는 1초에 13TB의 전송 속도를 보이는데, 엔비디아의 NVLink가 1.8TB/s인 것에 비해 빠름.
이 기술 덕분에, 반도체를 대규모로 묶어서 학습시킬 때는 엔비디아의 GPU에 비해 구글의 TPU 성능이 높음.
처음에 시장은 이 지점에 주목해서, 엔비디아의 GPU보다 구글의 TPU가 뛰어나므로 구글과 협력하는 브로드컴이 수혜를 입을 수 있고 엔비디아에는 악재라는 정도로 생각.
하지만 Gemini 3가 보여준 것의 핵심은, 구글의 풀 스택 AI 전략이 성과를 내고 있다는 점.
순다르 피차이 구글 CEO가 여러 차례 언급해 온 풀 스택 AI 전략은 1) TPU를 비롯한 반도체, 2) 토지부터 건물, 전력, 냉각까지 100% 직접 소유해서 세계 최고 수준의 전력사용효율 (PUE)를 보여주는 데이터센터 인프라, 3) 클러스터 운영 시스템 (Colossus), 4) 컴파일러와 프레임워크 (XLA, JAX, Pathways), 5) 모델 아키텍처 (Gemini), 6) 이렇게 학습된 모델을 바로 검색, Gmail, YouTube 등의 서비스에 바로 적용할 수 있는 학습-서빙 인프라 (Training-to-Serving Zero-Friction Pipeline), 7) 검색, 이메일, 동영상, 사진, 지도, 안드로이드, 크롬 브라우저 등 압도적인 사용자층을 확보해놓고 있는 기존 서비스 등, 각 계층을 구글이 직접 설계하고 통제한다는 게 핵심.
이 접근 방식을 통해 Gemini 3는 단순 반응형 챗봇으로만 나온 게 아니라 구글의 기존 서비스에 바로 적용.
GPU를 만드는 엔비디아나 AI를 접목시킬 수 있는 지배력 강한 서비스가 없는 AI 기업들에게는 구글의 위협이 크게 느껴질 수밖에 없음