시가총액 1위지만 떨고 있을 젠슨 황, 주가가 급락했지만 의연할 마크 저커버그

■ 반도체 기업이 되고 있는 구글, 자기만의 AGI 목표를 향해 가고 있는 메타

‘엔비디아.
좋은 회사가 좋은 주식은 아니다’.
구글의 TPU가 시장의 관심을 받기 시작한 후, 엔비디아 GPU의 독점력이 약해질 거라는 전망이 많아짐 (11/28).
그러나 PyTorch와 CUDA에 종속된 AI 개발자들이 엔비디아 GPU를 계속 사용하게 될 거라는 주장도 제기.
엔비디아는 AI 개발자들이 PyTorch로 코딩을 하고 CUDA를 통해 코드를 실행할 때 GPU를 사용하는 구조를 갖고 있음.
구글은 JAX나 TensorFlow로 코딩을 하고 XLA를 통해 코드를 실행할 때 TPU를 사용하는 구조.
따라서 GPU에서 TPU로 전환하는 게, 단순히 반도체를 바꾸는 것 이상의 일이라는 게 전환을 어렵게 만들 거라는 것.
이런 주장은 소규모로 연산을 수행하는 경우에는 맞음.
하지만 대규모 연산을 해야 하는 하이퍼스케일러들에게는 적용되지 않을 수 있음.
TPU를 사용하는 게 GPU를 사용하는 경우보다 비용을 많이 줄일 수 있다면, 전환 비용을 기꺼이 감당하려 할 것이기 때문.
구글의 컴파일러 XLA를 이용하면 PyTorch로 만들어진 코드를 TPU에서 실행할 수 있음.
GPU에서만 사용 가능한 코드를 TPU에서 사용할 수 있도록 수정하고, TPU에서 효율을 극대화할 수 있는 코드로 전환하는 데에 개발자의 인건비가 투자되어야 함.
하지만 TPU를 사용해서 비용을 낮추고 엔비디아와의 협상력이 높아지면서 GPU 구매 비용을 낮출 수 있다는 것도 감안하면, 하이퍼스케일러의 TPU 도입 흐름은 가속될 전망.
Anthropic이 구글의 Ironwood TPU 100만개를 구매하는 계약을 했는데, 이 중 60만개는 구글 클라우드 플랫폼 (GCP)를 통해 임대하는 것이지만, 40만개는 브로드컴이 완성된 랙 형태로 공급하는 TPU를 직접 구매하는 것.
TPU를 직접 판매한다는 건 엔비디아 GPU의 직접 경쟁 대상이 될 수 있다는 걸 의미.
모건스탠리는 2027년에 TPU 판매량이 기존 예상보다 67% 많은 500만개에 달할 것이며, 제3자 데이터센터에 판매되는 TPU 50만개마다 매출 130억 달러, EPS 40센트 증가할 거라고 예상.
2024회계연도 EPS가 8.04달러였는데 TPU 500만개를 판매해서 EPS가 4달러 증가할 거라고 보면, 구글의 반도체 사업부문이 급성장할 수 있다는 전망.
엔비디아가 누렸던 높은 마진과 이익이 산업 내 다른 기업들에게 분배되면서, 주식 투자도 소수 집중투자보다 종목을 분산하는 게 좋은 전략 (12/4)