구글 TPU란? 엔비디아 GPU 차이점부터 관련주까지 살펴봐요

최근 구글의 TPU(텐서처리장치)가 화제로 떠올랐어요. 그동안은 엔비디아의 GPU(그래픽처리장치)가 AI 칩의 대명사처럼 여겨졌는데요. 구글의 최신 AI 모델 제미나이3가 높은 성능을 입증하면서, 이를 뒷받침하는 TPU에도 관심이 쏠리고 있죠어요. TPU의 특징과 GPU와의 차이점, AI 칩 전망을 살펴볼게요.

TPU(Tensor Processing Unit, 텐서처리장치)는 구글이 AI 학습과 추론을 위해 직접 설계한 AI 전용 반도체예요. 그동안 AI 칩 시장은 엔비디아의 GPU가 독점하다시피 해왔는데요. GPU는 원래 그래픽 처리를 목적으로 개발됐다가 AI 연산에 활용됐어요. 반면에 TPU는 처음부터 AI 연산만을 염두에 두고 만들어진 맞춤형 칩이죠. TPU는 대규모 행렬 계산에 최적화돼 높은 처리 속도와 전력 효율을 동시에 확보할 수 있어요.

TPU가 최근에 갑자기 등장한 건 아니에요. 구글은 지난 2015년 1세대 TPU를 처음 공개한 이후, 검색·유튜브·번역 등 자사 핵심 서비스 전반에 TPU를 꾸준히 활용해 왔는데요. 이를 통해 AI 연산에 특화된 칩을 실제 서비스 환경에서 검증해 왔어요. 현재는 7세대 TPU ‘아이언우드’까지 개발했어요.

최근 구글의 최신 AI 모델 ‘제미나이3’가 경쟁 모델 대비 압도적인 성능을 입증하면서, 제미나이3 개발에 사용된 TPU에 대한 관심도 커지고 있어요. GPU에 비해 TPU의 가격이 저렴하고, 처리 속도와 효율 측면에서 강점이 있다는 사실은 알려져 있었지만, TPU의 성능에 대한 의구심은 계속 제기됐는데요. 이번 제미나이3 발표로 이러한 의문이 해소된 거예요.

엔비디아의 GPU가 높은 가격, 공급 부족 등의 한계를 드러낸 점도 TPU 급부상 배경으로 꼽혀요. 여러 빅테크가 GPU 의존도를 낮출 대안으로 TPU 도입을 검토하고 있죠. 실제로 최근에 구글 외의 다른 기업도 TPU를 활용하고 있어요. AI 모델 ‘클로드’를 운영하는 앤트로픽은 구글과 대규모 인프라 계약을 체결했어요. 메타 역시 TPU 도입을 검토 중이라는 보도가 나왔고요. 구글의 AI 칩 생태계가 점차 넓어지고 있다는 평가가 나와요.

AI 연산에 활용된다는 점은 같지만, TPU와 GPU는 설계된 목적부터 달라요. GPU는 그래픽 처리용으로 개발된 칩이 AI 연산에 활용된 사례지만, TPU는 처음부터 AI 연산만을 위해 설계된 AI 전용 칩이에요. 이 차이로 인해 두 칩은 성능, 효율, 활용 방식에서 서로 다른 특징을 보여요.

GPU는 원래 그래픽 처리를 위해 개발된 반도체로, 수많은 연산을 동시에 처리할 수 있는 병렬 구조를 갖추고 있어요. 화면을 구성하는 픽셀과 좌표를 빠르게 계산해야 하기에, 단순 연산을 대량으로 처리하는 데 강점이 있는데요. 이러한 구조가 AI 모델 학습에 필요한 대규모 연산과 맞아떨어지면서, GPU는 자연스럽게 AI 연산의 핵심 장치로 자리 잡았어요.

GPU의 가장 큰 강점은 범용성이에요. 다양한 연산 방식과 모델을 지원할 수 있어 AI 학습·추론뿐 아니라 그래픽, 게임, 과학 계산, 데이터 분석 등 폭넓은 분야에서 활용되고 있어요. 하지만 범용성이 뛰어난 만큼 AI 연산에서는 전력 소모와 비용 부담이 커질 수 있다는 한계도 있죠.

제미나이와 같은 AI 모델은 ‘텐서’라 불리는 다차원 행렬 데이터를 기반으로 여러 계산을 수행해요. TPU는 이 가운데 핵심이 되는 행렬 곱셈 등 AI 연산을 빠르게 처리할 수 있게 설계됐고요. TPU는 GPU에 비해 활용 범위가 제한적이지만, AI 학습과 추론처럼 반복적이고 대규모 연산이 필요한 작업에서는 GPU보다 효율적인 성능을 발휘하는 경우가 많아요.

TPU가 AI 연산에 특화돼 강력한 대안으로 떠오르고 있지만, 업계는 여전히 신중한 편이에요. TPU는 특정 AI 학습과 추론 작업에서 높은 효율을 보이지만, GPU처럼 다양한 연산을 모두 처리할 수 있는 범용 칩이 아니거든요.

일부 전문가들은 TPU가 GPU를 완전히 대체하기보다는, 역할을 나눠 공존할 가능성이 크다고 분석해요. 자체 트래픽 처리나 인프라 비용 절감이 중요한 기업들은 TPU를 선택할 수 있고, 범용성과 풍부한 생태계가 필요한 영역에서는 GPU가 계속 활용될 수 있다는 거죠.

최근 빅테크 기업들이 자체 AI 칩 개발에 나서면서 AI 반도체 시장의 경쟁 구도가 빠르게 확대되고 있어요. 최근 아마존도 전력 효율을 끌어올린 자체 AI 칩 ‘트레이니엄3’를 선보였는데요. 아마존에 따르면 트레이니엄3는 LLM(대규모언어모델)과 생성형 AI 애플리케이션의 학습과 추론에 최적화된 반도체로, 직전 모델인 트레이니엄2 대비 최대 4.4배 높은 연산 성능을 갖췄다고 해요.

이처럼 빅테크 기업들이 특정 업무에 맞춘 AI 전용 칩을 직접 개발하면서, 범용 GPU에 의존하던 AI 업계에도 변화가 나타날 전망이에요. 하나의 AI 칩이 표준이 되기보다는, 각 기업과 서비스 목적에 맞는 다양한 AI 칩이 공존하는 구조가 될 것으로 예상돼요.

AI 칩 경쟁은 메모리 반도체 제조를 주력으로 하는 국내 반도체 기업들에는 긍정적인 신호로 여겨져요. GPU든 TPU든 고성능 AI 칩에는 대규모 연산을 뒷받침할 HBM(고대역폭메모리)이 필수적으로 사용되기 때문인데요. 연산 성능이 높아질수록 메모리 처리 속도와 용량의 중요성도 함께 커져요.

SK하이닉스는 구글의 TPU에 HBM을 공급하고 있고, 삼성전자 역시 구글과 오랜 협력 관계를 이어오고 있어요. AI 칩 시장에서 경쟁이 치열해질수록 고성능 메모리 수요도 함께 확대될 가능성이 큰 만큼, AI 반도체 경쟁이 메모리 반도체 업계에는 새로운 성장 기회로 작용할 수 있다는 분석이 나와요.