칩을 넘어 전력·냉각까지… ‘엔비디아 AI생태계’ 미래 아닌 현실

지난주 미국 캘리포니아 새너제이. 매년 3월이면 이 작은 도시가 전 세계 인공지능(AI) 업계의 심장부로 변한다. 올해 엔비디아 연례 개발자 모임(GTC·GPU Technology Conference) 2026에는 190개국에서 약 3만9000명이 몰렸다. 전시 부스를 차린 기업만 400개에 육박했고, 700개 이상의 세션이 나흘간 쉼 없이 이어졌다.

3년째 이 행사를 찾았지만, 직접 현장을 걸어 보니 올해는 규모보다 전시의 결이 달랐다. 불과 몇 년 전만 해도 GTC는 그래픽처리장치(GPU)와 반도체 중심의 개발자 콘퍼런스였다. 올해는 달랐다. 부스 곳곳에서 로봇이 걸어 다니고, 양자컴퓨터 모형이 전시됐으며, 전력망 회사와 냉각 솔루션 기업이 나란히 자리를 잡았다. AI 인프라의 외연이 얼마나 넓어졌는지를 발로 직접 확인한 자리였다.

GTC의 행사 스폰서 등급은 엘리트부터 실버까지 5단계로 나뉜다. 어느 기업이 어느 등급에 이름을 올리는지를 보면 엔비디아 생태계 안에서 누가 핵심 파트너로 부상하고 있는지가 보인다. 올해 가장 눈에 띈 변화는 신규 진입 기업군이었다.

이튼(기업코드 ETN·전력관리), GE 버노바(GEV·전력인프라), 트레인 테크놀로지스(TT·냉각 및 공조) 같은 전력 및 냉각 인프라 기업들이 대거 합류했다.

AI 데이터센터 한 곳이 기가와트 단위의 전력을 소비하는 시대가 되면서 이들 기업은 어느새 AI 생태계의 핵심 공급자로 자리매김했다. 노키아(NOK·통신장비)는 AI-RAN과 6G 전환을 겨냥해 전략적 파트너로 등장했고, 산미나(SANM·EMS), 플렉스(FLEX·EMS) 같은 AI 서버 제조사, 그리고 퀀티넘(비상장·양자컴퓨팅)과 부즈 앨런 해밀턴(BAH·공공 AI 사이버보안)도 새로 이름을 올렸다.

기존의 반도체, 네트워크 중심 생태계가 전력, 냉각, 제조, 공공 영역으로까지 뻗어 나가는 중이라는 점이 전시장 동선에서도 고스란히 느껴졌다.

등급이 오른 기업들도 흥미로웠다. 네오클라우드 3사인 코어위브(CRWV·GPU클라우드), 네비우스(NBIS·GPU클라우드), 아이렌(IREN·AI 데이터센터)이 나란히 상향됐다. 코어위브는 엔비디아가 20억 달러를 직접 투자한 전략 파트너답게 엔비디아의 최신 칩과 서비스를 클라우드 최초로 제공하는 위상을 굳혔다.

기조연설 장소는 평소 아이스하키팀 홈구장으로 쓰이는 SAP 센터였다. 수만 명이 자리를 가득 채운 가운데 가죽 재킷을 입은 젠슨 황 CEO가 무대에 올랐다. 이번 기조연설의 핵심 메시지는 하나로 압축됐다. ‘엔비디아는 더 이상 반도체 회사가 아니다. AI 인프라 플랫폼 기업이다.’ 그 근거로 제시된 숫자가 시장을 흔들었다.

에이전틱 AI의 등장으로 폭증하는 추론 수요를 토대로 2027년까지 최소 약 1조 달러(약 1500조 원) 규모의 매출 가시성을 확보했다는 발언이 나온 순간, 주가는 장중 3.8%까지 치솟았다(당일 1.65% 상승 마감). 단순한 모델 학습 수요가 아니라 스스로 판단하고 실행하는 AI가 본격 확산되면서 만들어지는 수요라는 점이 핵심이었다.

하드웨어 측에서는 차세대 아키텍처 ‘베라 루빈’이 동일 전력 대비 35배 이상의 토큰 처리 성능 향상을 실현한다고 밝혔다. 소프트웨어와 관련해서는 기업용 에이전틱 AI 플랫폼 네모 클로(NeMo Claw)가 발표됐다.

보안 정책 연동, 개인정보 보호 라우팅 등 기업 환경에 특화된 설계가 돋보이는 제품이다. 마지막으로 자율주행차, 산업용 로봇, 휴머노이드가 실증 단계를 넘어 실전 배치 단계에 진입했음을 알리며, 이를 약 50조 달러 규모의 산업 기회로 규정했다.

정작 현장에서 화제가 된 건 황 CEO의 키노트 직전 약 3시간 동안 진행된 프리게임 쇼였다. AI 산업 각 분야 리더들이 릴레이로 무대에 올라 현재의 상황과 속내를 털어놓았다. 이날 무대에서 공유된 메시지를 압축하면 다섯 가지다.

첫째, AI는 아직 초기 단계이며 학습→추론→피지컬 AI로 이어지는 성장 경로가 순차적으로 열리고 있다.

둘째, AI가 답변을 만들어 내는 과정을 두 단계로 쪼개 처리하면 구형 GPU도 각 단계에 나눠 투입할 수 있어 GPU 내용 연수가 4∼5년에서 8∼10년으로 늘어난다.

셋째, 기업 데이터의 90%를 차지하는 비정형 데이터 활용이 AI 도입의 핵심 과제로 부상하고 있다.

넷째, 전력 부족과 숙련 인력 부족이 인프라 확장의 이중 병목으로 작용하고 있다.

마지막으로 2026년은 데모에서 실제 프로덕션까지의 시간이 수 분기에서 수일로 단축되는, 폭발적 AI 확산의 해라는 것이다. 몇 가지 장면이 특히 기억에 남는다.

델(DELL·PC 및 서버)의 마이클 델 CEO는 AI 도구 도입으로 자사 제품 개발 기간이 9개월에서 2주로 줄었다고 했다. 서비스나우(NOW·기업용 소프트웨어)의 빌 맥더모트 CEO는 내부 고객서비스와 인적자원(HR) 업무의 90%를 이미 에이전트가 처리하고 있다고 밝혔다.

GTC는 흔히 ‘AI판 우드스톡’으로 불린다. 올해 행사를 직접 둘러보고 나니 그 표현이 더 실감 났다. 미래 기술을 ‘보여 주는’ 행사가 아니라, 이미 와 있는 현실을 ‘확인하는’ 자리로 바뀌고 있다는 느낌이었다. 그 변화의 중심에 엔비디아가 있고, GTC는 그 지도를 1년에 한 번 갱신하는 자리다. 내년 3월이 벌써 기다려지는 이유다.