새로운 국면으로 진입하는 AI 시장

■ 스케일업의 진전이 느려지고 SOTA 모델 경쟁이 잦아들면서 새로운 국면으로 진입하는 AI 시장

1) 둔화될 수 있는 스케일업 진전 속도.
엔비디아의 Rubin Ultra를 탑재한 랙 아키텍처 Kyber NVL144의 출하가 2028년으로 12개월 이상 지연될 수 있다고 SemiAnalysis가 분석.
엔비디아의 최신 제품이 데이터센터에 팔릴 때는 GPU 단품이 아니라 랙 (rack) 단위 시스템으로 주로 판매.
이 랙의 물리적 골격이 현재의 Oberon과 현재 개발 중인 Kyber로 나뉨.
Oberon은 GB200/GB300 NVL72 같은 Blackwell/Blackwell Ultra NVL72 랙, 그리고 VR200 NVL72 같은 MGX NVL72 계열 랙에서 쓰는 기존 구조인데, 컴퓨트 트레이가 수평으로 누워서 꽂혀 있음.
반면, Kyber는 R300 같은 Rubin Ultra부터 도입될 차세대 랙 구조인데, 컴퓨트 트레이를 90도 돌려서 세워 넣어 밀도를 높이는 형태 (90도 돌려서 세우면 트레이라고 하지 않고 블레이드라고 함).
이런 랙 구조는 GPU를 서로 연결하는 게 핵심 기술인데, 엔비디아는 GPU들을 하나의 큰 NVLink 도메인으로 묶기 위해 NVLink 고속 인터커넥트와 NVSwitch 스위치 ASIC을 사용.
Oberon은 컴퓨트 트레이와 NVSwitch를 구리 케이블 기반 백플레인 (backplane)으로 잇는데, 상대적으로 제조가 쉬움.
반면, Kyber는 컴퓨트 블레이드와 NVSwitch 사이에서 PCB 기판이 이 둘을 물리적으로 잇는 미드플레인 (midplane) 방식.
미드플레인 방식은 앞쪽 컴퓨트 블레이드와 뒤쪽 NVSwitch 블레이드를 배치하는 방식인데, 배선 길이는 짧아지지만 그 부담이 기판 내부로 옮겨감.
그리고 78층에 달하는 다층 기판을 NVLink 속도의 신호무결성을 유지하면서 찍어내야 하는 기술 난이도가 높음.
이렇게 층수가 많을수록 제조가 급격히 어려워지는데, 이런 양산의 어려움이 Kyber 출하가 지연될 수 있는 이유라는 게 SemiAnalysis의 평가.
엔비디아는 로드맵에 변화가 없다고 공식 부인.
그러나 신제품 출시 주기를 단축시키면서 하드웨어 성능을 빠르게 높여왔던 엔비디아의 전략이 차질을 빚으면서 속도가 조금 느려질 가능성에 시장은 주목