생성형 인공지능(AI)은 단일 컴퓨터로 처리하기 어려울 만큼 막대한 연산량을 요구하기 때문에 데이터센터에 수만 개의 그래픽처리장치(GPU)를 연결해 병렬로 연산을 수행하는 방식으로 처리된다.
GPU를 수만 개로 묶어 운용하는 환경에서는 개별 GPU의 연산 성능이 아무리 뛰어나도 한계가 있다. GPU 간 데이터를 주고받는 연결망(인터커넥트)이 느리면 전체 시스템 성능은 결국 그 통신 속도에 맞춰 제한되기 때문이다. 그래서 최근 데이터센터 시장의 관심은 연결을 어떻게 더 빠르게 하는지에 있다.
문제는 AI가 확산될수록 이 연결 구간에 걸리는 부담이 훨씬 빠르게 커진다는 점이다. AI 도입 이후 데이터센터 네트워크 처리량은 과거에는 4년마다 2배씩 증가했지만, 최근에는 2년마다 2배로 늘어나는 추세다. 엔비디아는 데이터센터 성능을 좌우하는 핵심 요소로 네트워크 속도, 지연 시간, 대역폭을 강조하기도 했다.
통신량이 급증하면 기존 전기 신호 기반 연결은 전력 소모와 전송 거리 측면에서 한계에 직면할 것이다. 이를 극복하기 위한 대안으로 빛으로 데이터를 전달하는 ‘광(光) 인터커넥트’가 주목받고 있다.
광 인터커넥트는 ‘네트워크 반도체’와 ‘광 케이블’ 등을 포함한 데이터센터 핵심 인프라 시장을 의미한다. 기존 전기 기반 연결이 가진 전력 소모와 전송 거리, 속도 한계를 보완하며 AI 확산으로 급증하는 네트워크 처리량을 감당하기 위한 차세대 연결 기술로 부상하고 있다.
빛 기반 전송은 전력 효율과 속도 측면에서 전기 기반 전송 대비 유리하다. 이에 따라 전기 연결 시대의 주류였던 구리 케이블(DAC) 중심 구조에서 광 케이블(AOC) 비중이 빠르게 확대되는 흐름이다.
이에 따라 광 인터커넥트 시장도 네트워크 반도체와 광 케이블로 구분되는데, 우선 네트워크 칩은 두뇌 역할을 하며 데이터를 어디로 얼마나 빠르게 보낼지를 결정한다. 광 케이블은 그 결정에 따라 데이터를 실제로 운반하는 경로 역할을 한다. 쉽게 말해 광 케이블은 데이터가 지나가는 고속도로, 네트워크 칩은 교차로의 신호등(두뇌)으로 볼 수 있다.