'아파트 한채 가격' GPU랙 냉각 검증 어떻게…KT, 자체기술로 뚫었다

(서울=연합인포맥스) 한종화 기자 = KT클라우드가 하나 당 수억원에서 수십억원을 호가하는 서버용 랙(rack)의 냉각 솔루션을 자체 검증하는 방식을 개발했다.

냉각 솔루션 검증에 수십억원짜리 그래픽처리장치(GPU) 랙을 직접 투입하기보다 동일한 열을 발생시키는 부하기(Load Bank)를 사용해 냉각 성능을 손쉽게 테스트할 수 있도록 방법을 찾은 것이다.

기자가 찾은 지난 30일 양천구 목동 KT클라우드 DC 내에 위치한 인공지능(AI) 이노베이션 센터에는 KT클라우드의 'D2C(Direct to Chip)' 액체 냉각 기술이 작동하고 있었다.

D2C 액체 냉각 기술은 GPU 등 발열이 집중되는 칩 표면에 열 전도율이 높은 냉각판을 직접 접촉시키고, 그 안으로 냉각수를 흘려 열을 제거하는 방식이다.

액체 냉각 기술을 활용하면 전력 소비를 20~30% 절감하는 등 DC의 효율성을 크게 제고할 수 있다. KT클라우드는 고밀도 환경에서 전력·냉각 설비의 성능을 시험하고, 엔비디아 루빈(Rubin) 등 차세대 GPU 도입에 필요한 인프라 설계 조건을 검토하고 있다.

KT클라우드는 고가의 GPU 서버를 실제 사용하지 않고 동일한 열 부하를 발생시켜 냉각 장비를 테스트할 수 있는 부하기를 자체 개발했다. 이 부하기는 랙당 140킬로와트(㎾) 수준의 전력·열 부하 환경을 구현할 수 있다.

부하기를 활용하면 무엇보다 GPU 랙을 직접 테스트하는 것에 비해 비용을 크게 절감할 수 있다.

엔비디아의 B200은 8장이 들어간 서버 단품 가격이 수억원이 이르는 것으로 알려져 있다. 루빈 GPU 72개, 베라 중앙처리장치(CPU) 36개로 구성된 '베라루빈 NVL72' 서버 랙의 1대 가격은 275억원에 달한다.

KT클라우드 관계자는 "부하기를 사용하면 실제 서버 장비 없이도 D2C 액체 냉각 시스템의 성능을 반복적으로 안전하게 검증할 수 있다"고 소개했다.

액체 냉각 기술은 실제 서비스에도 사용되고 있다. KT클라우드는 가산 AI DC에서 글로벌 하이퍼스케일러 고객을 대상으로 D2C 방식의 액체냉각 서비스를 제공 중이다.

AI 이노베이션 센터에서는 기술 검증(PoC) 단계인 액침 냉각 시스템의 실물도 전시돼 있다. 액침냉각은 노란색을 띠는 절연성 냉각액에 서버를 직접 담가 열을 제거하는 방식이다.

KT클라우드 관계자는 "차세대 GPU와 CPU의 열 설계 특성에 따라서 최적의 냉각 방식이 달라질 수 있다"며 "DC 운영 사업자도 다양한 냉각 기술을 선제적으로 검증할 필요가 있다"고 강조했다.

KT클라우드는 냉각 기술 분야에서 글로벌 선두 기업인 버티브와 협력하고 있다.

KT클라우드는 버티브와 전력·액체 냉각·모듈형 인프라를 함께 고려한 설계 최적화를 달성하고 이를 국내 최초로 군산 AI DC에 적용할 계획이다.

LS일렉트릭과는 모듈형 DC에 필요한 전력 인프라를 공동 연구하고, DC 구축 일정에 맞춰 주요 전력 설비를 안정적으로 공급할 수 있는 협업체계를 구축하고 있다.

모듈형 기법을 사용하면 DC의 건설 기간이 줄어든다는 장점이 있다. 통상 3년 이상 걸리는 DC의 공급이 1~2년 내로 단축되면 고객의 수요를 빠르게 선점할 수 있다.

KT클라우드는 25년간 쌓아온 DC 운영 경험을 바탕으로 2031년까지 1기가와트(GW)의 AI DC 인프라를 추가 확보하는 것을 목표로 하고 있다. 기존 용량을 더하면 총 1.2GW 규모다.

방재원 KT클라우드 AIDC 사업개발팀장은 "KT클라우드는 AI DC를 구축·운영함에 있어 글로벌 탑 티어(top-tier) 기업들과의 협력을 통해 국내에서 가장 경쟁력 있는 DC를 제공할 것"이라고 강조했다.

jhhan@yna.co.kr