AI 데이터센터 핵심, 전력 효율과 발열 제어

IT (451510)

■

AGI 연산 폭증 불가피, 현실이 된 AI 전용 데이터센터 도입
KB증권은 바르셀로나에서 개최된 MWC 24를 참관하면서 AI 생태계 핵심인 데이터 센터 (서버)의 수요 증가를 감지할 수 있었다.
AI 침투율이 급상승하는 가운데 천문학적 AI 연산을 감당할 AI 전용 데이터센터는 필수다.
MWC 24에서는 AI 데이터센터가 연산에 필요한 전력 효율화, 발열 제어 방법이 최대 화두로 떠올랐다.
현장에서 눈에 띈 부스는 Supermicro, HPE, 델 테크놀로지, 삼성전자, SK텔레콤 등이다.
이들 업체가 시현한 데이터센터는 공통적으로 액침 냉각 시스템을 포함하고 있었으며, NPU나 ASIC 형태의 AI 전용 반도체를 탑재하며 전력 효율과 발열 제어를 최대 장점으로 부각했다.

■

AI 데이터센터, 전력 효율 높이고 발열 낮추는 것이 최우선
AI 데이터센터는 발열 문제와 전력 효율 등이 최대 과제가 될 수밖에 없는 환경이 조성되고 있다.
이는 ① AI 데이터센터 상시 운영과 연산 증가에 따른 전력량 폭증, ② 규제 기관의 기후중립 달성 요구 등이 있기 때문이다.
AI 데이터센터가 소비하는 전력량은 서버 랙 (rack)*당 50Kw 이상으로 전통 서버가 소비하는 전력량인 7Kw를 +7배 상회한다.
따라서 전력 인프라 구축 비용보다 서버가 소비하는 전력 효율을 개선하는 것이 더 효과적이다.
한편 파리 협약에 따라 각국 정부는 기후 중립 달성을 위해 전력 소비가 많은 데이터센터부터 규제를 강화하고 있다.
EU는 2021년 ‘Climate Neutral Data Center Pact’를 제정해 데이터센터 사업자들이 에너지 사용에 대해 보고하고 사용하는 에너지를 줄일 것을 요구하고 있다.
미국 (“Energy Act of 2000”) 과 중국 역시 유사한 법안의 제도적 장치가 마련돼 있다.