데이터 센터란? 냉각 기술의 중요성과 건설이 어려운 이유

데이터 센터는 수많은 서버와 네트워크 장비가 모인 대규모 IT 인프라예요. 데이터를 저장·관리하고, 동시에 AI 학습과 대규모 연산을 처리하는 역할을 합니다.

• 데이터 저장 및 관리

  우리가 매일 사용하는 서비스에 필요한 데이터를 안전하게 보관하고 꺼내 쓸 수 있도록 관리하고 있어요. 스마트폰으로 찍은 사진을 클라우드에 올려두고 언제든 다시 볼 수 있는 것도, 넷플릭스에서 영화를 끊김 없이 볼 수 있는 것도 모두 데이터 센터 덕분이에요.  

• 대규모 연산과 AI 학습

  데이터 센터는 저장만 하는 곳이 아니에요. 수많은 서버가 동시에 계산을 처리하며, AI 모델을 학습시킵니다. 우리가 ChatGPT에 질문하면 몇 초 만에 답이 나오고, 유튜브가 내 취향을 저격하는 영상을 추천하는 것도 모두 데이터 센터 안에서 이뤄지는 일이에요.
  
  

즉, 데이터 센터는 우리 일상 속 모든 디지털 경험을 지탱하는 숨은 기반이라고 할 수 있습니다.

최근 데이터 센터가 주목받는 가장 큰 이유는 바로 AI예요. ChatGPT 같은 생성형 AI는 기존 인터넷 서비스보다 훨씬 많은 연산 자원을 쓰기 때문에, 이를 떠받칠 강력한 데이터 센터가 필요합니다.

영화 해리포터에서 헤르미온느가 시간을 되돌릴 수 있는 시계를 사용해 더 많은 수업을 들었던 장면, 기억하시나요? 이 시계 덕분에 같은 시간 동안 남들보다 2배, 3배 더 많은 것을 배울 수 있었죠. AI 시대도 비슷해요. 경쟁사보다 더 빨리, 더 똑똑한 모델을 만들려면 같은 시간에 최대한 많은 학습을 해야 합니다.  

헤르미온느가 시간을 되돌리는 시계를 사용했다면, AI 학습에는 'GPU'라는 특별한 반도체가 사용돼요. GPU는 한 번에 하나씩 계산을 하는 것이 아니라, 수많은 계산기(코어)가 병렬로 연결돼 있어 대규모 연산을 동시에 처리하는 데 강점을 가져요. 이런 특성 덕분에 AI의 두뇌라고 불리죠. 데이터 센터는 이런 GPU를 수천, 수만 개 모아 대규모 학습을 진행합니다.

우리가 "오늘 저녁 메뉴 추천해 줘"라고 AI에게 묻는 순간, 데이터 센터는 곧바로 분주해져요. 수많은 서버가 동시에 깨어나 질문의 의도를 파악하고, AI가 배운 수십억 개의 규칙과 패턴을 계산해 가장 알맞은 답을 찾아내죠. 더 정확하고 빠른 AI 서비스를 제공하려면 단순히 서버 몇 대로는 부족합니다.

방대한 계산을 동시에 처리할 수 있는 연산 능력, 수많은 사용자가 동시에 접속해도 끊기지 않는 안정성, 그리고 가까운 위치에서 지연 없이 응답할 수 있는 네트워크까지 모두 필요해요. 이 모든 조건을 충족하는 크고 강력한 데이터 센터가 있어야만 가능한 일이죠. 결국 AI 경쟁은 데이터 센터 확보 경쟁으로 이어집니다.

AI 시대에 데이터 센터가 중요하다면, AI 강국을 목표로 하는 우리나라도 최대한 많이 지으면 되지 않을까요? 그러나 현실은 그렇게 단순하지 않습니다.

우선 부지를 고르는 것부터 쉽지 않아요. 단순히 넓은 땅만 있다고 되는 게 아닙니다. 데이터 센터는 엄청난 전력을 소모하기 때문에, 주변 전력망에서 안정적으로 전기를 끌어올 수 있는 위치여야 하거든요.  

바로 이 지점에서 지역 주민들과의 갈등도 생기곤 해요. 데이터 센터 반대의 주된 이유는 ▲막대한 전기를 끌어오기 위한 고압 송전선에서 나오는 전자파 우려, ▲24시간 내내 돌아가는 거대한 냉각팬의 소음,▲ 서버에서 뿜어져 나오는 열기로 주변 온도가 올라가는 '열섬 현상' 때문이에요. 이로 인해 데이터 센터는 대표적인 님비(NIMBY, Not In My Back Yard) 시설로 꼽히고 있습니다.

어렵게 주민들을 설득해 데이터 센터를 지었다고 해도 진짜 과제는 그때부터 시작돼요. 바로 운영의 문제, 특히 '열과의 전쟁'입니다.

스마트폰으로 게임만 해도 금세 뜨거워지죠? 데이터 센터는 그보다 수십, 수백만 배의 연산을 처리하기 때문에 엄청난 열을 뿜어냅니다. 이 열을 식히지 못하면, 장당 수천만 원에 이르는 GPU가 고장 나 버릴 수 있어요. 그래서 데이터 센터 전력의 약 40%를 냉각에 쓸 정도로 온도 유지를 최우선 과제로 여깁니다.

현재 데이터 센터 냉각 방식은 차가운 공기를 불어넣는 1세대 공랭식이 주를 이루지만, 점차 물을 활용하는 2세대 수랭식으로 옮겨가고 있어요. 그리고 3세대 액침냉각은 전력 소모를 크게 줄이고 장애율까지 낮출 수 있어, 차세대 꿈의 기술로 주목받고 있습니다.

최근 한국 정부는 '소버린 AI(Sovereign AI)' 전략을 강하게 추진하고 있어요. 이 전략은 쉽게 말해, AI 기술을 외국에 의존하지 말고 우리 스스로 주권을 갖자는 거죠.  

진정한 AI 주권을 가지려면, 우리 손으로 만든 AI를 안정적으로 훈련하고 운영할 수 있는, 우리 땅의 데이터 센터가 반드시 필요해요. 만약 우리나라의 모든 공공, 금융, 의료 데이터를 해외 기업의 데이터 센터에 저장하고 관리해야 한다면, 그건 기술 독립이 아닌 기술 종속이니까요. 

문제는 국내 데이터 센터의 60% 이상이 수도권에 몰려 있다는 점이에요. 이미 전력 부족과 부지 확보 문제가 심각한 상태입니다. 그래서 정부는 데이터 센터를 지방으로 분산 시키는 정책을 펴는 한편, 기업들은 앞서 설명한 액침냉각 같은 차세대 기술을 개발하거나 신재생에너지를 활용하는 등 다양한 해법을 모색하고 있어요.  

이처럼 AI 시대의 경쟁은 새로운 국면을 맞이하고 있어요. 단순히 누가 더 똑똑한 '두뇌(AI 모델)'를 만드느냐가 아니라, 그 두뇌가 마음껏 실력을 뽐낼 수 있도록 튼튼한 '체력(인프라)'을 길러주는 경쟁으로 무게 중심이 옮겨가고 있는 거죠. 미래에는 이 두 가지를 모두 가진 자가 진정한 승자가 될 전망입니다.