산업/기업
Positive
IT (451510)
AI 데이터센터, 전성비 필수
2024.04.04
읽는시간 4분
URL을 복사했어요
■24년부터 AI 전용 데이터센터 구축 빠르게 확산
데이터센터를 전문적으로 운영하고 있는 Digital Realty (데이터센터 Reits)는 덴마크에 AI 전용 데이터센터 (191개의 NVIDIA DGX H100시스템: 1500개 이상 GPU로 구성)를 구축하기로 했다고 발표했다.
한편, GTC에서 AWS, 구글, 마이크로소프트 (MS) 등 클라우드 서비스 기업들 은 블랙웰 플랫폼을 자신의 클라우드 서비스에서 고객이 선택할 수 있게끔 서비스를 제공 하겠다는 계획을 언급하기도 했다.
그럼에도 불구하고 이들 기업들은 공통적으로 AI 컴퓨팅에 대한 수요 (B2C 기업 70%, B2B 기업 30%)가 빠르게 확장되고 있기 때문에 GPU 뿐 아니라 NPU와 ASIC와 같은 AI 전용 반도체 칩에 대한 투자도 확대 중에 있다 (AWS ?AI 훈련 위한 Trainium, 추론 위한 Inferentia, MS ? Azure Maia, Azure Cobalt).
맥킨지 (Mckinsey)는 2030년 전세계 AI 연산 수요가 24년 대비 +125배 급증해 메모리를 비롯한 연산 자원의 수요는 폭증할 것으로 전망하고 있다 (25 QFLOPs, 24년 대비 125배, 1 quettaFLOPs =1030 FLOPs).
한편 AI 전용 데이터센터가 도입되면 발열 문제와 전력 효율 개선이 최대 과제가 될 수밖에 없다.
데이터센터를 전문적으로 운영하고 있는 Digital Realty (데이터센터 Reits)는 덴마크에 AI 전용 데이터센터 (191개의 NVIDIA DGX H100시스템: 1500개 이상 GPU로 구성)를 구축하기로 했다고 발표했다.
한편, GTC에서 AWS, 구글, 마이크로소프트 (MS) 등 클라우드 서비스 기업들 은 블랙웰 플랫폼을 자신의 클라우드 서비스에서 고객이 선택할 수 있게끔 서비스를 제공 하겠다는 계획을 언급하기도 했다.
그럼에도 불구하고 이들 기업들은 공통적으로 AI 컴퓨팅에 대한 수요 (B2C 기업 70%, B2B 기업 30%)가 빠르게 확장되고 있기 때문에 GPU 뿐 아니라 NPU와 ASIC와 같은 AI 전용 반도체 칩에 대한 투자도 확대 중에 있다 (AWS ?AI 훈련 위한 Trainium, 추론 위한 Inferentia, MS ? Azure Maia, Azure Cobalt).
맥킨지 (Mckinsey)는 2030년 전세계 AI 연산 수요가 24년 대비 +125배 급증해 메모리를 비롯한 연산 자원의 수요는 폭증할 것으로 전망하고 있다 (25 QFLOPs, 24년 대비 125배, 1 quettaFLOPs =1030 FLOPs).
한편 AI 전용 데이터센터가 도입되면 발열 문제와 전력 효율 개선이 최대 과제가 될 수밖에 없다.
