배경훈 부총리 "AIDC, GPU만 탑재한다고 끝 아냐"

연산자원·메모리 유기적 결합으로 운영 효율성 극대화해야

이기종 칩셋·인프라 역량 확보 핵심

(서울=연합인포맥스) 한종화 기자 = 배경훈 부총리 겸 과학기술정보통신부 장관이 "인공지능(AI) 데이터센터(DC) 구축은 단순히 서버 랙을 준비하고 엔비디아 등 특정 외산 그래픽처리장치(GPU)만 탑재한다고 끝나는 것이 아니다"라고 강조했다.

배 부총리는 20일 종로구 HJ비즈니스센터 광화문에서 열린 '개방형 AI 컴퓨팅 인프라 생태계 구축을 위한 업계 간담회'에서 "AI 워크로드가 다변화하는 상황에서 CPU, GPU, NPU, DPU와 같은 연산 자원과 메모리가 유기적으로 결합되어 운영 효율성을 극대화해야 한다"며 이같이 말했다.

최근 글로벌 AI 반도체 시장은 생성형 AI와 에이전틱 AI 확산에 따른 추론 수요 증가로, 단일 GPU 중심의 컴퓨팅 구조에서 벗어나 중앙처리장치(CPU)·GPU· 신경망처리장치(NPU) 등 다양한 연산장치를 서비스 특성과 비용 효율에 맞게 결합하는 이기종(Heterogeneous) 컴퓨팅 아키텍처로 빠르게 전환되고 있다.

배 부총리는 "단순한 파운데이션 모델 개발을 넘어 이기종 칩셋과 인프라를 실제로 연동·운영할 수 있는 역량 확보가 핵심"이라며 "모델 위에서 작동하는 에이전틱 AI 기술이 고도화되고 추론 시장이 개화함에 따라 폭증하는 토큰 연산 수요를 어떻게 효율적으로 감당할 것인가에 대한 아키텍처 최적화를 정부 정책으로 전방위 지원하겠다"라고 말했다.

이날 간담회에 참석한 문경선 AMD코리아 상무는 국산 NPU와 AMD의 CPU·GPU를 비롯한 여러 가지 AI 컴퓨터 자원들을 한데 묶은 통합형 이기종 AI 아키텍처를 개발하겠다는 청사진을 제시했다.

과기정통부와 AMD는 지난달 이와 관련해 AI 컴퓨팅 인프라 구축을 위한 업무협약(MOU)을 체결하기도 했다.

문 상무는 "국내에 좋은 성공 사례를 만들어 글로벌 경쟁력이 있는 표준 아키텍처로 확장하고 활용하는 궁극적인 목표를 갖고 있다"고 말했다.

배 부총리는 최근 진행된 정부 주도 독자적 파운데이션 모델(독파모) 2차 평가 결과를 언급하며 국내 AI 생태계의 패러다임 전환을 강조했다.

배 부총리는 "최근 2차 평가를 마친 독파모 프로젝트에서 스타트업들이 의미 있는 선전을 펼치며 가능성을 증명했다"라며 "정부의 AI 고속도로 재구축과 AI 데이터센터 조성, 3대 메가 프로젝트 등 기본적인 정책 방향은 완전히 정립되어 본격적으로 추진되고 있다"라고 말했다.

배 부총리는 "이제는 벤치마크 지표 같은 단순 숫자 경쟁을 넘어 실질적인 성과를 창출하고 산업계와 국민 생활 속에서 AI를 실사용 확산하는 단계로 나아가야 한다"라며 "올해 연말 추진되는 '모두의 AI' 플랫폼 구축을 통해 과거 독파모에 참여했던 기업들이 대거 참여하고 본격적인 AI 서비스 확산이 이뤄지는 계기가 마련될 것"이라고 설명했다.

jhhan@yna.co.kr