SKT-과기부, AI데이터센터 찾아 국산 NPU 활용 현장 점검
(서울=연합인포맥스) 한종화 기자 = SK텔레콤[017670]과 과학기술정보통신부가 인천에 위치한 SK텔레콤의 인공지능(AI) 서비스 전용 데이터센터를 방문해 국산 신경망처리장치(NPU) 활용 현황을 점검했다고 29일 밝혔다.
최근 AI 산업의 중심축이 대규모 학습에서 실시간 추론으로 이동하면서, 정부는 추론에 특화되고 전력 효율이 높은 NPU를 중심으로 국산 AI 반도체 생태계 구축에 나서고 있다.
현재 SKT의 자사 AI 서비스 전용 데이터센터에는 국내 AI 반도체 기업 리벨리온의 데이터센터용 NPU '아톰'과 '아톰 맥스'를 탑재한 서버가 설치돼 있다.
박병관 코어플랫폼 담당은 "SKT는 아톰과 아톰 맥스 기반 서버를 에이닷 전화 통화 요약, 엑스칼리버(반려동물 영상진단 보조 서비스)에 적용하고 있다"며 "향후 아톰 맥스 기반의 상용 서비스를 지속 확대할 계획"이라고 설명했다.
SK텔레콤의 에이닷 전화 통화 요약은 SKT의 자체 거대언어모델(LLM) '에이닷엑스(A.X)'를 기반으로 하루 최대 5천만 건의 응용 프로그램 인터페이스(API·컴퓨터나 소프트웨어 사이의 연결) 호출을 처리하고 있다.
이는 국산 LLM이 국산 NPU를 통해 서비스되는 '소버린 AI'의 대표적 구현 사례다.
SKT 관계자는 "국가 간 AI 기술 경쟁이 심화하는 가운데 국내 AI 생태계의 자립성 강화는 국가 경쟁력을 좌우하는 핵심 요소"라며 "국산 LLM이 국산 NPU를 통해 서비스되는 '소버린 AI'를 확대해 나갈 계획"이라고 밝혔다.
[출처 : 연합뉴스 자료사진]
jhhan@yna.co.kr
한종화
jhhan@yna.co.kr
함께 보면 도움이 되는
뉴스를 추천해요
