KT, AI 모델 500개 통합한 '토큰팩토리' 공개…비용 최대 25% 절감(종합)

모델 자동 선택부터 사용량·과금까지 통합 관리…30일 출시

오픈라우터와 국내 첫 파트너십…기업용 시작해 B2C 확대

(서울=연합인포맥스) 윤영숙 기자 = KT[030200]가 국내 주요 통신사 중 처음으로 인공지능(AI) 토큰의 생산부터 유통, 비용 최적화, 과금까지 통합 관리하는 플랫폼을 선보이며 AI 토큰 시장 공략에 나섰다.

해외 AI 모델을 중개하고 수수료를 받는 기존 사업자와 달리 자체 데이터센터에서 AI 토큰을 직접 생산해 수익성을 확보하고, 통신사업에서 축적한 과금·정산 역량을 AI 서비스에 접목한다.

KT는 27일 서울 종로구 광화문 웨스트(West) 빌딩에서 기자간담회를 열고 AI 플랫폼 'KT 토큰팩토리(Token Factory)'를 공개했다.

오는 30일 기업 고객을 대상으로 정식 출시되는 토큰팩토리는 국내외 다양한 AI 모델을 하나의 응용프로그램인터페이스(API)로 연결해 모델 선택부터 사용량 관리, 비용 최적화, 결제까지 통합 제공하는 서비스다.

KT는 출시 초기 73종의 AI 모델을 제공하고, 글로벌 AI 모델 유통 플랫폼 오픈라우터(OpenRouter)와의 협력을 통해 연내 500종 이상으로 확대할 계획이다.

KT는 오픈라우터와 국내 최초로 공식 파트너십을 체결했다.

특히 오픈라우터의 기존 라우팅·관리 서비스를 그대로 도입하는 것이 아니라 AI 모델만 연계하고, KT가 자체 개발한 모델 선택과 토큰 최적화 기술을 적용한다.

KT 관계자는 "일반적으로 글로벌 토큰 중개 사업자들은 약 5%의 수수료를 받는 구조"라며 "KT는 수수료가 주된 비즈니스 모델은 아니다"라고 설명했다.

KT의 수익모델은 크게 두 가지다.

우선 자체 데이터센터에 구축한 그래픽처리장치(GPU)를 활용해 AI 모델의 추론 서비스를 직접 제공하는 방식이다.

고객이 해당 모델을 이용하면 KT가 직접 토큰을 생성해 판매하는 구조로, 외부 모델을 단순 중개하는 것보다 가격과 수익률을 유연하게 결정할 수 있다.

일부 모델은 개발사와 별도 계약을 체결해 제공한다.

KT 관계자는 "저희가 직접 모델을 가지고 토큰을 생산하기 때문에 마진을 선택할 수 있는 폭이 넓다"며 "여기서 발생하는 마진율이 주요 수익화 모델"이라고 말했다.

외부 AI 모델을 중개하는 사업에서는 기존 통신회선과 프라이빗 클라우드, 기업용 AI 전환(AX) 서비스 등을 결합해 수익을 확보할 계획이다.

기업이 AI 에이전트를 구축하거나 클라우드를 전환하는 과정에서 토큰팩토리를 함께 공급해 기존 기업서비스 사업도 확대한다는 구상이다.

KT는 글로벌 클라우드 사업자와의 차별점으로 자체 AI 모델 최적화 기술과 국내 추론 인프라, 통신 기반 통합 과금 체계를 제시했다.

아마존웹서비스(AWS)의 '아마존 베드록' 등도 다양한 AI 모델을 제공하고 자동 라우팅 기능을 갖추고 있지만, KT는 자체 개발한 모델 라우터와 프롬프트 압축, 가드레일을 결합하고 통신서비스와 함께 제공한다는 점을 강조했다.

KT가 자체 개발한 '오토 모델 라우터'는 질문의 난이도와 요구 품질, 비용 등을 분석해 적합한 AI 모델을 자동으로 선택한다.

프롬프트에서 불필요한 내용을 제거하는 압축 기술과 모델 라우팅을 결합하면 AI 이용 비용을 최대 25% 절감할 수 있다는 설명이다.

KT에 따르면 내부 실험에서 프롬프트 압축을 통해 약 20%, 모델 라우팅을 통해 약 5%의 비용 절감 효과가 확인됐다.

통신사의 과금 역량도 활용한다.

기존 통신사업에서 통화 상세 기록(CDR)을 기반으로 요금을 산정해온 것처럼 AI 토큰의 사용 내역을 기록하는 '토큰 상세 기록(TDR)'을 도입해 이용량과 비용을 정밀하게 관리한다.

요금제는 스탠다드와 엔터프라이즈 두 가지로 출시된다.

스탠다드는 사용한 토큰만큼 요금을 내는 종량제로, 선불 크레딧과 후불 결제를 모두 지원한다.

엔터프라이즈는 사용량과 계약 기간을 약정하는 기업에 할인을 제공하는 방식이다. 기업별 전용 환경과 전용회선, 서비스수준협약(SLA) 등 부가 서비스도 함께 제공한다.

KT는 AI 토큰 이용료를 기존 기업 통신요금과 통합 청구하는 서비스도 제공할 계획이다.

보안이 중요한 금융·공공시장도 공략한다.

출시 초기 제공하는 73종 가운데 7종은 KT의 국내 데이터센터에서 직접 추론하는 모델이다. 국내 자체 개발 모델 3종과 해외 오픈웨이트 모델 4종이 포함된다.

이들 모델은 국내 GPU에서 데이터를 처리해 데이터 주권이 중요한 기업과 금융기관에 공급할 예정이다.

반면 오픈라우터를 통해 제공하는 해외 모델은 대부분 국외에서 추론이 이뤄질 가능성이 있다고 KT는 설명했다.

공공시장에서는 KT클라우드의 공공용 클라우드 인프라와 연계해 관련 보안·규제 요건에 대응할 계획이다.

KT는 11월 오픈라우터 모델 연계를 확대하고 12월 서비스를 추가 고도화할 예정이다. 내년 3월에는 개인 개발자와 일반 이용자에게 서비스를 개방하고 구독형 요금제도 도입할 계획이다.

다만 아직 구체적인 매출 목표와 확보한 기업 고객 수는 공개하지 않았다.

KT 관계자는 "현재 몇몇 기업 고객과 서비스를 준비하고 있다"며 "12월까지 이용 현황을 살펴본 뒤 계약 기업을 공개할 수 있을 것"이라고 말했다.

박상원 KT AX사업부문장(전무)은 "AI 시장은 누가 더 좋은 모델을 만드느냐보다 누가 AI를 더 쉽고 효율적으로 활용하도록 지원하느냐의 경쟁으로 빠르게 전환되고 있다"며 "토큰팩토리를 대한민국 AI 생태계 성장을 이끄는 핵심 플랫폼으로 발전시키겠다"고 말했다.

ysyoon@yna.co.kr