AI 지출비용 '눈덩이'…美기업들 생존 건 'AI 다이어트' 돌입

(서울=연합인포맥스) 이장원 선임기자 = 기업들이 앞다퉈 도입한 인공지능(AI) 에이전트와 거대언어모델(LLM)의 사용 비용이 증가하면서 월가와 실리콘밸리 기업들이 AI 예산을 통제하기 위해 비상 수단을 마련하는데 박차를 가하고 있다.

14일(현지 시각) 영국 경제 주간지 이코노미스트는 최근 기업용 신용카드 및 지출 관리 플랫폼 램프(Ramp)가 고객사들의 결제 데이터를 분석한 결과, 기업들의 전체 AI 관련 지출은 지난 1년간 13배 폭증한 것으로 나타났다고 보도했다.

대표적으로 글로벌 모빌리티 기업 우버(NYS:UBER)는 올해 책정된 1년 치 전체 AI 예산을 단 4개월 만에 전액 탕진했다.

실리콘밸리의 한 대형 IT 기업은 단 한 달 동안 AI 토큰 비용으로만 5억 달러(약 7천500억 원)를 쏟아부은 것으로 알려졌다.

AI 서비스의 핵심 과금 단위인 토큰은 글자 한 자나 단어 단위로 쪼갠 AI의 연산 가늠자다.

AI 서비스를 이용하는 기업들은 AI가 문장을 읽는 입력 토큰과 답을 쓰는 출력 토큰의 양을 실시간 합산해 클라우드 사용료와 함께 종량제(쓰는 만큼 지급) 방식으로 생성형 AI 업체나 클라우드 플랫폼에 대금을 정산한다.

불과 얼마 전까지만 해도 기업 경영진과 투자자들은 AI 지출을 혁신의 훈장으로 여겼다.

메타 플랫폼스(NAS:META)는 사내 게시판에 AI 토큰을 가장 많이 쓴 직원을 '토큰 레전드'로 부르며 포상하기까지 했다.

그러나 생각하고 판단하는 '추론형 모델'과 스스로 작동하는 'AI 에이전트'가 확산하면서 비용이 급격히 늘어났다는 전언이다.

에이전트가 업무를 해결하기 위해 또 다른 에이전트를 스스로 구축·호출하면서 기계적인 토큰 소비가 급속히 증가했기 때문이다.

램프의 데이터에 따르면, AI 도입에 가장 적극적인 상위 1% IT 기업들의 경우 직원 1인당 한 달 평균 7천450달러에 달하는 AI 청구서를 받는다고 한다.

이는 일반적인 기업들의 지출 금액 중앙값인 11달러와 비교하면 매우 높은 수준이다.

이처럼 비용 악몽이 현실화하자 기업들은 빗장을 걸어 잠그고 있다.

메타와 아마존닷컴(NAS:AMZN)은 사내 AI 사용량 리더보드(순위표)를 즉각 폐지했다.

값비싼 최첨단 모델 대신에 철저한 '가성비' 중심의 모델을 이용하는 기업도 증가했고 제도적인 '지출 상한선'을 도입하는 기업도 늘었다.

우버는 소속 개발자들의 코딩 AI 툴 토큰 사용 한도를 1인당 월 1천500달러(약 220만 원)로 제한했다.

핵심 비즈니스 가치를 창출하는 엔지니어링 부서에만 토큰을 집중 배분하고 서무 업무에는 차단하는 등 차등 배분 장치를 마련하는 곳도 있다는 후문이다.

기업들의 허리띠 졸라매기에 자칫 시장 수요가 위축될까 우려한 소프트웨어 벤더들은 궁여지책으로 새로운 과금 모델을 실험 중이다.

IT 지원 소프트웨어 업체 인터컴은 AI 에이전트가 고객의 문의를 실제로 해결했을 때만 비용을 청구하는 성과 기반 요금제를 도입했다.

아마존 AWS나 마이크로소프트(NAS:MSFT) 등 빅테크 클라우드 기업들도 AI 쿼리를 저가 모델로 선제 분류하는 예산 관리 툴을 긴급 출시했다.

그러나 진짜 문제는 올해 하반기에 기업공개(IPO)를 추진하는 오픈AI와 앤트로픽의 가격 인상 가능성이다.

오픈AI와 앤트로픽 등은 고객 유치를 위해 엄청난 폭의 가격 할인을 단행하며 단가 손실을 감수하고 있으나 상장 후 본격적인 수익성(흑자 전환) 압박에 직면하면 토큰 단가를 일제히 인상할 수밖에 없고 이는 기업들에 비용 부담을 키울 것이라는 관측이 지배적이다.

jang73@yna.co.kr