0

비용 폭탄·ROI 부재…기업들, 가성비 AI 모델 선회

26.10.23.
읽는시간 0분

(서울=연합인포맥스) 이재헌 기자 = 빅테크들이 인공지능(AI) 인프라 설비투자(CAPEX)를 지속 확대하고 있지만, 정작 실용화를 추진하는 대기업들은 투자수익률(ROI) 부재에 부담을 느끼며 가성비 AI 모델로 대거 선회하고 있다.

야후파이낸스는 22일(현지시간) 첨단 프론티어 AI 모델의 높은 비용 부담에 직면한 주요 기업들이 핵심 기술이 공개된 오픈웨이트(Open-weight) 모델과 자체 인프라를 결합해 AI 지출 통제에 나섰다고 보도했다.

이와 관련해 아르빈드 크리슈나 IBM 최고경영자(CEO)는 최근 실적 발표 콘퍼런스콜에서 "대기업을 중심으로 AI 관련 지출의 실제 ROI가 얼마나 되는지 한층 엄격하게 따지는 분위기"라며 "뚜렷한 수익 회수 없이 지출만 완전히 통제 불능 상태로 늘어나는 상황을 우려하고 있다"고 진단했다.

크리슈나 CEO는 대기업 기준으로 서버 랙 2~3개 규모의 자체 인프라만 구축해도 오픈웨이트 모델을 충분히 운용할 수 있으며, 첨단 프론티어 모델 대비 토큰(AI가 사용하는 텍스트의 최소 처리 단위) 사용 비용을 10~25% 수준으로 대폭 낮출 수 있다고 설명했다. 온프레미스(자체 서버)나 프라이빗 클라우드를 활용해 기업의 핵심 지적재산권(IP)을 안전하게 보호할 수 있다는 점도 가성비 모델 선회의 주요 요인으로 꼽혔다.

토르스텐 슬록 아폴로 글로벌 매니지먼트 수석 이코노미스트는 "AI 인프라 확장의 핵심 지표는 단순한 설비 용량이나 전력이 아닌, 고객이 컴퓨팅 파워에 기꺼이 지불할 용의가 있는 가격"이라며 "매출 증대나 마진 개선 등 실질적 성과가 유의미한 수준으로 가시화되지 않으면서 기업들의 비용 지불 의사도 낮아지고 있다"고 지적했다.

이처럼 기업 주머니가 닫히자 주요 프론티어 AI 개발사들도 중저가 라인업 강화로 맞불을 놓고 있다. 오픈AI는 지난달 GPT-6 라인업에 저비용 중위급 모델을 추가했고, 앤트로픽은 가격을 내리고 성능을 높인 '클로드 하이쿠 5.5'를 선보였다고 매체는 전했다.

[출처: 연합뉴스 자료사진]

jhlee2@yna.co.kr

이재헌

이재헌

금융용어사전

KB금융그룹의 로고와 KB Think 글자가 함께 기재되어 있습니다. KB Think

금융용어사전

KB금융그룹의 로고입니다. KB라고 기재되어 있습니다 KB Think

이미지