키미3 수요 폭발에 신규 구독 중단…'제번스 역설' 강화하나

적은 비용으로 고성능 AI 구현했지만, 이용량 급증

삼성증권 "반도체 덜 쓰는 기술은 오해"

(서울=연합인포맥스) 윤영숙 기자 = 중국 문샷AI가 초거대 인공지능(AI) 모델 '키미3' 출시 직후 이용자가 몰리자 신규 유료 구독을 일시 중단했다.

AI 모델의 효율 개선이 그래픽처리장치(GPU)와 고대역폭메모리(HBM) 수요를 줄일 것이라는 우려와 달리, 저렴하고 효율적인 모델이 오히려 사용량을 폭발적으로 늘려 전체 인프라 수요를 키우는 '제번스 역설'이 다시 주목받고 있다.

20일 문샷AI에 따르면 회사는 키미3를 내놓은 지 불과 이틀 만에 예상보다 많은 이용자가 몰리면서 보유 GPU의 처리 능력이 한계에 근접했다고 밝혔다. 기존 가입자는 계속 서비스를 이용할 수 있지만, 문샷AI는 컴퓨팅 시설을 확충할 때까지 신규 가입을 받지 않기로 했다.

키미3는 AI가 학습한 지식과 판단 기준인 매개변수가 2조8천억개에 달하는 초대형 모델이다. 문샷AI는 세계 최초의 3조개 매개변수급 공개형 모델로, 일부 성능 평가에서 미국 최상위 AI 모델과의 격차를 크게 좁혔다고 설명했다.

키미3는 질문에 답할 때 모델 전체를 한꺼번에 가동하지 않고 필요한 전문 영역만 골라 사용해 계산 부담을 줄였다. 긴 문서를 처리하는 효율도 개선해 이전 모델보다 모델 확장 효율을 약 2.5배 높였으며, 한 번에 책 여러 권 분량에 해당하는 최대 100만개의 토큰을 처리할 수 있다는 게 회사 측의 설명이다.

언뜻 보면 이러한 기술은 GPU와 고대역폭메모리(HBM) 수요를 줄이는 요인으로 보인다. 같은 질문에 답하는 데 필요한 계산과 메모리 사용량이 줄기 때문이다.

그러나 실제로는 반대일 수 있다는 분석이 나온다.

반도체 분석업체 세미애널리시스는 키미3의 지식을 담아두는 데만 1.5테라바이트(TB) 이상의 HBM이 필요하다고 추산했다.

이는 엔비디아의 최신 GPU 서버 한 대에 들어가는 전체 HBM 용량보다도 큰 수준이다. 실제 질문을 처리하거나 긴 대화 내용을 저장할 공간까지 고려하면 여러 대의 GPU 서버와 일반 서버용 메모리, 고성능 저장장치가 추가로 필요하다.

삼성증권도 키미3는 모델 자체를 저장하는 데만 HBM 약 1.5TB가 필요해 메모리를 적게 쓰는 모델로 보기 어렵다고 분석했다. 키미3가 커질수록 GPU끼리 데이터를 주고받는 통신량과 고속 네트워크 수요도 함께 증가한다고 설명했다.

무엇보다 AI 사용 비용이 낮아지면 이용자가 빠르게 늘어날 수 있다. 질문 한 건을 처리하는 데 필요한 반도체 사용량은 줄더라도 이용자 수와 질문 횟수가 그보다 더 많이 증가하면 전체 반도체 수요는 오히려 커진다.

키미3가 공개된 직후 GPU 용량이 부족해 신규 가입을 막은 것은 이러한 현상을 보여주는 초기 사례다. 기술이 효율적으로 바뀌었지만 그만큼 사용이 급증하면서 추가 컴퓨팅 시설이 필요해진 것이다.

삼성증권은 키미3를 두고 "메모리를 덜 쓰는 기술로 해석하는 것은 오해"라며 "본질은 그 반대"라고 말했다.

네트워크 수요와 고대역 메모리 요구량이 증가해 오히려 반도체 수요를 촉진하는 이슈라는 것이다.

결국 AI 모델이 효율화될수록 고사양의 메모리 수요는 늘어나 반도체 수요에 긍정적이라는 게 삼성증권의 설명이다.

ysyoon@yna.co.kr