0

[시사금융용어] 소형언어모델(sLLM)

26.04.21.
읽는시간 0

◆소형언어모델(sLLM, small Large Language Model)이란 수천억 개의 파라미터(매개변수)를 가진 거대언어모델(LLM)과 달리, 파라미터 수를 수십억에서 수백억 개 수준으로 줄여 효율성을 극대화한 인공지능(AI) 모델을 의미한다.

인공지능 기술의 흐름이 규모의 경제를 넘어 실질적 활용성과 비용 절감으로 이동하면서 시장의 핵심 화두로 부상했다.

sLLM의 가장 큰 특징은 경제성과 효율성이다. 기존 LLM은 막대한 연산 자원과 고가의 GPU 인프라를 요구하지만, sLLM은 상대적으로 낮은 사양의 하드웨어에서도 원활하게 구동된다.

AI 도입을 주저하던 중소기업이나 특정 부서 단위의 프로젝트에 강력한 동기를 부여하고 있다. 또한, 학습에 드는 시간과 비용이 대폭 줄어들어 기업들이 자사 환경에 맞는 AI를 보다 빠르게 구축할 수 있게 한다.

구글의 '젬마(Gemma)', 메타의 '라마(Llama) 3(8B)', 삼성전자의 '가우스(Gauss)' 등을 대표적인 sLLM 사례로 꼽힌다. 이러한 모델들은 스마트폰이나 PC가 스스로 사고하는 '온디바이스 AI' 시대를 여는 핵심 동력이 되고 있다. 비록 복합적인 추론이나 방대한 상식 수준에서는 LLM에 뒤처질 수 있다는 지적이 있으나, 비즈니스 현장에서는 sLLM이 더 실무적인 해결사 역할을 할 것으로 기대된다.

sLLM은 AI 기술의 문턱을 낮추고 산업 전반의 디지털 전환(DX)을 가속하는 기폭제가 될 전망이다. (증권부 양용비 기자)

(서울=연합인포맥스)

양용비

양용비

금융용어사전

KB금융그룹의 로고와 KB Think 글자가 함께 기재되어 있습니다. KB Think

금융용어사전

KB금융그룹의 로고입니다. KB라고 기재되어 있습니다 KB Think

이미지