기준금리 인하와 선거의 무대 뒤에서 진행되고 있는 기술의 변화

Global Insights

■기준금리 인하폭과 선거에 대한 불확실성이 걷히고 난 다음에 시장을 이끌어 갈 요인은 결국 ‘기술’

공기처럼 저렴해지는 지능.
순다 피차이 구글 CEO는 카네기 멜론 대학교에서 열린 행사에서 ‘지능’ (intelligence)이 공기처럼 흔해지면서 모든 사람이 무료로 사용할 수 있게 될 것이라고 전망.
피차이 CEO는, 지능을 제공하는 대형언어모형 (LLM)의 사용 가격이 빠르게 낮아지고 있다는 점을 보여줌.
주력 LLM의 100만 토큰당 비용을 살펴보면, 18개월 전에 당시 구글의 최신 LLM인 PaLM 2 Bison은 4달러였지만 최근에 나온 Gemini 1.5 Flash는 15센트라고 설명 (프롬프트 길이가 12.8만 토큰을 초과하는 경우).
Gemini 1.5 중에서도 저렴한 Gemini 1.5 Flash를 예로 들었기 때문에, 가격 하락률이 과장된 건 사실.
그러나 8월에 Gemini 1.5 Flash의 입력 100만 토큰당 가격을 35센트에서 7.5센트로 (프롬프트 길이가 12.8만 토큰 이내인 경우) 대폭 낮췄던 구글은 엊그제 Gemini 1.5 Pro의 새 버전을 공개하면서 입력 100만 토큰당 가격을 기존 7달러에서 3.5달러로 인하 (프롬프트 길이가 12.8만 토큰 이내인 경우).
이와 같이 가격 인하 추세는 계속되고 있는데, 피차이 CEO는 ‘지능도 공기처럼 계량하기 어려울 정도로 저렴해질 것’이라고 함.
인터넷이 처음에 확산될 때는 종량제였지만 지금은 정액제여서 사용량에 대한 큰 걱정 없이 자유롭게 쓰고 있는 것처럼, LLM을 통해 사용할 수 있는 ‘지능’ 역시 가격이 크게 낮아지면서 업무와 일상에서 더 폭넓게 활용될 전망