문제가 아니라 다행으로 여겨야 할 생성형AI의 환각, Weekly EU
Global Insights
25.11.14
읽는시간 1분
퀵하게 보기
- 환각 때문에 인간을 대체하기보다는 보완하면서 생산성을 올릴 AI
그동안 덮어놨던 AI에 대한 불안이 터져 나오는 시기.
제임스 매킨토시 WSJ 칼럼리스트는, AI가 기업들의 수익성에 미친 영향을 판단할 때 상장기업만 고려하지 말고 OpenAI나 Anthropic처럼 적자가 큰 걸로 추정되는 비상장기업을 함께 고려해야 한다고 주장.
상장기업들의 수익이 크게 늘어났지만, OpenAI 같은 기업들이 엄청난 적자를 감수하면서 투자를 하고 있는 결과일 뿐이라는 것.
그러면서 GPT-5가 5.11이 5.9보다 크다고 한 실수를 예로 들었는데, 해결하기 어려워 보이는 환각 때문에 기업들이 전면적으로 생성형AI를 도입하지 않을 수 있다고 주장.
어제 공개된 GPT-5.1도 같은 실수를 하는 걸로 확인.
22.6%였던 GPT-4o의 환각률은 GPT-5에서 11.6%로 줄었고, 추론형 대화에서는 22%에서 4.8%로 낮아졌음.
그러나 환각은 학습된 데이터를 통해 특정 단어 다음에 가장 그럴 듯한 단어를 확률적으로 예측해서 문장을 생성하는 대형언어모형 (LLM)의 태생적 한계이므로 완전히 없앨 수 없다는 의견이 우세
KB증권은 동 조사분석자료를 기관투자가 또는 제3자에게 사전 제공한 사실이 없습니다. 본 자료를 작성한 조사분석담당자는 해당 종목과 재산적 이해관계가 없습니다. 본 자료 작성자는 게제된 내용들이 본인의 의견을 정확하게 반영하고 있으며, 외부의 부당한 압력이나 간섭 없이 신의 성실 하게 작성되었음을 확인합니다.
작게
보통
크게
