카카오, 카나나 경량 모델 '카나나-2' 안전성 세계 최고 수준 입증
(서울=연합인포맥스) 한종화 기자 = 카카오[035720]가 오픈소스로 공개한 경량 언어모델(SLM) '카나나-2' 시리즈의 안전성을 평가해 세계 최고 수준임을 입증했다.
카카오는 자체 구축한 인공지능(AI) 안전성 평가 플랫폼에서 '카나나-2-1.3B-Instruct(카나나 1.3B)', '카나나-2-3B-Instruct(카나나 3B)' 두 모델의 유해성, 편향성 등을 주요 글로벌 모델과 함께 체계적으로 측정한 결과 종합 1위를 기록했다고 18일 밝혔다.
이번 평가에 사용된 특화 안전성 벤치마크 'AssurAI'는 한국정보통신기술협회(TTA), 한국과학기술원(KAIST), 카카오 등이 지난해 11월 공동으로 구축했다.
이번 평가는 유사 파라미터 규모의 글로벌 모델인 구글의 '젬마(Gemma)', 알리바바의 '큐웬(Qwen)'을 비교 대상으로 설정했다.
카나나 1.3B는 종합 점수 0.70을 기록해 젬마(0.68), 큐웬(0.58)을 앞섰으며, 카나나 3B 역시 0.70으로 젬마(0.66), 큐웬(0.62)보다 높은 점수를 차지했다.
대분류별 평가에서 카나나 1.3B 모델은 범죄·불법 행위 영역에서 높은 우위를 보였다. 3B 모델은 성적 콘텐츠·아동보호와 권리 침해 영역에서 비교 모델들을 앞섰다.
김경훈 카카오 AI 세이프티(Safety) 리더는 "이번 평가는 자체 검증 체계를 통해 오픈소스 모델의 안전성을 사전에 점검하고 그 결과를 공개한 사례"라며 "앞으로도 책임 있는 AI 개발 원칙 아래 안전성 검증을 모델 출시 프로세스의 핵심 단계로 정착시켜 나갈 것"이라고 말했다.
[출처 : 카카오]
jhhan@yna.co.kr
한종화
jhhan@yna.co.kr
함께 보면 도움이 되는
뉴스를 추천해요
