카카오가 공개한 경량 언어모델 '카나나(Kanana)2' 시리즈가 안전성에서 우수한 평가를 받았다. 카카오는 이 평가 결과를 18일에 공개했다. 카카오는 지난달 28일에 공개한 'Kanana-2-1.3B-Instruct', 'Kanana-2-3B-Instruct' 모델의 안전성을 자체 구축한 'AI 안전성 평가 플랫폼'을 통해 측정했다. 결과적으로 두 모델은 주요 글로벌 모델과 비교하여 우수한 평가를 받았다.
이번 평가는 한국정보통신기술협회(TTA), KAIST, 카카오 등이 지난해 11월에 공동으로 구축한 'AssurAI' 벤치마크를 활용했다. 이는 한국의 사회·문화적 특성을 고려하여 다양한 조건에서 AI 위험을 측정하는 벤치마크로, 텍스트, 이미지, 오디오 등 다양한 상황을 고려한다.
AssurAI는 35개 리스크 카테고리 내 9560건의 평가 항목을 포함하며, 이를 사회적 리스크, 성적 콘텐츠·아동보호, 범죄·불법 행위, 폭력, 권리 침해 등 5개 대분류로 나누어 평가했다. 카카오는 이를 기반으로 안전성 평가를 실시하였고, 결과적으로 다른 비슷한 규모의 AI 모델들보다 우수한 평가 결과를 얻었다.
카카오는 이번 평가를 시작으로 앞으로 공개할 AI 모델에 사전 안전성 평가를 확대 적용하기로 하였다. 김경훈 카카오 AI 세이프티 리더는 “이번 평가는 오픈소스 모델의 안전성을 사전에 점검하고 결과를 공개하는 사례”라며, “앞으로도 책임 있는 AI 개발을 위해 안전성 검증을 중요하게 여기고 모델 출시 프로세스에 핵심적으로 포함시킬 것”이라고 밝혔다.