한국과학기술원(KAIST) 연구진은 인공지능(AI)의 '과도한 확신' 문제를 해결하기 위한 새로운 방법을 개발했습니다. 이 방법은 AI가 모르는 상황을 스스로 인식하도록 하는 학습 방법을 제시하여 AI 전반의 신뢰성을 향상시켰습니다.
연구팀은 딥러닝에서 널리 사용되는 '무작위 가중치 초기화'가 AI의 과신을 유발하는 근본적인 원인일 수 있다고 밝혔습니다. 이 방식은 신경망이 아직 아무것도 배우지 않은 상태에서도 높은 확신을 보이는 문제를 초래할 수 있습니다.
연구팀은 이 문제를 해결하기 위해 우리 두뇌의 '자발적 신경 활동' 개념을 적용했습니다. 이를 통해 AI에게 무작위 노이즈 입력을 통한 짧은 사전 학습 단계를 도입하여, 학습하기 전에 스스로 불확실성을 조절하는 과정을 추가했습니다.
이 과정을 거친 AI 모델은 과신 편향이 크게 개선되었고, '모른다'고 판단하는 능력이 향상되었습니다. 이러한 방법은 학습 데이터와 다른 분포의 데이터를 구별하는 데에도 뛰어난 성능을 보였습니다.
연구팀은 이번 연구를 통해 AI가 인간과 유사하게 자신의 지식 상태를 인식할 수 있는 방법을 제시했다고 밝혔으며, 이는 '네이처 머신 인텔리전스'에 발표되었고 주목을 받았습니다.