가트너는 생성형 인공지능(AI)의 중요한 약점인 환각 현상을 최소화하기 위한 여덟 가지 해결책을 제시했습니다. 최근 발표된 보고서에서, 가트너는 거대언어모델(LLM)의 환각을 해소하기 위해 기술적인 접근 뿐만 아니라 비즈니스적인 측면에서도 중요한 역할을 강조했습니다.
환각은 생성형 AI 서비스의 정확성을 저해하고 이해관계자의 신뢰를 떨어뜨리며 비즈니스 프로세스의 무결성을 위협한다고 설명했습니다. 이를 해소하기 위해 가트너는 AI 개발과 운영 과정에서 다양한 해결책을 제안했습니다. 이에는 경량언어모델(SLM)을 활용한 특화 모듈 설계, 고품질 데이터 학습, 정확한 정책 및 지침 제공, 그리고 추론모델과 새로운 기술 활용이 포함됩니다.
또한, 사용자에게 AI 시스템 관련 역할별 교육과 명확한 사용 지침 제공, 시스템 무결성 보호를 위한 가드레일 배포를 권고했습니다. 환각 현상을 최소화하기 위한 접근 방식은 단계적으로 진행되어야 하며, 주기적인 모니터링과 재조정이 필요하다고 강조했습니다.
마지막으로, AI 기술로는 환각을 완전히 없앨 수 없다는 점을 감안해야 하며, 조직의 위험 허용 수준을 고려하여 관리해야 한다고 강조했습니다. 이러한 접근 방식을 통해 환각 현상을 최소화하고 신뢰할 수 있는 AI 시스템을 구축할 수 있을 것으로 기대됩니다.