세계 최초! 인니 AI 챗봇 '그록'이 딥페이크 성착취물 논란에 강력 대응!

인도네시아 정부가 AI를 활용한 딥페이크 성착취물 생성·유포 논란이 불거진 챗봇 서비스 '그록'을 세계 최초로 차단했습니다. 통신디지털부 장관은 이 조치를 "AI로 생성된 가짜 음란물 콘텐츠의 위험으로부터 여성과 아동을 보호하기 위한 조치"로 설명했습니다. 그록은 최근 여성과 아동의 사진을 편집·생성해 유포하는 일이 있었는데, 이에 대한 논란이 커졌습니다. 인도네시아는 음란물 콘텐츠의 온라인 유통을 엄격히 금지하고 있습니다. 논란이 확산되자 유럽 국가와 말레이시아는 조사에 착수하겠다고 밝혀, 미국에서는 애플과 구글에 그록과 관련 앱을 퇴출해야 한다는 요구가 제기되었습니다. 이에 따라 그록은 이미지 생성·편집 기능을 유료 구독자에게만 제공하는 방식으로 제한 조치를 시행했습니다.