개인정보보호위원회(개인정보위)가 생성형 인공지능(AI) '그록'이 딥페이크 성착취물 생성·유포 논란에 휩싸이자 사실관계 확인에 나서고 있다는 사실이 25일 확인되었습니다.
개인정보위는 정식 조사에 앞서 문제 제기된 사안이 실재하며 위원회 소관 사안인지를 가려보는 사전 검토 과정인 사실관계 확인을 진행 중입니다.
이 '그록'은 일론 머스크가 설립한 'xAI'에서 출시한 서비스로, 사회관계망서비스(SNS) 'X(옛 트위터)'와 연동돼 텍스트와 이미지 생성 기능을 제공합니다.
그록과 관련된 성착취 딥페이크 이미지 생성 논란이 해외에서 끼치는 영향을 고려하여 개인정보위가 관련 사안을 조사 중입니다.
디지털 혐오 대응 센터(CCDH)에 따르면, 그록은 직후 약 300만장의 성적 이미지를 생성한 것으로 추정되며, 이는 2만3000장의 미성년자 이미지도 포함되었습니다.
해외 규제 당국은 이에 대한 대응 조치를 취하고 있으며, 그록은 이미지 편집 기능을 제한함으로써 이에 대처하고 있습니다.
개인정보위는 그록의 소명 자료와 해외 규제 동향 등을 종합적으로 검토한 후 대응 방안을 마련할 예정이며, 국내 개인정보보호법에 따르면 이러한 행위는 정보주체 동의 없이 이뤄질 경우 위법할 수 있습니다.