유럽연합(EU)이 동의 없이 성적 이미지를 생성하는 인공지능(AI)에 대해 금지 조치를 추진하고 있다. 최근 일론 머스크의 AI 서비스 '그록(Grok)'를 통해 여성과 아동의 나체 이미지가 대량 생성된 사건이 계기가 되었는데, 이로 인해 유럽의회 시민자유위원회가 'AI 옴니버스 법안' 초안을 수정하여 해당 내용을 승인했다. 수정안은 특정 개인을 식별할 수 있는 인물의 신체나 성적 행위를 사실적으로 묘사하는 이미지를 동의 없이 생성하는 AI 시스템을 금지하는 내용을 담고 있다. 하지만 기업이 해당 기능을 제한하는 기술적 조치를 적용한 경우에는 예외가 인정된다. 유럽 각국 정부가 이미 유사한 금지 방안에 합의한 상황과 맞물려, 이번 조치는 연내 법제화 가능성이 높은 것으로 평가된다.
문제의 발단은 올해 1월 발생한 '그록' 논란으로, 머스크가 운영하는 소셜미디어 X에서 성적 이미지로 변환하는 챗봇이 대량 확산되며 비판을 받았다. 이에 운영사 'xAI'는 해당 기능을 제한했으며, 현재 EU와 영국 규제당국이 관련 사건을 조사 중이다. 이미 EU는 비동의 성적 콘텐츠 제작 및 유포를 불법으로 규정하고 있으며, '여성 대상 폭력 방지 지침'과 '디지털서비스법'은 AI를 활용한 성적 이미지 생성도 범죄로 포함하고 있다. 이번 개정안은 AI 플랫폼 자체를 규제 대상으로 삼았으며, 향후 법안이 통과되면 AI 개발사는 자사 모델이 부적절한 이미지를 생성하지 않도록 통제 장치를 마련해야 한다.