스페인 정부가 최근 AI로 생성된 누드 이미지 관련, X, 메타플랫폼 및 틱톡에 대한 수사를 시작했다고 월스트리트저널이 보도했습니다. 스페인 정부는 미성년자를 대상으로 한 범죄 혐의를 수사하기 위해 X, 메타, 틱톡에 대한 수사를 의뢰했다고 합니다. 미성년자 이미지를 포함한 약 300만 장의 AI 생성 누드 이미지가 온라인에 유포되어 검찰이 범죄 여부를 확인하는 것이 목적입니다.
스페인의 장관은 이러한 행위를 용납할 수 없다며, 아동의 안전이 위협받고 있다고 강조했습니다. X에 올린 글에서는 X, 메타, 틱톡이 아동의 정신 건강과 권리를 해친다며 조사를 촉구했습니다. 이에 대해 틱톡은 아동 성 학대 자료는 플랫폼 내에서 금지되어 있고, 청소년을 착취하거나 해치려는 시도를 막기 위한 시스템을 갖추고 있다고 해명했습니다. 메타와 X는 관련 입장을 내지 않았습니다.
스페인 정부의 조사 요구는 미성년자 보호에 대한 플랫폼의 미흡한 조치를 비판한 산체스 총리가 16세 미만 아동의 소셜미디어 접속을 제한하는 계획을 발표한 후 진행되었습니다. 이번 조사는 AI 기술의 발전과 함께 플랫폼 운영 방식에 대한 감시를 강화하는 움직임으로 평가되었습니다. 인수한 X는 머스크 CEO가 창립한 xAI의 AI 모델 '그록'으로 만들어진 성적인 딥페이크 이미지의 유럽 내 확산에 대한 EU 및 아일랜드 당국의 조사를 받고 있습니다.