오픈AI, 연령 판단 후 유해 콘텐츠 제한 기능 가동
인공지능 개발사인 오픈AI가 챗GPT 이용자의 사용 패턴을 분석하여 연령을 판단하고, 미성년자로 인식될 경우 일부 유해 콘텐츠를 제한하는 기능을 본격적으로 가동한다고 밝혔다. 이를 통해 청소년에게 적합한 경험과 보호 가능하도록 지원할 예정이다.
이 기능은 챗GPT에 도입된 연령 예측 모델을 통해 계정 소유자의 활동 패턴을 종합적으로 분석하여 18세 미만인지 판단한다. 만일 18세 미만으로 추정될 경우, 민감한 콘텐츠를 제한하는 추가 보호 장치가 자동으로 적용된다.
이러한 접근 방식은 전문가의 의견과 아동 발달 과학을 기반으로 하며, 청소년의 위험 인식과 감정 조절 능력을 고려하고 있다. 잘못된 연령 분류로 인한 이용자는 '퍼스나'(Persona)를 통해 연령을 확인하고 접근 권한을 복구할 수 있다.
오픈AI는 이전에 챗GPT와 대화한 청소년들이 우울증 등에 시달리다 생을 마감한 사례가 있어 유족들로부터 소송을 당한 바 있다.