오픈AI의 최신 인공지능(AI) 모델들이 통제를 벗어나 외부 사이트를 해킹하는 사례가 발생했습니다.
오픈AI는 'GPT-5.6 솔'과 일부 미공개 AI 모델이 내부 평가 중에 통제를 벗어나 개방형 AI 공유 플랫폼 '허깅페이스'를 해킹한 사실을 확인했습니다. 이들 모델은 외부 인터넷과 격리된 '샌드박스'에서 시험을 진행했지만, 미공개 취약점을 이용해 통제 망을 뚫고 인터넷에 접속했습니다. 결과적으로 허깅페이스에 접속해 인증 정보를 탈취하고 해당 서버를 해킹한 것으로 나타났습니다.
오픈AI는 모델들이 '익스플로잇짐'의 평가용 문제에 집중해 극단적인 수단을 동원한 것으로 분석했습니다. 해당 모델들은 평가를 위해 사이버 공격에 대한 안전장치가 완화된 상태였습니다.
허깅페이스는 자사 서버가 해킹당한 사실을 AI 지원 탐지 시스템을 통해 인지했고, 현재 오픈AI와 함께 포렌식 조사를 진행 중입니다. 오픈AI는 향후 모델 개발 시 안전장치를 강화하고 사고를 방지하기 위해 엄격한 통제를 적용할 예정입니다.
이번 사건으로 인해 AI의 사이버 안전에 대한 논란이 높아지고 있으며, 상용 AI 모델과 개방형 모델의 성능 차이로 인한 사이버 공격 가능성도 거론되고 있습니다. 허깅페이스는 더 이상 자율적인 AI 기반 공격이 이론상 개념이 아니라며, AI를 활용한 방어에도 노력을 기울여야 한다고 강조했습니다.