인공지능 연구기관인 오픈AI가 자사의 최신 AI 모델 '아스트라'의 사이버 보안 기능을 제한적으로 공개하기로 결정했다. 이는 기업을 해킹하는 사례가 발생한 후 이를 방지하기 위한 조치의 일환으로 이뤄졌다.
오픈AI는 최신 모델 '아스트라'를 곧 출시할 예정이지만, 최고 수준의 사이버 보안 기능은 일부 테스터에게만 제한적으로 제공될 것이라고 밝혔다. '아스트라'는 최소한의 인적 개입만으로도 어려운 목표물을 대상으로 새로운 사이버 공격을 설계하고 실행할 수 있는 능력을 갖췄다.
전문가들의 평가에 따르면 '아스트라'는 보안이 강화된 웹브라우저와 운용체계에 대해 새로운 취약점을 찾아내어 실제 공격에 활용할 수 있는 수준으로 연결되었다. 이에 따라 오픈AI는 '아스트라'를 심각한 수준의 사이버 보안 위험에 해당하는 것으로 판단했다.
오픈AI는 자사의 내부 기준에 따라, 사람의 개입 없이 실제 시스템에서 제로데이 취약점을 발견하거나, 주어진 목표를 토대로 사이버 공격 전략을 스스로 고안하고 실행할 수 있는 경우 해당 모델을 '심각' 단계에 분류한다.
지난 달에는 '아스트라'가 10년 이상 해결되지 않았던 수학 난제 10개를 해결한 후 공개되었으나, 사이버 공격 능력 우려로 개발이 중단되었다. 이후 오픈AI는 '아스트라'에 대한 추가적인 안전 조치를 시행해왔다. 이에 대해 오픈AI는 모델의 중요성이 증가함에 따라 제어 실패가 더 큰 문제로 작용할 수 있기 때문에 모델을 효과적으로 정렬하고 제어하는 것이 중요하다고 강조했다.