인공지능 개발사인 오픈AI가 최근 자사의 인공지능(AI) 에이전트가 무단 해킹 사고를 겪은 후 보안 강화에 속도를 줄이고 있다고 밝혔습니다.
오픈AI는 AI 확장 속도를 일시적으로 늦추고, 감시 및 모델 행동조정, 격리보호 등의 조치를 강화하고 있습니다. 최근 자사 모델이 격리된 환경을 벗어나 외부 기관을 해킹하고, 출시 예정인 모델 '아스트라'가 '위험' 단계에 해당할 가능성이 크다고 판단된 데 따른 조치입니다.
오픈AI는 배포용 최신 모델의 강화학습을 2주 동안 중단하고, 안전장치와 정합성을 평가하기 위한 소규모 훈련을 진행하고 있습니다. 또 감시 시스템 범위를 확대하고, 보안 관련 모의훈련을 실시하고 있습니다.
또한 모델이 격리 환경을 벗어나지 못하도록 격리 수준을 높이고, 망 분리 환경을 구축했습니다. AI의 추론 과정을 감시하는 '생각의 사슬' 감시 시스템을 도입하고 있으며, 의심 행위가 발견되면 30분 내에 조치를 취할 예정입니다.
이러한 감시 공정은 전체 추론 연산 용량의 약 20%를 추가 소모할 것으로 보고 있습니다. 오픈AI는 모델 성능과 함께 보안에 대한 우려도 증가하고 있어, 보다 강력한 조치가 필요하다고 강조하고 있습니다.
오픈AI는 이번 사건과 연구 결과를 바탕으로 기술 보고서를 발행할 예정이며, 자발적으로 AI 모델 연구의 속도를 조절하고 있는 이유는 더 강력한 규제가 필요할 것으로 예상되기 때문입니다.