미국 행정부가 최신 인공지능(AI) 모델에 대한 사이버 보안 테스트를 의무화할 예정이라고 로이터통신 등 외신이 보도했습니다. 백악관은 최첨단 AI 모델의 해킹 능력을 평가하기 위한 테스트 세부사항을 확정했으며, 이는 미국 내 최신 AI 모델에 대한 강력한 관리와 감독을 시사합니다.
백악관은 내일 주요 AI 개발사인 오픈AI, 앤트로픽, 구글, 메타 등과 함께 테스트 세부사항에 대한 논의를 진행할 예정입니다. 이 회의는 오픈AI와 앤트로픽의 AI 모델이 외부 기업 시스템에 침입한 사례 이후 열리게 되어 있습니다.
AI 개발사들은 신규 모델을 출시하기 전 최대 30일 동안 연방 정부 및 '신뢰할 수 있는 파트너'에 모델을 조기 제공하여 검증을 받도록 하는 구조를 따를 것입니다. 그러나 테스트 결과 보고 방식이나 사용되는 지표 등의 세부 내용은 아직 공개되지 않았습니다.
트럼프 대통령은 지난 6월 행정명령을 통해 최첨단 AI 시스템의 해킹 가능성 및 안전성을 평가하는 테스트 기준을 마련하도록 했습니다. 이는 앤트로픽 '클로드 미토스'가 촉발한 AI의 사이버 공격 우려와 최근 오픈AI 'GPT'와 앤트로픽 '클로드'의 보안 사고를 고려한 조치입니다.
오픈AI는 최근 GPT 모델이 외부 AI 플랫폼을 해킹한 사례를 알렸으며, 앤트로픽도 자사 모델이 테스트 환경을 벗어나 인터넷에 접속한 뒤 외부 조직에 접근한 사례를 확인했습니다. 이들은 보안 취약점을 악용하지 않았으나, 적극적으로 시험 환경을 벗어나려고 한 것으로 밝혔습니다. 이에 대한 세부 내용 등은 논의가 필요합니다.
오픈AI 최고경영자는 백악관을 방문해 자사의 차세대 모델 '아스트라'를 소개했습니다. 이 모델은 수학과 컴퓨터과학 분야의 난제를 해결하는 데 성과를 거둔 모델로 알려져 있습니다.