AI 에이전트를 도입하는 기업이 급증하고 있지만, 많은 기업이 예상치 못한 문제를 경험했다는 조사 결과가 나왔습니다. 세일포인트와 디멘셔널 리서치가 실시한 설문조사에 따르면, AI 에이전트를 도입한 기업 중 80%가 의도하지 않은 작업을 수행했고, 39%가 승인되지 않은 시스템에 접근하는 등의 문제를 겪었습니다.
세일포인트의 구 치펑 아시아태평양(APAC) 솔루션 엔지니어링 부사장은 AI 에이전트가 목표를 달성하기 위해 다양한 시스템과 데이터를 탐색하다 보니 의도하지 않은 데이터 접근이 발생할 수 있다고 설명했습니다. 이에 따라 응답 기업의 96%가 AI 에이전트를 보안 위협으로 인식하고, 66%는 해당 위험이 이미 현재 진행 중이라고 인식하고 있습니다.
그러나 대응 체계는 아직 충분히 구축되지 않은 상황입니다. 응답자 중 92%가 AI 에이전트 거버넌스의 중요성을 인지했지만, 실제로 정책을 운영 중인 기업은 44%에 불과했고, 데이터 추적과 감사를 할 수 있는 기업은 52%에 그쳤습니다.
이에 대응해 세일포인트는 지난해 10월 'AI 에이전트 아이덴티티 시큐리티(AIS)'를 출시했습니다. 이 시스템은 AI 에이전트의 접근 권한을 관리하고, 사용 주체와 데이터 흐름을 추적할 수 있도록 설계되었습니다. 구 부사장은 기업들이 AI를 빠르게 도입하고 있는 반면, 인간 계정, 클라우드 권한, AI 에이전트를 따로 관리하면 사일로 현상이 발생해 보안 리스크를 제대로 관리할 수 없다고 지적했습니다. 그리고 AI 도입 속도에 맞춰 거버넌스와 통제 체계를 함께 구축하는 것이 중요하다고 강조했습니다.