인공지능(AI) 에이전트의 보급으로 보안 패러다임이 새롭게 정의되고 있습니다. 기존의 '제로 트러스트' 기반의 접근 제어 시스템에 추가하여, 동작하는 에이전트의 행동까지 관리하는 필요성이 커지고 있습니다. 이는 단순한 신원 확인을 넘어 모든 작업을 실행 단위별로 검토해야 한다는 것을 의미합니다.
지투 파텔 시스코 사장 겸 최고제품책임자(CPO)는 최근 RSA 콘퍼런스에서 보안을 구축해온 수십년간의 경험을 바탕으로, 이제는 AI 에이전트에도 보안을 적용해야 한다고 강조했습니다. 보안은 더 이상 접근 제어에 그치지 않고, 실제 행동을 검증하고 통제하는 단계로 발전해야 한다는 것입니다.
현재의 보안 체계는 외부 침입 방지에 초점을 맞춘 기존 방식에서 벗어나, 내부에 있는 사용자와 기기를 계속해서 모니터링하는 '제로 트러스트' 체계로 전환되고 있습니다. 이에 더해 AI가 갖는 높은 자율성으로 인해 이들의 신뢰성 확보가 새로운 과제로 부각되었습니다.
파텔 사장은 AI 에이전트가 스스로 계획하고 시스템에 접근하여 작업을 자율적으로 수행하는 '디지털 동료'라고 설명했지만, 이들은 책임이 없는 존재라고 지적했습니다. 특히 챗봇이 '잘못된 답변'을 내놓는 것과는 달리, AI 에이전트는 되돌릴 수 없는 결과를 초래할 수 있다고 강조했습니다.
파텔 사장은 AI 에이전트로부터 인간과 시스템을 보호하기 위해 '행동제어(Action control)'의 필요성을 강조했습니다. 24시간 모든 행동을 검증하고 이상 행위를 차단하는 AI 시스템이 필요하다고 언급했으며, 필요한 시점에만 최소 권한을 부여하고 작업이 종료되면 즉시 회수해야 한다는 원칙을 제시했습니다.
또한, 에이전트 보안을 자동화하기 위해 보안 프레임워크 '디펜스클로(Defense Claw)'를 공개했습니다. 이 프레임워크는 에이전트가 수행하는 작업과 외부 서버 연결 상태를 실시간으로 확인하고, 잠재적인 보안 위협을 미리 차단합니다.
파텔 사장은 “디펜스클로의 모든 도구들은 깃허브를 통해 오픈소스로 제공되며, 우리는 진짜 적은 경쟁사가 아닌 '공격자'와 상호 협력해야 한다”고 강조했습니다. 마이크로소프트(MS)도 AI 에이전트를 단순한 도구가 아닌 조직 내 새로운 '디지털 주체'로 인식하고, 이에 따라 보안 체계를 재설계해야 한다고 언급했습니다.
MS의 바수 작칼 보안부문 부사장은 “AI 에이전트는 자동으로 신뢰할 수 있는 대상이 아니라, 보안적인 측면에서 검증을 거쳐야 하는 책임 대상”이라며, 조직은 에이전트를 지속적으로 평가하고 통제할 수 있는 기준과 체계를 구축해야 한다고 설명했습니다.