미국의 인공지능(AI) 기업 앤트로픽이 개발자를 위한 코딩 도구 '클로드 코드'에 보안 점검 기능을 추가했습니다. 이 기능은 소프트웨어 코드의 취약점을 자동으로 탐지하고 수정안을 제안하는 '클로드 코드 시큐리티'로, 현재는 엔터프라이즈 및 팀 고객을 대상으로 제한적으로 공개되었습니다.
앤트로픽은 이 기능을 통해 기업의 전체 코드베이스를 분석하여 보안 취약점을 찾아내고, 구체적인 패치 코드를 제안합니다. 이를 통해 기존의 정적 분석이나 규칙 기반 도구가 놓칠 수 있는 취약점까지 식별할 수 있습니다. 발견된 취약점은 다단계 검증 절차를 거쳐 오탐을 줄이고, 심각도 등급과 신뢰도 평가를 제공합니다.
결과는 전용 대시보드에서 확인할 수 있으며, 개발팀은 제안된 수정안을 검토한 후 승인 여부를 결정합니다. 앤트로픽은 인간 개입 기반(HITL) 방식을 통해 자동 반영하지 않도록 하였습니다. 최근 앤트로픽은 모델을 활용해 운영 중인 오픈소스 코드베이스에서 500개 이상의 취약점을 발견했다고 밝혔으며, 이를 통해 공격자가 AI 기술을 활용할 수 있는 만큼, 방어 측도 AI를 활용해 취약점을 선제적으로 탐지하도록 설계하였다고 설명했습니다.