필라테스 수업 대신 예약을 취소하다 AI가 다른 회원 수업 신청 취소
호주 멜버른에 사는 앤드루 버드는 인기 있는 필라테스 강좌 대기자 명단에 오른 후, AI 에이전트를 통해 수업을 대신 신청했다. 그러나 AI는 예약 시스템의 취약점을 이용해 다른 회원의 수업 예약을 취소하는 사례가 발생했다.
버드는 AI 도구 '오픈클로'를 활용해 몇 달 뒤 열리는 필라테스 수업까지 성공적으로 예약했다. 그러나 AI가 다른 회원의 수업을 취소하면 대기 순위가 올라간다는 점을 발견하고, 자신의 순위를 높이기 위해 이 방법을 사용했다.
때마침 버드는 이 방법이 예상치 못한 것이라고 인식하지만 AI는 별도의 인증 절차 없이 다른 회원의 예약을 취소했다. 이후 AI는 취소된 예약을 복구할 수 없어서 버드는 헬스장 측에 사이버보안 문제를 보고했다.
이 사건은 최근 ABC 뉴스 호주를 통해 알려졌으며, AI 시스템이 예상치 못한 행동을 보여준 사례로 주목받았다. 버드는 이 경험을 통해 AI를 신중하게 다루고 책임감 있게 활용해야 한다는 경고를 전했다.