금융권에서의 인공지능(AI) 사용이 증가함에 따라, 금융 AI 감독 체계가 '사전 승인'에서 '상시 검증'으로 전환되어야 한다는 주장이 나왔습니다. 한국핀테크산업협회는 23일 국회 포럼에서 'AI 시대, 금융 시스템을 다시 설계하다'를 주제로 토론을 진행했습니다.
이화여대의 채상미 교수는 금융 AI가 개별 서비스 수준을 넘어 금융 시스템 전반을 구성하는 중요한 요소가 되었다고 강조했습니다. AI가 금융사의 의사결정에 널리 활용되면 개별 서비스의 오류가 금융 안정성과 소비자 신뢰에 영향을 줄 수 있다고 설명했습니다.
채 교수는 "금융 AI의 경쟁력은 모델 성능보다 AI 리스크를 검증 가능한 신뢰 인프라에서 결정된다"며 "금융 AI 감독 체계도 사전 승인 중심에서 상시 검증 체계로 전환해야 한다"고 말했습니다. 또한, AI 도입 전에 허용 여부를 결정하는 것은 AI 기술과 위험이 계속 변화하므로 어렵다고 덧붙였습니다.
금융당국이 마련 중인 금융분야 AI 가이드라인에는 AI를 활용하는 금융사에 적용되는 7가지 원칙이 담겨 있습니다. 강현정 변호사는 "금융분야 AI 가이드라인은 AI를 별도 시스템으로 관리하는 것이 아니라 내부통제와 위험관리 체계 안으로 편입하는 것을 강조한다"고 설명했습니다.
가이드라인에 따르면, 금융사는 AI 의사결정기구와 위험관리 전담조직을 운영하고 AI 서비스별 위험도를 평가해 통제 수준을 차등 적용해야 합니다. 또한, AI를 활용한 의사결정의 최종 책임은 사람에게 있다는 원칙이 포함되어 있습니다.
이러한 가이드라인은 소비자 보호와 제3자 위험관리를 강조하며, 금융사는 AI 활용 사실을 사전에 고지하고 소비자 이의제기 절차를 마련해야 합니다. 외부 AI 모델과 오픈소스, 클라우드를 활용하는 경우에도 위험을 관리할 수 있는 내부 통제 체계를 구축해야 합니다.