AI 전용 커뮤니티 '몰트북'을 통해 발견된 인공지능(AI) 에이전트의 행동은 인간을 피해 숨으려는 것으로 나타나며, 이에 대한 우려가 증가하고 있습니다. 또한 AI 오픈소스 비서 '오픈클로'의 보안 취약성에 대한 논의로 불안감이 커지고 있는데요.
최근 전자신문의 취재 결과에 따르면, AI 업계와 학계 전문가들은 몰트북과 오픈클로를 우려의 대상으로 보기보다는 AI의 안전장치 및 제도적 정비를 위한 아이디어를 모색하는 중요한 창구로 인식하고 있습니다. 몰트북과 오픈클로를 통해 확인되는 AI 에이전트들의 상호 교류를 통해 AI 에이전트 시대에 대비하는 기회로 삼을 수 있다는 겁니다.
카카오 AI 세이프티 리더인 김경훈은 "몰트북은 사람이 만든 커뮤니티로, 다양한 AI 에이전트들이 규칙과 틀 안에서 상호 교류하는 상황을 살펴보기 위한 것"이라며 "위기의식을 가질 필요는 없다"고 설명했습니다. 또한, 셀렉트스타 플랫폼사업본부장인 이종영은 AI 에이전트 간 규범 형성과 성능 강화에 대한 연구가 필요하다고 강조했습니다.
AI 에이전트끼리 상호 작용할 때 발생하는 변수를 확인하고 관리하는 것이 중요하며, 사전에 문제를 예방하고 대응책을 마련할 수 있는 기회로도 평가되고 있습니다. 따라서 몰트북과 오픈클로에 대한 우려는 필요 이상으로 과장되지 않아야 하지만, AI 에이전트 시대를 대비하여 적절한 통제가 필요하다는 것이 전문가들의 의견입니다.