일본 정부가 인공지능(AI) 에이전트와 실제 물리적 동작을 수행하는 '피지컬 AI'의 확산에 대비하기 위해 새로운 안전 지침을 마련한다. 니혼게이자이신문에 따르면, 경제산업성과 총무성은 기존 'AI 사업자 가이드라인'을 대폭 보강한 개정안을 다음 달 말쯤 발표할 예정이다.
이번 개정안은 자율성이 강해진 AI 시스템이 일으킬 수 있는 오작동이나 사생활 침해 등의 부작용을 방지하기 위해 노력하고 있다. 일본 정부는 AI 에이전트와 피지컬 AI를 각각 환경을 감지하고 목표를 달성하는 시스템, 스스로 추론한 결과를 물리적 행동으로 이행하는 시스템으로 규정할 예정이다.
특히, 이 지침은 시스템의 자율적 판단뿐만 아니라 '인간의 개입'을 필수적으로 보장하는 구조를 강조하고 있다. 이는 AI가 통제를 벗어나 사고를 일으킬 경우를 대비한 조치로, 또한 교육 분야에서 AI가 학생들의 독자적인 사고력 발달을 저해할 수 있는 위험을 경각심을 높이기 위해 명시하고 있다.