인공지능(AI) 안전성을 확보하는 사업자들의 누적 연산량은 AI 학습과정에서 기록된 데이터와 시스템 로그 등의 객관적 지표를 활용하여 산출됩니다. 이 누적 연산량은 데이터 전처리, 미세조정(파인튜닝) 등 모든 학습 관련 연산량을 포괄적으로 반영하며, 실질적인 기여가 없는 연산은 제외될 수 있습니다.
과학기술정보통신부는 'AI 안전성 확보 의무의 이행방법 등에 관한 고시' 제정안을 통해 이 내용을 중심으로 지침을 마련하였습니다. 이로써 AI 안전성 의무 대상 사업자를 판별하는 '학습 누적연산량 10의 26승 플롭스' 기준이 보다 명확해져 산업계의 불확실성을 해소하였습니다.
누적 연산량 산정방식은 국내외 기업 사이의 혼선을 방지하기 위해 구체화되었습니다. AI 설계 정보와 구조를 기반으로 연산량을 추정하는 수학적 방식, 경험과 통계에 기반한 일부 지표로 연산량을 계산하는 방식, 그리고 하드웨어 자원 실제 사용량을 기반으로 하는 방식을 활용하게 되었습니다.
또한, 기업이 정부나 공공기관에서 산정한 누적 연산량에 대해 이의를 제기할 수 있는 절차를 마련하였습니다. 사업자가 제출한 누적 연산량 관련 자료의 검증을 위해 AI 사업자 동의를 받아 전문기관에 의뢰할 수 있도록 하여 제도 운영의 신뢰도를 높이는 근거도 마련되었습니다.
이 외에도 AI 수명주기 동안 위험을 식별, 평가, 완화하는 방법, AI 관련 안전사고를 모니터링하고 대응하기 위한 위험관리체계 등에 대한 구체적 내용이 담겨 있습니다. 이러한 규제는 고영향 AI 사업자들의 의무를 구체화하고, 이용자 보호에 중점을 두고 있습니다.