정보통신산업진흥원(NIPA)이 업무 혁신을 위해 '생성형 인공지능(AI)'을 도입하는 준비를 하고 있다. NIPA는 이재명 정부의 'AI 3대 강국 도약'을 이끄는 중요한 기관으로, 이번 생성형 AI 모델이 미래에 공공 표준으로 채택될 수 있다는 관측이 나온다.
업계 소식에 따르면, NIPA는 생성형 AI 시스템을 구축하기 위한 준비과정에 돌입했다. 이번 사업은 NIPA 임직원 500여명이 활용할 기관 맞춤형 거대언어모델(LLM)을 구축하는 것이 목표다.
NIPA는 단순하고 반복적인 행정 업무를 자동화하고 최적의 AI 모델을 찾기 위해 노력하고 있다. 이를 위해 거대언어모델(LLM)뿐만 아니라 경량 거대언어모델(sLLM) 등 다양한 유형과 특징을 분석하고 있다.
NIPA는 국내 클라우드 서비스 제공업체들의 인프라를 활용해 국산 LLM을 도입하거나, 내부 서버에 sLLM을 설치하는 방안을 비교·검토하고 있다. 또한, '한국형 AI'를 도입할 가능성도 높게 평가되며, 보안을 준수하는 국산 AI 모델과 인프라가 유리하다는 분석이 나온다.
생성형 AI의 문제인 '환각(할루시네이션)'을 해결하기 위한 기술적 검토도 이뤄지고 있다. NIPA는 신뢰할 수 있는 데이터를 활용해 정확한 행정 처리를 지원하는 검색 증강 생성(RAG) 기술을 필수적으로 검토할 예정이다.
NIPA는 2027년까지 기관 맞춤형 LLM을 구축하고, 상용 LLM을 활용하며, 2028년에는 AI를 주요 업무 서비스로 확대할 계획이다. 이후 2029년에는 AI 업무 서비스를 보편화하고 업무에 확실하게 도입할 계획이다. NIPA 관계자는 “내부 업무 혁신을 통해 서비스 전반의 AI 전환을 통해 대국민 서비스 질을 높일 것”이라고 밝혔다.