대학들이 생성형 인공지능(AI)을 도입하는 과정에서 토큰 비용 관리가 중요한 과제로 떠올랐습니다. 특히 해외 거대언어모델(LLM)을 기반으로 한 AI 사용이 늘어나면서, 해외 사업자에게 토큰 비용이 지불되는 것으로 인해 지식서비스 무역수지 불균형 문제가 우려되고 있습니다.
대학들은 AI 도입을 확대하면서 고성능 외산 LLM에 의존하는 것을 줄이고 비용 효율적인 AI 활용 체계를 구축해야 한다는 목소리가 나오고 있습니다. 서울대는 최근 도입한 '챗GPT 에듀'를 사용하는 학생과 교직원들을 대상으로 개인별 사용 한도를 설정하였습니다. 그러나 사용량이 급증함에 따라 토큰 비용 지출도 크게 늘어나고 있습니다.
다른 대학들도 동일한 문제에 직면하고 있습니다. 전남대는 여러 생성형 AI 모델을 제공하면서도 개인별 크레딧 한도를 적용하고, 충남대는 LLM 서비스 도입 시 매월 5000크레딧을 지급하는 방식으로 사용량을 관리하고 있습니다.
교육계는 대학에서 늘어나는 AI 사용량이 토큰 비용 지출로 인해 국내 자본의 해외 유출을 가속화할 우려가 있으며, 현재 사용되는 AI 서비스의 대부분이 글로벌 빅테크의 서비스이기 때문에 지식서비스 무역수지에 부정적인 영향을 미칠 수 있다는 우려가 있습니다.
AI 전문가들은 앞으로 업무 특성에 맞춰 국산·외산 모델을 조절하고, 전체 토큰 사용량을 최적화하는 '모델 오케스트레이션' 체계가 중요해질 것으로 전망하고 있습니다. 이승현 가천대 스타트업칼리지 겸임교수는 “대학도 이를 고려해 전략을 세워야 한다”고 강조했습니다.