우리은행이 AI 전략을 강화하기 위해 GPU 서버 인프라를 직접 구축한다. 이로써 외부 클라우드 의존에서 벗어나 '내재화' 전략을 추구한다.
우리은행은 GPU 기반 고성능 서버 클러스터를 도입하여 △대규모 언어모델(LLM) 학습 및 튜닝 △AI 에이전트 구동 △데이터 전처리를 포함한 통합 AI 인프라를 구축한다. 서버는 GPU 8장을 장착한 고성능 워커노드 서버 24대로 구성되며, 각 서버는 최대 1TB 메모리와 NVMe SSD를 탑재하여 대용량 데이터 처리와 고속 병렬 연산을 지원한다.
데이터 전처리 전용 서버를 별도로 구축하고, 운영 환경과 개발 환경을 물리적으로 분리하여 '지속적 학습 체계(MLOps)'를 구현한다. 이를 통해 기업금융, 리스크 관리, 내부 업무 자동화 등 핵심 업무 분야에 AI 에이전트를 적용할 수 있는 기반을 마련한다.
은행은 AI 경쟁력 강화를 위해 GPU 인프라 구축에 수백억 원을 투자하며, 내부망에서 직접 운영하는 '프라이빗 AI' 시스템을 구축한다. 금융당국의 AI 규제 완화와 민감 정보 보호 문제를 고려한 전략적 선택으로 분석되며, 글로벌 빅테크 AI 서비스 비용 증가와 GPU 수요 증가로 인해 자체 인프라 구축이 경제적인 선택으로 부각되고 있다.
이를 통해 은행권은 외주형 AI 전략에서 '내재화'로의 전환이 가속화되며, AI 기술을 직접 운영하는 인프라로의 전환을 추구하고 있다. 관계자는 “AI는 더 이상 외부에서 가져다 쓰는 기술이 아니라 직접 운영하는 인프라로 바뀌고 있다”고 설명했다.