삼성SDS가 엔비디아의 최신 GPU '블랙웰 울트라(B300)'를 기반으로 한 구독형 서비스인 'SCP B300 GPUaaS'를 국내 최초로 출시했다. 이 서비스는 AI 에이전트 및 이미지·영상 생성과 같은 고성능 AI 서비스의 지연 시간을 최소화하여 기업의 고성능 컴퓨팅 수요에 대응하는 전략이다.
B300 GPU는 12단 고대역폭메모리(HBM3E)를 탑재하여 GPU당 288GB의 메모리 용량과 초당 8TB의 대역폭을 제공한다. 이는 이전 모델인 H100 대비 용량은 3.6배, 대역폭은 2.4배 향상되어 복잡한 AI 추론 작업에서 뛰어난 성능을 발휘한다. 또한 대규모 언어 모델 실행 시 발생하는 데이터 병목 현상을 개선하여 처리 속도를 향상시켰다.
이 서비스를 통해 고용량 메모리를 활용하여 거대 AI 모델을 효율적으로 처리할 수 있으며, 필요한 만큼만 사용하고 지불하는 구독형 모델을 통해 초기 투자 리스크를 줄이고 비용을 최적화할 수 있다. 또한 삼성SDS의 보안 역량을 활용하여 기업의 민감한 데이터를 안전하게 처리할 수 있다.
삼성SDS는 이 서비스에 추가로 '서버리스 추론 서비스'와 'AI 학습 서비스'를 올해 3분기에 선보일 계획이며, 클라우드서비스사업부 사업부장인 이호준 부사장은 "SCP의 자원 최적화 및 에너지 절감 역량을 활용하여 국내 최초 B300 서비스를 제공하고 AI 전환을 적극 지원할 것"이라고 밝혔다.
또한 삼성SDS는 대구센터에 H100 기반 인프라를 도입하여 범정부 초거대 AI 공통기반 구현 사업을 수행하고 있으며, 과기정통부 주관 고성능 컴퓨팅 지원사업의 수행사로서 60여 개 중소기업, 스타트업, 연구기관 등에 GPU를 공급하여 저변을 확대하고 있다.