닫기

KT클라우드, GPU 서비스에 엔비디아 ‘H200’ 적용

기사듣기 기사듣기중지

공유하기

닫기

  • 카카오톡

  • 페이스북

  • 트위터 엑스

URL 복사

https://www.asiatoday.co.kr/kn/view.php?key=20250224010012547

글자크기

닫기

연찬모 기자

승인 : 2025. 02. 24. 15:06

kt cloud-H200
/KT클라우드
KT클라우드는 GPUaaS(서비스형그래픽처리장치)에 엔비디아 최신 GPU 'H200'을 적용한다고 24일 밝혔다.

KT클라우드는 AI 인프라가 필요한 국내 다수의 공공기관과 AI 스타트업을 대상으로 엔비디아 기반의 GPUaaS를 제공 중이다. 단기간 대용량·고사양의 GPU 공급이 요구되는 학습 영역에 특화된 'AI 트레인', 적은 양의 GPU를 끊김 없이 상시 공급해야 하는 추론 영역에 특화된 'AI 서브' 등이 대표적이다.

KT클라우드는 기존 'H100' 중심으로 운영되던 AI 트레인 서비스에 H200을 적용, 한층 강화된 성능을 구현한다는 계획이다.

엔비디아 H200은 업그레이드된 호퍼 아키텍처 기반의 최신 GPU 제품이다. AI 및 고성능 컴퓨팅 워크로드를 가속화하는 데 중점을 뒀다. 이전 모델 대비 연산 처리 능력과 전력 효율성이 개선됐으며, 메모리 대역폭이 넓어져 최적화된 고성능 학습 및 추론 인프라 환경을 제공한다.
KT클라우드는 GPU뿐만 아니라 NPU(신경망처리장치) 영역에도 대응하기 위해 리벨리온과 협력, 추론 전용 인프라인 'AI 서브 NPU' 서비스를 제공 중이다. 오는 5월 출시 예정인 리벨리온 '아톰 맥스'를 AI 서브 NPU에 적용해 sLM(소형언어모델)이 요구하는 NPU 성능 검증을 진행한다.

미국 반도체 설계 업체 암페어와도 AI 반도체 사업 협력을 검토하는 등 주요 사업자와 지속적으로 사업 영역을 확장할 계획이다. 하반기에는 공공기관을 대상으로 추론 전용 상품의 CSAP(클라우드 보안인증) 절차를 진행하며, 공공 분야 AI 수요에도 적극 대응할 계획이다.

공용준 KT클라우드 클라우드본부장은 "이번 엔비디아 H200 도입을 통해 글로벌 수준의 AI 인프라를 확보하며, AI 클라우드 사업자로서의 역량을 한층 높일 수 있게 됐다"고 밝혔다.
연찬모 기자

ⓒ 아시아투데이, 무단전재 및 재배포 금지

기사제보 후원하기