구글 클라우드 “자사 TPU 기반으로 NC 바르코 LLM 개발”

구글 클라우드 로고./제공=구글 클라우드

구글 클라우드는 엔씨소프트가 최초로 구글 클라우드 TPU를 기반으로 바르코 LLM을 개발, 학습 했다고 밝혔다.

엔씨소프트는 지난 8월 국내 게임사 최초로 자체 개발한 AI 언어 모델 바르코 LLM을 공개했다. 개발 초기 단계부터 엔씨소프트가 직접 선별한 고품질 데이터로 학습된 VARCO LLM은 현재까지 공개된 유사한 크기의 한국어 언어 모델 대비 최고의 성능을 구현하며 Q&A, 챗봇, 요약, 정보 추출 등 다양한 자연어처리 기반 AI 서비스 개발에 활용되고 있다.

엔씨소프트는 VARCO LLM을 개발하기 위해 클라우드 TPU를 도입하고 지난 1년 동안 AI 모델 학습을 진행했다. 클라우드 TPU는 대규모 AI 모델 학습과 추론에 최적화된 구글 클라우드의 맞춤형 머신러닝 가속기(ASIC)로 챗봇, 코드 생성, 미디어 콘텐츠 생성 등 다양한 사용 사례를 지원한다. 엔씨소프트는 클라우드 TPU가 제공하는 업계 최고 수준의 속도와 성능을 바탕으로 LLM 학습에 소요되는 시간을 효과적으로 단축하고 학습 생산성을 향상시킬 수 있었다.

생성형 AI 시대를 맞아 AI 관련 인프라 수요가 폭발적으로 증가하며 수급이 어려운 시대에도 탄력적인 운영이 가능한 점 또한 엔씨소프트가 구글 클라우드 TPU를 긍정적으로 평가한 이유 중 하나였다. 구글이 제공하는 업계 선도적인 AI 기술 역시 엔씨소프트 자체 AI 연구와 시너지를 낼 수 있을 것으로 판단했다. 특히 클라우드 TPU가 GPU 대비 달러 당 거의 2배 높은 성능을 제공하면서, 엔씨소프트는 대규모 AI 학습 워크로드의 성능과 비용을 최적화했다.

이연수 엔씨소프트 NLP 센터장은 "엔씨소프트는 이미 십수 년 전부터 국내 게임사 중 최초로 AI 조직을 운영하며, 고객에게 새로운 가치를 제공하기 위해 기술 연구에 매진해 왔다. VARCO LLM은 이러한 노력의 결실이자 엔씨소프트의 새로운 비전"이라며 "클라우드 TPU의 뛰어난 성능과 확장성, 국내외를 아우르는 구글 클라우드 엔지니어링 팀의 전방위적 지원 덕분에 LLM 개발을 빠르고 비용 효율적으로 수행할 수 있었다. 앞으로도 양사가 함께 성장을 도모하며 협력을 지속해 나갈 예정"이라고 전했다.

강형준 구글 클라우드 코리아 사장은 "게임사가 자체 LLM 개발에 클라우드 TPU를 도입한 것은 구글 클라우드 고객 중 최초이며, 이는 매우 선도적인 사례"라며 "구글 클라우드가 국내 게임 업계에서 AI 퍼스트 무버를 지켜온 엔씨소프트의 든든한 조력자로 함께 할 수 있어 기쁘게 생각한다. 앞으로도 구글 클라우드의 독보적인 AI 기술과 인프라를 바탕으로 엔씨소프트를 비롯한 국내 기업이 게임 체인저로 도약해 글로벌 경쟁력을 더욱 강화할 수 있도록 적극 지원할 예정"이라고 말했다.