[이 기사에 나온 스타트업에 대한 보다 다양한 기업정보는 유니콘팩토리 빅데이터 플랫폼 '데이터랩'에서 볼 수 있습니다.] KT클라우드가 리벨리온의 AI반도체(인공지능 가속기·NPU)를 활용한 클라우드 인프라를 본격적으로 상용화한다. 리벨리온 NPU를 활용한 클라우드 인프라가 상용화되는 것은 이번이 처음이다.
13일 관련업계에 따르면 KT클라우드는 에듀테크 기업 스마트앤와이즈가 'AI기반 학습분석 플랫폼' 개발을 위해 사용하는 클라우드 인프라에 리벨리온의 NPU '아톰'을 활용하기로 했다. 스마트앤와이즈는 AI기반 학습분석 플랫폼을 시작으로 교육부가 2025년 전면 도입 예정인 전국 초·중·고 대상 디지털교과서 개발에도 KT클라우드와 리벨리온의 NPU를 활용할 예정이다.
통상 스마트앤와이즈 같은 서비스 개발 기업들은 AI기술을 활용하기 위해 데이터센터를 활용한다. KT클라우드 등 데이터센터는 서비스 개발 기업들이 요구하는 데이터 처리(연산) 속도나 비용 등에 맞춰 클라우드 인프라를 제공하는데, 이번에 GPU(그래픽처리장치) 뿐 아니라 아톰으로 구동하는 클라우드 인프라도 제공키로 한 것이다. 아톰이 소형언어모델(SLM) 추론에서 GPU보다 빠른 속도와 높은 전력효율을 보인 만큼, 아톰으로 구동하는 클라우드 인프라는 서비스 개발 기업들에게 더 높은 가격 대비 성능으로 제공될 전망이다.
아톰을 활용한 클라우드 인프라가 외부 고객에게 제공되는 것은 이번이 처음이다. KT그룹은 2022년부터 리벨리온에 전략적으로 투자하고 지난해 하반기에는 KT클라우드에 아톰 양산품을 공급받아 장착했다. 다만 이전까지는 NPU팜, K-클라우드 등 정부의 프로젝트 과제를 수행하는 데만 아톰을 사용했다.
리벨리온 관계자는 "성능테스트나 자사(KT) 서비스뿐 아니라 외부 고객에게 상용 서비스를 제공할 수 있을 정도로 아톰이 안정적으로 AI를 구동시키고 있다는 의미"라고 말했다. KT클라우드는 최근 또다른 AI서비스 개발 기업에도 아톰을 활용한 클라우드 인프라 제공을 검토하고 있는 것으로 전해진다.
리벨리온은 이번 상용화가 향후 글로벌 데이터센터 고객을 확보하는데 레퍼런스 역할을 해줄 것으로 기대하고 있다. 리벨리온은 올해 초 미국 지사를 설립한 후 최근에는 일본 법인을 설립하면서 해외 시장을 공략하고 있다.
특히 리벨리온은 연내 개발 완료 예정인 3세대 NPU '리벨'을 통해 본격적으로 해외 데이터센터 공급 성과를 낸다는 계획이다. 리벨은 GPT-3.5 같은 초거대언어모델(LLM)의 추론에 특화된 NPU로 엔비디아의 하이엔드 GPU인 H100 이상의 성능을 내는 게 목표다. 글로벌 대형 데이터센터가 고객이 될 것으로 전망된다.
팹리스 업계 관계자는 "NPU 팹리스들이 지난해까지 기술력을 기반으로 투자를 유치해 성장해왔다면 올해부터는 시장에서 본격적으로 성과를 내야할 때"라며 "리벨리온처럼 국내 데이터센터에서 레퍼런스를 먼저 구축하고 이를 기반으로 글로벌 시장에 나가면 성과를 내기 보다 수월할 것"이라고 말했다.
리벨리온 관계자 "'아톰을 기반으로 KT클라우드와 여러 방면에서 협업하고 있다"며 "다양한 분야에서 NPU 활용사례를 확대하고 시장을 넓혀갈 것"이라고 말했다.
