[이 기사에 나온 스타트업에 대한 보다 다양한 기업정보는 유니콘팩토리 빅데이터 플랫폼 '데이터랩'에서 볼 수 있습니다.]

"젠슨 황 엔비디아 CEO(최고경영자)가 한국에 GPU(그래픽처리장치) 26만장을 공급한다고 해도 현재 그 장비를 마땅히 둘 곳이 없다. 기존 방식으로 AI(인공지능) 데이터센터를 짓는다고 하면 3~4년 뒤에나 완공이 가능하다."

'AI 모듈형 데이터센터' 구축을 신사업으로 추진하는 스타트업 텐(TEN)의 오세진 대표는 "데이터센터 설계·구축 기간은 보통 3~4년 소요되는데 이는 AI 서버 인프라의 급격한 변화 속도에 신속하게 대응할 수 없다"며 이같이 말했다.

오세진 대표는 물류창고처럼 짓는 기존 데이터센터 모델로는 급증하는 AI 인프라 수요에 유연하게 대응할 수 없다고 지적했다. 그는 "AI 인프라는 GPU를 중심으로 전력 소모, 장비 무게, 공간 밀도 측면에서 '중력'(Gravity)이 급격하게 증가하고 있다"고 했다.

이어 "한 면적당 약 2톤 가까이 실리기 때문에 기존 데이터센터를 활용하려면 바닥 공사까지 다시 해야 하는 문제가 발생한다"며 "서버의 전력 사용량도 폭발적으로 늘어나 처음 설계 때와 달리 두 공간을 하나로 운용하게 되는 등 공간 효율성이 떨어질 수 있다"고 덧붙였다.

또 데이터센터의 냉각 방식을 공랭식에서 수랭식으로 바꾸게 되면 지어놓은 설비를 뜯어고쳐야 해 엄청난 비용이 발생하는 문제, 데이터센터 수요 급증에 따라 운영·유지·보수에 필요한 기술을 가진 전문인력이 부족한 문제 등도 불거질 수 있다고 내다봤다.
6개월만에 구축 가능한 AI 데이터센터

오 대표는 이 같은 구조적 문제를 해결할 수 있는 대안으로 모듈형 데이터센터를 제안했다. 그는 "모듈형으로 6개월 만에 제작·설치가 가능하고 규격화된 제품 모듈은 1개월 만에도 구축할 수 있다"고 했다.

기존 철조 컨테이너 기반 데이터센터는 불에 취약하고 단열이나 중량에 대한 내구도가 낮은 반면 모듈러 데이터센터는 콘크리트 골조를 기반으로 구축돼 내화 및 단열과 무거운 중량에 대한 내구도가 높다는 설명이다.

오 대표는 "모듈 단위로 증설 가능하고 복층 및 대규모 구조로도 확장할 수 있다"며 "전산실 외에도 업무공간, 복도, 화장실 등 다양한 공간 요소를 단일 플랫폼으로 구성하고 확장할 수 있다"고 부연했다.

그는 "고객은 필요에 따라 신규 모듈러로 계속 교체하며 데이터센터를 운영할 수 있다"며 "텐은 자체 개발한 DCIM(Data Center Infrastructure Management) 관리 툴을 통해 모듈 단위로 데이터센터를 관리함으로써 운영 효율성을 극대화한다"고 강조했다.

그러면서 "모듈형 데이터센터의 목표는 TCO(Total Cost of Ownership) 관점에서 고객이 모든 비용을 투명하게 보고, 이 비용을 최소화하는 방법을 제공하는 것"이라며 "IoT(사물인터넷)와 CCTV 등 프리미엄 관리 기능을 붙여 고객 만족도를 더욱 높일 것"이라고 덧붙였다.
GPU 서버 운영 '10대→1대'로 줄여

텐이 데이터센터로 사업을 확장한 배경에는 그동안 운영해 온 AI 인프라 효율화 솔루션에 대한 시장 수요가 급증하고 있다는 점이 고려됐다. 소프트웨어 수준을 넘어 하드웨어 차원에서도 AI 인프라 최적화를 필요로 하는 기업이 빠르게 늘고 있다는 흐름을 포착했다.

오 대표는 AI 인프라 비용을 효율화하는 기술의 중요성을 일찌감치 간파하고 챗GPT 돌풍이 불기 훨씬 전부터 관련 기술을 개발해 사업을 전개해왔다.

그는 "기업이 AI 서비스를 도입해 5~6억원의 비용을 절약한다고 해도 인프라 구축·운영에 10~20억원이 들면 의미가 없다"며 "값비싼 자원인 인프라를 효율화하고 인프라를 제대로 쓸 수 있도록 중간 다리 역할을 하는 기술이 필요하다"고 말했다.

텐이 개발한 기술의 핵심은 쉽게 말해 'GPU 1개를 쪼개 쓰는 기술'이다. 예를 들어 기업이 1개의 AI 서비스를 구동하는데 1개의 GPU를 다 썼다면 텐은 GPU를 100개로 가상 분할해 서비스 구동에 필요한 만큼만 자원을 쓰고, 남은 자원은 다른 서비스에 쓸 수 있도록 한다.

이를 활용하면 기업들은 무작정 많은 GPU를 확보할 필요 없이 적절한 수의 GPU만으로도 여러 AI 서비스들을 운영할 수 있게 된다. 오 대표는 "실제로 10대의 GPU 서버를 운영하던 기업이 텐의 기술을 통해 1대로 줄인 사례가 있다"고 소개했다.
"AI 보편화 통해 세상을 AI롭게 한다"

오 대표는 "GPU 보급이 확대될수록 사업적 성장도 따라가는 구조"라며 "GPU, CPU(중앙처리장치), 네트워크, 스토리지 등 고객의 목적과 예산에 알맞게 전체 인프라 구성에 대한 하드웨어 컨설팅 서비스도 제공한다"고 했다.

텐은 올해 NH농협이 유망 스타트업을 발굴·육성하는 '2025 NH×스타트업 오픈이노베이션' 프로그램에 선정돼 범농협 계열사와의 협업, 컨설팅, 후속 투자유치 연계 등 스케일업을 위한 다양한 지원을 받고 있다.

최근에는 국내 AI 인프라 솔루션 기업 중 최초로 '엔비디아 파트너 네트워크'(NPN)에 솔루션 어드바이저 컨설턴트로 합류하기도 했다. 이에 따라 GPU 자원관리 솔루션과 엔비디아의 최신 GPU·소프트웨어 스택을 결합해 보다 최적화된 솔루션을 제공할 수 있게 됐다.

오 대표는 "주력 제품인 AI Pub(에이아이펍)은 업계 표준인 쿠버네티스(Kubernetes)를 기반으로 설계돼 확장성과 호환성이 뛰어나 해외 시장에서도 빠른 적용이 가능하다"며 "국내 시장 기반을 다진 후 글로벌 AI 인프라 시장 진출을 본격화할 것"이라고 했다.

이어 "텐의 비전은 '세상을 AI롭게 하자'는 것"이라며 "AI 도입의 가장 큰 허들은 비용적인 문제다. AI 인프라 자원의 활용을 극대화해 기업들의 AI 도입 비용을 절감하고 AI 보편화에 기여하는 회사가 되겠다"고 강조했다.



[머니투데이 스타트업 미디어 플랫폼 '유니콘팩토리']