[이 기사에 나온 스타트업에 대한 보다 다양한 기업정보는 유니콘팩토리 빅데이터 플랫폼 '데이터랩'에서 볼 수 있습니다.]

AI(인공지능) 인프라 솔루션 기업 모레가 미국 반도체 기업 AMD의 연례 AI 행사에서 자사 분산 추론 기술을 선보였다고 24일 밝혔다.

모레는 22~23일(현지시간) 미국 샌프란시스코에서 열린 AMD의 연례 AI 행사 '어드밴싱 AI(Advancing AI) 2026'에 참가해 AMD GPU(그래픽처리장치) 기반 분산 추론 솔루션 'MoAI 추론 프레임워크'를 선보였다.

이번 행사에서 모레는 AMD MI300X GPU 32장(4노드)으로 구성한 시스템에서 자사 분산 추론 솔루션 'MoAI 추론 프레임워크'를 활용해 대규모언어모델(LLM) 'GLM-5.1'을 실시간으로 구동하는 시연을 진행했다. 관람객들은 직접 챗봇을 사용해 응답 속도와 서비스 품질을 체험했으며, 다양한 환경에서 AI가 얼마나 안정적으로 작동하는지도 확인했다.

모레는 시연 과정에서 AI 서비스의 핵심 성능 지표도 실시간으로 공개했다. 사용자의 질문에 얼마나 빨리 첫 답변을 시작하는지(TTFT), 초당 얼마나 많은 답변을 생성하는지(TPS), 답변을 이어가는 속도(TPOT), GPU 사용 효율 등을 함께 보여주며 실제 서비스 환경에서의 성능과 인프라 활용도를 검증했다

회사 측은 AMD GPU에서 구동 난도가 높은 GLM-5.1을 실시간 서비스 수준으로 구현한 점에 대해 글로벌 AI 업계 관계자들의 관심을 받았다고 밝혔다.

모레의 'MoAI 추론 프레임워크'가 AMD GPU 환경에서 분산 추론을 지원하는 솔루션으로, AI 서비스 운영 비용 절감과 인프라 효율 개선을 목표로 개발됐다. AI 모델의 대형화로 증가하는 추론 비용과 서비스 운영 부담을 낮추기 위한 기술이라는 설명이다.

조강원 모레 대표는 "이번 행사를 통해 AMD GPU 환경에서도 높은 수준의 추론 성능을 구현할 수 있음을 글로벌 고객들에게 직접 선보였다"며 "GPU 종류와 관계없이 기업들이 AI 서비스를 효율적으로 운영할 수 있도록 AI 인프라 소프트웨어를 지속적으로 고도화하겠다"고 말했다.

한편 모레는 AI 인프라 소프트웨어를 자체 개발하고 있으며, LLM 전문 자회사 모티프테크놀로지스를 통해 모델 개발 역량도 확보했다. 회사는 현재 AMD와 텐스토렌트 등 글로벌 반도체 기업들과 협력하고 있다.



[머니투데이 스타트업 미디어 플랫폼 유니콘팩토리]