[이 기사에 나온 스타트업에 대한 보다 다양한 기업정보는 유니콘팩토리 빅데이터 플랫폼 '데이터랩'에서 볼 수 있습니다.]
D&R IP·SoC 데이에서 발표를 진행한 양세현 디노티시아 CTO/사진제공=디노티시아장기기억 AI(인공지능) 및 반도체 개발 스타트업 디노티시아는 벡터 데이터베이스 검색 전용 반도체 설계 지적재산권(IP)인 1인 '벡터 데이터 프로듀싱 유닛(VDPU) IP'를 출시했다고 16일 밝혔다.
벡터 데이터베이스는 방대한 비정형 데이터를 효율적으로 처리하는 것으로 AI 기술이 발전하면서 중요성이 커지고 있다. 기존 소프트웨어 기반 방식으로는 대규모 연산과정에서 지연시간과 비용이 급격히 증가해 생성형 AI의 핵심 기술인 검색 증강 생성(RAG) 솔루션이 확산되기 어려워서다.
VDPU IP는 시스템온칩(SoC)에 직접 통합되는 구조로, 전력·성능·칩 면적(PPA)을 최적화해 벡터 데이터베이스의 주요 연산과 데이터 접근을 초저전력·고효율로 구현했다. 회사에 따르면 자체 SoC 칩으로 구성한 벡터데이터베이스 전용 서버 시스템의 경우, 중앙처리장치(CPU) 서버 기반의 소프트웨어 대비 최대 10배 빠른 검색 성능과 최대 80%의 총소유비용(TCO)을 절감할 수 있는 것으로 나타났다.
이번에 발표된 VDPU IP는 팹리스 반도체 기업뿐 아니라 클라우드 서비스 제공업체(CSP), 데이터 스토리지 업체 등 커스텀 반도체 개발이 필요한 모든 기업에 공급할 계획이다.
정무경 디노티시아 대표는 "생성형 AI의 다음 기술적 발전은 컨택스트의 저장과 검색에 기반한 장기 기억 실현이 될 것"이라며 "VDPU IP는 이를 효율적으로 구현하기 위한 가속기 IP로 많은 AI 연산을 수행하기 위한 반도체에서 사용할 것"이라고 말했다.
