[이 기사에 나온 스타트업에 대한 보다 다양한 기업정보는 유니콘팩토리 빅데이터 플랫폼 '데이터랩'에서 볼 수 있습니다.] AI(인공지능) 및 반도체 통합 솔루션 개발 스타트업 디노티시아가 한양대학교 AIHA연구실과 공동 개발한 AI 양자화(경량화·Quantization) 알고리즘 평가 플랫폼 'QLLM-INFER'를 공개했다고 8일 밝혔다. 해당 플랫폼은 깃허브(GitHub)에 오픈소스로 공개돼 누구나 사용할 수 있다. AI 양자화는 데이터를 더 작은 표현으로 변환해 AI 모델의 크기를 줄이고 계산량을 감소시키는 기술이다. LLM(거대언어모델)을 개인용 컴퓨터나 스마트폰에서 작동할 수 있도록 하는 데 사용된다. 다만 AI 양자화는 다양한 알고리즘이 서로 다른 환경과 조건에서 평가돼 비교가 쉽지 않았다. 디노티시아와 한양대는 이런 문제를 해결하기 위해 표준화된 환경에서 알고리즘 성능을 정확히 비교할 수 있는 플랫폼을 만들었다. 더불어 최근 3년간 가장 많이 주목받은 양자화 기술 8가지
고석용기자 2025.04.08 16:30:00[이 기사에 나온 스타트업에 대한 보다 다양한 기업정보는 유니콘팩토리 빅데이터 플랫폼 '데이터랩'에서 볼 수 있습니다.] 국내 AI반도체 팹리스 스타트업 디노티시아와 하이퍼엑셀이 공동으로 'RAG(검색증강생성) 최적화 AI 추론 시스템'을 개발한다고 20일 밝혔다. 협력에 따라 양사는 디노티시아가 개발하는 VDPU(벡터 데이터 연산가속기)와 하이퍼엑셀의 LPU(거대언어모델 연산가속기)의 기술을 공유하게 된다. 두 팹리스 스타트업의 협력은 최근 AI서비스 산업에서 빠른 데이터 검색에 대한 수요가 늘어나는 데 따라 진행됐다. 양사에 따르면, AI서비스 업계는 최근 처리하는 데이터의 양이 방대해지고 텍스트·이미지·오디오 등 형식이 다양해지면서 기존 검색과 생성형AI 방식으로는 일정 수준 이상 효율을 높이는 데 한계를 겪고 있다. 이에 디노티시아는 VDPU를 활용해 AI가 대규모 멀티모달 데이터를 실시간으로 검색·활용할 수 있도록 하고, 하이퍼엑셀은 LPU를 통해 AI 모델의 연산 성능을
고석용기자 2025.03.20 21:00:00[이 기사에 나온 스타트업에 대한 보다 다양한 기업정보는 유니콘팩토리 빅데이터 플랫폼 '데이터랩'에서 볼 수 있습니다.] 인공지능(AI) 및 반도체 솔루션 스타트업 디노티시아가 한국어를 통한 수학 문제 해결, 코드 작성, 문맥 이해 등에 특화된 거대언어모델(LLM) 'DNA-R1'을 개발했다고 7일 밝혔다. 한국어로 추론 전 과정을 출력하는 LLM 모델은 DNA-R1이 처음이다. 'DNA-R1'은 지난해 디노티시아가 공개한 LLM인 'DNA:디노티시아AI'에서 논리적 추론과 문제 해결 능력을 강화했다. 단순한 텍스트 생성에서 벗어나 고도화된 분석과 복합적 사고까지 수행할 수 있는 것이 특징이다. 한국어 AI 성능 평가 지표인 'KMMLU 벤치마크'에서 59.9%를 기록했다. 이는 기존 동급 모델이 기록한 50.5%보다 나은 성능임을 뜻한다. 디노티시아는 AI 모델의 논리적 사고 능력을 극대화하기 위해 먼저 대량의 한국어 데이터를 학습시켜 문장 이해 능력을 확보하고, 논리적 사고에 특
고석용기자 2025.03.07 07:00:00[이 기사에 나온 스타트업에 대한 보다 다양한 기업정보는 유니콘팩토리 빅데이터 플랫폼 '데이터랩'에서 볼 수 있습니다.] 인공지능(AI) 전문기업 디노티시아가 보험 설계사 비교 플랫폼 '보인다'를 운영하는 파인더스와 함께 보험 AI 솔루션 공동 개발을 위한 전략적 업무협약(MOU)을 체결했다고 26일 밝혔다. 디노티시아는 메타의 라마(Llama) 아키텍처 기반의 LLM(거대언어모델) 'DNA'를 개발한 스타트업이다. DNA는 한국어 평가 데이터인 KMMLU 벤치마크에서 최고 성능을 기록하며 한국어 이해 및 생성에서 우수성을 입증했다. 사피온코리아 CTO(최고기술책임자) 출신 정무경 대표가 2023년 설립했다. 양사는 협약에 따라 sLLM(경량 거대언어모델)과 RAG(검색 증강 생성) 기술을 적용해 보험 데이터 분석의 정확성과 활용성을 높이고, 유통·판매 데이터를 기반으로 보험사의 리스크 평가 및 계약 심사 과정의 운영 효율성을 높인다는 계획이다. 디노티시아는 "기존 LLM은 높은 연
고석용기자 2025.02.26 10:00:00AI(인공지능) 스타트업 디노티시아가 LLM(거대언어모델) 파운데이션 모델 'DNA'를 허깅페이스에 오픈소스로 공개하고 베타테스트를 시작한다고 12일 밝혔다. 이번에 공개한 'DNA 1.0 8B Instruct' 모델은 80억 개의 파라미터 규모로, 라마(Llama) 아키텍처 기반의 이중언어 모델이다. 한국어 이해와 생성에 최적화된 모델로, 작은 모델 크기로도 고품질의 한국어 서비스를 제공할 수 있도록 한 것이 특징이다. 디노티시아는 DNA 개발을 위해 고품질 한국어 데이터셋을 사용해 지속적 사전 학습(CPT)을 진행했다. 또 지도 학습 미세조정(SFT) 및 직접 선호 최적화(DPO) 등 기술로 자연스러운 대화 능력과 수행 능력을 강화했다. 앞서 한국어 언어모델 벤치마크인 'KMMLU'에서는 평균 점수 53.26점을 기록하며, 최근 발표한 LG엑사원3.5 (45.30점) 및 엔씨소프트 VARCO (38.49점), 알리바바 Qwen2 (45.66점), 야놀자 EEVE (42.17점)
고석용기자 2024.12.12 11:00:00