유니콘팩토리

AI(인공지능) 스타트업 디노티시아가 LLM(거대언어모델) 파운데이션 모델 'DNA'를 허깅페이스에 오픈소스로 공개하고 베타테스트를 시작한다고 12일 밝혔다. 이번에 공개한 'DNA 1.0 8B Instruct' 모델은 80억 개의 파라미터 규모로, 라마(Llama) 아키텍처 기반의 이중언어 모델이다. 한국어 이해와 생성에 최적화된 모델로, 작은 모델 크기로도 고품질의 한국어 서비스를 제공할 수 있도록 한 것이 특징이다. 디노티시아는 DNA 개발을 위해 고품질 한국어 데이터셋을 사용해 지속적 사전 학습(CPT)을 진행했다. 또 지도 학습 미세조정(SFT) 및 직접 선호 최적화(DPO) 등 기술로 자연스러운 대화 능력과 수행 능력을 강화했다. 앞서 한국어 언어모델 벤치마크인 'KMMLU'에서는 평균 점수 53.26점을 기록하며, 최근 발표한 LG엑사원3.5 (45.30점) 및 엔씨소프트 VARCO (38.49점), 알리바바 Qwen2 (45.66점), 야놀자 EEVE (42.17점)

[이 기사에 나온 스타트업에 대한 보다 다양한 기업정보는 유니콘팩토리 빅데이터 플랫폼 '데이터랩'에서 볼 수 있습니다.] 퓨리오사AI, 딥엑스 , 모빌린트 등 국내 NPU(신경망처리장치) 팹리스 스타트업들이 내년부터 주력 제품의 양산 및 PoC(개념검증)를 마무리하고 판매 및 공급을 시작한다. NPU 팹리스 스타트업들이 첫 번째 시험대에 오르는 셈이다. 백준호 퓨리오사AI 대표는 3일 서울대학교시스템반도체산업진흥센터가 개최한 'AI(인공지능)반도체 포럼'에서 "양산을 완료한 2세대 NPU '레니게이드'를 LG AI연구원, 사우디 아람코 등과 칩 샘플링(테스트)를 진행하고 있다"며 "내년 1월부터는 삼성전자 등 더 많은 글로벌 기업들과의 평가가 예정돼 있다"고 말했다. 레니게이드는 퓨리오사AI가 1세대인 워보이에 이어 두 번째로 선보인 제품이다. 국내 팹리스가 개발한 NPU중에선 처음으로 HBM3(고대역폭메모리)를 탑재해 양산에 성공했다. 경쟁 상대는 엔비디아의 'L40S'로 백 대표