유니콘팩토리

한국과학기술정보연구원(KISTI)은 과학기술 특화 LLM(거대언어모델) '고니'(KONI) 연구진의 논문 2편이 국제표현학습학회(ICLR)에 동시 채택됐다고 30일 밝혔다. ICLR은 신경정보처리시스템학회(NeurIPS), 국제머신러닝학회(ICML)와 세계 3대 AI 학회로 꼽힌다. 고니팀은 비영리 오픈소스 연구단체 해례(HAERAE)팀과 한국어 특화 추론 모델을 개발했다. 579만건의 한국어 네이티브 프롬프트와 370만건의 장문 추론 경로를 포함한 '이상' 학습 데이터세트를 구축했다. 이는 공개된 한국어 사후 학습 데이터자원 중 최대 규모다. 또 영어로 사고하지만 답변은 한국어로 하는 '혼합 언어 단계적 사고' 기법을 적용했다. 한국어 전용 모델의 논리적 한계를 극복하고, 번역 어투를 최소화하면서 추론 효율을 극대화했다. 덕분에 딥시크(DeepSeek)-R1-32B 등 유사 규모의 글로벌 모델보다 높은 한국어 추론 성능을 기록했다. 특정 언어나 도메인에 모델을 적응시킬 때 기존 지식을 잊어버리는 '치명적 망각' 문제를 해결하는 '저계층 적응 기반 대조 보정'(LGCD) 기술도 개발했다.

"AI(인공지능) 전문인력을 양성하려면 AI 개발에 필요한 전산자원 확보가 필수입니다." 최근 대전 한국과학기술정보연구원(KISTI) 본원에서 만난 이경하 KISTI 초거대AI연구단장(사진)은 "디지털 대전환 시기에 부족한 AI인력을 확보하려면 이들이 실제 연구·개발을 할 수 있는 인프라를 갖춰야 한다"면서 "충분한 학습데이터와 정보처리가 빠른 슈퍼컴퓨터 등 전산자원을 확보하고 AI반도체 개발·생산자립 등 AI생태계를 재편하기 위한 노력이 필요하다"고 말했다. 지난해 9월 고용노동부는 앞으로 5년(2023~2027년) 동안 AI분야에서 고급인력 1만2800명이 부족할 것이라는 예측결과를 발표했다. 확대되는 글로벌 AI시장에서 필요한 AI전문가 수는 약 6만6000명인데 2027년까지 공급될 전문가는 5만3000명 정도에 그친다. 클라우드와 빅데이터분야 전문가도 각각 1만8800명, 1만9600명 부족할 것으로 예상됐다. '한국어 과학기술정보 전문 LLM(거대언어모델)'의 성능을 2

'한국형 과학기술 전문 LLM(거대언어모델)'을 개발한 국내 과학기술 데이터 최고 책임기관인 한국과학기술정보연구원(KISTI)이 국회, 육군 등 보안이 중요한 곳의 디지털 전환에 나선다. KISTI는 올해 초 LLM 학습 전문가인 이경하 단장을 필두로 '초거대AI(인공지능)연구단'을 발족했다. 지난해 12월에 내놓은 첫 한국어 기반 과학기술정보 LLM인 'KONI(한국명 고니·로고) 13b'에 이어 성능은 높이고 크기는 다양화한 LLM을 개발해 자체 AI를 필요로 하는 기관·기업을 지원한다는 계획이다. LLM은 '챗GPT'와 같은 생성형 AI의 '뇌'에 해당한다. 텍스트와 이미지를 학습하고 기억해 분석·요약·새로운 콘텐츠 생산 등 목적에 맞는 임무를 수행한다. 생성형 AI의 유용성은 결국 LLM의 성능에 달렸는데 모델의 파라미터(매개변수) 규모가 클수록 성능이 뛰어나다. 모델이 학습한 정보를 서로 연결해 처리하는 역할을 파라미터가 맡기 때문이다. 메타의 '라마3'는 700억개의 파