[이 기사에 나온 스타트업에 대한 보다 다양한 기업정보는 유니콘팩토리 빅데이터 플랫폼 '데이터랩'에서 볼 수 있습니다.] 자료제공=업스테이지업스테이지가 차세대 경량화 거대언어모델(sLLM) '솔라 프로2'의 프리뷰 버전을 공개한다고 20일 밝혔다. 주요 벤치마크 성능에서 메타의 라마 3.3모델이나 알리바바의 큐원 2.5 등 빅테크 sLLM보다 높은 성능을 보이는 것이 특징이다.
솔라 프로2는 지난 12월 출시된 '솔라 프로'의 후속 모델이다. 매개변수(파라미터)를 기존 220억(22B)개에서 310억(33B)개로 확대하고 성능도 향상시켰다. 업스테이지는 7월 정식 출시에 앞서, 초기 테스트용으로 프리뷰 API(응용프로그램인터페이스)를 무료로 사용할 수 있도록 공개했다.
솔라 프로2는 'MMLU(종합 지식)', 'IFEval(지시 이행)' 등 주요 LLM 벤치마크 성능 평균에서 메타의 '라마 4 스카우트', '라마 3.3 70B', 알리바바의 '큐원 2.5 72B' 등 매개변수가 700억개 안팎으로 두 배 이상 많은 빅테크의 sLLM들보다 높은 성능을 기록했다. 또한 'KMMLU', '해례(HAE-RAE)' 등 한국어 성능을 평가하는 벤치마크에서도 가장 높은 점수를 기록했다.
아울러 솔라 프로2는 '하이브리드 모드'도 탑재했다. 모델 사용 시 빠른 응답에 최적화된 '챗 모드'와, 단계적 사고를 거쳐 구조화된 답변을 생성하는 '추론 모드' 중 선택할 수 있다. 추론 모드에는 '생각 사슬(CoT)' 기법이 적용돼 수학이나 코딩처럼 복잡한 문제에서 정교한 답변을 제공한다.
사용성도 강화했다. 기존보다 2배 확장된 6만4000 토큰까지 지원해 더 긴 문서나 대화를 한 번에 처리할 수 있다. 또 자체 토크나이저(tokenizer) 개선을 통해 한국어 및 문서 기반 작업에서 최대 30%까지 토큰을 절감시키며 응답 속도와 비용 효율도 대폭 향상시켰다.
김성훈 업스테이지 대표는 "솔라 프로2는 31B 규모로 70B 모델 수준의 성능을 구현한다"며 "특히 최고 추론 성능에 뛰어난 한국어 성능을 갖춘 이번 모델을 통해 더 많은 업무 혁신을 기대한다"고 말했다.
