[이 기사에 나온 스타트업에 대한 보다 다양한 기업정보는 유니콘팩토리 빅데이터 플랫폼 ‘데이터랩’에서 볼 수 있습니다.] /사진제공=클라이온
AI(인공지능) 클라우드 서비스 기업 클라이온이 서울특별시의 '생성형 AI 기반 챗봇 2.0 구축 사업'을 완료했다고 20일 밝혔다.
이번 사업은 서울시의 '서울 AI 비전' 핵심 전략과제 중 하나인 행정서비스 AI 전환의 일환으로 추진됐다. 클라이온은 주관사로서 지난해 9월부터 약 6개월간 GPU(그래픽처리장치) 인프라 구축, 서울시 데이터 기반 모델 튜닝, RAG(검색증강생성) 기반 AI 서비스 구축 등을 수행했다.
클라이온은 폐쇄망 기반의 서울시 내부 행정 챗봇과 대시민 서비스 '서울톡' 연계 챗봇의 응답 정확도를 높이기 위해 자체 RAG 성능평가 솔루션 '렉스(REX)'를 도입했다. 약 2만개 데이터셋에서 질의응답 세트를 추출한 뒤, LLM(거대언어모델) 평가와 휴먼 평가를 병행하는 다단계 검증을 진행했다. 이를 통해 챗봇의 응답 정확도를 90점 이상으로 확보하고 환각 현상(할루시네이션)을 제어했다.
이번에 활용된 렉스는 RAG 시스템의 성능을 측정하고 분석해 자동 개선하는 품질 관리 솔루션이다. 답변의 충실성과 관련성 등 12개 국제 표준 지표를 활용해 품질을 정량적으로 측정하며, 유해성·편향성 탐지 등 윤리적 AI 평가도 지원한다. 특히 평가 결과의 원인을 검색 영역과 생성 영역으로 자동 분류해 구체적인 개선 방향을 제시하는 것이 특징이다.
박윤지 클라이온 대표는 "서울시 AI 행정 혁신 사업을 통해 시민과 공무원이 활용할 수 있는 AI 서비스를 구현했다"며 "렉스와 같은 솔루션을 통한 객관적 성능 검증을 바탕으로 공공 AI 서비스 구축에 기여할 것"이라고 말했다.
클라이온은 LG CNS에서 엔지니어링 업무를 담당했던 박윤지 대표가 2021년 1월 설립한 클라우드·AI(인공지능) 기반 디지털 전환(DX) 전문 기업이다.
