[이 기사에 나온 스타트업에 대한 보다 다양한 기업정보는 유니콘팩토리 빅데이터 플랫폼 '데이터랩'에서 볼 수 있습니다.]
AI(인공지능) 데이터 전문기업 셀렉트스타가 한국인공지능산업협회(AIIA)의 민간 AI 신뢰성 인증 제도인 'AI-MASTER'에 시험기관으로 지정됐다고 2일 밝혔다.
AI-MASTER는 AIIA가 주관하고 셀렉트스타와 슈어소프트테크가 시험기관으로 참여하는 실증 중심 민간 주도 AI 신뢰성 검·인증 사업이다. 해당 인증은 유럽연합(EU)의 'Trustworthy AI' 원칙 및 ISO/IEC 국제표준 9종을 기반으로 63개 항목에 대한 정량적인 평가를 수행한다.
셀렉트스타는 LLM(거대언어모델) 영역의 시험기관으로 참여한다. 전체 인증 프레임워크의 공동 설계, 평가 항목 정의, 자동화 평가 도구 개발 등의 역할을 맡는다.
특히 인간의 행동 주체성과 감독, 기술적 강건성과 안전, 투명성, 사회 및 환경 복지 등 4가지 Trustworthy AI 평가 항목과 그에 따른 8가지 세부항목을 정의했다. 루브릭(Rubric, 평가 항목에 대한 수행 기준 제시) 기반의 평가 체계를 설계했다는 설명이다.
AI-MASTER 인증 평가에는 셀렉트스타가 자체 개발한 AI 신뢰성 검증 자동화 솔루션 '다투모 이밸(Datumo Eval)'이 사용됐다. 인증 평가의 전체 항목 중 약 60%는 다투모 이밸을 통해 자동 평가가 진행된다.
다투모 이밸의 주요 기능은 △기업의 AI 서비스 유형과 사용 목적에 따른 평가 기준 설정 △도메인 및 서비스에 부합한 맞춤형 평가용 질문 자동 생성 △AI 서비스의 답변 자동 평가 및 결과 분석 △AI 서비스의 취약점을 이끌어내는 레드티밍 등이다.
AI-MASTER는 셀렉트스타를 포함한 시험기관의 기술 검증을 거친 뒤 산학연 전문가들의 인증 심의를 통해 종합 평가가 이뤄지고, AIIA에서 인증서를 발급하는 구조로 운영될 예정이다. 향후 정부 R&D 과제, 공공조달 연계, 고영향 AI 지정 제도 등과의 연동이 예정돼 있다.
김세엽 셀렉트스타 대표는 "자사가 보유한 신뢰성 평가 역량을 공공 인증 체계에 적용할 수 있게 됐다"며 "앞으로도 다투모 이밸을 중심으로 AI 안전성과 AI 서비스 품질 향상에 기여할 것"이라고 말했다.
