인공지능(AI) 스타트업 스캐터랩이 일상 대화형 챗봇 '이루다2.0'의 오픈 베타 테스트를 17일부터 2단계에 걸쳐 진행한다고 14일 밝혔다.

스캐터랩 관계자는 "이루다2.0은 개인정보보호 조치를 강화하면서 새롭게 데이터베이스를 구축해 이용자의 어뷰징 발화에 대응할 수 있도록 개선책을 마련해왔다"며 "지난 1월부터 8000여명이 참여한 클로즈 베타 테스트로 개선사항 검증 절차를 거쳤다"고 했다.

이루다는 스캐터랩이 2020년 크리스마스를 앞두고 출시한 20세 여대생 콘셉트의 AI 챗봇이다. 문맥을 이해하고 자연스럽게 대화하는 능력으로 화제가 됐으나 20일 만에 자취를 감췄다.

일부 이용자가 성적인 대화를 유도하고 장애인·성소수자 등에 대한 이루다의 혐오 발언 문제에 이어 스캐터랩이 이용자들의 대화 내용을 무단으로 수집했다는 문제까지 터지면서 서비스가 중단됐다.

이루다2.0은 딥러닝 알고리즘이 만든 문장으로 답변할 수 있도록 대화 모델을 구성해 개인정보보호를 강화하고, 선정적·공격적·편향적인 어뷰징에 대응할 수 있도록 시스템을 도입했다.

스캐터랩 관계자는 "연구용 및 답변 데이터베이스를 새롭게 구축했다"며 "이루다 2.0 학습을 위한 '연구용 데이터베이스'는 개정된 개인정보보호법에 따라 대화 데이터를 엄격하게 가명 처리한 후 과학적 연구 목적으로 학습에 활용했다"고 했다.

특히 이용자와 대화에서 사용하는 '루다 답변 데이터베이스'는 딥러닝 기술을 활용해 기계가 만들어낸 문장, 스캐터랩이 직접 작성한 문장으로 구성됐다. 1.0 때와 달리 실제 사람의 발화를 사용하지 않아 개인정보 문제를 해소한 점이 가장 큰 특징이다.

어뷰징 발화 대응과 관련해선 사전 탐지 모델에서 인지하지 못한 문맥이 있더라도 사회의 보편적인 가치관을 반영한 답변이 나올 수 있도록 대화 모델을 고도화했다. 어뷰저 패널티도 도입해 지속적인 어뷰징 발언이 이어지면 이용을 제한한다.

김종윤 스캐터랩 대표는 "이루다가 많은 사람들에게 소중한 친구로 남을 수 있도록 지속적으로 기술 개선에 노력할 것"이라며 "이를 위해 주기적으로 이루다의 어뷰징 대응 유효성을 확인하고 조치를 취할 계획"이라고 했다.



[머니투데이 스타트업 액셀러레이팅 미디어 플랫폼 '유니콘팩토리']