유니콘팩토리

14세 소년이 가상 세계 속 캐릭터에 애정을 갖다 결국 사망에 이르게 된 사건과 관련, 해당 플랫폼을 운영하는 미국 AI(인공지능) 스타트업 '캐릭터AI'가 18세 미만 미성년자의 이용을 금지하는 계획을 내놨다. 29일(현지 시각) 캐릭터AI는 자사 블로그를 통해 내달 25일부터 18세 미만 이용자가 AI 채팅 기능을 사용할 수 없도록 제한한다고 밝혔다. 캐릭터AI는 애니메이션 캐릭터 등 가상세계 속 다양한 캐릭터와 대화하는 것 같은 '롤플레잉'(역할 놀이) 플랫폼을 제공한다. 먼저 18세 미만 사용자의 채팅 이용 시간을 하루 2시간으로 제한한다. 일일 이용 시간을 점차 축소해 내달 25일부터 미성년자는 채팅을 이용할 수 없다. 사용자 연령 구분을 위해서 자체 개발한 연령 확인 시스템과 더불어 연령 확인 시스템 기업 '페르소나'와 파트너십을 맺고 검증을 강화한다. 아울러 AI 안전성을 확인하는 독립 비영리 기관 'AI안전연구소'를 설립해 자금을 지원할 계획이다. 앞서 캐릭터AI는

실제 사람과 이야기 나누는 듯한 대화법을 구사하도록 설계된 생성형 AI(인공지능) 챗봇이 미성년자를 위험에 빠트릴 수 있다는 지적이 나왔다. 노미샤 큐리언 영국 케임브리지대 리버흄 미래지능 연구센터 박사는 "챗봇과 미성년 사용자 간 '공감 격차'가 커 윤리적 문제가 생긴다"며 "챗봇이 가져올 잠재적 위협을 대비해야 한다"는 내용의 분석 결과를 10일(현지시간) 국제 학술지 '러닝·미디어·테크놀로지'에 온라인 발표했다. AI 챗봇은 메신저에서 일상 언어처럼 대화할 수 있는 AI 프로그램을 말한다. 생성형 AI 기술이 발달하며 페이스북, 인스타그램 등 각종 소셜미디어(SNS)는 메신저에 챗봇 기능을 도입하는 추세다. 가까운 친구와 대화하듯 자연스러운 질문과 대답을 이어갈 수 있는 게 생성형 AI 챗봇의 특징이다. 그런데 미성년자는 챗봇에 친근감을 느끼고 '진짜 사람'처럼 대할 가능성이 높다. 2022년 케임브리지대 정신의학과 연구팀이 8~13세 사이의 어린이 28명을 대상으로 진행한