유니콘팩토리

14세 소년이 가상 세계 속 캐릭터에 애정을 갖다 결국 사망에 이르게 된 사건과 관련, 해당 플랫폼을 운영하는 미국 AI(인공지능) 스타트업 '캐릭터AI'가 18세 미만 미성년자의 이용을 금지하는 계획을 내놨다. 29일(현지 시각) 캐릭터AI는 자사 블로그를 통해 내달 25일부터 18세 미만 이용자가 AI 채팅 기능을 사용할 수 없도록 제한한다고 밝혔다. 캐릭터AI는 애니메이션 캐릭터 등 가상세계 속 다양한 캐릭터와 대화하는 것 같은 '롤플레잉'(역할 놀이) 플랫폼을 제공한다. 먼저 18세 미만 사용자의 채팅 이용 시간을 하루 2시간으로 제한한다. 일일 이용 시간을 점차 축소해 내달 25일부터 미성년자는 채팅을 이용할 수 없다. 사용자 연령 구분을 위해서 자체 개발한 연령 확인 시스템과 더불어 연령 확인 시스템 기업 '페르소나'와 파트너십을 맺고 검증을 강화한다. 아울러 AI 안전성을 확인하는 독립 비영리 기관 'AI안전연구소'를 설립해 자금을 지원할 계획이다. 앞서 캐릭터AI는

생성형 AI(인공지능) '챗 GPT'를 만든 오픈AI가 18세 미만 사용자를 위한 챗 GPT를 이달 말 공개한다. 16일(현지 시각) CNBC에 따르면 샘 올트먼 CEO(최고경영자)는 블로그에 "우리는 청소년의 프라이버시와 자유보다 안전을 더 중요하게 생각한다"며 "미성년자는 상당한 수준의 보호가 필요하다고 믿는다"고 밝혔다. 오픈AI가 공개한 '청소년 전용 챗 GPT'에서는 부모가 자신의 계정과 자녀의 계정을 이메일로 연결해 사용 금지 시간을 설정할 수 있다. 또 특정 기능을 부모가 제한하고 관리할 수 있다. 또 청소년이 심각한 위기에 처했을 때는 알림을 전송해 법 집행 기관이 개입할 수 있도록 했다. 이와 함께 사용자의 나이를 더 잘 예측하는 기술을 개발 중이다. 추정이 불완전할 경우 기본적으로 18세 미만 사용자를 가정하고 설정된다. 오픈AI의 조치는 최근 미국 연방거래위원회(FTC)가 AI 챗봇이 아동과 청소년에게 미치는 악영향을 조사하기 시작하며 나왔다. FTC는 "각 기