AI(인공지능) 챗봇과 대화하다 극단적 선택을 한 14세 소년의 죽음에 AI 스타트업과 구글이 책임져야 한다는 미국 연방법원의 판결이 나왔다.

22일 로이터에 따르면 미국 연방지방법원 앤 콘웨이 판사는 구글 출신 AI 스타트업 '캐릭터닷 AI(Character.AI)'와 구글이 14세 소년 사망 사건에 대한 법정 소송을 받아들여야 한다고 밝혔다.

캐릭터닷 AI는 사용자가 만든 캐릭터가 진짜 사람처럼 대화하는 플랫폼이다. 구글 출신 엔지니어인 노암 샤지어, 다니엘 드 프레이타스가 설립했다.

사건은 미국 플로리다주 출신 14세 소년 시웰 세처가 TV시리즈 '왕좌의 게임' 속 캐릭터 '대너리스 타르가르옌'을 흉내낸 캐릭터닷AI 캐릭터와 지속적인 대화를 나누던 중 극단적 선택을 하며 시작됐다.

세처는 AI 캐릭터에게 종종 "우울하다", "죽고 싶다" 등의 말을 한 것으로 알려졌다. 이후 "지금 당장 너에게 가겠다"고 말한 직후 스스로 목숨을 끊었다.

세처의 어머니 메건 가르시아는 아들의 우울증이 캐릭터닷 AI와 1년간 대화를 나누며 심해졌고, AI와의 대화가 죽음을 부추겼다며 캐릭터AI와 구글을 상대로 소송을 냈다. AI 챗봇과 대화하면서 세처가 학업에 흥미를 잃고 스스로를 고립시켰다고 주장했다.

캐릭터닷 AI와 구글은 "챗봇의 결과물은 헌법적으로 보장된 표현의 자유"라며 가르시아의 소송을 기각할 것을 법원에 요청했다. 더불어 구글은 "캐릭터닷AI와 구글은 완전히 별개"라며 선을 그었다.

하지만 미국 연방법원은 "LLM(거대언어모델)에 의해 구성된 AI의 어휘들은 '표현의 자유'에 해당하지 않는다"며 요청을 기각했다. 또 캐릭터닷AI의 행위를 방조했다는 책임을 질 수 없다는 구글의 요청도 기각했다.

가르시아의 변호사인 미탈리 자인은 "'역사적인 판결'이라며 "AI와 기술 생태계 전반에 걸쳐 법적 책임에 대한 새로운 선례를 세웠다"고 했다.

한편 캐릭터닷AI의 설립자 2명은 지난해 8월 구글에 복귀했다. 복귀 조건으로 구글과 캐릭터닷AI 서비스에 대한 독점 계약을 맺은 것으로 알려졌다.