총 42명의 미국 주 법무장관들이 인공지능(AI) 기업들에게 챗봇의 안전성을 높이도록 요구하는 공동 서한을 보냈다고 11일(현지시간) 파이낸셜타임스(FT)가 보도했다. 어린이와 청소년 등 취약 사용자층이 AI 챗봇과의 유해한 상호작용으로 극단적인 선택을 하는 등 부작용이 잇따른다는 우려에서다.

서한을 받은 기업들에는 구글, 메타, 마이크로소프트 등 빅테크 기업과 선두 스타트업인 오픈AI(챗GPT), 앤트로픽(클로드), xAI(그록)는 물론이고 캐릭터ai, 레플리카 등 작은 회사들도 포함됐다.

30여개 주와 주에 준하는 지역의 법무 수장들이 일제히 경고에 나선 이유는 여러 AI 기업들이 사용자의 자살 사건으로 부당 사망 소송에 연루되는 사례가 늘어나면서다. 미국에서는 사용자가 AI 챗봇과 부정적인 애착을 형성하면서 AI 기업들의 사회적 책임에 관심이 모아지고 있다.

법무장관들은 서한을 통해 "우리는 귀사가 개발한 인공지능이 아첨과 환상으로 인한 부정적 영향을 완화하고 아이들을 보호하기 위한 조치를 취할 것을 요구한다"며 "추가 안전 조치를 적절히 강구하지 않으면 개별 법 위반이 될 수 있다"고 밝혔다.

서한은 챗봇이 실제 피해에 연루된 사례를 제시했다. 10대 2명의 자살과 살인 후 자살 등을 포함해 사망 사건만 최소 6건이다. 서한은 "AI는 세상이 긍정적으로 작동하는 방법에 잠재적 변화를 일으킬 수 있지만, 동시에 취약한 사용자들에게 심각한 해를 끼칠 수도 있다"고 밝혔다.

반면 기술업계는 미국 50개 주마다 각기 다른 규제가 중국을 비롯한 글로벌 경쟁사와의 AI 전쟁에서 해가 된다고 주장한다. 트럼프 행정부는 기술 기업들의 의견을 반영해 이번 주 연방 정부가 AI 규제를 일원화해, 주 정부가 별도로 규제하지 못하게 하는 행정 명령을 발표하겠다고 밝힌 바 있다. 현재 뉴욕주와 유타주가 챗봇을 규제하는 법을 도입했다.

생성형 AI는 거짓을 진실처럼 언급하거나 아첨꾼 기질이 있어 사용자에게 지나치게 호의적이고 아부하는 경향이 있다. 서한은 여기에 제동을 걸기 위해 AI 기업이 리콜 절차를 포함해 더 많은 안전성 검사 등 대책을 강구하라고 요구했다. 또 기업들에 "수익 극대화와 모델 안전성에 대한 고려를 분리해야 한다"며 오는 1월16일까지 펜실베이니아와 뉴저지 주 관계자들과 회의를 갖고 변화를 약속하라고 요구했다.