오픈AI는 매주 100만명 이상이 챗GPT와 자신의 사망에 대해 이야기한다고 27일(현지시간) 밝혔다.

테크크런치 등 외신은 오픈AI가 공개한 챗GPT 사용자의 정신 건강 문제와 이를 AI(인공지능) 챗봇과 상담하는 현황을 보여주는 신규 데이터를 분석한 결과 주간 활성 사용자의 0.15%가 '사망 계획이나 의도를 암시하는 명백한 지표가 포함된 대화'를 나눈다고 보도했다. 챗GPT의 주간 활성 사용자가 8억명 이상인 점을 감안했을 때 매주 100만명 이상의 사용자가 여기에 해당한다.

오픈AI는 이와 비슷한 비율의 사용자가 '챗GPT에 대한 감정적 의존도가 높아진 상태'를 보이며 수십만 명의 사용자가 AI 챗봇과의 주간 대화에서 정신병적 증상이나 조증 징후를 보인다고 설명했다.

오픈AI는 이런 데이터를 근거로 챗GPT 최신 버전에 170명 이상의 임상 전문가가 참여했다고 밝혔다. 정신 건강 문제를 가진 사용자에게 챗GPT가 응답하는 방식을 개선하기 위해서다. 오픈AI는 챗GPT 최신 버전은 이전보다 더 적절하고 일관되게 응답한다고 강조했다.

챗GPT의 정신 건강 대응 문제는 최근 오픈AI가 직면한 새로운 문제로 떠오르고 있다. 오픈AI는 현재 사망 직전 몇 주간 챗GPT에 정신적 문제를 털어놓았던 16세 소년의 부모로부터 소송을 당한 상태다. 캘리포니아주와 델라웨어주 검찰총장은 오픈AI에 청소년 보호를 지시하기도 했다.

오픈AI는 GPT-5버전은 정신 건강 문제에 대해 이전 버전보다 약 65% 높은 수치의 '바람직한 응답'을 제공한다고 주장한다. 또 사망 관련 대화에서 AI 응답을 평가한 자체 테스트에서 GPT-5 모델은 오픈AI가 원하는 행동 기준을 91% 준수한다고 밝혔으며 이전 모델의 준수율인 77%보다 높은 수치다.

오픈AI는 챗GPT 사용자들의 정신 건강 문제를 측정하기 위한 새로운 평가 기준도 추가한다. 오픈AI는 AI 모델에 대한 기본 안전성 테스트와 별도로 감정적 의존도와 비자살적 정신 건강 응급 상황 평가 기준을 포함할 계획이다. 또 챗GPT를 사용하는 아동의 부모를 위한 연령 예측 시스템이 포함된 통제 기능도 추가로 출시할 예정이다.