유니콘팩토리

오픈AI는 매주 100만명 이상이 챗GPT와 자신의 사망에 대해 이야기한다고 27일(현지시간) 밝혔다. 테크크런치 등 외신은 오픈AI가 공개한 챗GPT 사용자의 정신 건강 문제와 이를 AI(인공지능) 챗봇과 상담하는 현황을 보여주는 신규 데이터를 분석한 결과 주간 활성 사용자의 0.15%가 '사망 계획이나 의도를 암시하는 명백한 지표가 포함된 대화'를 나눈다고 보도했다. 챗GPT의 주간 활성 사용자가 8억명 이상인 점을 감안했을 때 매주 100만명 이상의 사용자가 여기에 해당한다. 오픈AI는 이와 비슷한 비율의 사용자가 '챗GPT에 대한 감정적 의존도가 높아진 상태'를 보이며 수십만 명의 사용자가 AI 챗봇과의 주간 대화에서 정신병적 증상이나 조증 징후를 보인다고 설명했다. 오픈AI는 이런 데이터를 근거로 챗GPT 최신 버전에 170명 이상의 임상 전문가가 참여했다고 밝혔다. 정신 건강 문제를 가진 사용자에게 챗GPT가 응답하는 방식을 개선하기 위해서다. 오픈AI는 챗GPT 최신

오픈AI가 챗GPT에 이용자 보호 기능 2가지를 추가했다. 최근 챗GPT가 자살에 악용되거나, 자살을 부추기는 사례가 나와서다. 2일(현지시간) 테크크런치 등 외신에 따르면 오픈AI는 민감한 대화가 나오면 자동으로 GPT-5 등 추론 모델로 전환하는 기능을 추가했다. 다음 달까지 '부모 통제 기능'도 도입할 계획이다. 이는 최근 10대 청소년 아담 레인이 챗GPT로부터 배운 방법으로 자살한 사건에 대응하는 것이다. 아담 레인의 부모는 오픈AI를 상대로 소송을 제기했다. 정신질환 병력이 있던 다른 챗GPT 이용자 스타인-에릭 쇨버그는 챗GPT와 음모론에 관해 대화하면서 망상이 강해졌고, 어머니를 살해한 뒤 자살하기도 했다. 오픈AI는 대화가 위험한 방향으로 흐를 경우 자동으로 추론 모델로 전환하는 것을 한가지 해결책으로 본다. 회사는 GPT-5 thinking이나 o3 등 추론 모델이 악의적 프롬프트에 더 강하다고 설명했다. 오픈AI는 "최근 대화 맥락에 따라 효율적인 채팅 모델과