[IT썰]챗GPT를 자살에 악용하는 사례 나오자, 칼 빼든 오픈AI
오픈AI가 챗GPT에 이용자 보호 기능 2가지를 추가했다. 최근 챗GPT가 자살에 악용되거나, 자살을 부추기는 사례가 나와서다. 2일(현지시간) 테크크런치 등 외신에 따르면 오픈AI는 민감한 대화가 나오면 자동으로 GPT-5 등 추론 모델로 전환하는 기능을 추가했다. 다음 달까지 '부모 통제 기능'도 도입할 계획이다. 이는 최근 10대 청소년 아담 레인이 챗GPT로부터 배운 방법으로 자살한 사건에 대응하는 것이다. 아담 레인의 부모는 오픈AI를 상대로 소송을 제기했다. 정신질환 병력이 있던 다른 챗GPT 이용자 스타인-에릭 쇨버그는 챗GPT와 음모론에 관해 대화하면서 망상이 강해졌고, 어머니를 살해한 뒤 자살하기도 했다. 오픈AI는 대화가 위험한 방향으로 흐를 경우 자동으로 추론 모델로 전환하는 것을 한가지 해결책으로 본다. 회사는 GPT-5 thinking이나 o3 등 추론 모델이 악의적 프롬프트에 더 강하다고 설명했다. 오픈AI는 "최근 대화 맥락에 따라 효율적인 채팅 모델과
이찬종기자
2025.09.03 07:55:17