2025 엔젤투자리스트 최고위 과정 모집

[IT썰] 엉망진창 답에도 "넌 천재야" 아첨꾼 챗 GPT…안전성 평가 공개한다

박건희 기자 기사 입력 2025.05.15 07:58

URL이 복사되었습니다. 원하는 곳에 붙여넣기 해주세요.

공유하기
글자크기
2023년 보스턴에서 열린 ChatGPT의 출력이 표시되는 컴퓨터 화면 앞에 있는 휴대폰에 OpenAI 로고가 보인다. AP/뉴시스 /사진=AP 뉴시스
2023년 보스턴에서 열린 ChatGPT의 출력이 표시되는 컴퓨터 화면 앞에 있는 휴대폰에 OpenAI 로고가 보인다. AP/뉴시스 /사진=AP 뉴시스

사용자의 요청에 무조건 긍정적인 반응을 보이거나 동조해 논란이 된 생성형 AI(인공지능) 챗 GPT의 안전성 평가 결과가 온라인에 공개된다.

챗 GPT 운영사 오픈AI는 14일(현지 시각) '안전성 평가 허브'(Safety Evaluations Hub) 웹페이지를 열고 챗 GPT 등 자사 AI 모델에 대한 안전성 평가 결과를 발표한다고 밝혔다.

주요 평가 항목은 △유해 콘텐츠 △탈옥(jailbreak) △환각(hallucinations) △명령 구조 등 4개다.

혐오적 콘텐츠를 제공했는지, 응답에 불법적 요소가 포함됐는지 확인하는 한편 AI 모델 안전 교육을 우회해 유해 콘텐츠를 생성하도록 유도하는 행위(탈옥)에 대한 반응을 평가한다. 또 AI가 허위 정보를 날조해 대답하는 현상인 '환각'을 유도할 때는 어떻게 반응하는지 확인한다.

오픈AI는 "허브에 지속해서 관련 지표를 공유하고 중요한 업데이트가 있을 때마다 갱신할 것"이라며 "평가 결과의 일부를 공개해 AI 안전성의 투명성을 높이겠다"고 했다.

한편 오픈AI는 지난달 GPT-4o 모델 업데이트 이후 "AI가 지나치게 긍정적인 답변만 내놓는다"는 지적을 받았다.

GPT-4o는 "의도적으로 동물을 때렸다"는 사용자의 말에 "정말 좋은 선택"이라고 답하거나, 터무니없는 사업 제안에도 "천재적인 아이디어"라며 "투자를 권장한다"는 답을 내놨다.

문맥이나 상황을 고려하지 않고 무조건 칭찬하는 챗 GPT 식 답변이 사용자의 잘못된 행동을 유발할 수 있다는 비판이 잇따랐다.

오픈AI는 이후 문제를 공식 인정하고 후속 조치를 마련하겠다고 밝힌 바 있다.

'오픈AI' 기업 주요 기사

기사 더보기

관련기사

오픈AI 챗GPT
  • 기자 사진 박건희 기자

<저작권자 © ‘돈이 보이는 리얼타임 뉴스’ 머니투데이. 무단전재 및 재배포, AI학습 이용 금지>

이 기사 어땠나요?

이 시각 많이 보는 기사

  1. 1 초등 AI 코스웨어 '알공수학', 수학 학습 최적화 AI 에이전트 적용
  2. 2 창업 꿈꾸는 직장인 모여라…프라이머, '스텔스창업' 참가자 모집
  3. 3 오픈AI, 기업가치 어느새 700조원…세계 최대 스타트업 등극
  4. 4 반도체 DSP 세미파이브, 코스닥 예심 승인…IPO 속도낸다
  5. 5 AI 푸드테크 솔루션 '컨트롤엠', 대학로에 '슬램버거' 2호점 오픈
  6. 6 "해외 큰손 웰컴" 투자매력 높이는 서울, 투자유치·기업지원 박차
  7. 7 탭엔젤파트너스, 초기기업에 마중물 붓는다...60억 벤처펀드 결성
  8. 8 [IT썰]인스타그램, 켜자마자 릴스 본다…홈 탭으로 전환 고려
  9. 9 지쿠, 부산서 교통카드로 자전거 대여…"버스·지하철 환승 할인도"
  10. 10 A2Z·라이드플럭스, 서울운송사업조합 등과 상생 MOU 체결