# 지난해 11월 미 펜실베이니아주 랭커스터 카운티의 한 사립학교가 AI가 만든 딥페이크 음란물 논란으로 셧다운됐다. 학부모의 요구로 교장이 사퇴하는 등 혼란이 이어지자 하루 동안 모든 수업을 중단키로 한 것이다. 남학생 2명이 약 60명의 여학생을 대상으로 500장의 딥페이크 음란물을 만들어 유포한 게 발단이 됐다.

두 가해 학생은 SNS(소셜네트워크서비스)에서 여학생들의 사진을 확보해 AI 애플리케이션으로 나체 이미지를 만들었다. 이들은 다량의 이미지를 생성하기 위해 여러 개의 이메일 주소를 만들고, 폐쇄형 SNS인 디스코드 비공개 채팅방에서 위변조된 사진과 동영상을 주고받았다. 이를 계기로 주 정부는 법을 개정해 AI로 만든 아동 성범죄물 소지·유포를 중범죄로 규정했다.

헤더 애덤스 랭커스터 카운티 지방검찰청 검사는 "이번 사건에 연루된 피해자 수는 우려스러운 수준"이라며 "이들의 트라우마는 상상할 수 없을 정도"라고 우려했다. 이어 "(AI를 활용한 딥페이크라는) 범죄 수법은 새롭지만, 피해자에게 미치는 영향은 기존의 아동 착취 범죄와 다르지 않다. 피해자의 삶에 깊고 해로운 영향을 끼친다"고 지적했다.

비단 미국만의 사례는 아니다. 국내에서도 생성형 AI를 활용한 청소년 대상 딥페이크 성범죄가 증가 추세다. 지난해 국내 딥페이크 성범죄 피해자의 46.2%가 10대일 정도다.

딥페이크란 AI가 합성한 진짜 같은 가짜 이미지로, 생성형 AI 기술 진화로 빠르고 쉽게 정교한 딥페이크 제작이 가능해지면서 이를 악용한 범죄도 늘고 있다. 타인의 얼굴을 성적 이미지와 합성해 유포하는 성범죄가 대표적이다. 특히 딥페이크 사진의 경우 짧은 시간 내 적은 리소스로 수백장을 찍어낼 수 있어 우려가 크다.

문제는 '디지털 네이티브'인 청소년들이 AI를 활용해 가해하는 사례도 늘고 있다는 점이다. 경찰청에 따르면 지난해 딥페이크 성범죄 사건 1202건을 수사해 피의자 682명을 검거한 결과, 10대가 548명으로 80.4%를 차지했다. 10세 이상~14살 미만인 촉법소년도 104명(15.2%)이나 됐다. 전문가들은 생성형 AI의 높은 편의성과 접근성, 텔레그램 등 폐쇄형 SNS가 범죄 도구로 악용되고 있다고 지적한다.
친구 얼굴에 나체 사진 합성…'지인 능욕' 목격률 급증

방송통신위원회와 한국지능정보사회진흥원(NIA)의 '2024년도 사이버폭력 실태조사 결과'에서도 이같은 경향이 확인된다.

9000여명의 청소년(초4~고3)을 대상으로 설문 조사한 결과 지난해 사이버폭력 경험률이 42.8%를 기록했다. 2020년(22.8%)의 2배 수준이다. 특히 사이버폭력 가해 경험이 2020년 9.5%에서 지난해 22.5%로 급증했다. 다만 여기엔 딥페이크 같은 사이버 성범죄뿐 아니라 온라인상의 언어폭력이나 따돌림·스토킹도 포함돼 있다.

디지털 성범죄를 목격했다는 청소년도 느는 추세다. 지난해 청소년의 16.1%가 디지털 성범죄를 목격했는데, 2020년 5.7%의 3배 수준이다. 가장 많이 목격한 디지털 성범죄는 불법 영상물 유포(8.2%)다. 그 뒤를 지인 능욕(7.5), 몰래카메라(5.3%), 디지털 성착취(4.6%), 몸캠(4.5%)이 잇는다. 모든 유형에서 목격 경험률이 전년 대비 증가했지만 '지인 능욕' 증가세(2.3%포인트 증가)가 가장 두드러졌다. 지인 능욕이란 지인의 얼굴을 나체사진을 합성해 성희롱하는 대표적인 딥페이크 성범죄다.

학교를 비롯한 청소년 커뮤니티에서 딥페이크 성범죄가 심각한 위협으로 떠올랐지만, 정작 학생들의 문제의식은 낮다. 지난 연말 교육부가 발표한 '학교 딥페이크 불법 영상물 관련 청소년 인식조사'에서 응답자들은 교내 딥페이크 성범죄가 발생하는 원인 1위로 '장난'(54.8%)을 꼽았다. △성적 호기심(49.3%) △들키지 않을 것이라고 생각해서(44.1%) △들켜도 처벌이 약해서(38.2%) △심각하게 잘못된 행동은 아니라고 생각해서(31.4%)가 그 뒤를 이었다.
내 친구가 가해자일 수도?…커지는 학내 불안감 범죄를 용이하게 하는 기술과 낮은 범죄 인식으로 인해 잠재적 피해자로서의 두려움은 커진다.

교육부가 지난 연말 발표한 '학교 딥페이크 불법 영상물 관련 청소년 인식조사'에서 응답자의 75%는 학교 딥페이크 성범죄 사건 발생으로 '불안감을 느꼈다'고 답했다. 가장 큰 이유는 '나도 모르게 피해자가 될 수 있다는 생각 때문'(76%) 이다. '내 주변 사람이 가해자일 수 있다'(45.4%)는 공포도 컸다. 나도 모르는 새 주변인으로부터 성희롱의 대상이 될 수 있다는 두려움이 깔린 것이다. 디지털 성범죄물 특성상 짧은 시간 내 광범위하게 유포돼 통제가 어렵다는 점도 불안을 키운다.

딥페이크 성범죄의 가해·피해자가 저연령화되는 점은 우려 요인이다. 디지털 성범죄 피해자를 지원하는 중앙디지털성범죄피해자지원센터 관계자는 "AI 기술이 상용화되면서 10대 미만도 손쉽게 활용할 수 있다 보니 초등학생 피해가 많이 들어온다"며 "피해영상물이 한 번 유포되면 수많은 사용자에 의해 2차, 3차로 가공·재유포되면서 최초 유포자를 특정하기 어려운 경우도 있다"고 말했다.