유튜브가 AI(인공지능) 허위 영상 단속에 나섰다. 크리에이터의 얼굴, 목소리 등을 AI로 무단 복제해 상품 홍보 등에 활용하는 영상을 감지하고 해당 크리에이터에게 삭제권을 부여한다. 회사는 지난 4월부터 유명인 권익 보호를 위해 노력해왔다.

21일(현지시간) 테크크런치 등 외신에 따르면 유튜브는 유사성 감지(Likeness-detection) 기술을 공식 출시했다. 유사성 감지 기술은 크리에이터의 얼굴, 목소리 등을 무단으로 사용한 AI 생성 콘텐츠를 식별하고 관리한다.

이 기술은 AI 생성 콘텐츠로 크리에이터가 특정 제품이나 서비스를 추천하는 것처럼 허위 정보를 퍼뜨리는 것을 방지하기 위해 설계됐다. 최근 몇 년 간 유튜브에는 AI 생성 콘텐츠 악용 사례가 많았다. 전자부품 브랜드 일레크로우(Elecorw)가 유튜버 제프 기어링(Jeff Geerling)의 목소리를 AI로 복제해 자사 제품 활용에 사용한 것이 그중 하나다.

유튜브는 자사 채널을 통해 유사성 감지 기술 사용 지침을 제공했다. 크리에이터는 '유사성'(Likeness) 탭에 들어가 데이터 처리에 동의하고 화면에 표시된 QR코드를 스마트폰으로 스캔한다. 이후 신원 확인용 웹페이지가 표시되면 사진이 포함된 신분증과 셀프카메라 영상을 게시한다.

유튜브는 신원이 확인되면 도구 사용 권한을 부여한다. 권한을 부여받은 크리에이터는 유사성이 감지된 모든 영상을 확인할 수 있으며, 유튜브 개인정보 보호 지침에 따라 삭제를 요청할 수 있다. 영상을 보관할 수도 있다. 크리에이터는 이 기술 사용을 중단할 수도 있다. 이 경우 유튜브는 24시간 후부터 해당 크리에이터의 영상을 검색하지 않는다.

유사성 감지 기술은 올해 초부터 시범 운영됐다. 회사는 지난해 크리에이티브 아티스트 에이전시(CAA)와 협력해 유명인, 운동선수, 크리에이터들이 플랫폼상에서 AI 생성 콘텐츠를 식별할 수 있도록 지원한다고 발표했다.

아울러 유튜브는 지난 4월 '노 페이크 법'(NO FAKES Act) 입법안에 대해 지지를 표한 바 있다. 이 법안은 사람의 이미지나 음성을 모방해 타인을 속이거나 유해한 콘텐츠를 생성하는 AI 복제본 문제를 해결하는 것이 목표다.

유튜브 관계자는 "이번 기능 출시로 첫 번째 변화의 물결이 시작됐다"며 "기능 적용 대상 크리에이터들은 화요일 아침 부로 이메일을 받았다"고 설명했다.