유니콘팩토리

최근 생성형 AI(인공지능)를 활용해 음란 영상과 무관한 인물의 얼굴을 합성하는 '딥페이크'가 퍼지면서 피해자가 우후죽순 생기고 있다. 주로 소셜미디어와 모바일 메신저를 통해 이러한 딥페이크가 유포되는데, 각 플랫폼별로 각기 다른 삭제 절차 때문에 피해자들이 어려움을 겪고 있다. 국내외 주요 플랫폼에서 딥페이크 영상을 삭제할 수 있는 구체적인 절차들을 모아봤다. ━피해자가 일일이 찾아서 신고해도…처리에 2~3일 걸려━유튜브, 인스타그램 등 해외 서비스마다 권리침해 신고 절차가 있지만, 비교적 까다롭고 게시물 삭제까지 시간이 걸린다. 때문에 신속하고 정확하게 신고하는 것이 중요하다. 유튜브는 영상 우측 하단의 '신고' 버튼을 누른 뒤 '내 권리 침해'를 선택하면 된다. 신고에 필요한 영상 주소를 얻기 위해선 영상에서 마우스 우클릭을 해 '동영상 URL 주소'를 확보해야 한다. 모바일 앱에선 영상을 전체보기로 설정한 뒤 하단의 '점 세 개'를 클릭해 신고하고, 쇼츠 영상은 우측 상단의

[이 기사에 나온 스타트업에 대한 보다 다양한 기업정보는 유니콘팩토리 빅데이터 플랫폼 '데이터랩'에서 볼 수 있습니다.] 고인이 살아 생전 남긴 음성 메시지, 메일 등을 학습한 AI(인공지능) 챗봇 서비스, 이른바 '데드봇(deadbots)'이 부상하면서 '사망자가 남긴 디지털 유산을 어떻게 처리할 것인가'가 AI 윤리에서 쟁점으로 떠올랐다. 국내에서는 아직 이와 관련 명확한 법적 규제가 없는 상황이다. 데드봇은 고인이 남긴 문자, 음성기록, 웹상 게시물 등을 AI에 학습해 고인의 언어 사용 패턴과 성격 특성을 모사하는 AI 챗봇을 말한다. 세상을 떠난 사람의 어투나 목소리를 그대로 빼닮아 마치 상대가 살아있는 것처럼 대화할 수 있는 게 특징이다. 영국 케임브리지대 레버훌룸 인텔리전스 미래센터(LCFI) 연구팀은 최근 "고인이 남긴 '디지털 유산'이 AI 학습에 활용될 경우 고인의 의사를 막론하고 홍보·마케팅용으로 쓰일 가능성이 있다"고 지적했다. 국내에도 데드봇과 유사하게 고인의

유엔(UN) 회원국이 안전한 인공지능(AI) 시스템 활용을 위한 국제적 합의안 마련에 뜻을 모았다. 21일(현지시간)로이터통신에 따르면 UN회원국은 미국 뉴욕 UN 본부에서 총회를 열고 안전하고 신뢰할 수 있는 AI 관련 결의안을 만장일치로 채택했다. 전 세계적으로 AI 사용이 거스를 수 없는 흐름이 된 상황에서 이미지 합성기술인 '딥페이크'와 같은 부작용을 최소화하기 위한 대책 마련에 머리를 모으겠다는 취지다. 이번 결의안은 AI 시스템의 안전하고 신뢰할 수 있는 보안 기준의 필요성을 강조했다. 특히 디지털화를 방해하기보다는 더욱 증진하는 방향으로 인공지능이 사용되어야 한다는 것이 기본 개념이다. AI 사용과 관련해 선진국과 신흥국 간 디지털 격차를 좁혀야 한다는 내용도 담겨있다. 신흥국도 AI를 혜택을 누릴 수 있는 기술과 능력을 갖추도록 도와야 한다는 의미다. 이들 국가는 질병 진단, 홍수 예방, 농업 생산성 향상, 직업교육 등에서 AI 사용이 필요한 측면이 있다는 취지다. 미

[이 기사에 나온 스타트업에 대한 보다 다양한 기업정보는 유니콘팩토리 빅데이터 플랫폼 '데이터랩'에서 볼 수 있습니다.] 생성형 인공지능(AI) 스타트업 딥브레인AI가 경찰청과 함께 딥페이크 탐지 솔루션을 선보였다고 15일 밝혔다. 경찰청은 개발된 솔루션을 활용해 총선 사기, 보이스피싱, 성범죄 등 디지털 범죄 검거에 활용한다는 계획이다. 딥브레인AI의 딥페이크 탐지 솔루션은 종합탐지와 음성탐지 등 2가지로 구성돼 있다. 각각 이미지와 영상, 음성 탐지를 지원한다. 딥페이크로 의심되는 영상을 시스템에 업로드하고 탐지모델, 탐지구간, 탐지인물 등을 설정하면 5~10분 내에 진위여부를 판별한다. 이미지와 영상은 픽셀 단위로 분석하며, 음성은 주파수와 시간, 노이즈 등 다양한 조작 요소를 종합적으로 고려해 판단한다. 판별이 완료되면 변조율과 합성유형 등 범죄에 사용된 기술 정보도 함께 제공한다. 딥브레인AI는 이번 솔루션 개발에 한국인 데이터 100만 건, 아시아 계열 인종 데이터 13만