"경찰에 신고하지 마. 말 안 들으면 엄마 쏴버린다."

새벽 모친 번호로 걸려온 전화. 전화기 너머 모친은 울부짖고 부친은 "스티브, 어서 (전화) 받아라"라며 재촉했다. 인질범은 지금 부모를 붙잡고 있다면서 돈을 요구했다. 아들 스티브가 모친 목소리를 다시 들려달라고 하자 인질범은 "한 번만 더 그러면 살해하겠다"고 위협했다.

경찰관인 스티브는 침착하게 인질범에게 뭘 원하냐고 물었고, 돈을 원한다는 대답이 돌아왔다.

그 사이 스티브는 인질 협상 경험이 있는 동료에게 다른 전화로 연결해 스피커폰으로 대화를 엿듣게 했다. 인질범이 요구한 금액은 불과 750달러(100만원). 이상한 낌새를 느낀 동료는 모친 휴대전화 해킹으로 인한 보이스피싱이 의심된다고 귀띔했다. 직접 모친 번호로 전화를 걸어보니 모친은 안전했다. 전화기 너머 모친이 울부짖던 소리, 어서 전화를 받으라던 부친 목소리는 가짜였다.

지난해 3월 미국 뉴요커 기사에 소개된 딥보이스(Deepvoice·생성형 AI를 통한 음성 합성) 피싱 사례다. 딥보이스를 이용해 유명 인사, 공공기관 직원 행세를 하며 돈을 요구하는 피싱 사례가 잇따르고 있는데, 가장 큰 피해가 우려되는 것은 가족 목소리를 악용한 경우다. 진짜 내 가족 같은 목소리가 살려달라고 하니 의심 못하고 속아넘어갈 공산이 크다.

2023년 미국 상원에서 딥보이스 피싱 사례를 증언한 제니퍼 데스테파노도 그랬다. 그해 1월 "엄마 도와주세요"라고 흐느끼는 딸 목소리에 데스테파노는 납치범 요구대로 몸값 5만 달러(6900만원)를 준비하려 했다. 다행히 곁에 있던 지인들이 보이스피싱일 수 있다며 직접 딸의 안전을 확인해볼 것을 권유했다. 딸은 남편과 함께였다. 데스테파노는 전화를 끊자마자 안도의 눈물과 함께 바닥에 쓰러졌다고 한다.

2011년 인도 출신 컴퓨터 과학자 비제이 발라수브라마니얀이 미국에서 창업한 AI 음성 식별·보안 스타트업 '핀드롭 시큐리티'는 이런 악질적인 피싱을 식별하는 서비스를 제공한다.

사업은 본인 보이스 피싱 경험에서 시작됐다. 발라수브라마니얀은 박사 과정 시절 인도 여행을 하다 미국에서 걸려온 전화를 받았다. 전화 상대방은 거래 내역을 확인해야 한다면서 그의 사회보장번호(주민등록번호)를 물었다. 꺼림칙했던 발라수브라마니얀이 계속 전화 상대방 신원을 물었지만 상대방은 사회보장번호만 캐물었다.

미국으로 돌아가던 비행기에서 그는 "벨이 전화기를 만든 게 언젠데 아직도 통화 상대방의 신원을 확인할 방법이 없다니"라며 음성 변조를 통한 피싱 범죄에 관심을 갖기 시작했고, 관심은 AI가 만들어낸 가짜 음성 식별 서비스로 발전했다.

"무슨 프로그램으로 만든 가짜 목소리인지도 알아낸다"

AI는 음성 샘플 수천 개를 합성해 가짜 목소리를 생성한다. 이 과정에서 인간 신체로는 낼 수 없는 소리가 같이 만들어진다.

핀드롭은 이 소리를 포착해 AI로 조작된 목소리인지 여부를 판별한다. 어떤 언어를 사용하든, 남녀노소 무관하게 식별 가능하다고 한다. 발라수브라마니얀은 지난달 포브스 인터뷰에서 "(음성이) 딥페이크라는 건 물론 어떤 엔진이 오류를 만든 것인지도 알 수 있다"고 했다.

미리 목소리를 등록하면 더욱 정교한 분석이 가능하다. 전화기 너머 목소리에 담긴 부자연스러운 진동, 호흡 패턴, 배경 소음 등을 사전에 수집한 음성 데이터와 실시간 비교한다. 2초 내에 99% 정확도로 가짜 음성을 판독할 수 있다고 한다. 은행을 상대로 금융기관 또는 고객을 사칭하는 피싱 범죄를 예방하는 데 유용할 것으로 보인다.

핀드롭은 지난 미국 대선 때 조 바이든 전 대통령의 음성을 합성한 피싱 전화를 식별한 것으로 이름을 알렸다. 바이든 전 대통령 목소리로 민주당원들에 투표 불참을 요구하는 전화였는데, AI 음성 복제 스타트업 일레븐랩스의 기술을 이용한 것으로 드러났다. 일레븐랩스는 문제의 음성 창작자를 찾아내 서비스 이용을 정지시켰다.

최근 들어 딥페이스 피싱은 기업까지 겨눈다. 핀드롭이 지난달 게시글에서 최근 개발자 채용 공고를 냈는데, 의심스러운 지원서 300건을 심층 분석해본 결과 100건 이상이 AI로 자격증 등을 위조한 가짜 지원서로 확인됐다고 밝혔다.

핀드롭은 자사 기술을 시험할 겸 이중 한 명에게 '이반 X'란 이름을 붙이고 화상 면접을 진행했다. 이 지원자는 얼굴 화면과 목소리 모두 AI로 덧입힌 가짜로 판명됐다. 핀드롭은 "딥페이크를 이용한 채용 지원은 기업 침투를 위한 정교한 공격"이라며 "채용, 인사 업무에 있어서 전례 없는 위험"이라고 했다.

핀드롭은 미국 10대 은행 중 8개 은행 콜센터에 가짜 음성 판독 서비스를 제공 중이다. 이외에 의료, 소매업 등 여러 분야 고객들을 두고 있다. 핀드롭은 2020년부터 이익을 내기 시작했으며, 지난달 포브스 보도에 따르면 매출 1억 달러를 달성했다. 지난 2018년 9000만 달러(1242억원) 투자금을 조달했을 당시 기업가치가 9억2500만 달러(1조2770억원)였다는 점을 감안하면 이미 유니콘 반열에 섰다고 볼 수 있다.

핀드롭은 딥보이스 식별을 넘어 채용 시장에서 이반 X 같은 가짜 인격을 골라내는 방향으로 서비스를 확대하고 있다. 발라수브라마니얀은 "딥페이크 기술은 더욱 발전할 것"이라며 "앉아서 시간 낭비만 하고 있지는 않겠다"고 했다.

[머니투데이 스타트업 미디어 플랫폼 '유니콘팩토리']