"투자 감사" 조인성 믿었다…수백억 가로챈 가짜 영상의 정체

중앙일보

입력

업데이트

60대 남성 A씨는 지난해 12월 유튜브 영상 광고를 통해 한 투자 모임을 알게 됐다. 모임 관리자는 자신이 "2차전지 투자자들에게 잘 알려진 일명 ‘배터리 아저씨’ 박순혁 작가 비서"라며 "투자금을 주면 대신 주식 투자를 해준다"고 했다. 모임 커뮤니티에는 배우 조인성과 송혜교가 찍은 영상도 올라왔다. “수익금의 일부가 기부되고 있고, 감사하다”고 말하는 내용이었다.

A씨가 투자자 온라인 커뮤니티에서 본 배우 조인성의 딥페이크 영상. 영상에서는 ″투자가 순조롭게 진행되기를 희망한다″는 배우 조인성씨의 목소리가 흘러나온다. 제보자 제공

유명 연예인도 참여하고 있다는 사실은 A씨를 비롯한 투자자들이 의심을 거두는 결정적인 계기가 됐다. 그러나 두 배우가 등장한 영상은 인공지능(AI)이 만들어낸 가짜였다. 박순혁 작가의 비서라는 말, 800% 가까운 수익률도 거짓이었다. 돈을 돌려달라는 A씨의 말에 운영진은 도리어 수수료와 세금을 요구하다 잠적했고, A씨는 총 1억6000만원의 투자금을 잃었다.

전 세계 ‘딥페이크 사기’ 주의보

딥페이크(AI가 실제와 구별하기 어려운 가짜 오디오‧사진‧동영상을 생성하는 기술)가 금융사기에 악용되면서 세계 곳곳에서 우려가 커지고 있다.

21일 CNN 등 주요 외신에 따르면 이달 초 홍콩의 한 기업의 직원이 재무책임자가 등장하는 딥페이크 영상 통화에 속아 2억 홍콩달러(약 341억원)를 송금하는 사고가 일어났다. 지난해 12월에는 리셴룽 싱가포르 총리가, 11월에는 호주 유명 기업인 딕 스미스도 표적이 됐다. 모두 이들이 투자 플랫폼을 홍보하는 인터뷰 영상이었는데, 실제 사기 피해로도 이어졌다.

리셴룽 총리가 자신의 소셜미디어에서 딥페이크 영상에 속지 말라고 경고하고 있다. 사진 엑스 캡처

한국에서도 딥페이크를 이용한 금융사기에 안전지대가 아니다. A씨 사건에서 피해자는 100명을 넘어섰고, 피해액도 수백억원으로 추정된다. 5억원의 피해를 봤다는 60대 남성 B씨는 “딸 결혼자금과 사업자금이 들어가 있다”며 “범죄자 일당은 여전히 검거되지 않아 어디선가 또 딥페이크 영상을 갖고 사기를 치고 있는 상황”이라고 말했다.

지난해 11월에는 1891명에게 1491억원을 가로챈 보이스피싱 일당이 딥페이크 피싱 범죄로 영역을 넓히기 직전에 경찰에 검거됐다. 이들은 실제 검사의 얼굴과 목소리를 얹은 딥페이크 영상을 범죄에 활용하기 위해 연구 작업을 하고 있었던 것으로 조사됐다.

범죄 따라가지 못하는 탐지기술

사진 소후닷컴

하지만 이런 딥페이크를 이용한 금융 사기 예방책은 '속지 않는 것' 외에 사실상 전무한 실정이다. 딥페이크 영상물이라는 표식을 의무적으로 달게 하는 방안 등이 논의되지만, 범죄자 일당이 표식을 지워버리면 그만이다. 범죄에 쓰이는 딥페이크 영상을 사전적으로 탐지해 확산을 막는 게 최선이지만 빠르게 발전하는 생성 기술을 탐지 기술이 따라가지 못하는 한계도 있다. 박지홍 하나금융연구소 연구위원은 "딥페이크 영상과 음성이 비대면 금융거래에서 악용될 가능성도 높다"며 "사전 탐지 기술력 확보에 각별한 노력이 필요한 실정"이라고 지적했다.

이런 신종 사기에 대한 정책적 보완이 필요하다는 목소리도 나온다. 딥페이크 영상이 가장 많이 활용될 가능성이 높은 ‘유명인 사칭 투자 사기’에 당한 경우, 범죄자들이 범죄 수익을 빼돌리는 경우가 많아 피해 회복이 사실상 어려워서다. 김계환 변호사(법무법인 감우)는 “국가가 추징하고 몰수한 범죄자들의 재산을 모아 기금을 만들고, 여기서 피해 금액의 일부를 지급하는 방안 등을 논의해볼 만하다”고 말했다.

오효정 기자 oh.hyojeong@joongang.co.kr