홍콩의 한 금융사가 인공지능이 만들어낸 가짜 이미지 딥페이크에 속아 2억 홍콩달러(약 342억원)를 사기당했다. 딥페이크 기술을 토대로 '보이스피싱'이 '이미지피싱'으로 진화한 것이다.
딥페이크 기술이 발달하면서 가상 이미지를 골라내기가 점점 힘들어지고 있다. AFP=연합뉴스
4일(현지시간) 미국 CNN 방송에 따르면 한 글로벌 금융사의 홍콩 지부에서 일하던 한 직원은 영국에 있는 회사의 최고재무책임자(CFO)로부터 거액의 돈을 비밀리에 거래할 것을 요구하는 이메일을 받았다.
직원은 내용이 수상해 처음엔 피싱 메일이라고 의심했다. 그러나 회사 동료 여러 명이 함께 참여한 화상 회의에서도 같은 지시를 받자 의심을 털어내고 2억 홍콩달러를 송금했다. 나중에 알고보니 모든 게 사기였다.
홍콩 경찰 당국자는 "여러 명이 참석한 화상 회의에서, 이 직원이 봤던 모든 사람들은 가짜였다"고 설명했다.
홍콩에서 딥페이크를 활용해 돈을 뜯어낸 사례는 이번이 처음이 아니다.
이날 홍콩 경찰에 따르면 최근 체포된 한 사기 일당은 지난해 7월부터 9월까지 분실 신분증 8개를 도용해 만든 딥페이크 이미지로 은행 대출 90건을 받고 계좌 54개를 만들었다. 이외에도 최근 적발된 딥페이크를 악용한 사기 행각은 최소 스무 건에 달한다고 홍콩 경찰은 밝혔다.
이처럼 딥페이크 기술이 금융 사기를 비롯해 선거, 사회관계망서비스(SNS) 등 각종 분야에서 악용될 수 있다는 우려가 전 세계적으로 커지고 있다.
딥러닝(Deep learning)과 가짜(Fake)의 합성어인 딥페이크는 사진이나 영상뿐 아니라 목소리까지도 조작한다. 터무니없는 내용의 거짓 영상을 실제 있었던 일처럼 만들어낼 수 있다. 이를 악용하는 사례는 점점 더 늘어날 전망이다.
최근 미국에서는 팝스타 테일러 스위프트의 얼굴 사진이 합성된 음란 이미지가 온라인상에서 확산하기도 했다.
올해 11월 열리는 미국 대선과 관련해서는 민주당 당원들에게 경선 투표 거부를 독려하는 조 바이든 대통령의 가짜 목소리 전화가 확산해 문제가 되기도 했다.
오는 11월 대선을 앞두고 본격적인 선거철에 접어든 미국에서 인공지능(AI)을 활용한 딥페이크 선거운동을 규제하기 위한 법안 발의가 잇따르고 있다고 미국 NBC방송이 지난달 23일 전했다.
보도에 따르면, 올해 들어 미국 최소 13개 주에서 AI를 활용한 가짜 이미지나 오디오·비디오 콘텐트로 선거 관련 허위 정보가 확산하는 일을 방지하기 위한 법안이 추진되고 있다.
오는 4월 총선을 앞둔 한국에서도 지난달 29일부터 딥페이크 영상을 활용한 선거운동이 금지됐다.
중앙선거관리위원회는 딥페이크 영상처럼 AI 기술로 만든 '실제와 구분하기 어려운' 가상의 음향·이미지·영상 등의 선거 운동 활용을 금지했다. 다만 총선 선거운동이 아닌 당내 경선 운동, 의정활동 보고, 투표 참여 권유 활동, 통상적인 정당 활동에는 활용할 수 있다.
