“제가 국민을 괴롭혔다” 조작된 대통령 딥페이크에 깜짝

지난해 말부터 SNS를 통해 확산 중인 가짜 윤석열 대통령이 연설하는 딥페이크 영상. 경찰은 22일 방송통신심의위원회에 해당 영상에 대한 차단·삭제를 요청했다. [SNS 캡처]

최근 가상의 윤석열 대통령이 “국민을 고통에 빠뜨렸다” “부정과 부패를 일삼았다”고 말하는 형식의 ‘딥페이크’(Deepfake·실제인 것처럼 꾸민 합성 영상·이미지) 영상이 소셜미디어(SNS)에 퍼지고 있다. 경찰은 22일 총선을 40여 일 앞두고 이 같은 가짜 영상이 확산하자 사태가 심각하다고 보고 방송통신심의위원회에 차단 및 삭제를 요청했다. 인공지능(AI) 딥페이크를 이용한 선거운동이 금지된 이후 처음 확산한 사례이기 때문이다.

서울경찰청에 따르면 방심위에 요청하는 것에 더해 해당 영상과 관련된 고발을 접수하고 수사에도 착수했다. 영상을 제작한 이에겐 정보통신망법상 허위사실에 의한 명예훼손 혐의가 적용될 수 있다고 보고 있다. 경찰은 해당 영상이 최근 개정된 공직선거법에 위반되는지 여부도 검토하고 있다. 이번 가짜 윤 대통령 영상 제작 및 유포가 선거운동에 해당해야 선거법 위반으로 볼 수 있어서다.

윤 대통령의 연설 모습을 조작해 만든 이른바 ‘양심 고백’ 영상은 지난해 말부터 틱톡·메타·인스타그램 등 SNS를 중심으로 퍼졌다. 약 46초 분량의 영상은 가짜 윤 대통령이 “저 윤석열, 국민을 괴롭히는 법을 집행해 온 사람입니다”라고 연설하는 것으로 시작한다. 이어 “무능하고 부패한 윤석열 정부는 특권과 반칙, 부정과 부패를 일삼았다”며 “상식에서 벗어난 이념에 매달려 대한민국을 망치고 국민을 고통에 빠뜨렸다”고 말하기도 한다. 연설하는 모습은 물론 입 모양, 목소리까지 실제 윤 대통령인 것처럼 조작됐다. 영상은 “저 윤석열의 사전에 정치 보복은 있어도 민생은 없다”는 말로 마무리된다.

틱톡에는 “이게 진짜인가?” “진짜인 줄 알았다” 등의 글이 달렸다. 반대로 “신기술로 영상과 음성을 조작할 수 있다니” “만든 사람을 사형시켜야 한다” 등 비판하는 댓글도 많았다. 방심위는 23일 긴급 통신심의소위원회를 열고 해당 안건을 심의한 뒤 곧바로 삭제·차단 조치할 예정이다. 방심위도 오는 4월 총선을 앞두고 정치 관련 딥페이크물을 주시하고 있다.

앞서 국회는 지난해 12월 선거일 전 90일 동안 AI로 만든 딥페이크 영상(음성·이미지 등)을 활용한 선거운동을 금지하는 공직선거법 개정안을 통과시켰다. 이를 위반할 경우 7년 이하의 징역 또는 1000만~5000만원의 벌금을 물리는 내용이다. 중앙선거관리위원회에 따르면, 지난달 29일부터 이달 16일까지 딥페이크를 이용해 선거운동을 하는 등 공직선거법을 위반한 것으로 의심되는 게시물은 129건에 달했다.

김선미 기자 calling@joongang.co.kr