이원석 검찰총장이 5일 오전 서울 서초구 대검찰청에서 열린 22대 총선 대비 전국 검찰청 선거전담 부장검사 회의에서 발언하고 있다. 연합뉴스
검찰이 22대 총선을 두 달여 앞두고 전국 일선 검찰청의 선거전담 부장검사 60명을 한 자리에 소집했다. 4·10 총선을 앞두고 우려되는 정치테러와 인공지능(AI) 가짜뉴스 범죄에 대한 대응을 강화하기 위한 자리다.
이원석 검찰총장은 5일 대검찰청에서 열린 회의에서 이번 총선의 핵심 점검 의제로 정치테러와 AI 기술을 활용한 딥페이크(Deep fake)를 지목하며 “선거관리위원회, 경찰, 선거 사무 관계자들과 사건 발생 초기부터 적극 협력해 신속하고 엄정하게 처리하도록 최선을 다해달라”고 당부했다.
피습당한 배현진 국민의힘 의원(왼쪽)과 이재명 더불어민주당 대표. 중앙포토
이 총장은 특히 선거 과정에서의 폭력과 테러 행위를 ‘깨진 유리창 이론’에 빗대 엄정 대응 방침을 강조했다. “최근 정치인을 흉기로 습격한 범죄가 잇달아 일어나고 모방범죄 성격의 범죄 예고까지 확산하는 상황이라 총선을 앞두고 경각심을 갖고 예민하게 대비해야 한다”면서다.
지난달 2일 이재명 더불어민주당 대표에 대한 흉기 습격과 지난달 25일 배현진 국민의힘 의원에 대한 피습 등 정치인에 대한 심각한 피습·테러를 막기 위해선 사소해 보일 수 있는 선거 폭력 사건에 대해서도 원칙에 따른 분명한 대처가 필요하다는 취지다.
검찰은 이번 총선에서 AI와 딥페이크를 활용한 불법적 선거 운동에도 주목하고 있다. 딥페이크 영상을 활용한 선거 운동은 2022년 대선 때까지만 해도 허용됐다. 윤석열 대통령은 대선 후보 시절 딥페이크 기술을 활용해 자신의 얼굴을 본딴 아바타를 만든 뒤 ‘위키윤’이라는 이름을 붙여 선거 운동에 활용했다. 누리꾼들이 당시 윤 후보에 대해 궁금한 점을 물어보면 위키윤이 대신 대답하는 식이었다. 이재명 더불어민주당 대표 역시 대선 당시 자신의 아바타인 ‘AI재밍’을 만들어 선거 운동 영상에 활용했다.
지난 대선 당시 AI를 활용한 선거운동에 사용된 위키윤(왼쪽)과 AI재밍. 중앙포토
하지만 딥페이크를 활용해 가짜뉴스와 조작·왜곡 정보를 무분별하게 유포하는 사례가 많아지며 문제 의식이 커졌다. 특히 정교하게 제작된 딥페이크 영상의 경우 아바타인지 실제 인물인지 구분하기 어려울 정도로 기술이 발달하며 선거에 심각한 영향을 미칠 수 있다는 우려가 제기됐다. 이에 따라 국회 정치개혁특별위원회는 선거일 전 90일부터 딥페이크 등 AI 기술을 활용한 선거 운동을 금지하는 내용의 공직선거법 개정안을 마련했고 지난해 말 국회 본회의를 통과했다.
특히 딥페이크의 경우 영상은 물론 음성까지 복제가 가능해 특정 후보를 띄우거나 상대 후보를 사칭해 부정적 이미지를 덧씌우는 네거티브 선거 운동에 동원될 소지가 있다. 실제 지난달 23일 미국에선 뉴햄프셔 프라이머리(예비선거)를 앞두고 딥페이크를 활용해 조 바이든 대통령의 목소리를 복제한 뒤 경선 불참을 권유하는 음성을 만들어 2만5000여명에게 유포하는 선거 개입 사건이 발생했다.
이 총장은 “허위사실 유포와 가짜뉴스, 흑색선전은 단기간에 여론을 비틀어 민의를 왜곡하는 폐해가 심각하다”며 “선거 결과에 영향을 미치지 않도록 신속하게 사실관계를 파악해 엄정하게 책임을 물어야 할 것”이라고 말했다.
