이재명 더불어민주당 대표(왼쪽)와 한동훈 국민의힘 비상대책위원장이 지난달 29일 국회 민주당 대표실에서 만나고 있다. 연합뉴스
테일러 스위프트의 ‘딥페이크’(Deepfake·조작) 사진이 미국에서 큰 논란이 된 가운데 4·10총선을 70여일 앞둔 한국에도 딥페이크 ‘빨간불’이 커졌다.
중앙선거관리위원회는 29일부터 선거운동에서 딥페이크 콘텐트가 활용되는 것을 규제하기 시작했다. AI(인공지능) 기능이 포함된 프로그램으로 만든 영상·사진·음향을 본인의 당선이나, 상대 후보의 낙선을 위해 사용하는 것을 금하는 내용이다. 제3자가 특정 후보의 당선 혹은 낙선을 위해 조작된 영상·사진·음향을 제작해 배포하는 것도 불법이다. 만약 이를 어기면 7년 이하 징역 또는 1000만원 이상 5000만원 이하 벌금을 부과한다. 지난해 12월 말 국회가 공직선거법을 개정하면서 이뤄진 조치다.
하지만 정치권에서는 이런 규제만으로는 한계가 있다는 지적이 나온다. 딥페이크 영상·사진은 AI를 통해 빠르게 제작된 뒤 SNS에서 불특정 다수에게 삽시간에 퍼지기 때문이다. 즉각 찾아내 차단하지 않으면 여론을 호도할 수 있다.
최근 딥페이크 사진으로 최근 피해를 본 테일러 스위프트. AFP=연합뉴스
실제로 중앙일보가 딥페이크 영상·사진 제작을 시도해본 결과 스마트폰 사용자라면 누구나 손쉽게 만들 수 있었다. 구글·애플 앱스토어에서 ‘딥페이크’라고 치면 수십 개의 애플리케이션(앱)이 나오는데, 이를 5초면 다운로드 받을 수 있다. 1개월 6000~7000원 혹은 1년 4만~7만원을 결제해 ‘유료회원’이 된 뒤 자신이 임의대로 사진을 올려 조작할 수 있다.
전 세계 약 1억명이 사용한 딥페이크 앱 ‘리페이스’(Reface)를 다운받아 시도해본 결과 약 2분 만에 딥페이크 사진을 만들 수 있었다. 여러명이 찍힌 사진에 한동훈 국민의힘 비상대책위원장이나, 이재명 더불어민주당 대표 같은 유명 정치인 얼굴을 덧입히는 방식이다. 안경 착용 여부, 머리모양 등에 따라 완성도는 달랐지만 비슷한 생김새의 얼굴과 합성하면 진위를 구분하기 어려웠다. 영상도 5분이면 제작이 가능했다.
아예 없는 장면을 만드는 ‘생성형 AI 딥페이크’ 프로그램도 온라인상에서 쉽게 접할 수 있었다. ‘미드저니’(Midjourney)가 대표적인데 미국의 한 프로그래머는 이 프로그램으로 지난해 도널드 트럼프 전 미국 대통령이 경찰관에게 둘러싸여 체포되는 가짜사진을 만들어 유포했다.
딥페이크 제작앱인 '리페이스'(Reface)' 조작화면, AI가 사진의 얼굴을 자동인식하면 사용자가 다른 사진으로 얼굴을 대체할 수 있다. 리페이스 캡처
최병호 고려대 인공지능연구소 교수는 “딥페이크 영상의 완성도가 높지 않아도 다수가 공유한다는 측면 때문에 믿는 경향이 높다”며 “기술 수준이 더 올라가 진위 구분이 어려워지면 정치적인 목적의 선전·선동에는 더욱 악용될 것”이라고 했다.
선관위는 3단계에 걸쳐 딥페이크 콘텐트를 검증하고 있다. 특히 정교한 딥페이크 영상의 경우 선관위 검증요원 모니터링→딥페이크 판별프로그램 검증→AI전문가 검증 등의 과정을 거친다. 시간상으론 2~3일이 소요될 수도 있다. 5분만에 만든 딥페이크의 판명에는 최소 이틀이 걸린다는 얘기다. 또한 검증요원은 59명, AI전문가는 3명이다. 수천 명의 후보가 뛰는 총선을 모니터링하기에는 부족하다는 지적도 나온다.
김명주 서울여대 정보보호학과 교수는 “AI는 빠르게 조작 영상·사진을 만들어내는데, 사람이 일일이 검증하면 AI의 속도를 따라가지 못한다”며 “그 사이 피해자가 속출할 수 있고, 유권자가 쉽게 현혹될 수 있다”고 했다.
도널드 트럼프 전 미국 대통령이 경찰에 체포되는 모습의 가짜 사진. 인공지능(AI)이 생성한 가짜 사진으로 소셜미디어를 통해 급속히 퍼졌다. 소셜미디어 'X' 캡처
‘사람같은’ 댓글을 달아주는 AI 프로그램이 나타난 것도 총선 여론조작 가능성을 키우고 있다. 한 프로그래머가 만든 해당 프로그램은 ‘챗(CHAT) GPT’와 접목한 형식인데, 특정 기사를 학습한 다음 해당 기사에 긍정적 혹은 부정적 댓글을 다는 생성형 AI다.
예를 들어 특정 기사 내용을 언급한 뒤 “이런 공약 내놓는다고 국민이 믿을 리 없다”는 댓글을 다는 식이다. 사람과 비슷한 구어체로 달린 댓글이다 보니, AI가 만든 내용인지 구분하기 어렵다. 네이버 관계자는 “댓글 내용을 보고 AI 활용 여부를 판단하기는 어렵지만 동일한 내용이 반복될 경우엔 자동으로 탐지해 조치하고 있다”고 밝혔다. 중앙선관위는 내달 5일 네이버 등 유관기관 회의에서 포털사이트의 관리·감독 강화를 주문할 예정이다.
장훈 중앙대 정치외교학과 교수는 “딥페이크가 선거에 부정적인 영향을 미칠 거라는 우려는 꽤 있었지만, 이를 제어할 방법은 마땅치 않다”며 “혐오 정치가 극심해지는 정치적 적대감이 딥페이크의 선거 악용을 부추기고 있다”고 했다.
선거판 ‘AI 가짜뉴스’ 득세해도…여야 “고소·고발 외 대책 無” 울상
딥페이크 콘텐트가 총선판을 흔들 수 있다는 지적에도 여야는 뾰족한 대책이 없어 발을 동동 구르고 있다.
국민의힘 지도부 관계자는 29일 중앙일보와의 통화에서 “아직 당이 딥페이크 대책을 구체적으로 논의한 적은 없다”며 “가짜뉴스와 조작뉴스에 대해 엄벌에 처한다는 방침 외에는 뚜렷한 방책이 없는 상황”이라고 했다. 더불어민주당 관계자도 “선거대책위원회 차원에서 실시간으로 모니터링하겠지만, 만약 누군가가 작정하고 딥페이크 영상물을 퍼트린다면 속수무책으로 당할 가능성이 크다”고 했다.
한동훈 국민의힘 비상대책위원장이 지난 12일 경남 양산시 통도사 정변전에서 중봉 성파대종사를 예방 후 인사하고 있다. 연합뉴스
국민의힘은 이날 한동훈 비상대책위원장이 지난 12일 경남 양산 통도사를 방문할 당시 문재인 전 대통령을 비공개로 만났다는 온라인 글 유포자 2명을 경찰에 고발했다. 마찬가지로 딥페이크 콘텐트에 대해서도 ‘상시적 모니터링’과 ‘사후적 법적 조치’를 하겠다는 게 여야의 공통된 입장이다. 다만 고소·고발전이 능사가 아니라는 지적이 나온다.
2020년 미국 대선 당시 민주당 후보였던 조 바이든 대통령이 선거 유세 중 주(州)를 오인해 발언하는 가짜영상이 유포됐는데, 이는 하루 만에 조회수 110만회를 넘겼다. 특히 도널드 트럼프 전 대통령 지지자가 이를 집중적으로 퍼 나르면서 바이든 대통령을 공격하는 무기로 삼았다. 이런 상황이 국내에서도 반복될 수 있다는 게 정치권 우려다.
올해 대선이 있는 미국은 지난해 10월 바이든 행정부 주도로 딥페이크 영상·사진·음향에 의무적으로 워터마크를 부착하는 행정명령을 시행했는데 이를 벤치마킹해야한다는 지적도 나온다. 김명주 서울여대 정보보안학과 교수는 “AI 프로그램으로 딥페이크 콘텐트를 제작할 경우, 강제적으로 워터마크를 집어놓도록 하면 진위 구분이 쉬워질 것”이라며 “최근 딥페이크에 대한 문제가 많이 발생하다 보니 규제가 필요하다는 쪽으로 기우는 추세”라고 말했다.
