2016년엔 힐러리 당했다…2024년 美대선 덮친 'AI 선거' 공포

중앙일보

입력

업데이트

도널드 트럼프 전 미국 대통령이 경찰에 체포되는 모습의 가짜 사진. 인공지능(AI)이 생성한 가짜 사진으로 소셜미디어를 통해 급속히 퍼졌다. 사진 소셜미디어 캡처

#1. 도널드 트럼프 전 미국 대통령 측은 공화당 대선 주자 TV토론회가 열린 11월 8일 각 후보의 목소리를 변조해 조롱식 별명으로 후보를 소개하는 동영상을 소셜미디어에 올렸다. 니키 헤일리 전 사우스캐롤라이나 주지사가 등장할 때 그녀를 흉내낸 기계음이 “니키 헤일리 새대가리”라고 소개하며 비아냥대는 식이다. 이 영상 클립은 트럼프 선거 캠프가 인공지능(AI)을 활용한 음성 복제 기술로 만들었다.

#2. 조 바이든 미국 대통령은 지난 10월 30일 AI 규제를 강화하는 내용의 행정명령에 서명하면서 자신을 본뜬 딥페이크 영상에 “내가 언제 저런 말을 했지?”라고 했다는 경험담을 전했다. 지난 1월 성소수자를 폄훼하는 내용의 가짜 연설 장면을 감쪽같이 구현한 영상을 접하고 대통령인 자신도 순간 착각했다는 얘기였다.

조 바이든 미국 대통령이 지난 10월 30일(현지시간) 워싱턴 DC 백악관에서 인공지능(AI) 개발의 안전 및 보안 표준을 강화하는 내용의 행정명령에 서명하고 있다. 신화=연합뉴스

텍스트·이미지·오디오를 생성하고 딥페이크(딥러닝과 페이크의 합성어로 인공지능을 기반으로 한 특정 인물 이미지·영상 합성) 동영상을 제작하는 AI 기술이 2024년 미국 대선 국면에서 유권자에게 잘못된 정보를 퍼뜨리고 선거 시스템의 불신을 키울 수 있다는 우려가 미국 내에서 커지고 있다. 진화하는 AI 기술이 선거전 판도를 바꿀 뿐만 아니라 민주주의를 위협할 수 있다는 경고가 이어지고 있다.

“2016·2020년은 SNS 선거, 2024년은 AI 선거’”

미 정치전문매체 ‘더힐’은 25일(현지시간) “내년 미 대선에 AI가 특정 후보나 이슈에 대한 오해의 소지가 있는 정보나 허위 정보를 유포하는 데 악의적으로 사용될 수 있다”고 경고했다. 그러면서 시카고대 해리스공공정책대학원의 이던 부에노 디 메스퀴타 학장 발언을 인용해 “2016년·2020년이 ‘소셜미디어 선거’였던 것처럼 2024년은 ‘AI 선거’가 될 것”이라고 예상했다. 앞서 마이크로소프트(MS) 창업자 빌 게이츠 역시 지난 7월 자신의 블로그 글에서 “AI가 만든 딥페이크와 가짜 정보는 선거와 민주주의를 훼손할 수 있다”고 지적한 바 있다.

2024년 미국 대선을 앞두고 생성형 인공지능(AI)을 통한 허위정보 확산 우려가 커지고 있다. 사진은 AI, 진실(Truth)과 가짜(Fake) 등을 합성해 만든 이미지. 중앙포토

이미 미국 유권자 사이에도 AI가 선거에 미칠 끼칠 부정적 영향에 대한 우려가 퍼져있다. 지난달 초 공개된 시카고대 해리스공공정책대학원과 AP통신·여론조사센터(NORC)의 공동 조사 결과 미국 성인의 58%는 2024년 대선에서 AI 기술로 허위정보가 더욱 확산될 것이라는 데 공감을 표했다.

지난 9월 발표된 모닝컨설트·악시오스의 여론조사에서도 응답자의 절반 이상(53%)이 ‘AI가 퍼뜨리는 잘못된 정보가 후보들의 최종 승패에 영향을 미칠 것’이라고 답했다. 또 ‘AI가 2024년 선거 결과에 대한 신뢰를 떨어뜨릴 것인가’라는 물음에 응답자의 35%가 ‘그렇다’고 했다. 메스퀴타 학장은 “AI를 이용해 만든 가짜 콘텐트가 유권자 정보환경에 영향을 미쳐 무엇이 진실이고 거짓인지 판별하기 어렵게 만드는 것이 2024년 선거에서 증가할 것”이라고 말했다.

플랫폼 업체들도 AI를 활용한 정치 캠페인에 대한 대비를 서두르고 있다. 구글은 올 초 디지털 방식으로 제작·가공된 선거 광고의 경우 ‘눈에 띄게 공개’하도록 요구하겠다고 발표했다. 페이스북 모회사인 메타는 정치 광고에서 실제 인물이 하지 않은 말이나 행동을 새롭게 생성하거나 변조할 경우 이를 공개할 계획이라고 했다. 이와 관련, 챗 GPT를 만든 오픈AI는 지난 2월 AI로 만든 텍스트를 판별하는 프로그램 ‘클래시파이어’를 공개했으나, 정확도 등에서 한계가 있다는 지적이 나온다.

유권자 중복 방지 등 AI 역할론도

반면 선거 관리와 선거 운동의 효율성 면에서 AI 기술의 순기능에 주목하는 시각도 있다. 특정 이슈에 대한 각 후보의 입장을 유권자들에게 친절하게 알려주거나 선거관리 당국이 유권자 명부를 정리하는 과정에서 중복 등록을 막는 데 큰 도움을 줄 수 있다는 것이다.

펜실베이니아 주의회 민주당 후보인 샤메인 대니얼스는 선거운동 폰뱅킹 업무에 AI 음성 기능을 활용하고 있다. 대니얼스는 “AI에 대한 사람들의 우려를 알지만 우리는 이 기술이 보여주는 기회를 이해하고 수용해야 한다”고 더힐에 말했다.

2016년 미 대선 때 SNS 타고 가짜정보 기승

문제는 소셜미디어가 선거에 도입돼 빚어냈던 부작용을 AI가 한층 악화시킬 수 있다는 점이다. 도널드 트럼프 공화당 대선 후보와 힐러리 클린턴 민주당 대선 후보가 맞붙은 2016년 대선에선 가짜뉴스가 소셜미디어를 통해 확산되면서 기승을 부렸다. 특정 정치 성향의 블로그나 웹사이트에서 ‘프란치스코 교황이 트럼프 후보 지지를 발표했다’거나 ‘클린턴 후보가 테러단체 IS에 무기를 판매한 것으로 드러났다’는 등의 가짜뉴스를 만들면, 곧 SNS를 타고 걷잡을 수 없게 확산됐다.

이젠 딥페이크 기술의 고도화로 가짜 콘텐트를 더욱 쉽고, 빠르고, 정교하게 생산해 퍼뜨릴 수 있게 됐다는 점에서 심각성이 더욱 커졌다는 것이다. 리사 브라이언트 캘리포니아주립대 정치학과 석좌는 인스타그램과 같은 플랫폼에서의 광고가 사람들의 행동에 이미 상당한 영향을 미친다는 점을 들어 “누구도 이런 구조에서 완벽히 자유로울 수는 없다”고 말했다.

2016년 미국 대선 때 ‘프란치스코 교황이 도널드 트럼프 후보 지지를 선언했다’며 유포된 가짜뉴스. 중앙포토

더힐은 “전문가들은 커지는 위협에 대비하기 위해 사람들이 AI 기술을 더욱 적극적으로 익힐 필요가 있다고 말한다”고 전했다. 이는 AI가 무엇을 할 수 있는지 잘 숙지하고 있는 ‘AI 문해력’이 AI 위험성에 대한 인식을 높이는 방법이 될 수 있다는 논리다.

선거관리 당국이 ‘디지털 서명’ 등을 더욱 활성화해 정보 신뢰도를 높여야 한다는 주장도 나온다. 비영리 단체 ‘민주주의 보호’의 기술정책담당 니콜 슈나이드먼은 “사전 폭로(Pre-bunking, 허위정보에 노출되기 전에 미리 공개해 리스크를 줄임) 방식이 효과적일 수 있다”며 “선거 관리자들이 디지털 서명을 더 많이 도입해 언론인이나 대중에게 어떤 정보가 신뢰할 수 있는 출처에서 나온 것인지, 어떤 정보가 가짜인지 알려주길 바란다”고 말했다.

후보들이 쓰는 사진·영상 게시물에 디지털 서명을 포함시키는 방법도 검토할 만하다고 했다. 디지털 서명은 디지털 창작물의 원작자나 출처를 밝혀둠으로써 콘텐트 위·변조를 막는 방식으로 AI 기술 발전의 보완책으로 꾸준히 거론됐다.

한국도 4월 총선 앞두고 우려 커져

노태악 중앙선거관리위원장이 지난 11월 3일 경기도 과천 중앙선관위에서 열린 제22대 국회의원선거 준비를 위한 시ㆍ도위원장 회의에서 모두발언을 하고 있다. 뉴스1

내년 4월 총선을 앞둔 한국에서도 생성형 AI를 활용한 허위정보 유포 우려가 커지면서 대비책 논의가 활발해지고 있다. 과학기술정보통신부와 한국인터넷진흥원(KISA)은 지난 17일 발표한 ‘2024년 사이버 보안 위협 전망 보고서’를 통해 내년 4월 제22대 총선을 앞두고 ▶정치인 이메일ㆍ소셜미디어 해킹 ▶딥페이크 기술을 활용한 가짜뉴스 생산 및 유포 ▶선거전을 악용한 사이버 위협 등이 있을 수 있다고 경고했다.

중앙선관위는 지난 9월 생성형 AI를 통해 허위사실이 포함된 콘텐트를 누구나 쉽게 만들어 선거전에 악용할 수 있다는 점을 지적하고 ‘생성형 AI 신기술 도입에 따른 선거 규제’와 관련된 연구 용역을 발주했다. 중앙선관위는 내년 총선 전까지는 AI 허위정보에 대한 구체적인 규제 지침을 마련한다는 방침이다.

워싱턴=김형구 특파원 kim.hyounggu@joongang.co.kr