"경선 투표 말라" 바이든 가짜 전화…선거판 흔드는 딥페이크

중앙일보

입력

업데이트

지난해 5월 백악관에서 조 바이든 미국 대통령이 스마트폰으로 누군가와 통화를 하고 있다. 로이터=연합뉴스

조 바이든 미국 대통령의 '가짜 목소리'가 유권자들을 혼란에 빠지게 만드는 일이 생겼다. 생성형 인공지능(AI)을 악용한 기술이 유권자에게 잘못된 정보를 퍼뜨리고 선거 불신을 키울 가능성이 높아진 상황에서, 만들기 쉽고 출처를 확인하기 어려운 '가짜 음성'의 확산에 대한 우려가 깊어지고 있다.

22일(현시시간) NBC 등에 따르면 미국 민주당의 대선 후보를 뽑는 뉴햄프셔 프라이머리(예비경선)를 하루 앞둔 이날 민주당 당원들에게 특이한 전화가 동시 다발적으로 걸려왔다. 바이든 대통령이 '투표 거부'를 독려하는 내용의 가짜 음성 전화였다.

"(뉴햄프셔 프라이머리) 투표는 공화당의 목표인 도널드 트럼프의 당선을 돕는 일이다. (이번이 아니라) 11월에 투표해야 변화를 만들 수 있다"는 내용이었다. 본선 투표의 중요성을 내세워 당원들의 경선 참여를 교묘하게 막는 발언이었다.

이번 사건은 누군가 딥페이크(deepfake) 기술을 이용해 바이든 대통령의 목소리를 악용하면서 일어났다. 딥페이크는 '기계학습(deep learning)'과 '가짜(fake)'의 합성어로 AI에 특정 문자·이미지·오디오를 학습시켜 복제하는 것을 말한다.

사태가 확산하자 백악관은 "대통령이 직접 녹음한 게 아닌 가짜"라며 진화에 나섰다. 민주당에선 "바이든을 곤란하게 만들기 위해 누군가 꾸민 짓"이라고 밝혔다.

그런데도 일부 민주당원은 이를 사실로 받아들였다. 바이든 대통령이 이번 뉴햄프셔 프라이머리에 아예 후보 등록조차 하지 않았기 때문이었다.

앞서 바이든 대통령은 지난 2020년 대선 당시 초반 경선지인 아이오와·뉴햄프셔주(州)에서 부진한 성적을 거뒀다. 그래서 이번 대선을 앞두고 "백인 위주로 구성된 2개 주는 민심을 대변하지 못한다"며 다음 달 3일 사우스캐롤라이나주 프라이머리를 첫 경선으로 지정할 것을 민주당 전국위원회에 요청했고, 전국위도 이를 받아들였다. 그러나 주(州)법으로 '첫 프라이머리' 개최를 못 박은 뉴햄프셔는 이와 무관하게 23일 프라이머리를 실시한다고 밝혔다.

뉴햄프셔 사법 당국은 22일 본격 수사에 착수했지만, 이번 '가짜 음성' 전화의 출처는 불분명한 상황이다. 전문가들은 "최초 조작 가담자와 유포 진원지를 찾는 건 사실상 어렵다"는 견해를 내놨다. 조안 도노반 보스턴대 교수(뉴미디어·저널리즘)는 "가짜 음성이 온라인이 아닌 전화로 퍼졌기 때문에 출처를 추적하는 것이 더 어려울 것"이라며 "전화로 전달되는 오디오 메시지에는 디지털 흔적이 남지 않기 때문"이라고 말했다.

딥페이크(deepfake)는 기계학습을 뜻하는 딥러닝(deeplearning)과 가짜를 뜻하는 페이크(fake)의 합성어로 인공지능(AI)에 특정 문자·이미지·오디오를 학습시켜 복제하는 것을 말한다. 사진 셔터스톡

추적 힘든 'AI 음성' 시한폭탄

전문가들은 "이번 소동은 음성 딥페이크 위험성을 여실히 드러낸다"고 우려했다. 음성 조작과 선거의 상관관계를 연구해온 닉 디아코풀로스 노스웨스턴대 교수는 "'가짜 전화'에 직접 영향을 받는 건 수백, 수천 표 정도밖에 안 될 테지만, 이로 인해 빚어지는 결과와 사회적 파장은 결코 무시할 수 없을 것"이라고 블룸버그통신에 말했다.

실제로 지난해 9월 슬로바키아 총선에선 '가짜 음성'이 선거 결과에 큰 영향을 미쳤다. 선거 이틀 전까지만 해도 우위를 달리던 친미 성향의 야당 대표가 "우리 당이 선거에 이기려면 (소외 계층인) 로마(Roma·'집시'를 뜻하는 유럽 내 공식 용어)에게 돈을 줘야 한다"고 말한 딥페이크 음성 파일이 공개되면서다. 야당은 "조작된 것"이라며 즉각 반발했지만, 해당 음성 파일은 SNS를 통해 급속히 펴졌다. 결국 "사실이 가짜를 이길 수 없는" 상황이 온 것이다.

전문가들이 딥페이크를 더 우려하는 건, 편집하기가 쉽고 생산 비용도 저렴하기 때문이다. 또 전화를 이용한 확산은 추적도 어렵다. 이 때문에 "그럴듯한 메시지와 유권자 등록 데이터베이스만 있으면 선거판을 흔들 강력한 무기로 만들 수 있다"는 경고가 나온다.

이런 가운데 관련 기술의 발달로 선거 악용 사례가 늘어날 수 있다는 불안감을 키우는 보도도 나왔다. 특정인의 음성을 학습시키면 문장을 입력하는 것만으로도 가짜 음성을 생성할 수 있는 서비스를 제공하는 스타트업인 일레븐랩스(ElevenLabs)의 기업 가치가 11억 달러(약 1조4600억원)까지 치솟았다는 내용이었다. 이와 관련, 블룸버그는 "(기술 발달로) '슈퍼 선거' 시기에 정치적으로 악용되는 딥페이크가 확산하는 것에 많은 이들이 우려하고 있다"고 전했다.