저커버그인데 저커버그 아니다···美대선 비상 걸리게 한 영상

중앙일보

입력

업데이트

마크 주커버그 페이스북 CEO가 14초 분량의 영상에서 이렇게 말한다.

“수십억 명의 은밀한 비밀과 사생활이 담긴 데이터를 통제할 수 있는 사람이 누군지 떠올려 보라”

실제 주커버그의 목소리, 발음과 표정도 같은데 이상한 건 발언 내용이다. 페이스북은 최근 수억 건의 개인 정보 유출 문제로 신뢰도가 바닥에 떨어졌다. 그가 직접 사과도 했다. 그런데 영상 속 주커버그는 정반대로 페이스북 개인정보를 자신이 '주무르고' 있는 것처럼 말한다. 가짜 영상이다.

‘스펙터 프로젝트’

영국의 디지털 예술가 빌 포스터는 지난 6월 자신의 인스타그램과 페이스북에 ‘스펙터 프로젝트’(spectre project)라는 이름으로 디지털 작품을 올리기 시작했다. 도널드 트럼프 미국 대통령, 마크 주커버그, 킴 카다시안 등 유명 인사들의 얼굴을 조작해 그들이 하지 않은 말을, 실제 말한 것처럼 합성했다.

디지털 예술작가 빌 포스터의 인스타그램. '스펙터 프로젝트'로 트럼프 미 대통령, 배우 모건 프리먼, 킴 카다시안 등의 '딥페이크' 영상이 올라와 있다. [인스타그램]

얼굴 근육과 표정의 어색함 등으로 그것이 실제 영상인지를 알아내는 건 거의 불가능하다. ‘스펙터’는 ‘도플갱어(자신과 똑같이 생긴 분신)’ 현상을 연구하고 있는 영국 킹스칼리지런던대 교수의 이름이다.

빌 포스터가 만든 주커버그 ‘가짜 발언’ 영상을 본 네티즌들이 페이스북에 항의를 쏟아냈고 페이스북 측은 영상의 유통을 금지한다는 입장을 냈다. 이 일을 계기로 ‘딥페이크’(DeepFake) 문제가 전세계의 이목을 끌기 시작한다.

디지털 기술로 짜깁기 된 영상을 딥페이크라고 한다. ‘딥 러닝(deep learning)’과 ‘가짜(fake)’라는 말의 합성어다. 2018년 인공지능(AI) 연구자들 사이에서 처음 등장했다. AI 기술을 이용해 사람들이 하지 않은 말과 행동을 진짜 한 것처럼 보이게 만들 수 있게 되면서다.

그런데 딥페이크 문제가 더 크게 논란이 되기 시작한 건 최근이다. 누구든 손쉽게 딥페이크 영상을 만들어 낼 수 있는 프로그램까지 등장하기 시작하면서다.

발빠른 중국…딥페이크 어플 등장

지난달 30일, 중국의 소셜미디어 회사 모모(MoMo)가 신종 딥페이크(Deep Fake) 애플리케이션(app) 자오(Zao)를 출시했다. 어플 사용자가 자신의 얼굴 사진을 업로드하면 어플이 자동으로 특정 영상에 얼굴을 합성해준다. 자연스러운 합성 영상이 인기를 끌면서 출시하자마자 중국 어플 다운로드 수 1위에 올랐다.

자오는 현재 한국에선 사용이 불가능하다. 중국 휴대폰 번호가 있어야 한다. 하지만 회사 측이 올린 시범 영상을 통해 기술 수준을 가늠해 볼 수 있다.

출시되자마자 어플 다운로드 순위 1위를 차지한 중국판 딥페이크 어플 'zao' [바이두 캡쳐]

어플로 만든 딥페이크는 아직 ‘스펙터 주커버그’만큼 정교하진 않다. 하지만 악용의 소지는 여전해 보인다. 영상은 미 HBO 드라마 ‘왕좌의 게임’에서 존 스노우(키트 해링턴)와 샘 웰 탈리(존 브래들리)가 대화를 나누는 장면에 다른 사람의 얼굴을 합성했다. 널리 알려진 드라마여서 가짜 영상인 게 금세 눈에 띈다.

하지만 유명인의 공개된 영상 자료를 인코딩해 그의 실제 영상에 덧입힌다면 어떨까. 실제 하지 않은 발언을 한 것처럼 보이게 하는 ‘가짜 영상’ 제작도 앱을 통해 물론 가능한 상태다. 최근 중국에선 음란물에 유명인의 얼굴을 덧입혀 제작한 영상도 유통돼 사회 문제로 떠오르고 있다.

중국 언론에서도 'zao'에 대한 폭발적 관심이 프라이버시 침해 등의 부작용으로 이어질 수 있다고 경고했다. [소후닷컴]

미국선 딥페이크 경보…‘가짜’ 색출 개발 착수

미국 대선을 앞둔 2016년 10월 9일 도널드 트럼프 공화당 후보와 힐러리 클린턴 민주당 후보가 토론회에서 발언하고 있다. [AP=연합뉴스]

2020년 대선을 앞둔 미국에서 딥페이크 기술에 대한 우려가 커지고 있다. 진짜 같은 가짜 콘텐트가 선거에 악용될 수 있다는 우려다.

로이터통신에 따르면 최근 민주당 애덤 시프 미 하원 정보위원장은 미국 거대 IT 업체들에 딥페이크 동영상에 대한 대책을 제시하라는 서한을 보냈다. 세계 최대 소셜미디어인 페이스북, 트위터, 구글, 유튜브 등이 대상이다.

시프 위원장은 지난 6월 ‘딥페이크’ 관련 청문회에서 “후보자가 절대 한 적 없는 발언을 하는 딥페이크 동영상이 가장 심각한 문제가 될 것”이라며 “악의적인 인물이 (딥페이크를 이용해) 대통령 선거를 포함해 선거 운동 전체를 방해할 수 있다”고 지적했다.

지난 4월 온라인 매체 버즈피드가 제작한 버락 오바마 전 미 대통령 딥페이크(deepfake) 영상의 한 장면. [유튜브 캡처]

특히 2016년 미 대선 당시 러시아가 SNS를 통해 가짜정보를 유포하는 등 광범위하고 조직적으로 개입해 논란이 된 상황에서 이번엔 딥페이크로 통한 개입 우려가 커지고 있다. CNN은 “딥페이크 기술이 너무 빨리 발전하고 있어 사람들이 동영상이 가짜라는 걸 구분하는 게 곧 거의 불가능해질 것으로 전문가들이 우려한다”고 전했다.

미 대선에 대한 위협 뿐 아니라 기업에 닥칠 잠재적 위험에 대한 경고도 나온다. 대니엘 시트론 메릴랜드 법대 교수는 “기업공개(IPO) 전날 밤 CEO가 범죄를 저지르는 딥 페이크 동영상이 나타난다면 그 기업의 주가는 폭락하고 막대한 돈을 잃을 수 있다”며 “며칠 뒤 그 동영상이 가짜라는 게 들통나더라도 그 때는 이미 손실을 본 뒤가 될 것”이라고 말했다.