[팩플]'지인능욕방' 만든 그 기술…딥페이크 어디까지 왔나

중앙일보

입력

업데이트

영화 '기사 윌리엄'에 조커의 얼굴을 합성한 딥페이크 [영상 유튜브 채널 'Ctrl Shift Face']

딥페이크(Deep Fake) 포르노. 텔레그램 n번방 중 '지인능욕방'에서 소비된 집단 성착취 영상이다. 지인의 사진을 올리면 다른 사람의 신체가 노출된 사진이나 영상에 지인의 얼굴을 합성해서 만드는 가짜 포르노. 이에 대해 김인겸 법원행정처 차장은 '딥페이크 처벌법' 입법 과정에서 "예술로 생각하고 만들 수 있지 않냐"고 말해 비난을 받았다. 범죄에 악용되는 딥페이크 기술, 어디까지 왔을까.

무슨 일이야?

· 지난 5일 성폭력범죄처벌 특례법 개정안(딥페이크 처벌법)이 국회 본회의를 통과했다. 딥페이크 포르노를 제작하거나 퍼뜨리면 5년 이하 징역 또는 5000만원 이하의 벌금에 처한다. 특히 영리 목적으로 유포시 7년 이하 징역으로 가중처벌한다.
· 딥페이크 포르노를 콕 집어낸 '핀셋 규제'다. 그래서 성노예·신상유포 같은 디지털 성범죄 처벌 근거를 누락한 '졸속 입법'이라는 지적이 나온다.

딥페이크는 어떻게 만들어?

· 이미지를 '감별'하는 알고리즘과 '생성'하는 알고리즘으로 구성된 인공지능(AI) 기술로 만든다. 두 알고리즘을 대조해 원본과의 오차를 줄이는 방법으로 가짜를 만들어낸다. 감별 알고리즘이 정교할수록 '진짜 같은 가짜'가 나온다.
· 네덜란드의 딥페이크 탐지 전문회사 '딥트레이스'는 "미국엔 2.99달러(3700원)만 내면 이틀 만에 딥페이크를 만들어주는 업체들이 있다"고 주장한다.
· 삼성전자 모스크바 AI 연구소는 지난해 '사진 1장만으로 말하는 동영상을 만드는 기술'을 개발했다.

삼성 AI랩이 지난해 선보인 이미지를 동영상으로 만드는 기술 [사진 연구원 이고르 자카로프 유튜브]

이게 왜 문제야?

· 성범죄: 딥트레이스에 따르면, 전 세계 딥페이크 포르노의 25%가 K팝 아이돌 등 한국 여성 연예인이다. 2018년 인도에선 현 모디 정권을 비판해온 여성 언론인(라나 아윱)의 딥페이크 포르노가 유포됐다.
· 정치·외교: 2018년 멕시코는 대선기간에 "안드레스 마누엘(현 멕시코 대통령) 캠프 사람들이 선불카드를 (뇌물로)받았다"는 4분짜리 딥페이크 음성이 유포돼 곤혹을 치렀다. 뉴욕대학교 스턴 비즈니스&인권 센터는 "2020년 미국 대선에 딥페이크 영상과 중국·러시아·이란의 가짜뉴스가 영향을 끼칠 것"이라고 경고했다.
· 경제: 기업을 사칭한 허위 콘텐트가 생길 수 있다. 지난해 독일 신용보험사 외러 에르메스는 '딥페이크 사기'를 당한 고객의 사례를 소개했다. 한 영국 에너지 회사의 CEO가 독일 모회사의 지시에 따라 22만 유로(약 3억원)를 송금했는데, 지시한 자는 음성 딥페이크였던 것.

이런 면도 있는데

· 교육: 움직이는 초상화, 죽은 위인의 인터뷰 등 생생한 예술·역사 교육이 가능해진다. 미국 플로리다의 달리 미술관은 지난해 AI로 살바도르 달리를 되살려 '초현실적'인 인터뷰 영상을 만들었다.
· 엔터: 좋아하는 가수의 공연, 공상과학(SF) 영화, 게임 산업 등 가상현실 제작에 활용될 수 있다. (일자리 감소는 또 다른 문제.)
· 복지: 청각장애·언어장벽자에게 인공 목소리를 줄 수 있다.

앞으로는?

· 기술 자체를 악마화할 필요는 없다. 국회입법조사처는 "가장 최선의 대응은 딥페이크 식별기술의 발전"이라고 강조했다.
· 딥페이크 탐지 AI는 딥페이크가 생성될 때 남은 흔적을 역추적해 진위 여부를 구별한다. 페이스북·MS 등은 대학과 함께 '딥페이크 탐지대회'를 지원 중이다.
· 하지만 창과 방패의 싸움. 미국 국방부가 '딥페이크 영상은 눈 깜빡임이 거의 없다'는 점에 착안해 탐지 AI를 만들자, 눈을 깜빡이는 딥페이크가 등장했다.
· 페이스북은 지난해 9월부터 약 120억원을 들여 딥페이크 탐지술을 개발했다. 올해 1월부터 페이스북은 딥페이크를 발견 즉시 삭제하고 있다. 진위 구분이 힘들 정도이면 삭제된다. 다만, 패러디나 풍자 영상은 괜찮다. 애매한 기준은 논란이 될 수 있다.
· 피해자 구제도 중요 이슈다. EU는 '잊힐 권리'에 따라 딥페이크 피해자의 삭제 요청도, 데이터 처리에 대한 이의 제기 권리도 법적 보장한다.

[팩플] “그래서 이게 왜 중요해?”

이 질문에 답하는 게 [팩플]입니다. 확인된 사실을 핵심만 잘 정리합니다. [팩플]팀은 사실에 충실한 ‘팩트풀(factful)’ 기사, ‘팩트 플러스 알파’가 있는 기사, ‘팩트를 아낌없이 플렉스(Flex)’한 기사를 씁니다. 궁금한 내용부터 콕콕 짚습니다. 뉴스를 봐도 답답했다면, 이제 팩플하세요.