"가슴 무너지는 줄"…유명 여배우도 등장한 음란물 정체 깜짝

배우 엠마 왓슨의 얼굴이 합성되어 나타나는 음란물 광고. 사진 NBC 홈페이지 캡처

딥페이크 기술로 유명 배우들의 얼굴을 합성한 음란물로 인한 피해가 잇따르고 있다. 플랫폼 규제의 사각지대에 놓여 딥페이크 콘텐트가 활성화되면서 사회적 문제로 떠오르고 있다.

8일(현지시간) 미국 NBC 뉴스는 영화 ‘해리포터’ 여주인공 엠마 왓슨과 스칼렛 요한슨 등 다수의 배우가 딥페이크 기술로 SNS의 음란 광고에 등장하고 있다고 보도했다.

딥페이크(Deepfake)는 동영상에 다른 사람의 얼굴을 합성하는 기술이다. 여기에 인공지능(AI) 기술이 접목되면서 더욱 정교해지고 있어 사회적 문제로 대두하고 있다.

NBC뉴스에 따르면 최근 페이스북에는 딥페이크 관련 애플리케이션 광고물에 왓슨의 얼굴이 자주 등장한다. 해당 광고물에서 왓슨은 수줍게 웃다가 카메라를 응시하며 몸을 굽히는 모습을 보인다. 이 광고는 실제 왓슨이 나오는 것이 아니라 딥페이크 기술을 이용해 합성한 것이다.

SNS에 등장하는 앱 광고물 중 127개가 왓슨을 닮은 것이었고 다른 74개는 할리우드 배우 스칼릿 요한슨의 얼굴이 합성된 것으로 파악됐다고 NBC는 전했다.

이같은 ‘비동의’ 딥페이크 영상은 유명인사뿐 아니라 미성년자까지 포함한 누구도 대상이 될 수 있어 문제의 심각성이 있다. 악의적으로 조작된 딥페이크 콘텐트를 메타 등은 금지하고 있지만 규제의 사각지대를 비집고 버젓이 활성화돼 있다고 NBC는 지적했다.

NBC가 실제로 해당 앱을 사용해 딥페이크 기술을 적용했더니 순식간에 영상 속 얼굴을 손쉽게 바꿀 수 있었다고 한다. 2022년 개발된 이 앱은 애플의 앱스토어에서 만 9세 이상만 되면 무료로 자유롭게 다운로드받을 수 있다.

문제의 앱은 5~6일 이틀간 메타 산하 페이스북, 인스타그램 등 SNS에 230개 이상의 동영상 광고를 하고 있었다.

이에 대해 메타 대변인은 성명에서 “우리의 정책은 AI에 의한 것이든 그렇지 않은 것이든 간에 성인물을 금지하는 것”이라며 “우리는 이 페이지를 우리 플랫폼에서 광고하지 못하게 했다”고 설명했다.

해당 앱이 앱 스토어에서 발견된 것과 관련해 애플 측은 “딥페이크에 대한 구체적인 규정은 없지만, 음란물과 명예훼손 콘텐트가 포함된 앱은 금지한다”면서 문의받은 이후 문제의 앱을 제거했다고 밝혔다.

구글 플레이는 문제의 앱의 등급을 올렸지만, 취재가 시작된 이후 앱을 삭제했다고 밝혔다.

딥페이크 피해 속출하자 대응 마련 분주

텔레그램 대화방에서 여성의 사진을 나체 사진으로 바꿔주는 딥페이크봇이 작동하는 방식. [사진 센시티 홈페이지]

딥페이크 기술이 음란물 등에 악용될 수 있다는 지적은 이전부터 이어왔다. 온라인 합성 미디어 모니터링 회사인 딥트레이스(Deeptrace) 보고서에 따르면 2019년 기준 온라인에서 발견된 딥페이크 동영상의 96%가 유명인의 포르노 영상이었다.

일반인도 딥페이크의 악용된 기술을 피해가진 못한 건 마찬가지다. 영국에 거주하는 케이트아이작스(30)는 지난해 10월 BBC와의 인터뷰에서 자신의 얼굴과 몸을 합성한 성관계 영상이 유포됐다고 고백했다. 그는 영상을 확인하고는 “가슴이 무너지는 것 같았다”고 토로했다.

전문가들은 AI 기술이 사회적 신뢰를 무너뜨리고 있다고 지적했다. 미국 정치 컨설팅 업체 '유라시아 그룹'은 관련 보고서에서 AI 기술을 “대량살상 무기”라고 표현했다.

그러면서 “AI 기술은 선동꾼들과 권위주의자들에게 권력을 부여한다”며 “기업과 시장을 교란할 것”이라고 경고했다. 또한 “초상권에 대한 통제를 과거의 유물로 만들고 있다”고도 덧붙였다.

유로폴도 보고서를 통해 “사람들이 사실과 허구를 구별할 수 없게 돼 결국 ‘정보의 종말’로 이어질 수 있다”고 지적했다.

딥페이크 문제에 각국 정부가 완전히 손을 놓고 있는 건 아니다.

우리나라에선 성적 콘텐트에 연예인 얼굴 등을 합성하는 딥페이크(Deepfake) AI 기술의 경우 ‘성폭력범죄의 처벌 등에 관한 특별법’에 따라 처벌을 받는다. 제작 행위만으로도 5년 이하의 징역 또는 5000만원 이하의 벌금에 처해질 수 있다.

중국도 지난달 주요국 중 처음으로 딥페이크에 대한 포괄적 규제를 시작했다.

중국 당국은 ‘인터넷 합성 관리 규정’을 신설하고 딥페이크 서비스를 제공하는 IT기업들에 가입자 신원정보를 보고하도록 했다. 제작자는 자신의 신원정보와 콘텐트 원본 링크를 딥페이크 제작물에 태그해야 한다.

미국과 유럽연합(EU)도 관련 규제를 신설하려는 법 제정 움직임이 일었다. 미국 의회는 딥페이크 단속을 전담하는 경찰 내 독립 기구를 신설하는 방안을 검토 중이다.

EU는 지난해 ‘AI규제법안’을 통해 고위험 AI의 경우 한 번 더 점검하는 방안을 검토했다. 법안에는 공공기관에서 안면인식 기술을 사용하는 데 제약을 두는 내용도 담겨 있다.

그러나 자칫 디지털 혁신을 저해할 수 있다는 반발에 직면해 아직까지가시적인 성과는 도출되지 않은 상태다.

특히 미국 내 디지털 권리 운동가들은 합법적으로 이용되는 콘텐트에도 ‘입법 과잉’으로 인해 잘못된 규제가 적용될 수 있다고 반대한다.

배재성 기자 hongdoya@joongang.co.kr