"여성 옷 벗겨라"…몹쓸 AI 앱 등장, 한달새 2400만명 몰렸다

인공지능(AI)를 이용해 사진 속 사람이 옷을 벗고 있는 것처럼 이미지를 만드는 딥페이크 앱 사용자가 최근 폭증하고 있다는 보도가 나왔다. AFP=연합뉴스

미국에서 인공지능(AI)으로 사진 속 여성의 옷을 벗기는 딥페이크 애플리케이션(앱)과 웹사이트의 이용자가 최근 폭증하면서 악용 우려도 커지고 있다.

10일(현지시간) 블룸버그통신은 소셜 네트워크 분석 기업 그래피카(Graphika)를 인용해 지난 9월 한 달 동안에만 2400만명이 AI를 사용해 사람의 옷을 벗기는 딥페이크 웹사이트를 방문했다고 보도했다.

그래피카에 따르면 올해 초보다 9월에 X(엑스·옛 트위터)와 레딧 등 소셜미디어에서 AI 옷 벗기기 앱을 광고하는 링크 수가 2400% 늘었다. 조사 대상 사이트 중 한 곳은 “원하는 여성의 옷을 벗기라”는 광고를 낸 곳도 있었다.

이 같은 앱과 웹사이트의 인기는 불과 몇 년 전보다 훨씬 그럴듯한 이미지를 만들 수 있는 AI의 출시 때문이라고 그래피카는 전했다. 개발자는 오픈 소스 AI를 이용해 무료로 옷 벗기기 앱을 손쉽게 만들 수 있다고 한다.

딥페이크 앱과 웹사이트는 AI를 사용해 사진 속 사람이 옷을 벗고 있는 것처럼 이미지를 만든다. 문제는 사진 속 인물은 대부분 여성이라는 점이다.

블룸버그는 이들 앱과 웹사이트는 최근 AI 기술 발달이 범죄에 악용될 수 있다는 우려를 심화시키고 있다고 지적했다. 소셜미디어에서 당사자의 동의나 통제, 인지 없이 사진을 가져와 나체 사진 등 음란물로 만들고 이를 배포하는 심각한 법적·윤리적 문제를 야기할 수도 있다.

실제로 X에 올라온 한 광고는 ‘사용자가 AI로 다른 사람의 나체 이미지를 만들어 다시 그 사람에게 보낼 수 있다’는 내용이 있었다. AI 나체 이미지가 누군가를 협박하는 용도로 쓰일 수 있다는 것을 암시한 것이다.

또 다른 관련 앱은 유튜브에 광고 비용을 지불해 ‘벌거벗기다’(nudify)라는 단어를 검색하면 가장 먼저 표시되기도 했다.

개인정보 보호 전문가들은 AI 기술의 발전으로 딥페이크 소프트웨어가 더 쉽고 더 효과적으로 만들어졌다고 우려한다. 디지털 권리 옹호 단체인 일렉트로닉 프론티어 재단의 에바 갈페린 사이버보안국장은 “일반인이 일반인을 대상으로 이런 행위를 하는 일이 많아지고 있다”며 “고등학생, 대학생들 사이에서 이런 일이 벌어지고 있다”고 말했다.

이 같은 범죄의 확산을 막기 위해 구글, 레딧, 메타, 틱톡 등 기업들은 ‘옷 벗기’(undress) 등 검색어를 차단하거나 해당 불법 광고를 게재하는 도메인의 차단 등에 나서고 있다.

구글은 “성적으로 노골적인 콘텐츠는 허용하지 않고 있다”며 “문제가 된 광고를 검토했으며 우리 정책을 위반한 광고는 삭제하고 있다”고 밝혔다.

레딧 대변인은 “가짜 음란물의 동의 없는 공유는 금지하고 있으며 조사 결과 여러 도메인을 막았다”고 말했다.

한영혜 기자 han.younghye@joongang.co.kr