미국을 대표하는 팝스타 테일러 스위프트. AP=연합뉴스
미국 팝스타 테일러 스위프트의 얼굴에 음란물을 합성한 사진이 퍼지면서, 인공지능(AI)이 생성한 딥페이크에 규제가 필요하다는 목소리가 커지고 있다.
무슨 일이야
28일 뉴욕타임스(NYT) 등에 따르면 X(옛 트위터)를 중심으로 테일러 스위프트 얼굴에 성적 이미지를 합성한 딥페이크 사진이 유포됐다. 논란이 커지자 X는 이미지를 삭제하고, ‘테일러 스위프트’를 아예 검색하지 못하도록 조치했다. 하지만 약 17시간 동안 해당 사진이 방치되면서, 딥페이크에 대한 규제가 필요하다는 여론이 미국 내에서 강해지고 있다.
일각에선 딥페이크가 마이크로소프트(MS)의 AI 생성 도구 ‘디자이너’로 제작됐다는 주장도 나왔다. MS측은 이 주장에 대해 자체 조사를 진행 중이다. 사티아 나델라 MS 최고경영자(CEO)는 미국 방송매체 NBC와 인터뷰에서 “딥페이크와 싸우기 위해 빨리 움직이고 행동해야 한다”며 규제의 필요성을 강조했다. 이어 “온라인 세상이 안전할 때 모두 이익을 얻을 수 있다”고 말했다.
이게 왜 중요해?
현재 소셜미디어 엑스에선 '테일러 스위프트' 검색을 막았다. 엑스 캡쳐
AI 기술 발달로 딥페이크를 악용한 사례가 기하급수적으로 늘어나고 있다. 과거에도 포토샵을 이용한 합성 음란물이 있었지만, AI는 보다 빠른 시간 내 다량의 딥페이크 이미지를 생성할 수 있다. NYT는 “AI 산업이 호황을 누리면서 기업들은 일반 사용자들이 쉽고 저렴하게 딥페이크를 만들 수 있도록 했다”고 분석했다. 오런 에치오니 워싱턴대 컴퓨터공학과 교수도 “예전에도 불법 합성물은 인터넷상에 많이 있었지만, 앞으로는 AI가 생성하는 노골적인 사진들의 ‘쓰나미’를 보게 될 것”이라고 말했다.
유명인이 아닌 일반인 역시 딥페이크 피해에 노출되고 있다. 조셉 모렐 민주당 하원의원은 자신의 X계정에서 “이런 일(합성 음란물 피해)은 어디서나 여성들에게 일어나고 있다”며 규제 중요성을 강조했다.
막을 수 있나
현재 미국 연방정부 차원에서 딥페이크 기술을 규제하는 법은 없다. 다만 9개 주에서만 상대 동의 없이 딥페이크 사진의 생성·공유를 금지하고 있다. 스위프트 팬들은 ‘테일러 스위프트를 보호하라 (#protectTaylorSwift)’는 해시태그를 올리며 연방정부에 딥페이크 규제를 요구하고 있다.
한국에선 AI 딥페이크 기술로 음란물을 제작할 경우 처벌할 수 있다. 성폭력 처벌법 제14조2는 성적 수치심을 유발하는 형태로 영상을 편집·합성·가공하는 경우 5년 이상 징역 또는 5000만원 이하 벌금에 처하도록 하고 있다. 하지만 AI 딥페이크로 음란물을 제작하는 것 자체를 막기는 어렵다. 온라인 특성상 한번 공개된 게시물의 경우 급속도로 퍼지기 때문에 피해 사전 방지 효과는 제한적이다.
김윤희 법무법인 세종 변호사는 “개개인이 딥페이크로 음란물을 만드는 것 자체를 막는 것은 현실적으로 불가능하다"며 "플랫폼 차원에서도 신고받지 않는 사진이나 영상까지 전부 다 규제를 하는 데는 한계가 있다”고 말했다. 이어 “딥페이크 악용을 막기 위해선 음란물 유포 시 영리 목적이 아니더라도 가중처벌하는 방향 등을 고려해야 한다”고 말했다.
