팝스타 테일러 스위프트의 얼굴 사진을 나체 이미지와 악의적으로 합성한 딥페이크가 지난 24일(현지시간)부터 X(옛 트위터)에서 퍼져 관련 기업이 대응에 나섰다. 사진은 지난 7일 열린 제 81회 골든글러브 시상식에 참석한 스위프트. 로이터=연합뉴스
팝스타 테일러 스위프트의 얼굴 사진을 나체 이미지와 악의적으로 합성한 인공지능(AI) 딥 페이크로 홍역을 치른 X(옛 트위터)가 성 착취물 단속팀을 만들기로 했다. 미 백악관까지 나서 딥 페이크 성 착취물에 대해 강한 우려를 표하자 급하게 대책 마련에 나선 것이다. ‘표현의 자유’를 앞세워 각종 제한을 없애고, 관련 인력을 구조조정했던 종전 입장을 번복했다.
조 베나로치 X 사업운영책임자는 28일(현지시간) 로이터통신과의 인터뷰에서 “아동 성 착취물 등 불법 콘텐트를 집중적으로 살피는 100명의 콘텐트 관리자를 정규직으로 채용하겠다”고 밝혔다.
2022년 10월 트위터를 인수한 일론 머스크 테슬라 최고경영자(CEO)는 표현의 자유를 강조하며 콘텐트 감시 인력을 대규모로 해고하고, 차단됐던 음모론·극단주의자들의 계정까지 복원시켰다. 이같은 행보를 뒤집고 단속팀을 다시 꾸린 데는 스위프트의 음란 딥 페이크 확산 이후 백악관이 우려를 표명한 것과 무관치 않다는 해석이 나온다.
2022년 10월 트위터를 인수한 일론 머스크 테슬라 최고경영자(CEO)는 '표현의 자유'를 내세워 콘텐트 감시 인력을 대규모 해고하고, 차단됐던 음모론·극단주의자들의 계정도 복원했다. AP=연합뉴스
미 정보기술(IT) 전문매체 404 미디어에 따르면, 문제의 딥 페이크 이미지는 24일 온라인 게시판 포챈(4Chan)과 텔레그램에서 시작돼 X를 통해 일파만파 퍼진 것으로 보인다. 해당 이미지는 MS(마이크로소프트)의 생성형 AI 도구 ‘디자이너(Designer)’를 통해 만들어졌다는 의혹도 나오고 있다. MS는 “정확한 경위를 조사 중”이라고 밝혔다. 이 이미지는 X 계정에 올라온 뒤 17시간 만에 조회수 4500만 이상을 기록했다.
뒤늦게 문제 계정을 삭제하고 ‘테일러 스위프트’를 검색하지 못하게 했지만, 이 임시 조치에도 허점이 있었다. 테일러 스위프트 이름 앞뒤로 따옴표를 붙이면 검색이 됐고, 이름과 성(姓) 사이에 다른 단어를 추가해 넣으면 검색이 가능했다. 카린 장피에르 백악관 대변인은 26일 브리핑에서 “매우 우려스러운 일”이라며 관련 기업의 책임 있는 움직임과 의회의 빠른 입법 조치를 요구했다.
X의 다급한 대응은 오는 31일로 예정된 미 상원 사법위원회의 ‘온라인 아동 성 착취물 위기’ 청문회와 관련 있다는 분석도 나왔다. 이 청문회에는 X 외에 메타와 틱톡 등 주요 빅테크 CEO들이 출석할 예정이다. 블룸버그통신은 “스위프트 사태가 있었던 만큼, 이번 청문회에서 딥 페이크 콘텐트 관리 정책 등을 집중 추궁할 것으로 보인다”고 전했다.
딥페이크(deepfake)는 기계학습을 뜻하는 딥러닝(deep learning)과 가짜를 뜻하는 페이크(fake)의 합성어로 인공지능(AI)에 특정 문자·이미지·오디오를 학습 시켜 복제하는 것을 말한다. 사진 셔터스톡
딥 페이크 확산에 “국제 공조 필요”
미 의회의 대응도 한층 빨라질 것으로 보인다. 유명인 성 착취물은 빙산의 일각일 뿐, 평범한 전 세계 여성·아동을 대상으로 한 무작위 가짜 포르노가 판치고 있다는 우려가 커지고 있기 때문이다. 네덜란드 사이버 보안 연구 회사 딥트레이스는 2019년 전 세계 딥 페이크 영상 중 96%가 여성과 아동을 겨냥한 음란물이라 지적한 바 있다.
조 모렐 민주당 하원의원은 디지털로 조작된 포르노 이미지를 무작위로 공유하는 것을 연방 범죄로 규정하고, 징역형과 벌금을 부과하는 법안을 통과시킬 것을 촉구했다. 그는 하원 법제사법위원회에 회부된 초당적 법안인 ‘은밀한 이미지 딥 페이크 방지법’을 발의한 인물이기도 하다. 톰 킨 주니어 하원의원(공화당)도 “보호 장치가 마련되는 속도보다 AI 기술이 더 빠르게 발전하고 있다”며 조속한 안전장치 마련 필요성에 의견을 같이했다.
현재 미국은 정부 차원에서 딥 페이크 기술을 규제하는 법이 없다. 캘리포니아·텍사스·일리노이·뉴욕 등 9개 주에서만 각각 상대 동의 없이 딥 페이크 이미지를 만들고 공유하는 것을 금지하고, 합의되지 않은 딥 페이크를 유포하는 걸 형사 범죄로 규정하고 있다.
영국의 경우 2022년 동의 없이 딥 페이크 포르노나 성적인 사진을 공유하는 행위 등을 범죄로 규정해 쉽게 처벌할 수 있도록 하는 ‘온라인 안전법’이 마련됐다.
전문가들은 여성·아동을 표적으로 하는 딥 페이크 기술이 날로 악랄해지고 있지만, 규제 도입 속도는 느리다며 국제 공조 필요성을 강조했다.
디지털 성범죄와 여성 인권을 연구해온 노엘 마틴 웨스턴 대학교 연구원은 “누군가의 삶을 망치고 아무 처벌도 받지 않는 건 분명 문제가 있다”며 “각국 정부와 법 집행 기관, 피해자 커뮤니티가 한데 뭉치는 ‘세계적 대응’이 있어야 한다”고 강조했다. 인터넷 보안업체 시어타스 창업자 댄 퍼셀도 “인터넷은 국경이 없는 하나의 관할권”이라며 “디지털 성 착취로부터 사람을 보호하기 위한 국제법이 필요하다”고 말했다.
