‘AI 딥페이크 쓰나미’ 막을 방파제 필요하다

미국을 대표하는 팝스타 테일러 스위프트. [AP]

17시간 방치된 테일러 스위프트 가짜 음란물  

플랫폼 기업이 적극적으로 문제 해결 나서야

미국 팝스타 테일러 스위프트의 얼굴을 합성한 딥페이크 음란 사진이 지난 주말 급격히 퍼졌다. 딥페이크는 인공지능(AI) 기술을 기반으로 만들어낸 가짜 이미지·오디오·비디오 콘텐트다. 소셜미디어 X(옛 트위터)는 딥페이크 사진을 17시간이나 지나서야 뒤늦게 삭제하고 검색을 막았다. 이미 해당 음란물 조회 수가 4700만 회를 넘어선 뒤였다. 얼마 전엔 미국 민주당 대선후보를 뽑는 뉴햄프셔 예비경선 직전에 조 바이든 대통령 음성으로 투표 거부를 독려하는 가짜 전화가 당원들에게 동시다발적으로 걸려와 소동이 빚어졌다. 생성형 AI 기술이 대중화되면서 누구나 쉽고 빠르게 딥페이크를 만들 수 있는 환경이 됐다. 곧 닥쳐올 ‘딥페이크 쓰나미’에 대비해 적절한 규제를 준비할 필요가 있다.

지난해 12월 한국에선 선거 90일 전부터는 딥페이크를 활용한 선거운동을 금지하는 공직선거법 개정안이 국회를 통과했다. 딥페이크 음란물 처벌 근거도 성폭력 처벌법에 나와 있긴 하다. 이런 규정들이 몇 분이면 진짜 같은 가짜 콘텐트를 만들 수 있는 생성형 AI 시대에 충분한지 잘 따져보기 바란다. 딥페이크를 악용한 음란물이나 선거물은 SNS를 타고 전광석화처럼 퍼지는 반면, 계정 삭제 같은 플랫폼 대응이나 법에 따른 당국의 규제는 한발 늦기가 십상이다. 자칫하면 사후약방문이라는 비판을 받을 수 있다. 실제로 지난해 튀르키예와 슬로바키아 선거에선 딥페이크가 팩트를 이기기도 했다.

다행히 딥페이크를 걸러내기 위한 업계의 기술 진화가 이뤄지고 있다. AI로 AI를 잡는 딥페이크 판별 기술이 인텔 등에서 나왔다. 구글·마이크로소프트 등 빅테크는 생성 AI로 만든 딥페이크에 워터마크를 부착해 악용 가능성을 사전에 차단하고 있다. SNS를 운영하는 플랫폼 업체들이 이런 기술을 활용해 더 적극적으로 문제 해결에 나서 주기를 바란다. X는 이번 사고가 터지고 나서야 부랴부랴 성 착취물 단속팀을 만들겠다고 발표했다. 2022년 10월 트위터를 인수한 일론 머스크는 ‘표현의 자유’를 앞세워 콘텐트 감시 인력을 대거 해고했다가 이런 사달이 났다. 우리 플랫폼 기업에도 반면교사가 될 것이다.

그렇다고 규제 위주의 과잉 대응으로 흐르지는 말아야 한다.  AI 주도권을 잡기 위해 국가 간 치열한 전쟁이 벌어지고 있다. 딥페이크 기술 자체는 죄악시할 필요가 없다. JTBC 드라마 ‘웰컴투 삼달리’에 국민 MC 고(故) 송해가 등장할 수 있었던 것도 딥페이크 기술 덕분이다. 방송·엔터테인먼트·게임 등의 산업에서 활발하게 쓰이고 있고 증강현실(AR)·가상현실(VR)과 결합하면 시너지가 커질 수 있다. 결국 기술이 악용되는 부작용은 막되 효율성을 높이는 방향으로 잘 관리하는 게 가장 중요하다.