초짜도 10분만에 만들었다, 한동훈·이재명 가짜 영상

팩플 오리지널

관심

Today's Topic
AI 딥페이크의 공습,
기술은 선거를 구할 수 있을까

수퍼 선거의 해, 딥페이크(AI를 활용해 만든 조작 콘텐트)는 글로벌 골칫거리로 부상 중이다. 인터넷에 떠도는 사진만으로도 10분이면 뚝딱, 치명적 딥페이크를 만들 수 있다는데. 갈수록 어려워지는 진짜·가짜 구분은 인공지능(AI)이 민주주의와 선거를 망친다는 우려를 키우고 있다. 국내외 기술기업들이 대책으로 제시한 ‘워터마크’는 여전히 못 미더운 상황. ‘눈에 안 보이는 워터마크 어떻게 찾지?’ ‘ 워터마크 붙여도 잘라내면 그만 아닌가?’ 하는 의문이 꼬리에 꼬리를 문다.

팩플 오리지널은 가짜를 만드는 창 딥페이크와, 진짜를 찾아주는 기술적 방패의 대결을 추적했다. 누구나, 마음만 먹으면 빛의 반사와 피부 질감까지 만들어낼 수 있는 생성 AI 시대. 딥페이크에 넘어가 내 한 표를 행사하고 싶지 않다면 오늘의 리포트에 주목. 딥페이크에 속지 않을 팁도 담았다.

💬목차

1. 민주주의 망치는 딥페이크
2. 워터마크=주도권? 치열한 속내
3. 딥페이크 잡을 기술, 어디쯤
4. 선거와 AI, 공생 가능할까

오혜정 디자이너

1.민주주의 망치는 딥페이크

지난해 3월 온라인에 유포된 도널드 트럼프 전 미국 대통령이 체포되는 딥페이크 사진. 지난해 6월 트럼프 전 대통령이 코로나19 대응에 대립각을 세우던 앤서니 파우치 전 미국 국립보건원 소장과 스킨십을 하는 딥페이크 이미지. 이번 달 트럼프 전 대통령이 흑인 지지자들과 다정하게 사진을 찍고 있는 딥페이크 이미지(왼쪽 하단부터 시계방향). 엘리엇 히긴즈 X·더버지 X·폭스26 뉴스 캡처

지난해 3월과 6월, 이번 달 각각 SNS에 확산한 도널드 트럼프 전 미국 대통령의 딥페이크 사진 3장을 보자. 처음 사진엔 경찰관 제복과 손 모양이 왜곡돼 있는 등 조작 흔적이라도 남았다. 그런데 이후 딥페이크 사진들은 육안으로 구분하기 어려운 정교한 수준까지 올라왔다. 자칫하면 본인도 깜빡 속을지도.

👇 여기서부터 6300자, 읽는 데 2분30초

10분이면 딥페이크 뚝딱: 실제 정치인 딥페이크를 만드는 데 얼마나 걸릴까. 앱 마켓에서 ‘딥페이크’를 검색하고 이를 제작하는 앱 하나를 다운로드한 뒤 템플릿에 한동훈 국민의힘 비상대책위원장과 이재명 민주당 더불어민주당 대표 얼굴 사진을 찾아 넣었더니 곧바로 딥페이크 영상이 완성됐다. 딥페이크 앱에 익숙지 않은 사람이 해도 10분이 채 걸리지 않았다.