딥페이크 쓰나미

박상현 오터레터 발행인

지난주 온라인에서 인기 가수 테일러 스위프트의 얼굴을 사용한 음란 이미지가 크게 퍼지면서 논란이 되었다. 일반인이 구분하기 힘든 유명인의 딥페이크(deepfake) 사진과 음성, 동영상이 등장한 건 이번이 처음이 아니지만, 이번 사건은 몇 가지 점에서 우리를 긴장시킨다. 우선 스위프트의 조작된 이미지가 퍼진 곳이 소셜미디어 X라는 점이다. 일론 머스크는 이 플랫폼을 인수한 후 발언의 자유를 보장한다는 명목으로 문제가 되는 콘텐트를 단속하는 팀을 없애버렸기 때문에 대응 자체가 쉽지 않다.

더 큰 문제는 이번에 퍼진 이미지들이 AI를 통해 제작되었을 가능성이 크다는 사실이다. 몇 년 전만 해도 딥페이크 기술은 전문가들이나 사용하는 것으로 여겨졌지만, 생성형 AI의 대중화로 누구나 마음만 먹으면 쉽게 제작할 수 있게 되었다. 물론 AI 기업들은 규정에 어긋나는 사용을 단속한다고 하지만 이는 쉬운 일이 아니고, 기술이 대중화될수록 더 어려워진다.

최근 미국의 바이든 대통령의 목소리를 흉내낸 자동 녹음 전화가 유권자들에게 경선과 관련한 가짜 메시지를 퍼뜨렸고 이를 분석한 전문가들은 이 음성이 음성 복제 AI기업의 기술을 사용했음을 밝혀냈다. 기업들이 자사의 AI를 정치와 관련한 콘텐트를 제작하는 데 사용할 수 없다고 규정해봤자 이런 식의 단속은 결국 사고가 난 후에 대처할 수밖에 없다는 심각한 문제가 있다.

전문가들은 완벽한 단속은 어렵고, AI가 대중화할수록 관리는 점점 더 힘들어질 것이라고 경고하고 있다. 그런데 올해는 지구인의 절반이 선거한다고 할 만큼 많은 나라의 선거가 몰린 해다. 소셜미디어의 확산이 2016년 도널드 트럼프의 당선과 영국의 EU 탈퇴(브렉시트)를 만들어 냈다면, 올해는 AI가 큰일을 낼 것이라는 경고가 작년부터 나왔다. 이제 그 경고가 현실이 될지 모른다.

박상현 오터레터 발행인