오피니언 디지털 세상 읽기

딥페이크 쓰나미

중앙일보

입력

지면보기

종합 25면

박상현 오터레터 발행인

박상현 오터레터 발행인

지난주 온라인에서 인기 가수 테일러 스위프트의 얼굴을 사용한 음란 이미지가 크게 퍼지면서 논란이 되었다. 일반인이 구분하기 힘든 유명인의 딥페이크(deepfake) 사진과 음성, 동영상이 등장한 건 이번이 처음이 아니지만, 이번 사건은 몇 가지 점에서 우리를 긴장시킨다. 우선 스위프트의 조작된 이미지가 퍼진 곳이 소셜미디어 X라는 점이다. 일론 머스크는 이 플랫폼을 인수한 후 발언의 자유를 보장한다는 명목으로 문제가 되는 콘텐트를 단속하는 팀을 없애버렸기 때문에 대응 자체가 쉽지 않다.

더 큰 문제는 이번에 퍼진 이미지들이 AI를 통해 제작되었을 가능성이 크다는 사실이다. 몇 년 전만 해도 딥페이크 기술은 전문가들이나 사용하는 것으로 여겨졌지만, 생성형 AI의 대중화로 누구나 마음만 먹으면 쉽게 제작할 수 있게 되었다. 물론 AI 기업들은 규정에 어긋나는 사용을 단속한다고 하지만 이는 쉬운 일이 아니고, 기술이 대중화될수록 더 어려워진다.

최근 미국의 바이든 대통령의 목소리를 흉내낸 자동 녹음 전화가 유권자들에게 경선과 관련한 가짜 메시지를 퍼뜨렸고 이를 분석한 전문가들은 이 음성이 음성 복제 AI기업의 기술을 사용했음을 밝혀냈다. 기업들이 자사의 AI를 정치와 관련한 콘텐트를 제작하는 데 사용할 수 없다고 규정해봤자 이런 식의 단속은 결국 사고가 난 후에 대처할 수밖에 없다는 심각한 문제가 있다.

전문가들은 완벽한 단속은 어렵고, AI가 대중화할수록 관리는 점점 더 힘들어질 것이라고 경고하고 있다. 그런데 올해는 지구인의 절반이 선거한다고 할 만큼 많은 나라의 선거가 몰린 해다. 소셜미디어의 확산이 2016년 도널드 트럼프의 당선과 영국의 EU 탈퇴(브렉시트)를 만들어 냈다면, 올해는 AI가 큰일을 낼 것이라는 경고가 작년부터 나왔다. 이제 그 경고가 현실이 될지 모른다.

박상현 오터레터 발행인