총선 앞두고 허위 조작 정보 대처 시급

임종인 고려대 정보보호대학원 석좌교수·대통령실 사이버특보

민주주의는 지금 전쟁 중이다. 민주주의의 꽃이자 축제가 되어야 할 선거가 언제부터인가 허위 조작 정보가 횡행하고 외국 스파이들이 암약하는 전쟁터가 되어버렸다. 이제 우리는 거의 2, 3년마다 주기적으로 선거가 아닌 전쟁을 치러야 할 판이다.

최근 세계 곳곳의 많은 선거에서 민주주의 퇴행의 징후들이 보이고 있고, 일상의 민주주의마저 균열이 일어나고 있다. 이대로 선거를 방치한다면 민주주의를 가능하게 한 제도에 대한 신뢰, 정부에 대한 신뢰, 서로에 대한 신뢰는 바닥나버리고 말 것이다.

선거 때 가짜뉴스, 외국 개입 횡행
빅테크 등 참여하는 TF 설립 시급
자율 규제와 행정 규제 마련해야

[일러스트=김지윤]

이제 우리는 이러한 허위 조작 정보 유포와 외국의 선거 개입에 맞서 민주주의를 수호하기 위한 또 다른 전쟁을 준비해야 한다. 미국 대선을 포함해 전 세계 76개국에서 선거가 치러지는 올해는 특히 인공지능(AI) 기술을 활용한 딥페이크 영상이나 챗GPT 등 AI 텍스트 생성 엔진을 활용한 자동화된 허위 조작 정보 대량 생성·유포로 민주주의가 더욱 위협받게 될 것으로 예상되고 있다.

세계경제포럼(WEF)은 향후 2년간 가장 큰 위험 요인으로 AI를 활용한 허위 조작 정보에 의한 선거 개입을 선정했다. 실제로 세계 곳곳에서 진짜와 구별할 수 없는 딥페이크 영상을 이용해 선거에 영향을 준 사례들이 속속 등장하고 있다. 자국의 정치적 이익을 위해 AI 기술을 이용한 외국의 선거 개입 공작이 증가하고 있는 상황에서, 북한의 허위 조작 정보와 딥페이크를 이용한 총선 개입도 충분히 예상해 볼 수 있다. 옥스퍼드대 연구에 따르면 북한은 이미 허위 정보 확산을 통해 선거 개입 활동을 하고 있으며, 미국 정보기관은 북한이 선거에서 대규모의 파국적인 영향을 미칠 능력을 보유하고 있다고 경고하고 있다. 정확한 의도·역량·자원을 가진 세력에 의해 AI를 통해 대량 생산된 허위 조작 정보와 딥페이크 영상이 대형 소셜미디어를 타고 무차별 확산되는 이 전쟁터에서 우리는 승리를 쉽게 장담할 수 없다.

최근 네이버·구글·마이크로소프트 등 허위 조작 정보 생성·전파에 널리 활용되는 서비스를 운영 중인 빅테크 기업들이 선거를 앞두고 자율 규제 차원에서 자발적으로 허위 조작 정보에 대응하고 있는 것은 매우 고무적이다.

하지만 이들의 대응책만으로는 조직적이고 자동화된 허위 조작 정보 유포에 일사불란하게 대응하여 선거에 대한 영향을 차단하기에 역부족이다. 우리의 허위 조작 정보 대응 방안은 아직 파편화되어 있고, 빅테크 기업이 자신의 책임에 맞는 충분한 역할을 하도록 견인하기에는 부족하다.

22대 총선을 2개월 남짓 앞둔 상황이지만, 지금에라도 우리는 허위 조작 정보와 딥페이크 유포에 대응하기 위한 전 사회적 대응 체계를 갖춰야 한다. 허위 조작 정보에 효과적으로 대응하기 위해서는 충분한 권한과 기술 역량을 갖춘 공공·민간 간 파트너십에 기반한 협력이 필수적이다. 정부는 기업들과 딥페이크 및 허위 조작 정보 탐지 및 삭제, 계정 차단, 사이트 차단 등 협력 체계를 구축하고, 이들의 노력을 견인·조정·종합할 수 있어야 한다. 프랑스 대선에서 프랑스 정부가 보여주었던 페이스북 등 빅테크 기업들과의 긴밀한 협조 체계와 미국 중간선거에서 바이든 정부가 보여주었던 메타 등 소셜미디어 기업들과의 협력은 좋은 사례이다.

이를 위해 가장 먼저 할 일은 총선 기간 동안 딥페이크 등 AI 기술에 의한 허위 조작 정보 활용을 막기 위한 최선의 대응책을 도출하고 적시에 협력 대응을 할 수 있도록 관련 부처와 빅테크 기업 및 관련 전문가들이 참여하는 딥페이크 및 허위 조작 정보 대응 태스크포스(TF)를 설립, 운영하는 것이다. 이 TF는 지난 1월 딥페이크 활용 허위 조작 정보 대응 방안을 마련하는 역할을 부여받은 방송통신위원회를 중심으로 신속히 구성되어야 한다. 이 TF를 통해 방통위는 빅테크 기업들의 자율 규제 활동을 위한 환경을 조성하는 역할과 동시에 적절한 행정 규제 수단을 활용하는 적극적인 노력을 기울여야 한다.

시간이 충분치 않지만, 지금에라도 허위 조작 정보에 맞서기 위한 진지를 구축하고 교두보를 마련해야 한다. 그래야 3년 뒤 대선이라는 큰 전쟁에서 민주주의를 파괴하려는 세력에 맞서 승리할 수 있을 것이다.

※ 외부 필진 기고는 본지의 편집 방향과 다를 수 있습니다.

임종인 고려대 정보보호대학원 석좌교수·대통령실 사이버특보