[팩플] MS “中, 생성 AI 선거 방해”…음성·동영상 AI시대, 더 큰 위협 온다

중앙일보

입력

중국 공산당의 지원을 받는 사이버 공격 세력이 다른 나라의 선거에 영향을 미치기 위해 사이버 공격을 하는 사례가 늘고있다. 사진 게티 이미지

중국·북한 등 특정 국가 지원을 받는 사이버 공격 세력의 생성 인공지능(AI) 활용이 늘고 있다. 텍스트 생성에서 음성합성·동영상 생성 등 멀티모달(MultiModal·복합정보처리)로 AI가 진화하면 더 큰 위협이 될것이라는 우려가 나온다.

무슨일이야

마이크로소프트 위협분석센터(MTAC)는 지난 4일(현지시간) 보고서에서 “중국 정부와 연계된 사이버 공격 세력들이 미국·한국 등 주요국 선거를 겨냥해 자국에 유리한 내용의 콘텐트를 만들고 퍼뜨릴 것”이라고 발표했다. MTAC에 따르면 이들은 논란이 있는 이슈에 대한 게시글을 지속적으로 올리는 방식으로 사회 갈등을 키웠다. 해당 국가 국민을 사칭하는 계정도 다수 만든 것으로 드러났다. 대표적인 사이버 공격세력인 ‘스톰 1376’은 일본 후쿠시마 원전 오염수 방출 문제와 관련해 카카오스토리, 티스토리 등 국내 플랫폼에 수백 개의 게시글을 올렸다. MTAC은 “주요 내용은 일본 정부를 비판하는 것 뿐 아니라 (오염수 방류) 반대 시위를 증폭시키는 내용”이라고 분석했다.

이게 왜 중요해

AI의 사회공학적(social engineering) 위협이 실제 행위로 드러났다. 해당 국가의 언어나 문화를 잘 알지 못해도, 생성 AI를 이용하면 손쉽게 콘텐트를 만들 수 있게 되면서다. MTAC는 보고서에서 “이들은 ‘현지화된(localized)’ 콘텐트를 생산해 사회 갈등을 증폭시키고 있다”고 수차례 언급했다. 생성AI 덕에 맞춤법, 관용어 등을 어법에 맞게 자연스럽게 구사해 국민들의 의심도 피해갈 수 있게 됐다. 연초 치러진 대만 총통 선거에서는 AI를 활용한 허위 정보 개입을 시도한 것으로 드러나기도 했다. MTAC은 “다른 나라 선거에 영향을 미치기 위해 AI를 활용하는 국가 단위 사이버 공격 세력을 발견한 건 이번이 처음”이라고 밝혔다.

MS 위협분석센터(MTAC)가 4일 공개한 보고서에 나온 국내 여론 조작 게시글 예시. MTAC에 따르면 이런 게시물들은 카카오스토리, 티스토리 등 국내 플랫폼에 수백 개 게시됐다. 사진 MTAC

AI 더 진화하면?

대만을 겨냥한 공격엔 틱톡 운영사인 바이트댄스의 AI 동영상 편집 앱 ‘캡컷’이 사용된것으로 나타났다. MTAC는 “AI가 아직 선거 결과를 바꿀 정도로 영향을 미치진 않지만, 생성 AI를 활용한 중국의 실험은 계속될 것이고 앞으로 더 효과를 볼 수도 있다”고 전망했다. 현재 시중 AI 앱들은 합성하고자 하는 사람의 얼굴 사진을 영상에 넣는 식이라, 자세히 보면 조금은 어색한 부분을 찾을 수 있다. 하지만 여기에 음성 합성과 비디오 생성 기술까지 더해진다면 지금보다 더 파급력이 큰 조작 콘텐트를 만들 수 있다는 우려가 나온다.

실제 관련 기술은 빠르게 발전하는 중이다. 오픈AI는 지난달 29일(현지시간) 블로그에 사람 음성을 학습해 모방 음성을 생성하는 ‘보이스엔진’의 실험 결과를 공개했다. 15초 분량 음성 샘플만 있으면 원래 화자 목소리와 비슷한 음성을 만들어 낼 수 있다. 오픈 AI는 “위험성을 고려해 본격적인 출시 여부는 신중하게 결정할 예정”이라고 했지만, 출시 된다면 악용될 우려가 있다. 올 하반기 출시를 앞둔 텍스트투비디오(TTV, 명령어 입력만으로 영상을 만드는) 모델 ‘소라(Sora)’ 등과 결합하면 더 손쉽게 영향력있는 조작 콘텐트를 만들 수 있게 된다. 블룸버그는 “딥페이크(AI로 만든 조작물) 위험에 대한 불안도 일으킬 수 있다”고 분석했다.

오픈 AI가 지난 2월 공개한 TTV 모델 '소라'. AFP=연합뉴스

더 알면 좋을 것

MTAC은 “북한의 사이버 공격자들도 AI 시대에 적응하고 있다”며 “거대언어모델(LLM) 기반 도구를 사용하는 방법을 배우고 있다”고 분석했다. MS와 오픈AI는 지난 2월 “북한의 해커 조직인 ‘에메랄드 슬릿’이 LLM을 활용해 스피어피싱(특정인을 대상으로 개인정보를 훔치는 것)을 늘리고 있다고 밝힌바 있다. 백종욱 국정원 3차장은 지난 1월 열린 간담회에서 “북한이 AI를 (해킹 등에) 어떻게 활용할 지 접근하는 초기 단계로 보인다”며 “현재는 상용 모델을 쓰고 있는 것으로 보이지만, 본인들만의 생성 AI를 만들기 위한 준비를 하고 있는 것이 아닌지 생각된다”고 말했다.