AI가 만들고 SNS가 나른 가짜사진…증시 충격준 첫 사례

중앙일보

입력

지난 22일(현지시간) 트위터 등에 확산된 미국 펜타곤(국방부) 인근의 대형 폭발 가짜 사진. 이 사진은 생성형 AI(인공지능)가 만든 것으로 알려졌다. [트위터 캡처]

미국 펜타곤(국방부) 청사 근처에서 대형 폭발이 발생했다고 주장하는 가짜 사진이 22일(현지시간) 소셜미디어를 중심으로 확산해 주가가 일시적으로 하락하는 등 혼란이 빚어졌다.

전문가들은 이 사진은 생성형 AI(인공지능)가 만들어낸 가짜 이미지라고 지적했다. AI를 활용한 가짜 정보 확산에 대한 우려가 커지는 가운데 AI발 가짜 이미지가 시장에까지 영향을 끼친 첫 사례다. 외신은 “이번 사태는 AI가 만든 가짜 뉴스와 이미지가 사회를 어떻게 뒤흔들 수 있는지 보여주는 극명한 사례”라고 진단했다.

특히 이번 가짜뉴스를 퍼뜨린 계정들이 유료 절차를 통해 트위터의 인증 마크(파란 딱지)를 받은 계정들로 드러나면서 AI발 가짜뉴스 진위를 판별하기가 어려워졌다는 우려마저 나온다.

CNN 등에 따르면 이날 오전 트위터 등엔 펜타곤 인근에서 폭발이 발생했다고 주장하는 사진이 빠르게 번졌다. 사진이 유포되자 S&P500 지수가 한때 0.3% 하락하는 등 증시는 출렁였고, 안전자산으로 꼽히는 미 국채와 금값은 잠시 상승했다.

그러나 펜타곤 주변에서 폭발 사건은 발생하지 않았다. 펜타곤 주변을 관할하는 알링턴 경찰과 소방 당국은 “펜타곤 보호구역이나 그 근처에서 폭발이나 사고가 발생하지 않았으며 대중에게 위험은 없다”고 전했다.

폭발 사실이 없다고 알린 알링턴 소방 당국 트위터. [트위터 캡처]

블룸버그통신 등에 따르면 영국 탐사보도 매체 벨링캣의 닉 워터스 연구원은 “사진 속 건물은 펜타곤이 아니며 워싱턴에 실제로 있는 건물이 아니다”며 “AI가 생성한 것”이라고 지적했다. 하니 파리드 캘리포니아대 컴퓨터학 교수는 “사진 속 잔디와 바닥이 희미하고 울타리 모양도 불규칙하다”며 “AI가 만든 이미지에서 발견되는 일반적인 결함”이라고 설명했다.

NBC뉴스에 따르면 이 가짜 사진은 이날 오전 8시42분쯤 트위터에서 유료 인증을 받은 한 계정에 처음 올라왔다. 이 게시물은 다른 계정을 타고 급속도로 확산했고, 러시아의 해외 선전매체 RT는 이날 오전 10시3분쯤 트윗했다. 이후 팔로어 수십만 명을 보유한 인플루언서들까지 이 사진을 퍼날랐다. 더욱이 블룸버그통신을 사칭했음에도 트위터의 유료 인증을 받은 ‘블룸버그피드’란 계정도 이 사진 유포에 가세했다.

가짜뉴스를 연구하는 르네 디레스타는 워싱턴포스트(WP)에 “이번 일은 누구나 AI로 어렵지 않게 가짜 이미지를 만들 수 있으며 이전까지 트위터에서 뉴스의 신뢰도를 판단하는 데 도움이 되던 마크도 쓸모없게 됐다는 것을 보여준다”고 말했다.

앞서 도널드 트럼프 전 미국 대통령이 경찰에 체포되는 장면과 프란치스코 교황이 명품 패딩을 입고 있는 모습을 담은 AI 생성 가짜 사진도 확산돼 논란이 된 바 있다. 특히, 미국 내에선 내년 대선을 앞두고 AI가 만든 가짜 정보나 이미지가 선거에 영향을 끼쳐 민주주의를 위협할 수 있다는 우려도 나오고 있다.

한편 생성형 AI 챗GPT 창시자인 오픈AI의 샘 올트먼 최고경영자는 이날 “AI의 잠재적 위험을 통제하고 부작용을 막기 위해 (핵물질을 감시하는) 국제원자력기구(IAEA) 같은 국제기구가 필요하다”고 강조했다. 올트먼 등 경영진은 이날 자사 블로그에 올린 ‘초지능(superintelligence) 거버넌스’라는 제목의 글에서 “더 번영하는 미래에 도달하려면 위험을 관리해야 한다”며 이같이 밝혔다.

임선영·김서원 기자 youngcan@joongang.co.kr