中, 인공지능으로 당원 충성도 판별…"머리속 들여다보나" 파문

중앙일보

입력

AI 연구원은 인공지능 설비가 당원의 바이오 특징을 식별해 그들이 사상정치 교육 효과를 판단할 수 있다고 홍보했다. 사진은 AI 장비 개발자가 성능을 설명하는 장면. [홍콩 명보 캡처]

지난 1일 창당 101주년을 맞은 중국 공산당이 인공지능(AI)을 활용해 당원의 충성도를 판단하는 이데올로기 교육 장비를 개발해 사용하고 있다고 홍콩 명보가 3일 보도했다. 중국 네티즌은 “디지털 권위주의의 발전이 이미 빅 브러더가 머리속을 들여보는 단계까지 왔다”며 우려했다. 당국은 파문이 커지자 해당 연구기관이 홍보를 위해 소셜네트워크(SNS)에 올린 게시물과 영상을 삭제하며 수습에 나섰다.

안면·뇌파 반응 탐지해 교육효과 측정 #국가급 AI 연구소서 당원 교육용 개발 #시진핑 ‘인공지능 플러스 당 건설’ 지시

1일 중국 SNS에 유포된 단편 영상은 중국 안후이(安徽)성에 위치한 ‘허페이(合肥) 종합성 국가과학센터 인공지능 연구원’이 창당 기념일을 맞아 제작한 선전물이다. 허페이 연구원은 중국과학원과 안후이성의 이중 지휘를 받는 국가급 전략 인공지능(AI) 연구소다. 화면 속에서 흰색 연구복을 입은 당원이 ‘스마트 사상정치 바(智慧思政吧)’라고 적힌 유리 시설에 들어간다. 설비 안에 설치된 대형 터치스크린 앞에서 교육생은 측정 기기를 이용해 안면 시각 반응, 뇌파 반응, 피부의 전기 반응 등 바이오 신호를 취합해 검사를 받는다. AI가 이데올로기 교육의 학습 효과를 판단해 당원 연구자에게 “당의 은혜를 느끼고, 당의 지시를 따르고, 당과 함께 나아가도록 하는 믿음과 결심을 확고하게 도왔다”고 연구소는 SNS에서 강조했다.

‘허페이(合肥) 종합성 국가과학센터 인공지능 연구원’ 홈페이지.

이번 AI 설비 소개는 허페이 연구원이 웨이신(微信·중국판 카카오스토리) 공식 계정에 ‘인공지능이 당 건설(당건)을 지원하기 위해, 안후이 기관이 이런 장비를 연구 개발했다’는 제목으로 실렸다. 필자는 ‘인공지능연구원’ 명의였다. 연구원 측은 디지털 교육 수단, 스마트 인터렉티브 기술, 스마트 감성 컴퓨팅, 지식 그래프, 맞춤형 추천 등 인공지능 기술을 이용해 사상정치 교육의 방식을 끝없이 혁신하고 있다고 자부했다. 해당 AI 설비는 연구원 내에 설치된 공산당 당 지부에 소속된 당원 43명의 당원 의무 교육활동과 일상 연구개발 업무를 조화시키기 위해 개발했다. AI 연구원은 이번 혁신 프로젝트를 통해 당 건설 업무에 새로운 아이디어와 능력을 불어넣었다면서, 신시대 IT 혁신의 선봉대로 우수한 과학 연구 성과를 가지고 20차 당 대회의 승리 개막을 맞이하겠다고 선전했다.

중국 네티즌들은 SNS에 유포된 AI 연구원 홍보 영상을 통해 인공지능이 이데올로기 교육과 여론 동향 감시에 이미 사용되고 있음을 확인했다. “과학기술 세뇌”라고 지적하는가 하면, 중국의 디지털 권위주의가 영국 소설가 조지 오웰의 소설 『1984년』에 등장하는 빅 브러더가 이미 현실화됐다고 탄식했다. SNS 여론이 악화되자 검열 당국은 해당 영상과 게시물을 발 빠르게 삭제했다.

지난 2019년 9월 6일자 학습시보 3면에 실린 “‘인공지능 플러스 당건’은 당의 건설에 힘과 능력을 보태야한다”는 기사. AI를 당 조직 건설에 활용해야 한다는 시진핑 주석의 지시가 실렸다. [학습시보 캡처]

첨단 과학기술을 이데올로기 교육에 활동한 것은 중국에서 이미 새로운 뉴스가 아니다. 왕쩡푸(王增福) 산둥 사범대 마르크스주의 학원 원장은 지난달 교육부 기관지인 ‘중국교육보’에 기고문을 싣고 “사상정치 과목 건설은 정보화·인터넷화·디지털화·가상 기술을 받아들여야 한다”고 주장했다. 왕 원장은 “가상 강의실과 실험실을 건설하고, 사상정치 교육과 토론 모델, 수업 방식, 기술 형식 등을 혁신해 시각적 충격, 정서적 체험, 정치적 동질감을 강화하고 생동감과 실효성을 제고해야 한다”고 강조했다. 이데올로기 교육에 AI 기술의 활용을 정부 교육 당국이 격려한 셈이다.

인공지능과 당건설의 결합은 시진핑 중국 국가주석의 지시이기도 하다. 당원 교육의 최고 지도기관인 중앙당교의 기관지 학습시보는 지난 2019년 9월 6일자 3면에 “‘인공지능 플러스 당건’은 당의 건설에 힘과 능력을 보태야 한다”는 기사를 통해 AI를 활용한 당건설을 주장했다. 기사는 “시진핑 총서기가 인공지능이 최근 과학기술 혁명과 산업 변혁의 전략적 기술을 이끌고, 파급력이 매우 큰 ‘선두 기러기’ 효과가 강하다고 지적했다”면서 “‘인공지능 플러스 당건설’의 실질적 비약을 이뤄야 한다”고 주장했다.

이번 영상을 올린 허페이 AI 연구원은 ‘안후이 차세대 인공지능산업 발전계획(2018~2030)’에 따라 설립됐다. 연구원이 위치한 허페이 첨단기술단지에는 AI 음성인식 분야에서 세계적으로 선두 기업인 아이플라이텍(IFLYTEK) 등 AI에 특화된 연구단지다.

베이징=신경진 특파원 shin.kyungjin@joongang.co.kr