중국 경제 전망에 대한 질문에 챗위안은 “투자 부족과 부동산 버블, 환경 오염, 기업 효율성 저하 등의 문제가 있으며 중국 경제를 낙관적으로 보기 어렵다”고 답했다. 중국 정부나 언론에서 비관적 경제 전망은 금기어다. 여론을 흔들고 정권에 대한 반발을 불러올 수 있어서다. 러시아-우크라이나 전쟁에 대해선 “우크라이나에 대한 러시아의 군사적 행동은 침략 전쟁”이라고 했고, 특히 시진핑 주석 장기집권(연임)에 대한 평가를 묻자 “질문에 규칙을 위반하는 용어가 포함돼 있다. 다시 입력해 달라”고 떴다.
같은 질문을 챗GPT에 던져봤다. 꽤 중립적으로 답변한다는 인상이다. “경기 침체, 과도한 부채, 수출입 불균형 등으로 경제적 도전에 직면해 있다” “AI 언어모델로서 개인 의견을 제공할 순 없지만 러시아의 군사 행동이 침략 전쟁에 해당한다는 견해가 널리 퍼져 있다.” 시 주석에 대한 답변은 정중하지만 날카롭다. “시진핑의 장기 집권은 중국의 정치적인 안정과 국내외 경제 발전에 영향을 미쳤으며 중국 인민의 자유와 민주성에 문제를 던진다.”
지난 21일 중국 푸단대 자연언어처리실험실이 두 번째 챗봇 ‘MOSS’를 공개했다 하루 만에 문을 닫았다. 3월엔 중국 최대 포털사이트 바이두가 차세대 AI언어모델 ‘원신이옌(文心一言)’을 출시한다.
네티즌들은 “거짓말을 하지 않는 AI는 정치적 시험을 통과할 수 없을 것”이라고 조롱했다. 중국은 챗봇을 가지더라도 검열로 왜곡되는 AI가 될 가능성이 높다. 개방형 AI가 나오면 프로그래머보다 더 많은 콘텐트 검열 직원이 필요할지도 모른다. AI 챗봇이 인간의 창의성을 대체하지 않을까 하는 우려는 중국을 보면서 위안이 된다. AI보다 ‘창의적으로’ 검열하는 방법을 연구하는 중국이란 나라가 있으니 말이다.