로봇이 작성한 글이 여론 형성에 개입함으로써 정부 정책 결정에 실질적인 영향을 미치려 한 사례들이다. 한국만 하더라도 2017년 대선 때 매크로 프로그램을 이용해 댓글을 대량으로 만들어내 여론 조작을 시도했던 일이 문제가 됐었다.
과학기술의 진보가 외려 민주주의 발전을 가로막을 수 있다는 위기감이 커지는 가운데 고도로 정교해진 대화 로봇 ‘챗GPT(CHATGPT)’가 조직적인 로비 활동에 사용되면 민주주의를 위협할 수 있다는 외신 보도가 나왔다. 지난 15일(현지시간) 미국 뉴욕타임스(NYT)에 실린 데이터 과학자 네이선 샌더스와 보안 전문가 브루스 슈나이더의 공동 기고문 ‘챗GPT가 어떻게 민주주의를 탈취하는가’이다. 이들은 기고문에서 “시(詩)나 시트콤 대본 등에서 사람이 하던 일을 기계가 대체하면서 느끼는 놀라움보다 훨씬 더 큰 위협이 다가오고 있다. ‘투표’를 통해서가 아니라 ‘로비’를 통해 민주주의 절차를 바꿔놓는 인공지능”이라고 경고했다.
NYT는 “정치 네트워크를 이해할 수 있는 시스템이 챗GPT의 문자생성 기능과 결합되면 예컨대 법인세나 국방 예산 등 특정 정책 영역과 관련해 가장 큰 영향력을 가진 의원을 식별해낼 수 있다”며 “‘인간 로비스트’가 그러하듯 이런 시스템은 이해관계가 얽힌 정책을 다루는 위원회 소속 의원들을 타겟팅한 뒤 법안이 표결로 넘어갈 때 다수당 의원들에게 자원을 집중시킬 수 있다”고 했다.
신문은 또 AI 기반 로비의 장점으로 ‘우수한 가성비’를 꼽았다. “인간 로비스트는 목표로 하는 정책을 얻어내기 위한 전략적 해법을 찾기 위해 수십 년치 경험을 활용하는데 전문 지식은 한정돼 있고 그래서 비싸기도 하다. 이에 반해 AI는 같은 일을 훨씬 빠르고 싼 값으로 해낼 수 있다”고 했다. 혼란스러운 국제 사회 흐름에 신속하게 대처할 수 있을 만큼 빠른 속도는 큰 장점이다. 여기에 AI의 유연성은 여러 정책과 관할 구역에 걸쳐 동시에 영향을 행사하는 것을 가능케 할 수 있다. 샌더스와 슈나이더는 기고문에서 “교사들이 챗GPT 시대에 학생들 시험과 에세이 숙제 방식을 바꿔야 하는 것처럼 정부도 로비스트에 대처하는 방식을 바꿔야 할 것”이라고 했다.
하지만 신문은 궁극적으로 가장 크고 강력한 기관이 가장 성공적인 방식으로 AI 로비 기술을 활용할 가능성이 높다고 지적했다. 신문은 “가장 훌륭한 로비 전략은 입법부 홀을 걸어다니는 내부자들과 돈을 요구한다”며 “AI 챗봇은 캠페인 기부금을 받아야 하는 사람(로비 대상자)이 누구인지를 식별할 수 있다”고 했다.
샌더스와 슈나이더의 우려는 결국 AI 기술이 대중 여론을 좌지우지하고 영향력 있는 정치 네트워크 분석을 통한 핀포인트식 로비 활동을 펴 민주주의 기반을 흔들 수 있다는 경고로 요약된다.
보고서는 이 대목에서 “대화 생성 AI는 사용자들의 간단한 명령 만으로도 꽤 사실적인 텍스트ㆍ이미지ㆍ비디오를 만들어낼 수 있다”며 “콘텐트 작성의 진입장벽이 없어지면 콘텐트의 생산량이 기하급수적으로 증가해 시민 대부분이 사실과 허구를 확실하게 구별할 수 없게 할 것”이라고 했다. 그러면서 “가짜 정보가 번성할 것이고 사회적 결속과 상거래, 민주주의의 기반인 신뢰는 더욱 약화될 것”이라고 우려했다.
한편 NYT는 ‘AI 챗봇에 놀란 대학들, 교육방식 개선 나서’라는 제목의 별도 기사를 통해 미국의 일부 대학들이 챗GPT를 활용해 과제물을 써 내는 학생들에 대응해 강의 및 채점 방식에 큰 변화를 주고 있다고 보도했다. NYT는 “일부 교수들은 키보드로 타이핑하는 과제물 대신 구두 시험, 그룹 과제, 수기 평가 등의 방식으로 코스를 재설계하고 있다”고 전했다.
용어사전
일론 머스크 테슬라 최고경영자(CEO)와 샘 알트만 Y콤비네이터 전 회장이 공동 설립한 비영리 회사 오픈AI에서 개발해 지난해 11월30일 무료 공개한 대화형 AI 모델. 1750억개 이상의 매개 변수를 가진 초거대 언어 처리 모델인 GPT3.5를 이용자가 사용하기 쉽게 챗봇 형태로 만든 것.