"푸틴·시진핑 이은 세계 3번째 리스크" 외신 주목한 '악당' 정체

중앙일보

입력

업데이트

지면보기

종합 12면

오픈에이아이(Open AI)가 지난해 12월 공개한 대화형 인공지능 챗봇 ‘챗GPT’가 큰 화제가 되면서 로봇이 작성한 글이 ‘커닝도우미’로 뜨고 있다는 논란에 이어 민주주의 기반을 위협하고 있다는 논란에도 휩싸이고 있다. 사진은 챗봇 이미지. [중앙 포토]

오픈에이아이(Open AI)가 지난해 12월 공개한 대화형 인공지능 챗봇 ‘챗GPT’가 큰 화제가 되면서 로봇이 작성한 글이 ‘커닝도우미’로 뜨고 있다는 논란에 이어 민주주의 기반을 위협하고 있다는 논란에도 휩싸이고 있다. 사진은 챗봇 이미지. [중앙 포토]

# 2019년 미국 하버드대 한 학부생은 자동 문자생성 프로그램을 이용해 의료보험 이슈와 관련된 정부의 공개 제안에 댓글 1001개를 달아 올렸다. 당시만 해도 댓글이 사실상 전적으로 ‘숫자 게임’이었을 때다. 2018년에는 미 정부의 통신망 중립성 규제안과 관련해 최소 100만 건의 자동생성 댓글이 미 연방통신위원회(FCC)에 뿌려졌다.

로봇이 작성한 글이 여론 형성에 개입함으로써 정부 정책 결정에 실질적인 영향을 미치려 한 사례들이다. 한국만 하더라도 2017년 대선 때 매크로 프로그램을 이용해 댓글을 대량으로 만들어내 여론 조작을 시도했던 일이 문제가 됐었다.

과학기술의 진보가 외려 민주주의 발전을 가로막을 수 있다는 위기감이 커지는 가운데 고도로 정교해진 대화 로봇 ‘챗GPT(CHATGPT)’가 조직적인 로비 활동에 사용되면 민주주의를 위협할 수 있다는 외신 보도가 나왔다. 지난 15일(현지시간) 미국 뉴욕타임스(NYT)에 실린 데이터 과학자 네이선 샌더스와 보안 전문가 브루스 슈나이더의 공동 기고문 ‘챗GPT가 어떻게 민주주의를 탈취하는가’이다. 이들은 기고문에서 “시(詩)나 시트콤 대본 등에서 사람이 하던 일을 기계가 대체하면서 느끼는 놀라움보다 훨씬 더 큰 위협이 다가오고 있다. ‘투표’를 통해서가 아니라 ‘로비’를 통해 민주주의 절차를 바꿔놓는 인공지능”이라고 경고했다.

오픈AI의 챗GPT 홈페이지 캡처

오픈AI의 챗GPT 홈페이지 캡처

기고문에 따르면, 챗GPT를 사용해 각종 뉴스 기사, 블로그, 소셜미디어 게시물에 매일 수백만 개의 댓글을 올릴 수 있다. 더 나아가 데이터를 통해 훈련된 챗GPT는 핵심 입법부 인사와 인플루언서들을 선별해 타겟팅함으로써 정책 결정 시스템에서 취약한 부분을 집어내고 직접적 커뮤니케이션과 PR 캠페인 등을 통해 그 약한 고리를 악이용할 수 있다고 NYT는 지적했다.

NYT는 “정치 네트워크를 이해할 수 있는 시스템이 챗GPT의 문자생성 기능과 결합되면 예컨대 법인세나 국방 예산 등 특정 정책 영역과 관련해 가장 큰 영향력을 가진 의원을 식별해낼 수 있다”며 “‘인간 로비스트’가 그러하듯 이런 시스템은 이해관계가 얽힌 정책을 다루는 위원회 소속 의원들을 타겟팅한 뒤 법안이 표결로 넘어갈 때 다수당 의원들에게 자원을 집중시킬 수 있다”고 했다.

신문은 또 AI 기반 로비의 장점으로 ‘우수한 가성비’를 꼽았다. “인간 로비스트는 목표로 하는 정책을 얻어내기 위한 전략적 해법을 찾기 위해 수십 년치 경험을 활용하는데 전문 지식은 한정돼 있고 그래서 비싸기도 하다. 이에 반해 AI는 같은 일을 훨씬 빠르고 싼 값으로 해낼 수 있다”고 했다. 혼란스러운 국제 사회 흐름에 신속하게 대처할 수 있을 만큼 빠른 속도는 큰 장점이다. 여기에 AI의 유연성은 여러 정책과 관할 구역에 걸쳐 동시에 영향을 행사하는 것을 가능케 할 수 있다. 샌더스와 슈나이더는 기고문에서 “교사들이 챗GPT 시대에 학생들 시험과 에세이 숙제 방식을 바꿔야 하는 것처럼 정부도 로비스트에 대처하는 방식을 바꿔야 할 것”이라고 했다.

명령문을 입력하면 그에 부합하는 이미지를 만들어내는 생성AI 미드저니에 ‘챗GPT, 데이터’를 주제어로 제시했을 때 나온 이미지. [중앙 포토]

명령문을 입력하면 그에 부합하는 이미지를 만들어내는 생성AI 미드저니에 ‘챗GPT, 데이터’를 주제어로 제시했을 때 나온 이미지. [중앙 포토]

신문은 “물론 민주주의 공간에서 AI 기술이 이점도 있을 수 있다”며 가장 큰 강점으로 접근성을 꼽았다. 모든 사람이 숙련된 로비스트를 고용할 수는 없지만 AI 시스템은 누구나 이용 가능하며, AI 기술이 그 로비력을 약자들에게 제공함으로써 민주주의에 활력을 더 불어넣을 수 있다는 점에서다.

하지만 신문은 궁극적으로 가장 크고 강력한 기관이 가장 성공적인 방식으로 AI 로비 기술을 활용할 가능성이 높다고 지적했다. 신문은 “가장 훌륭한 로비 전략은 입법부 홀을 걸어다니는 내부자들과 돈을 요구한다”며 “AI 챗봇은 캠페인 기부금을 받아야 하는 사람(로비 대상자)이 누구인지를 식별할 수 있다”고 했다.

샌더스와 슈나이더의 우려는 결국 AI 기술이 대중 여론을 좌지우지하고 영향력 있는 정치 네트워크 분석을 통한 핀포인트식 로비 활동을 펴 민주주의 기반을 흔들 수 있다는 경고로 요약된다.

미국의 컨설팅기업 ‘유라시아그룹’은 지난 3일 내놓은 '2023년 세계 10대 리스크’ 보고서에서 ‘불량배 러시아’, ‘시진핑 중국 국가주석의 권력 극대화’에 이어 세 번째 리스크로 ‘대혼란의 무기’를 꼽으며 AI 기술이 민주주의 신뢰의 위기를 가져올 수 있다고 우려했다. [사진 유라시아그룹 홈페이지 캡처]

미국의 컨설팅기업 ‘유라시아그룹’은 지난 3일 내놓은 '2023년 세계 10대 리스크’ 보고서에서 ‘불량배 러시아’, ‘시진핑 중국 국가주석의 권력 극대화’에 이어 세 번째 리스크로 ‘대혼란의 무기’를 꼽으며 AI 기술이 민주주의 신뢰의 위기를 가져올 수 있다고 우려했다. [사진 유라시아그룹 홈페이지 캡처]

AI 기술 발전이 민주주의 정치에 미칠 부작용에 대한 우려는 연초에 미국의 한 컨설팅기업이 펴낸 보고서에서도 제기된 바 있다. 국제정세 리스크를 분석하는 미 컨설팅업체 유라시아그룹은 지난 3일 내놓은 ‘2023년 세계 10대 리스크’ 보고서에서 ‘불량배 러시아’, ‘시진핑 중국 국가주석의 권력 극대화’에 이은 세 번째 리스크로 ‘대혼란의 무기’를 꼽았다.

보고서는 이 대목에서 “대화 생성 AI는 사용자들의 간단한 명령 만으로도 꽤 사실적인 텍스트ㆍ이미지ㆍ비디오를 만들어낼 수 있다”며 “콘텐트 작성의 진입장벽이 없어지면 콘텐트의 생산량이 기하급수적으로 증가해 시민 대부분이 사실과 허구를 확실하게 구별할 수 없게 할 것”이라고 했다. 그러면서 “가짜 정보가 번성할 것이고 사회적 결속과 상거래, 민주주의의 기반인 신뢰는 더욱 약화될 것”이라고 우려했다.

한편 NYT는 ‘AI 챗봇에 놀란 대학들, 교육방식 개선 나서’라는 제목의 별도 기사를 통해 미국의 일부 대학들이 챗GPT를 활용해 과제물을 써 내는 학생들에 대응해 강의 및 채점 방식에 큰 변화를 주고 있다고 보도했다. NYT는 “일부 교수들은 키보드로 타이핑하는 과제물 대신 구두 시험, 그룹 과제, 수기 평가 등의 방식으로 코스를 재설계하고 있다”고 전했다.

용어사전챗GPT(CHATGPT)

일론 머스크 테슬라 최고경영자(CEO)와  샘 알트만 Y콤비네이터 전 회장이 공동 설립한 비영리 회사 오픈AI에서 개발해 지난해 11월30일 무료 공개한 대화형 AI 모델. 1750억개 이상의 매개 변수를 가진 초거대 언어 처리 모델인 GPT3.5를 이용자가 사용하기 쉽게 챗봇 형태로 만든 것.

관련기사

ADVERTISEMENT
ADVERTISEMENT
ADVERTISEMENT
ADVERTISEMENT
Innovation Lab