"가짜 정치인 막아라"…오픈AI, 美 대선서 챗봇 첫 차단

중앙일보

입력

챗GPT 개발사 오픈AI는 최근 민주당 대선후보 경선에 나선 딘 필립스 하원의원의 인공지능(AI) 챗봇을 개발한 AI 스타트업 델파이의 계정을 정지시켰다. 로이터=연합뉴스

'슈퍼 선거의 해'를 맞아 생성형 인공지능(AI)을 악용한 가짜뉴스 선동이 화두에 오른 상황에서 이를 사전 차단하기 위한 움직임도 본격화되고 있다. 생성형 AI의 선두주자인 챗(Chat) GPT를 개발한 오픈 AI는 지난 19일(현지시간) 미국 정치인을 흉내 낸 챗봇의 운영을 금지했다. 이는 오픈 AI가 자사의 AI 도구를 정치적으로 활용하는 것에 적극적으로 대응한 첫 번째 사례다.

린제이 헬드 오픈 AI 대변인은 이날 성명을 통해 "미 민주당 대선후보 경선에 나선 딘 필립스 하원의원의 AI 챗봇인 '딘닷봇'을 개발한 업체 델파이의 계정을 중단시켰다"고 밝혔다. 그러면서 "정치운동에 사용해서는 안 되고, 개인을 사칭하지 말아야 한다는 오픈 AI 정책을 고의로 위반했기 때문"이라고 그 배경을 설명했다.

AI 챗봇은 마치 인간이 대화하듯 상대방의 질문을 이해하고 자동으로 응답하는 컴퓨터 프로그램을 뜻한다. 메신저를 통해 자동 응대하는 게 일반적인 형태다.

앞서 지난 15일 오픈 AI는 미 공화당의 첫 경선인 아이오와 코커스(당원대회)에서 자사 기술이 선거에 대한 허위 정보를 만들거나 확산하는 것을 막기 위한 '허위정보 방지 대책'을 발표했다. 이때 오픈 AI 측은 "사람을 가장한 챗봇을 만들어 투표를 방해하거나 선동하지 못하도록 관련 애플리케이션 개발 자체를 막겠다"고 강조했다.

딘닷봇을 개발한 델파이는 이런 규정을 피하기 위해 "진짜 필립스 하원의원이 아닌 AI 도구"라는 설명을 달고 지난주 챗봇을 출시했다. 챗봇이 적절하게 사용되면 유권자에게 후보자에 대한 더 많은 정보를 재미있는 방법으로 제공할 수 있다는 게 업체 측의 설명이었다.

하지만 오픈 AI 측의 판단은 달랐다. 단순 설명(면책 조항)만으론 앞으로 정치판에서 발생할 기술 남용을 막을 수 없다고 봤기 때문이었다.

이와 관련, 폴 바렛 뉴욕대학교 스턴경영대학원 비즈니스인권센터 부센터장은 "(챗봇으로 위장한) 가짜 인물로 유권자를 속이는 건 시작일 뿐"이라며 "(정치권에서 AI 기술 남용이 확대되면) 훗날 사람들이 대화 자체를 냉소적으로 대하면서 누구도 타인이 말하는 것을 믿지 못하는 지경에 이르게 될 것"이라고 워싱턴포스트(WP)에 말했다.

21일(현지시간) 민주당 경선 후보 딘 필립스 하원의원이 뉴햄프셔주에서 열린 유세 행사에서 연설하고 있다. 로이터=연합뉴스

특정 후보 지지 모양새 부담됐나

이번 오픈 AI의 조치가 발표된 시점을 두고 흥미로운 해석도 나왔다. 성명 발표 하루 전날 WP가 '실리콘밸리 내부자들이 AI의 도움을 받아 바이든을 권력에서 물러나게 하려 한다'는 제목의 기사를 냈기 때문이었다.

이는 델파이가 챗봇 개발 계약을 맺은 단체와 관련이 있다. 델파이는 필립스 의원이 아닌 그를 후원하는 '위 디저브 베터(We Deserve Better)'라는 이름의 슈퍼팩(super PAC. 특별정치활동위원회)과 계약했는데, 이 단체를 주도하는 이가 샘 올트먼 오픈 AI 최고경영자(CEO)의 비서실장 출신 기업가인 매트 크리실로프다.

이와 관련, WP는 "민주당이 '더는 이길 수 없는 후보' 바이든을 지명하지 못하도록 이 단체와 올트먼, 월가의 헤지펀드 거물인 빌 애크먼 퍼싱스퀘어캐피털 회장 등이 '필립스 밀어주기'에 나섰다"고 보도했다. 다만 크리실로프는 WP에 "올트먼이 필립스 의원을 만난 적은 있지만, 슈퍼팩에는 관여하지 않았다"고 말했다.