미국의 공정거래위원회 격인 연방거래위원회(FTC)가 생성형 인공지능(AI) 챗GPT에 대한 조사에 착수했다. 리나 칸 FTC 위원장은 “(챗GPT 응답에) 개인에 대한 명예훼손 등의 정보가 포함됐다는 보고를 받았고, 사기와 기망이 우려스럽다”고 지적했다.
리나 칸 연방거래위원회(FTC) 위원장이 13일(현지시간) 미국 워싱턴 국회의사당에서 열린 하원 법사위원회 청문회에 출석해 증언하고 있다. 로이터
13일(현지시간) 워싱턴포스트(WP)는 FTC가 챗GPT 개발사 오픈AI에 대한 소비자보호법 위반 여부를 조사하기 시작했다고 보도했다. FTC는 이번 주 챗GPT 개발사 오픈AI에 20장짜리 공문을 보내 챗GPT가 허위정보를 생성해 사람들이 피해를 줬는지 여부를 조사할 것이라고 밝혔다.
이번 서한에서 FTC는 “명예훼손을 포함한 불공정·기만적인 행위에 오픈AI가 관여했는지”에 초점을 두고 있다고 했다. 그러면서 “회사의 대규모언어모델(LLM) 제품이 실존 인물에 대해 거짓·비하 진술을 생성할 수 있는 문제를 해결하기 위해 취한 조치에 대해 자세히 설명하라”라고도 요청했다.
아울러 오픈AI가 챗GPT를 교육하는 데 어떤 자료를 사용했으며, 그 자료의 출처와 취득 방식도 밝히라고 했다. 또 오픈AI의 데이터 보안 정책, 개인정보 처리 정책, 마케팅 등에 대한 자료도 요구했다. 앞서 오픈AI가 지난 3월 공개한 사용자 개인정보 유출 사고와 관련한 내용이다.
이날 월스트리트저널(WSJ)은 “리나 칸 위원장이 이끄는 FTC의 조사가 새로운 기술을 감시하는 데 있어서 미국 연방 정부의 역할이 크게 확대되고 있음을 나타낸다”고 분석했다. 실제 이날 칸 위원장은 하원 법사위원회에서 ‘FTC가 명예훼손 등으로 기업을 제재할 수 있는지’에 대한 지적과 관련, “명예훼손에 대한 내용은 FTC의 법 집행 권한이 아니지만, AI를 훈련할 때 개인정보를 오용하는 것은 FTC가 규율할 수 있는 사기나 기망의 한 형태가 될 수 있다”는 취지의 답변을 했다.
WP는 이번 FTC 조사가 오픈AI가 미국에서 사업을 시작한 이래 가장 강력한 규제 위협이라고 평가했다. 오픈AI 소비자보호법을 위반했다고 판단될 경우 FTC는 벌금을 부과하거나 시정 조치를 명령할 수 있다.
챗GPT 이후 전 세계에서 생성형 AI 제품 탄생이 이어지며 각국 규제 당국도 감시를 강화하고 있다. 지난 3월 이탈리아는 개인정보에 대한 우려로 한때 챗GPT 사용을 금지하기도 했다. 구글은 아일랜드의 개인정보 평가를 받기 위해 챗봇 바드(Bard) 출시를 연기해야 했다.
앞서 오픈AI의 샘 알트먼 최고경영자(CEO)도 챗GPT 약점을 인정하며 당국의 감시가 필요함을 인정했다. 그는 지난 5월 미 의회 청문회에서 “AI가 우리 삶의 방식을 어떻게 바꿀지에 대해 불안해한다는 것을 이해하고 있으며 우리 또한 두렵다”며 “이 기술이 잘못되면 상당히 잘못될 수 있다”고 언급했다.
