바이든 대통령은 이날 서명에 앞서 백악관에서 가진 연설에서 “딥페이크(AI 기반 인물 이미지 합성 기술)는 명예를 훼손하고 가짜뉴스를 유포하고 사기를 저지른다”며 “나도 내 것(딥페이크 영상)을 본 적이 있는데, ‘내가 언제 저렇게 말했지’라고 생각했다. 정말 놀랍다”고 말했다. 그러면서 “AI 사기꾼들은 목소리를 3초만 녹음해 여러분뿐 아니라 가족까지 속일 수 있다”며 “AI의 가능성을 실현하는 동시에 위험을 피하기 위해선 우리는 이 기술을 관리해야만 한다”고 덧붙였다.
AI 개발부터 서비스 모두 정부가 관리·감독
특히 미국의 안보·경제·공중 보건등에 위협을 가할 수 있는 AI 모델을 개발하는 회사는 AI 훈련 단계부터 관련 내용을 정부에 통보해야 하고, 정부가 꾸린 검증 전문가팀인 ‘레드팀(공격조)’의 테스트 결과를 정부에 보고해야 한다. 기술이 배포돼 서비스가 이뤄진 후에도 정부는 지속해서 업체로부터 보고를 받으며 AI의 영향을 평가하기로 했다.
백악관은 이 같은 규제 도입의 근거로 1950년 한국전쟁 당시 만든 국방물자생산법까지 동원했다. 바이든 대통령은 “전쟁 같은 가장 긴급한 순간을 대비해 기술 허용 전에 가장 강력한 안전 검증을 진행하려는 것”이라고 설명했다.
AI를 활용한 사기·속임수를 막기 위해 AI 콘텐트를 판별해 인증하는 표준 절차도 만들도록 했다. 검증된 AI 생성 콘텐트에 대한 인증 및 워터마크를 부여하는 지침 개발은 상무부가 맡는다. 이 밖에 행정명령엔 미군과 정보당국의 AI 사용과 적의 군사적 AI 사용 대응을 위한 국가 안보 각서 개발, 기업의 개인정보 취급 지침과 AI가 노동시장에 미칠 피해를 줄이고 근로자에 대한 혜택을 극대화하는 원칙을 개발하는 등의 내용도 담겼다.
“미국이 AI 규제 선도” 보여주기 의도
이번 행정명령 서명에 미국이 AI 규제를 이끈다는 인상을 주려는 의도가 담겨있다는 평가가 나오는 이유다. 뉴욕타임스(NYT)는 “AI 강자인 미국이 규제도 선도하겠다는 것을 보여주려는 바이든 대통령의 노력”이라고 분석했다. 실제 카멀라 해리스 부통령은 이날 “우리가 취하고 있는 조치가 국제 모델이 될 것”이라 말했다.
일본 니혼게이자이신문은 “미국과 유럽·중국이 AI 규제 국제 표준을 미련을 두고 주도권을 겨루고 있다”고 전했다. 유럽의회는 지난 7월 AI 학습 데이터 공개, 불법 콘텐트 제작 방지 기능 구비 등의 내용을 담은 AI 규제법을 의결하고 유럽집행위원회 등과 최종 내용을 조율 중이다. 중국도 같은 달 ‘생성형 AI 산업 관리 규정’을 통해 생성형 AI 제품을 출시하기 전 당국에서 사전 보안 평가를 받도록 했다.
빅테크들 일단 “환영”, 속내는…
하지만 속내는 조금 다르다. 규제가 AI 발전을 늦춰 중국 등과의 기술 경쟁에서 뒤처지는 결과를 낳을 수 있다고 우려한다. 미 빅테크 기업을 회원사로 둔 단체 넷초이스는 “(이번 행정명령은) 신규 기업의 시장 진입을 막고 연방정부의 통제를 강화해 AI 분야를 선도하는 기술 혁신세력인 미국의 글로벌 위상을 위험하게 할 것”이라고 비판했다.
행정명령을 이행하지 않을 경우 부과할 벌칙 내용이 빠져 기업에 준수를 강제할 유인이 떨어진다는 지적도 나온다. AI 분야에 투자하는 벤처캐피털 터스크벤처스의 브래들리 터스크 최고경영자(CEO)는 로이터통신에 “강제할 실질적 방법이 없다면 그 개념은 훌륭하지만 (기업들의) 노력은 제한적일 것”이라고 말했다. 바이든 대통령도 이를 의식한 듯 “의회가 입법에 나서야 한다”고 강조했다.