안면인식 통한 정보수집도 금지…위반 땐 매출 6% 과징금

중앙일보

입력

14일(현지시간) 프랑스에서 열린 유럽의회 본회의에서 의원들이 압도적 찬성표로 인공지능(AI) 규제 법안 초안을 통과시켰다. 유럽연합(EU) 행정부 격인 EU 집행위원회가 2021년 AI에 대한 포괄적 규제안 초안을 세계 최초로 발의한 지 2년 만이다. [AFP=연합뉴스]

유럽연합(EU)의 입법 기구인 유럽의회가 지난 14일(현지시간) 세계 최초의 인공지능(AI) 기술 규제법 도입을 위한 협상안을 가결했다. 협상안에는 챗GPT 등 생성형 AI에 대한 규제가 포함돼 있어 이 분야의 규제 마련을 고심 중인 각국에 가이드라인이 될 수 있다는 평가가 나온다.

블룸버그통신과 뉴욕타임스(NYT), 워싱턴포스트(WP) 등에 따르면 이날 유럽의회는 본회의를 열고 AI 규제 법안 초안을 통과시켰다. 찬성 499표, 반대 28표, 기권 93표로 압도적으로 가결됐다. EU 행정부 격인 EU 집행위원회가 2021년 AI에 대한 포괄적 규제안 초안을 세계 최초로 발의한 지 2년 만이다.

법 시행땐 구글·MS 수십억 달러 벌금 우려

이번 표결 결과에 따라 유럽의회는 이날 오후부터 EU 집행위와 27개국 이사회 간 3자 협상에 돌입한다. EU는 3자 협상을 통해 최종 법안을 올해 말까지 도출한다는 계획이다. 유예기간 등을 감안하면 실제 법안 적용은 2026년부터 가능하다. 다만 협상 과정에서 법안 내용이 일부 수정될 가능성이 있다.

이날 가결된 협상안 초안에는 챗GPT 등 생성형 AI의 투명성과 안전성을 강화하는 규정이 들어갔다. 오픈 AI와 구글, 마이크로소프트(MS) 등 생성형 AI 개발사들은 앞으로 AI 학습에 동원한 자료의 저작권을 모두 공개해야 한다. AI의 데이터 학습에 사용된 자료(과학자·음악가·일러스트레이터·사진가·언론인 등의 모든 작품)를 전부 정리해 발표하고, AI가 생성한 콘텐트에는 창작자가 인간이 아님을 명시해야 한다. 하지만 AI 개발사들은 “학습용 자료의 저작권을 정리하는 것은 기술적으로 실행 불가능하다”며 반대하고 있다.

또 개발사들은 AI가 불법 콘텐트를 만들지 못하도록 안전장치를 마련하도록 했다. 아울러 AI가 제공하는 정보의 정확성, 차별적인 표현 등 평가 항목에 따라 위험도 평가를 받도록 했으며, 그 결과에 따라 서비스 여부를 결정하도록 했다.

즉 ‘잘못된 정보를 제공하는가’ ‘생체 정보를 활용하는가’ ‘차별적 언어를 포함하는가’ 등의 항목에 따라 위험도를 평가한 뒤 ‘최소’ ‘제한’ ‘허용’ ‘불가’ 등으로 결과를 판단한다. 해당 AI를 불허할 수 있다는 뜻이다.

공공장소에서 안면 등 생체인식 기술을 사용해 시민을 감시하거나 이를 통해 얻은 정보를 수사에 활용하는 것을 전면 금지했다. 중국처럼 AI를 이용해 일반 시민들의 행동 패턴을 AI로 분석해 사회적 신용 점수를 매기는 행위도 금지했다.

이는 2년 전 EU 집행위가 구성한 초안보다 강경한 내용이다. 로베르타 메촐라 유럽의회 의장은 “앞으로 AI에 대해선 지속적이고 명확한 경계와 한계가 있어야 한다”며 “우리는 ‘기술이 발전할 때 인간의 기본권 및 민주적 가치도 함께 가야 한다’는 점에서 결코 양보하지 않겠다”고 강조했다.

다만 EU 집행위와 이사회는 안면인식 기술 등의 사용을 전면 금지하는 데 대해선 회의적이다. 국가 안보와 군사적 측면에서의 필요성을 염두에 두고 있다.

초안의 규제 대상은 EU 회원국과 역내 기업이다. 법 위반 시 최대 3000만 유로(약 415억원) 또는 연매출의 6% 과징금이 부과된다. 포린폴리시는 “(이 법이 시행되면) 구글이나 MS 같은 빅테크 기업은 최대 수십억 달러의 벌금을 낼 수 있다”고 전했다.

업계에선 EU의 움직임을 놓고 “혁신을 가로막을 수 있다”는 우려의 목소리가 나왔다. 보니파스 드 샹프리스 미국 컴퓨터통신산업협회 유럽정책 담당자는 “EU는 AI 규제의 선두주자가 될지, AI 혁신을 이끌지 입장을 정해야 한다”면서 “규제는 명확하게 정의된 위험을 효과적으로 해결하는 정도로 하되, 개발자에게는 유럽인에게 유용한 서비스를 제공할 수 있도록 충분한 유연성을 제공해야 한다”고 촉구했다.

EU의 법안이 최종 확정될 경우 미국 빅테크 기업들의 유럽 AI 시장 진입은 차질을 빚을 수 있다. 당장 구글의 생성 AI 챗봇인 ‘바드’의 유럽 출시가 개인정보보호 문제로 연기됐다.

한국, 인공지능법 제정안 소위 통과

유럽연합(EU)뿐 아니라 미국과 중국 등도 인공지능(AI) 규제에 대해 고심하고 있다. 14일(현지시간) 미 상원에서는 생성형 AI가 만든 콘텐트에 대해 사업자가 법적 책임을 지게 하는 법안이 발의됐다. 기존에는 인터넷 사용자가 올린 콘텐트에 대해 인터넷 사업자에게는 법적 책임을 묻지 않았지만, 생성형 AI에는 ‘사업자 면책권’을 적용하지 않는다는 내용이다.

중국에선 지난 4월 발표된 규칙 초안에 따라 챗봇 제작자는 국가의 검열 규칙을 따르도록 했다.

해외 진출을 염두에 둔 국내 인공지능(AI) 기업들은 상황을 주시하고 있다. 익명을 요구한 한 AI 스타트업 관계자는 “EU의 개인정보보호법(GDPR) 사례를 보면, 처음엔 난관이 있었지만 결국 그 법에 맞춰 세계 기업들도 서비스를 수정했다”며 “유럽의 AI 규제가 벤치마크돼 다른 나라에 적용될 가능성이 크다”고 말했다.

한국의 경우 지난 2월 인공지능법 제정안이 국회 상임위 법안심사소위를 통과한 상태다. AI 기술 발전의 대원칙으로 ‘선(先) 허용, 후(後) 규제’를 명문화했다. 정부는 3년마다 AI 기본 계획을 세우고, 국무총리 산하 AI 위원회를 두는 내용이다.

박형수·김남영 기자 hspark97@joongang.co.kr