EU “안면인식 제한” 세계 첫 AI 규제 합의…미국 빅테크 겨냥

중앙일보

입력

지난 8일(현지시간) 벨기에 브뤼셀에서 인공지능(AI) 기술규제 법안을 검토하고 있는 유럽연합(EU) 집행위원회와 회원국 대표들. [티에리 브르통 EU 집행위원 X 캡처]

미국 빅테크(정보기술 산업의 지배적인 기업)의 인공지능(AI) 경쟁이 심화하는 가운데 유럽연합(EU)이 지난 8일(현지시간) AI 기술규제 법안에 합의했다. 생체 정보 수집을 제한하고 자율주행차 기업의 AI 데이터 공개를 요구하는 등 엄격한 기준을 정했다.

10일 워싱턴포스트(WP), 뉴욕타임스(NYT) 등에 따르면 유럽연합 집행위원회(EC)와 유럽의회, EU 27개 회원국 대표는 37시간이 넘는 마라톤 회의 끝에 8일 ‘AI법(AI Act)’으로 알려진 규제 법안에 합의했다. 챗GPT 등 민간 서비스부터 정부의 생체인식 정보 수집까지 모든 AI를 포괄하는 규제법으로는 세계 최초다. 최종 합의문은 아직 공개되지 않았다.

타결안은 AI의 위험성을 분류하고 투명성을 강화하며 규정을 준수하지 않는 기업에는 벌금을 부과하는 내용을 담았다. 우선 민주주의에 잠재적 위협을 미칠 수 있는 AI를 엄격히 제한했다. 이에 따라 정치·종교·인종 등 특성으로 사람을 분류하는 것, 안면 인식 데이터베이스 구축을 위해 인터넷·폐쇄회로TV 영상에서 생체 정보를 수집하는 것이 금지된다. 다만 사법당국의 테러 위협 예방, 범죄 용의자 추적 등을 위한 ‘실시간’ 안면 인식은 허용하는 등 국가 안보와 법 집행을 위해 활용하는 AI에는 일부 예외를 뒀다. AI를 이용한 ‘소셜 스코어링’(개인의 특성, 사회적 행동과 관련된 데이터로 점수를 매기는 것)도 허용되지 않는다.

오픈AI의 챗GPT, 구글 바드와 같은 대규모 언어 모델은 규제하기로 했다. 범용 AI(GPAI·다양한 용도로 사용할 수 있는 강력한 AI 모델)를 개발하는 기업은 AI 모델의 학습 과정을 보고해야 한다. 블룸버그통신에 따르면 모델 학습 방법과 모델 학습에 사용된 데이터에 대한 보고 등이 포함된다. EU 저작권법 준수, AI 학습에 이용된 콘텐트 명시 등의 투명성 요건도 지켜야 한다. GPT-4와 같이 영향력이 크고 시스템적 위험이 있는 AI 모델은 더 강력한 규제 대상이다. 모델 평가, 위험성 평가와 완화, 심각한 사고에 대한 EU 집행위원회 보고, 에너지 효율성 보고 등의 의무를 수행해야 한다. 특히 자율주행 자동차나 의료장비 같은 고위험 기술을 사용하는 기업은 AI 관련 데이터를 공개하고 엄격한 테스트를 거쳐야 한다. 규정을 위반하는 기업은 최대 3500만 유로(약 497억원) 또는 세계 매출의 7%에 해당하는 벌금을 내야 한다.

글로벌 AI 빅테크가 없는 유럽이 AI 주도권을 잡기 위해 기술규제에 나섰다는 평가가 나온다. WP는 “AI법은 기술 규제에 관한 유럽의 리더십을 더욱 강화할 것”이라며 “이미 디지털서비스법(DSA), 디지털시장법(DMA)과 같은 디지털 법률은 거대 기술 기업에 영향을 미쳤다”고 했다. AI법이 현실화하면 미국 빅테크의 유럽시장 진출 계획에 차질이 불가피하다. AI로 모델을 학습시키는 방법, 학습 데이터 등 기업 기밀까지 알려질 수 있기 때문이다.

미국 일각과 일부 유럽 국가는 법안이 너무 가혹하고 혁신을 가로막을 수 있다고 우려를 제기한다. 기술기업 모임인 ‘디지털 유럽’의 사무총장 세실리아 보네펠드 달은 “기업들이 AI 엔지니어 대신 변호사를 고용할 판이다”고 반발했다. 법안 초안은 유럽의회와 회원국 공식 승인을 거친 뒤 이르면 2026년 전면 발효할 것으로 예상된다.

EU의 AI법이 벤치마크 역할을 하며 국가별 규제 논의에도 속도가 붙을 전망이다. 미국 의회는 최근 기술에 초점을 맞춘 청문회와 포럼을 열고 AI를 다루는 초당적 법안을 작성하는 수준이다.

김남영 기자 kim.namyoung3@joongang.co.kr