정부 승인 없이 AI 개발하면 유럽선 벌금 400억, 미국은 소통에 초점…AI 규제 왜 다를까

중앙일보

입력

부산 해운대구 벡스코 제2전시장에서 열린 'AI 코리아 2021' 동서대학교 부스에서 인공지능 로봇을 시연하고 있다. 사진은 기사의 내용과 관계 없음. [연합뉴스]

미국과 유럽을 중심으로 인공지능(AI) 윤리 관련 법안이 속속 발의되고 있다. 소수자 차별이나 혐오 발언 등으로 AI 윤리를 둘러싼 이슈가 불거지자 구체적으로 법제화 움직임이 나타난 것이다. 다만 AI 윤리를 바라보는 시각과 접근 방법은 나라별로 차이가 난다.

AI 윤리 법안이 가장 처음 등장한 국가는 미국이다. 미국 의회는 지난 2019년 ‘알고리즘책임법’을 발의했다. 채용 과정에 투입된 아마존의 AI 알고리즘이 여성 구직자나 여대 졸업생을 차별한다는 비판 여론에 나오면서다.

전 세계적으로 인공지능(AI) 윤리 관련 법안이 속속 발의되고 있다. [사진 플리커닷컴]

아마존 성차별 이슈화 후 입법 논의

AI 관련 기업이 소통을 통해 책임지는 태도를 가져야 한다는 게 법안의 핵심이다. 고학수 인공지능법학회장(서울대 법학전문대학원 교수)은 “(미국 법안은) 법적 책임(liability)과는 별개로 AI 개발 기업이 왜 해당 알고리즘을 적용했는지 당국·소비자에게 원칙을 설명하고, 소통해야 한다는 규범적 내용을 규정하고 있다”고 설명했다.

알고리즘책임법에는 AI가 편견·차별할 경우 이를 시정하도록 요구하는 내용이 담겼다. 또 개인을 식별할 수 있는 정보나 생체·유전정보 등 민감한 데이터를 AI가 학습할 경우, AI를 활용하는 기업은 이에 대한 전 과정을 감사해야 한다고 규정하고 있다.

이에 대해선 의견이 분분하다. 앤드류 젤프스트 데이터앤드소사이어티 기술법률학자는 “훌륭한 첫걸음”이라고 평가했다. 반면 같은 연구소의 무탈 엔콘드 연구원은 “예컨대 자동차나 가전제품을 규제하는 기준과 공공계약을 규제하는 기준은 다를 수밖에 없다”며 “규제의 관점에서 볼 때 알고리즘책임법은 다양한 제품·산업에 동일하게 적용하기 어려운 법안”이라고 지적했다.

생각하는 로봇 이미지. 인공지능 전문가들은 규제와 진흥 사이의 균형점을 찾는 것이 중요하다고 조언한다. [사진 셔터스톡]

유럽법, AI 기술 단계별로 규제 차별화

유럽연합(EU)에선 보다 포괄적이면서 상대적으로 규제에 초점을 맞춘 법안이 등장했다. 지난 4월 유럽집행위원회(EC)가 유럽의회(EP)에 발의한 ‘AI통일규범법’이다.

AI통일규범법은 위험도에 따라 AI 기술을 네 가지로 구분한다. 요컨대 ▶기술적 위험도가 매우 높으면 원천적으로 AI 출시가 불가하고 ▶위험도가 매우 낮으면 제한 없이 AI를 출시할 수 있다는 내용이다. ▶위험도가 다소 높으면 까다로운 정부 보고·인증 절차를 거쳐야 하고 ▶위험도가 다소 낮으면 이런 절차를 완화한다.

최경진 개인정보보호법학회장(가천대 교수)은 “EU에서 AI 관련 소프트웨어나 알고리즘, 데이터를 개발·배치·사용할 경우 AI의 윤리적 원칙과 법적 의무를 기록한 서류 제출을 의무화했다”고 설명했다. 유럽 법은 또 AI 기술이 심각한 윤리 원칙을 위반할 경우 AI가 스스로 자기 학습능력을 비활성화하고, 인간이 완전히 통제해야 한다고 규정했다.

비윤리적인 AI가 분쟁을 일으키거나 사고를 낼 경우 책임 소재도 규정했다. AI가 사람의 생명·건강을 해치거나 재산상 손해를 가할 경우 책임을 져야 한다는 내용이다. 예컨대 당국이 용인하지 않은 AI 시스템을 활용하다 적발되면 3000만 유로(약 410억원) 이내 혹은 전년도 매출의 6% 이내에서 더 큰 금액이 벌금으로 부과한다.

이상직 법무법인 태평양 변호사는 “미국이 알고리즘의 책임 소재를 가리는 데 초점을 맞췄다면, 유럽은 AI 전반을 규제하고 표준을 제정했다는 점에서 차이가 있다”며 “AI 최강국인 미국의 빅테크 기업을 EU가 견제하려는 목적도 있는 것으로 보인다”고 설명했다.

서울 강남구 코엑스에서 열린 '스마트공장·자동화산업전 2021'을 찾은 관람객들이 인공지능(AI) 협동 로봇을 살펴보고 있다. [뉴스1]

“생명·신체·안전에 영향 줄 때만 통제해야”

국내에는 29일 기준으로 7개의 AI 관련법이 국회에 발의된 상태다. 이 가운데 5개는 상임위에서 심사 중이며, 2개는 상임위에 접수된 상태다. 지난해 발의된 법안은 대체로 AI 산업을 진흥하는 내용이고, 올 초 AI 챗봇 서비스 ‘이루다 사태’가 발생한 후 발의된 법안은 대체로 규제 성격이 짙다.

전문가들은 규제와 지원 사이에서 균형점을 찾는 것이 중요하다고 조언한다. 이상직 변호사는 “기업의 AI 알고리즘이 편향적이라는 사실 자체를 비판할 수 없고, 다만 그런 편향성이 현행법을 위반하느냐가 중요하다”고 말했다. 예컨대 20대 여성이 주소비자층인 기업의 AI가 40대 남성을 배제했다고 무작정 비판할 수는 없다는 의미다.

AI의 편향성이 법률을 위반했을 때는 문제가 달라진다. 이 변호사는 “AI가 사람의 생명·신체·안전에 영향을 주는 경우 규범적·관리적·물리적 법 조항을 마련해 이를 적절히 통제할 필요가 있다”고 강조했다.

최경진 회장은 “명예훼손죄·모욕죄 등 현행 법률로 통제 가능한 영역은 되도록 절차적·규범적 통제만 가하고, 국민의 생명·신체·안전에 영향을 주는 AI 알고리즘에 한정해 신규 법안을 마련할 필요가 있다”고 말했다.

문희철 기자 reporter@joongang.co.kr