美 뉴욕 '이력서 거르는 AI'에 규제…"인종·성차별 가능성 보고하라"

중앙일보

입력

기업들이 채용 과정에서 사용하는 인공지능(AI)나 자동화 프로그램을 규제하는 법이 미국 최초로 뉴욕에서 도입됐다.

5일(현지시간) 월스트리트저널(WSJ)에 따르면 이날부터 시행된 'NYC 144'라는 법은 2021년 뉴욕시의회에서 가결됐으며 여론 수렴 과정을 거쳐 2년 만에 발효됐다.

NYC 144에 따르면 AI 챗봇 인터뷰 툴, 이력서 스캐너처럼 채용·승진 결정을 돕는 특정 소프트웨어(SW)를 쓰는 기업들은 해당 SW가 인종·성(性) 차별 가능성이 있는지 매년 감사해 홈페이지에 그 결과를 의무적으로 공개해야 한다. 위반 하는 기업에겐 하루 1건당 최대 1500달러(약 195만원) 벌금이 부과된다.

기업들이 채용과정에서 사용하는 인공지능(AI), 자동화 프로그램을 규제하는 법이 미국 최초로 뉴욕에서 도입됐다. 사진은 미국 버지니아주의 한 식당에 붙은 구인(채용) 공고. AFP=연합뉴스

이 법에 따라 뉴욕시 거주자를 고용하는 기업들은 채용·승진 결정 과정에서 쓰이는 SW를 점검해 '불리 효과'(채용·승진 등 인사 평가 과정에서 특정 집단에 불리한 평가를 해 차별이 발생하는 현상) 비율을 공표해야 한다.

비율은 0~1 사이로 1에 가까울수록 차별이 거의 없음을 의미한다. 예를 들어 여성에 대한 불리 효과율이 0.3이면 남성 구직자 10명이 채용 심사 통과 시 여성은 3명만 통과한다는 뜻이다.

그간 미국 기업에선 온라인 구직이 일반화되면서 자동화 채용 SW에 주로 의존해왔다. 특히 2008년 금융위기 당시 해고됐던 많은 이들이 재취업을 위한 이력서를 쏟아내자 기업의 SW 의존도는 더 높아졌다.

하킴 제프리 뉴욕주 민주당 하원 원내대표가 6월 21일 워싱턴DC 미국 의사당에서 열린 평등법 도입 기자회견에서 발언하고 있다. 평등법은 1964년 민권법을 개정해 고용, 주택 등에서 성별, 성적 지향 및 성 정체성에 따른 차별을 금지한다. AFP=연합뉴스

하지만 기업서 흔히 쓰는 채용 SW가 여성, 유색인종 등 소수 집단을 차별할 가능성이 있다는 우려가 컸다. WSJ는 실제로 전자상거래 기업 아마존이 엔지니어에 의뢰해 개발한 채용 알고리즘이 일부 여자 대학을 졸업한 여성 지원자들을 자동탈락시키는 등 부작용이 초래돼 결국 사용을 중단한 사례가 있었다고 전했다.

여기에 더해 최근 챗GPT 등 생성형 AI가 널리 쓰이게 되면서 AI가 범할 수 있는 편견·차별 가능성에 대한 우려의 목소리가 높은 상황이다.

WSJ는 "이번 법은 채용 과정의 투명성 확보를 의무화하고 차별을 뿌리 뽑기 위한 것"이라고 평했다. 현재 워싱턴DC, 캘리포니아주, 코네티컷주에서도 NYC 144와 비슷한 법안이 발의돼 있다.

미국·유럽에선 AI에 관한 규제 논의가 활발하다. 앞서 지난달 척 슈머 민주당 상원 원내대표는 "미국이 AI가 나아갈 길의 규칙을 만들어야 한다"면서 AI 규제를 위한 포괄적인 입법안인 'SAFE(보안·책임·민주적 토대·설명 가능성의 첫 글자)'를 제안했다.

지난달 14일(현지시간) 유럽연합(EU)은 세계 최초의 AI 규제법 도입을 위한 협상안을 가결했다. 초안에는 생성형 AI의 투명성과 안전성을 강화하는 규정이 들어갔다. 또 AI가 생성한 콘텐트에는 창작자가 인간이 아님을 명시하고, AI가 불법 콘텐트를 만들지 못하도록 안전장치를 마련하라는 내용 등이 담겼다.

브라질, 남녀 동일임금 의무화법안 시행

루이스 이나시우 룰라 다시우바(앞줄 왼쪽 끝) 브라질 대통령이 3일 브라질리아 군 공군기지에서 여성과 남성 간 동일 임금 의무화 법안에 서명했다. EPA=연합뉴스

한편 인종·성차별 등에 대한 각국의 규제도 강화되는 추세다. 루이스 이나시우 룰라 다시우바 브라질 대통령은 지난 3일 남녀 동일임금 의무화법안에 서명했다.

룰라 대통령이 직접 제안한 이 법안에 따라 브라질 기업에서는 성별·인종·출신·연령 등에 따른 임금 차별이 확인될 경우 피해자에 임금 차액을 지급해야 한다. 위반 시 기업에 해당 직원 임금의 10배만큼 벌금을 부과할 방침이다. 현지 언론에 따르면 브라질에서 여성은 여전히 남성보다 평균 22% 적게 임금을 받고 있다.

서유진 기자 suh.youjin@joongang.co.kr