男 신용카드 한도가 女 10배?…금융당국 AI 성차별 막는다

인공지능(AI)이 심사한 남성의 신용카드 한도가 여성의 신용카드 한도보다 10배 많으면 차별일까.

[사진 pixabay]

금융위원회가 이런 문제에 대한 답을 만들기 위해 금융 분야 AI 가이드라인을 내놨다. AI 금융거래 및 대고객서비스를 적용한 모든 금융업권에 적용되는 것으로, AI 윤리원칙과 AI 전담조직, 위험관리정책 등 3중의 안전장치를 마련하는 내용이 담겼다. 회사별 상황을 반영해 각 금융사는 AI 서비스 개발과 운영 때 준수해야 할 원칙을 만들어야 한다. 올 하반기 시행이 목표다.

남성의 신용카드 한도를 여성보다 높게 하는 등 AI가 특정 집단에 대한 차별적 인식을 갖거나, 공정성을 해치는 경우도 막기로 했다. 신용평가나 카드 발급 심사의 경우 개인의 신용도를 바탕으로 자격자를 선정하도록 AI가 학습하게 해야 한다는 의미다.

AI는 각종 학습 데이터를 통해 훈련하며 기능을 강화한다. 이 과정에서 학습데이터에 오류가 있거나 성별이나 인종적 편향이 반영돼 있을 경우 AI는 이런 잘못을 확대·재생산할 수 있다. 올해 1월 혐오·차별 발언 논란으로 서비스를 중단한 AI 챗봇 이루다가 대표적 사례다.

금융의 경우에도 이런 편향이 발생할 수 있다. AI가 여성이 출산과 육아 등을 위해 경제활동을 중단해 소득이 줄어든 경우가 많다는 과거 데이터를 학습했다면, 소득과 연령, 신용점수 등이 같은 남녀에게 다른 대출한도를 부여할 수도 있기 때문이다.

애플페이 기반의 애플카드(왼쪽)와 실제 서비스 화면. [사진 애플 홈페이지]

미국에서도 신용카드 발급을 둘러싸고 이런 논쟁이 벌어졌다. 2019년 11월 미국 애플이 골드만삭스와 함께 내놓은 신용카드인 애플카드가 성차별한다는 이슈가 불거지면서다. 애플의 공동창업자인 스티브 워즈니악도 “아내와 나는 재산과 금융계좌를 공동 소유하는데도 내 카드 한도가 아내의 10배”라고 문제를 제기했다.

이런 불만이 폭주하자 뉴욕주 금융당국(DFS)이 차별 여부 조사에 나섰지만, 지난 3월 신용카드 발급 과정에서 차별은 없었다는 조사 결과를 내놨다.

AI 서비스를 둘러싼 논란을 막기 위해 금융당국은 금융사가 AI 학습 데이터의 출처를 파악하고 편향되지 않은 데이터를 확보하는 등의 시스템을 구축하도록 했다. 데이터 활용 과정에서 개인을 특정할 수 없도록 엄격한 비식별 조치도 해야 한다. AI에 따른 집단간 차별 등을 하지 않도록 금융상품 특성에 따라 공정성 기준도 만들어 평가해야 한다.

금융위원회가 만든 AI가이드라인 주요 내용. 금융위원회

이와 함께 금융소비자에 AI를 활용하는 사실을 미리 고지하고 이의신청 등 권리구제 방안도 안내하도록 했다. AI 평가에 쓰인 개인 정보의 정정, 삭제도 요구할 수 있다.

도규상 금융위 부위원장은 “금융서비스가 AI 기술을 접목하는 데 지켜야 할 최소한의 방향성을 가이드라인을 통해 제시하고자 했다”고 말했다.

안효성 기자 hyoza@joongang.co.kr