AI의 이력서 심사, 왜 중단됐을까

시스템 에러

시스템 에러
롭 라이히·메흐란 사하미·제러미 M. 와인스타인 지음
이영래 옮김
어크로스

흰 종이에 흰 글씨의 문서파일을 인쇄한다면? 사람은 읽을 수 없다. 눈에 보이지 않기 때문이다. 이 문서를 스캔한 인공지능(AI)은 그 내용을 읽을 수 있다. 문서는 이력서다. 구직자는 이력서에 자신에게 유리한 ‘거짓’ 내용을 ‘흰 글씨’로 ‘심어’ AI 심사를 통과할 수 있다. 황당하게 들리겠지만, 관련 기술에 정통한 학생들이 실제로 공유하고 사용했던 사례라고 한다.

미국 아마존은 현재 정규직과 임시직을 합쳐 전 세계에서 75만명의 직원을 고용한 거대 기업이다. 매일 새로 고용하는 인원이 337명. 이 일을 사람 손으로 처리는 건 빅테크 기업으로서 어리석어 보였다. 아마존은 AI의 힘을 빌리기로 했다. 채용 모델을 정확히 만들기 위해 최근 10년간 회사가 받은 이력서와 내부 자료를 이용해 AI에게 머신러닝을 시켰다. 하지만 아마존은 수년간 노력을 쏟아부은 AI 채용시스템을 결국 폐기했다. 학습한 자료 속 편견과 차별이 AI 채용시스템에서 고스란히 재현됐기 때문이다.

이런 두 에피소드는 이 책에서 알고리즘의 문제점을 보여주는 사례로 소개된다. 알고리즘은 책 제목인 ‘시스템 에러’가 발생하는 분야 중 하나. 또 다른 발생 분야로는 엔지니어식 사고가 지향하는 ‘최적화’나 편리성에만 집중한 ‘자동화’ 등이 있다. 중요한 건 에러가 발생했을 때 이를 인식하고 찾아내 해결책을 모색하는 일이다. 그러려면 판단 기준이 필요하다. 책은 그 기준을 제시하기 위해 20세기 이후 빅테크업계에서 일어났던 다양한 사건·사고 사례를 소개한다. 그리고 사례에서 얻은 교훈을 개인, 직업, 사회·정치 윤리로 풀어 설명한다. 우리말 번역서의 부제 ‘테크 시대의 윤리학’은 이런 점을 반영한다.

20세기가 경제와 금융의 시대였다면 21세기는 엔지니어링과 컴퓨터공학의 시대다. 이런 전공을 한 사람들이 가장 많이 모이는 곳이 미국 실리콘밸리. 그 바로 옆의 스탠퍼드 대학은 이 시대 가장 영향력이 큰 사람들이 교육받는 곳이라고도 할 수 있다. 서로 전공 분야가 다른 이 대학 교수 세 명이 함께 책을 쓰게 된 배경이다.

장혜수 기자 hschang@joongang.co.kr