[팩플] 에어비앤비 AI가 '당신의 위험 점수'를 매기겠다면?

에어비앤비는 집주인(호스트)과 손님(게스트)를 연결해 주는 숙박공유 서비스다. 에어비앤비 뉴스룸

"에어비앤비의 불투명한 AI를 조사하라."
미국 비영리단체 전자개인정보보호센터(EPIC)는 지난달 26일 숙박공유업체 에어비앤비(Airbnb)를 공식 조사해 달라고 미 연방무역위원회(FTC)에 요청했다. 에어비앤비의 고객 '위험 평가(risk assessment)' 기술과 고객 평가 알고리즘이 투명하지 않고, 공정성에도 문제가 있다는 이유다.

뭐가 문제야? 

미국 시민단체 EPIC이 에어비앤비의 AI 알고리즘과 평가 기술 문제를 FTC에 제기했다. EPIC 홈페이지

-에어비앤비가 투숙객과 집주인의 '위험 점수'를 매기고, 이 과정에서 '비공개 알고리즘'을 쓰는 게 문제라는 주장이다. 경제협력개발기구(OECD)의 AI 원칙(인간 중심 가치와 공정성)과 FTC 법 5조(불공정한 경쟁방법 금지)를 위반했다는 것.
-EPIC이 지적한 알고리즘은 에어비앤비가 가진 인공지능(AI) 특허를 기반으로 한다.
-특허받은 AI 알고리즘은 소셜네트워크(SNS)·검색엔진·블로그 정보를 수집·분석해 이용자의 신뢰도에 점수를 매기고, 성격과 행동 특성에 따라 몇가지 유형으로 분류한다.
-AI가 당신을 '신경질적', '자기애적','사이코패스', '마키아벨리즘(목적지상주의)', '반사회적', '개방적' 등으로 평가할 수 있다는 것.

왜 이게 중요해?

-EPIC은 "특정 인종이나 소수자 박해 등에 악용될 소지가 있다"고 경고했다.
-에어비앤비가 임의로 사용자의 디지털 흔적(이름, 이메일, 전화번호, 생일, 거주지, 고용기록, 학력, 금융정보, IP 기록 등)을 수집하고 자의적으로 평가할 수 있기 때문이다.
-에어비앤비가 보기에 사고 위험이 높은 사용자는 숙박 예약을 못할 수 있다는 의미다. 영화 '마이너리티리포트'처럼 실제로는 위험 행동을 하지 않았음에도 AI가 위험인물로 예측한 데이터를 근거로 누군가의 권리를 박탈할 수 있는 것.
-이 AI 알고리즘이 데이터 수집을 객관적으로 하는지, 공정성을 담보할 수 있는지, 가치 편향성(Bias)이 없는지 등도 논란이다.

톰 크루즈가 주연한 SF영화 ‘마이너리티 리포트’(2002)에는 범죄 발생 전에 범죄자를 예측해 단죄하는 미래 사회가 그려진다. 기계장치 안에 감금된 3명의 예지자가 범죄를 예측하는 모습. [중앙포토]

근데 왜 만들었어?

-에어비앤비 이용 중에 일어나는 강력범죄를 예방하겠다는 이유다.
-2019년 10월 미국 캘리포니아주에서 에어비앤비 투숙객이 파티를 열다 총격 사건이 발생해 5명이 사망했다. 2017년엔 미국 미네소타주에서 투숙객이 집주인의 딸을 대상으로 성범죄를 일으켰다. 이런 강력범죄가 반복되며 호스트(집주인)-게스트(손님)의 신뢰성 문제가 도마에 올랐다.

-에어비앤비는 2017년 AI 스타트업 트룰리(Trooly)를 인수했다. SNS 등 온라인 정보를 수집·분석해 개인의 평판과 특성을 평가하는 기술 기업이다.
-트롤리 기술을 기반으로 에어비앤비는'신뢰할만한 고객을 가려내는 특허'를 2018년 11월 미국에서 취득했다. 유럽특허청에도 해당 특허 심사를 요청한 상태다.

트룰리는 컴퓨터 프로그램을 통해 특정 문서로 부터 개인의 습성이나 성격 등을 추측할 수 있는 특허를 보유하고 있다. [트롤리 미디엄 캡처]

에어비앤비의 입장은?

-에어비앤비는 범죄정보 조회(미국 등 정보공개 국가에 한정)를 통해 이용자를 검증하고 있다. 에어비앤비 웹사이트에는 "예약 확정 전 위험 점수를 매기고, 예상적 분석과 머신러닝을 이용해 사건을 예방한다"고 공지돼 있다.

-찰리 어바니치 에어비앤비 대변인은 "특허를 보유했다고 해서 모든 내용이 적용되는 건 아니다"라고 밝혔다. 실제 알고리즘 적용 여부에 대해선 공개하지 않았다.
-에어비앤비 코리아 관계자는 "현재 한국에서 사용자의 SNS 정보 수집 등은 전혀 이뤄지지 않는다"라며 "향후에도 그런 알고리즘을 적용할 계획이 없는 것으로 안다"고 답했다.

더 알면 좋은 점

-공유경제 서비스의 안전성와 신뢰도를 지적하는목소리가 높아지고 있다. 미국에선 승차공유 업체 우버(Uber) 관련 성범죄만 연간 3045건(2018년 기준) 발생했다.

-미국 안보 기관, 경찰, 보험사 등은 AI 및 머신러닝으로 특정 인물의 위험도를 분석해 이미 활용 중이다.
-소프트웨어정책연구소 AI 정책연구팀 유재흥 연구원은 "이용자 신뢰도가 중요한 보험, 금융, 공유 경제 영역에선 AI를 이용한 개인 평가가 조용히 이뤄지고 있었다"며 "최근 들어 글로벌 IT 기업들과 유럽연합(EU)가 개인 프라이버시 문제에 주목하면서 AI 윤리에 대한 논쟁이 활발해지는 단계"라고 말했다.
정원엽 기자 jung.wonyeob@joongang.co.kr

[팩플] "그래서, 팩트(fact)가 뭐야?"

이 질문에 답할 [팩플]을 시작합니다. 확인된 사실을 핵심만 잘 정리한 기사가 [팩플]입니다. [팩플]팀은 사실에 충실한 '팩트풀(factful)' 기사, '팩트 플러스 알파'가 있는 기사를 씁니다. 빙빙 돌지 않습니다. 궁금해할 내용부터 콕콕 짚습니다. '팩트없는 기사는 이제 그만, 팩트로 플렉스(Flex)해버렸지 뭐야.' [팩플]을 읽고 나면 이런 소리가 절로 나오게끔, 준비하겠습니다.