흑인여성 보고 "남자", 짝퉁 보고 "진품"...바보 AI

중앙일보

입력

업데이트

일본의 호텔 체인 '이상한호텔'에선 공룡이나 인간을 닮은 AI 로봇이 손님을 맞는다. [이상한호텔 홈페이지]

인공지능(AI)은 충분히 진화한 것일까. AI의 활용범위가 늘고 확산속도가 빨라지는 가운데 ‘AI 맹신’에 제동을 거는 사례가 잇따르고 있다.

[뉴스 따라잡기] 아직은 문제 많은 AI #호텔 AI 직원은 무응답, 결국 대량 해고 #日아마존에선 짝퉁 구분 못한 채 배달도

인간을 대신해 고용한 AI 로봇이 제구실을 못 해 해고당하는가 하면, AI 검수 시스템이 ‘싸구려 짝퉁’을 판별 못 하고 좋은 제품이라고 추천하는 경우도 있다. 심지어 경찰에 납품한 AI 얼굴 인식 소프트웨어가 인종차별적인 판단을 내렸다는 윤리 논란까지 벌어졌다.

#줄해고 당한 이상한호텔의 AI 로봇

만성적인 일손 부족에 시달리는 일본에선 인간을 대신하는 AI 로봇의 활용사례가 부쩍 늘고 있다. 2015년 나가사키(長崎)현 사세보(佐世保)시의 유명 테마파크 하우스텐보스 인근에 1호점을 연 ‘이상한 호텔(変なホテル)’도 그중 한 곳이다.

현재 도쿄를 비롯한 일본 전역에 16개 호텔을 운영 중인 이 호텔 체인은 공룡이나 인간을 닮은 AI 로봇이 프런트에서 손님을 맞는 시스템이다. 개업하자마자 각종 방송 프로그램에 등장해 화제가 됐고, ‘로봇이 종업원으로 근무하는 세계 최초 호텔’로 기네스북에도 올랐다.

그런데 아사히신문에 따르면 최근 들어 호텔 측이 호텔의 상징과도 같은 AI 로봇을 대량 '해고'하는 사태가 발생했다. 호텔은 2017년 모두 27종 243대에 달하는 로봇을 운영했지만, 현재는 절반 정도(16종 128대)로 줄였다. 원래 의도와 달리 AI 로봇이 실망스러운 모습을 자주 보였기 때문이다.

당초 호텔 측은 나오(NAO)란 이름을 가진 인간형 로봇을 대표주자로 내세웠다. 신문에 따르면 나오는 손님의 질문에 응답하면서 인간과의 대화를 학습하는 AI 프로그램이 탑재됐다.

그러나 실전에서 나오는 제대로 진화하지 못했다. 체크아웃이나 식사시간을 묻는 수준에 그치고, ‘벳부(別府)온천에 가려면 전철을 어디서 갈아타야 하지?’, ‘낚시터를 예약해줘’ 같은 손님의 복잡한 질문과 요구에는 끝내 아무런 반응을 하지 않았다고 한다.

로봇 때문에 일손이 더 필요한 역설도 일어났다. 종업원들이 로봇을 충전하거나, 인터넷에 연결하는 작업에 오랜 시간을 써야 했기 때문이다. 이상한호텔의 오에 다케요시(大江岳世志) 총지배인은 아사히에 “사람 손이 필요 없는 호텔을 목표로 했지만, 오히려 로봇을 돌보기 위해 일손이 필요한 상황이 돼버렸다”고 토로했다. 그러면서 그는 “로봇은 만능이 아니라, 단지 인간의 부담을 덜어주는 것”이라며 “3년간 관찰한 결과 어디까지 (로봇에) 맡길 것인지 정하는 것이 중요하다”고 말했다.

#아마존을 ‘짝퉁천국’으로 만든 AI

지난 2월 일본 아마존 사이트에 프랑스 명품 브랜드 고야드의 토트백이 올라왔다. 해당 물품에는 엄선된 상품이란 의미의 ‘아마존의 선택(Amazon’s Choice)’이란 마크까지 붙었다.

그러나 왠지 수상했다. 판매가는 7980엔(약 8만원), 실제 매장가는 13만 엔(약 130만원)인 제품이었다. 니혼게이자이(닛케이)신문이 취재한 결과 해당 제품은 모조품으로 판명 났다.

아마존재팬 웹사이트에 올라온 명품 브랜드 고야드의 가방. 사진은 기사 내용과 무관. [아마존재팬 웹사이트 캡처]

왜 이런 ‘짝퉁’이 버젓이 아마존 대표상품으로 올라왔을까? 닛케이 취재진은 아마존 측이 불법 제품을 걸러내는 검수 시스템을 AI에 과잉 의존한 탓으로 결론 내렸다. 아마존의 AI 검수가 정교한 모조품을 판매하는 악성업자를 구분해내는 능력이 떨어진다는 것이다.

라쿠텐이나 메루카리 등 업계 경쟁사들은 AI 검수가 불완전하다는 점을 의식해 최종 검수에 인력을 투입하고 있다고 닛케이는 전했다. 아마존 측도 “사람도 확인하고 있다”고 취재진에 답했다. 그러나 이번 사안에 대해선 “개별 사례에 대해선 코멘트하지 않겠다”는 묘한 반응을 내놨다.

아마존의 짝퉁 판매는 어제오늘 일은 아니다. 일본의 모조품 감시단체인 유니언 데 파부리칸은 닛케이에 “(동종 업계의) 다른 사이트에선 모조품이 하루 1건 정도 발견되는 반면, 아마존에선 몇 분이면 찾을 수 있다”고 주장했다.

실제로 가짜 제품을 구매한 사람들이 아마존 사이트에 항의 게시글을 올린 사례도 적지 않다. 프랑스제 유명 화장품인 줄 알고 구입했지만 모조품인 것을 확인한 한 소비자는 “(월정액 유료 회원제인) 아마존 프라임으로 구입했는데, 가짜를 보낸 것에 매우 분노한다”며 “아마존이 확실히 심사하지 않는 것 아니냐”고 불만을 토로했다.

일본만의 일도 아니다. 지난해 4월 미국 월간지 디애틀랜틱 기자가 아마존에서 직접 애플의 에어팟을 주문했는데 가짜가 도착하는 어처구니없는 사건도 있었다.

아마존도 문제의 심각성을 인식하고 최근 짝퉁 근절 프로그램인 '프로젝트 제로(Project Zero)'를 시작했다. 정보기술(IT) 전문잡지인 와이어드에 따르면 생산 단계에서부터 상품에 일련번호를 부여해 가짜를 가려내는 것이 이 프로그램의 핵심이다. 또 생산업체가 직접 사이트에서 모조품을 찾아내 클릭 한 번으로 퇴출할 수도 있다. 이를 두고 사실상 모니터링 책임을 업체 측에 떠넘긴 것 아니냐는 비판도 나온다.

#윤리 논란을 불러온 얼굴 인식 소프트웨어

AI 기술 선두기업인 아마존은 또 다른 영역에서 논란을 빚기도 했다. 도마 위에 오른 건 아마존이 개발한 얼굴 인식 소프트웨어 레코그니션(Rekognition)이다. 이미 미국 올랜도 경찰국과 오레곤의 워싱턴카운티 보안관 사무소가 사용 중이고, 미 연방수사국(FBI)도 시범 운용 중이다. 미 중앙정보국(CIA)과 이민세관집행국(ICE)도 도입 계약을 맺었다.

논란의 핵심은 이 프로그램이 얼굴색을 잘 구분하지 못한다는 데 있다. 캐나다 토론토대 학생인 데보라 라지와 미국 MIT의 컴퓨터과학자인 조이 부올람위니가 연구한 결과 레코그니션은 백인 남성은 모두 가려낸 반면, 피부색이 진한 아프리카계 여성은 제대로 구분하지 못하는 것으로 나타났다. 이들을 남성이라고 판단한 오인율은 31%에 달했다고 아사히신문은 전했다.

지난해 7월 전미자유인권협회(ACLU) 회원들이 미국 시애틀의 아바존 본사를 찾아 윤리 논란을 일으킨 얼굴 인식 소프트웨어 '레코그니션'의 판매 중지를 요구하는 청원서를 전달하고 있다. [AP=연합뉴스]

신문에 따르면 경쟁 업체들의 얼굴 인식 소프트웨어 오인율은 레코그니션보다 적었다. 마이크로소프트는 1.5%, IBM은 17%로 각각 조사됐다.

부올람위니는 레코그니션의 딥러닝(deep learning) 과정에 의혹을 나타냈다. 지난 2월 미국 하와이에서 열린 전미인공지능학회(AAAI)에 참석한 그는 “백인 남성에 편중된 데이터를 (AI 학습에) 사용하면, 그 시점에서 실패는 당연한 것”이라고 주장했다고 아사히는 전했다.

아마존 측은 즉각 반발했다. AI 부문 책임자인 맷 우드는 아사히에 “(라지와 부옴람위니의) 연구방식에 오류가 있고, 실험에 사용된 (레코그니션은) 낡은 버전이었다”고 반박했다. 그러면서 그는 “지난해 11월 출시한 최신 버전을 사용한 자체 실험에선 오인율이 제로(0)였다”고 말했다.

아마존의 해명에도 불구하고 전미자유인권협회(ACLU) 등 시민단체는 레코그니션의 경찰 납품을 계속해서 우려하고 있다. 앞서 지난해 ACLU는 아마존 최고경영책임자(CEO)인 제프 베조스에게 ‘법 집행기관에 대한 레코그니션 판매를 중지하라’는 내용의 편지를 보내기도 했다.

AI 전문가들도 합세했다. ‘컴퓨터과학의 노벨상’으로 불리는 튜링상을 올해 받은 요슈아 벤지오 몬트리올대 교수 등 26명의 전문가들이 지난 3일 레코그니션 판매 반대 선언을 했다고 블룸버그통신은 전했다.

하지만 아마존 측은 레코그니션이 실종사건 등의 범죄 수사에서 공익에 기여할 것이라는 입장이다. AI 활용도가 높아질수록 이같은 논란은 거세질 전망이다.

김상진 기자 kine3@joongang.co.kr