페이스북 AI, 흑인 남성 동영상 ‘영장류’로 분류 논란

페이스북 AI가 흑인이 등장하는 영상을 시청한 사용자에게 영장류와 관련된 영상을 추가로 볼 것인지 묻는 문구가 떠 있다. [자료 페이스북 캡처]

전 세계 8800만 가입자를 보유한 소셜미디어 페이스북의 인공지능(AI)이 흑인 남성의 모습을 담은 동영상을 원숭이나 침팬지 등을 일컫는 ‘영장류(Primates)’로 분류해 논란이 불거졌다.

지난 4일(현지시각) 미국 언론 뉴욕타임스에 따르면 페이스북은 최근 흑인 남성과 백인 경찰이 말다툼하는 데일리메일의 동영상을 본 사용자에게 ‘영장류’에 관한 동영상을 계속 볼 것인지 묻는 문구를 띄웠다.

페이스북 AI의 자동추천기능이 재생 중인 영상과 연관성을 분석해 사용자에게 다음 영상을 추천하는 과정에서 이 같은 오류가 발생한 것이다.

페이스북은 자동추천기능을 비활성화하고 공식 사과하고 시스템 개선을 약속하면서도 AI가 완벽하지 못한 탓이라고 뉴욕타임스에 해명했다.

페이스북 대변인인 다니 레버는 성명을 보내 “용납할 수 없는 오류가 발생했다”며 “다시는 이런 일이 발생하지 않도록 근본적인 원인을 조사 중”이라고 밝혔다. 이어 “AI를 개선하고는 있지만, 아직 완벽하지 않다는 것을 알고 있다”며 “앞으로 발전시키겠다”고 했다.

AI가 유색 인종을 잘못 분류해 논란이 된 사례는 과거에도 있었다. 2015년 구글은 흑인 2명의 사진을 분류했다가 사과했다.

당시 구글 포토는 일부 사용자가 자신의 흑인 친구가 ‘고릴라’로 분류돼 있다고 항의했다. 이에 구글 측은 인종차별적 AI에 대해 사과하며 알고리즘 수정을 위해 노력하겠다고 밝혔다.

이보람 기자 lee.boram2@joongang.co.kr