[현장에서] n번방 2차 가해에 "AI가 몰랐다"는 구글의 변명

중앙일보

입력

AI의 2차 가해

인공지능(AI)은 똑똑하다. 동시에 놀랍도록 아둔하다. 특히 처음 보는 디지털 범죄 앞에선 한없이 무력해진다.

구글이 텔레그램 집단 성착취 사건(n번방 사건) 피해자들에게 2차 가해가 될 수 있는 검색어와 검색 결과를 계속 노출해왔단 사실이 24일 알려졌다. 'n번방'이나 '박사(조주빈)' 관련 키워드를 검색하면 피해자 신상 관련 정보를 노출했다. n번방 사건을 최초로 알린 대학생 기자단 '추적단 불꽃'도 "2차 피해는 구글에서 가장 심하다"고 평가했다.

이에 대해 구글 관계자는 "23일부터 삭제 조치를 위한 알고리즘이 업데이트 되고 있다"며 "구글은 콘텐트 삭제를 대부분 AI에 맡기고 있으며, 사람이 가치 판단하는 경우를 극단적으로 최소화하고 있다"고 설명했다. 그러면서 "AI는 'n번방'이 사회적으로 문제가 된다는 것을 파악하기 어렵다"고 말했다.

무너진 신화

최근 수년간 글로벌 IT 기업들이 너나없이 AI 기술 경쟁에 나서면서 'AI 만능신화'가 자리 잡았다. AI의 실체가 결국 사람이 제공한 데이터의 '반복 학습'임을 간과한 채 말이다. 학습하지 않은 데이터 앞에서 AI는 세상 물정도 모르고, 눈치도 없는 소프트웨어 프로그램에 불과하다. 차별과 편견으로 가득찬 데이터는 AI의 결과물에 그대로 이식된다. 오죽하면 AI 기술업계에서 '쓰레기를 넣으면 쓰레기가 나온다(Garbage In, Garbage Out)'는 말까지 생겼겠는가.

구글의 콘텐트 정책. "구글은 ▶성적 노출 ▶차별·혐오 ▶불법 행위 ▶사이버 불링(Cyber Bullying) 등을 모두 엄격히 금지한다"고 명시돼있다. [사진 구글]

"AI가 n번방을 몰랐다"는 구글의 변명이 직무유기인 이유다. 구글 콘텐트 정책은 ▶성적 노출 ▶차별·혐오 ▶불법 행위 ▶사이버 불링(가상공간 내 집단괴롭힘) 등을 모두 엄격히 금지하고 있다. 하지만 구글은 AI의 현 수준을 알고도 범죄성 콘텐트를 지우기 위한 '인간의 노력'을 추가하지 않았다. 게이트키핑 의무에 소홀했거나, 사람과 기계 모두 무지했거나, 둘 다다.

"미국 사건이었다면…."

한 글로벌 AI 기업 임원은 "n번방 사건이 세계적인, 혹은 미국 내 사건이었다면 구글이 더 빨리 움직였을지 모른다"고 말했다. 그는 "77억 인구를 대상으로 사업하는 구글에게 한국은 아시아 변방의 작은 나라일 뿐 아니겠느냐"며 씁쓸해 했다. 실제 국내 여론에 민감한 토종사업자 네이버·다음(카카오)은 이번 사건 관련 2차 피해가 될 만한 게시글은 신고 즉시 삭제하고 있다. 디지털 장의사 이덕영씨는 "네이버에서 n번방 글을 신고하자 30분 만에 지워졌는데, 구글은 하루에 60~70번 신고해도 처리가 안 된다"고 말했다.

삭제되는 디지털 성범죄물 30%뿐

2차 가해는 구글만의 문제는 아니다. "AI로 콘텐트를 자체 심의한다"며 한국인터넷자율정책기구(KISO) 심의 가이드라인을 거부하는 해외 플랫폼 전부에 해당하는 얘기다. 방송통신심의위원회에 따르면 2016년부터 지난달까지 구글·트위터·텔레그램·디스코드 등 해외 플랫폼에 유통된 디지털 성범죄물은 8만6000여건이다. 감시망에 걸리지 않은 성범죄물까지 합치면 숫자는 더 커진다. 이 가운데 방심위 요청에 따라 삭제된 게시물은 약 32%(2만7000여건)에 불과하다.

해외 플랫폼 디지털 성범죄물 유통 현황. 그래픽=신재민 기자

이에 국회에서도 "역외규정을 신설해 해외 사업자에게 불법촬영물 예방·방지 의무를 부여해야 한다"는 목소리가 나오고 있다. 해외 플랫폼들이 끝까지 '자체 심의'를 고집하고 싶다면 더 잘해야 한다. 피해자의 고통을 방조하는 포털과 소셜미디어(SNS)는 피해자들에게 가해자 못지 않은 폭력이기 때문이다.

"AI는 수십억명의 삶을 더 향상할 힘과 그 반대로 만들 힘을 동시에 갖고 있다." 지난 1월 순다 피차이 구글 CEO의 이 말이 한국 시장에서는 예외가 아니기를 바란다.