꼬마펭귄이 나와 "XX새끼" 4살배기 울린 '유튜브 키즈'

주부 박아람(31·여)씨는 최근 4살 딸아이와 차를 타고 가던 도중 아이가 갑자기 울어 깜짝 놀랐다. 아이가 휴대폰을 통해 ‘유튜브 키즈’의 애니메이션을 보던 도중 화면 속에서 외국 애니메이션 속 캐릭터가 코피를 흘리면서 쓰러져 있었던 것이다. 얼핏 어린이용 애니메이션인 줄 알고 보여줬던 영상은 알고 보니 성인용 애니메이션이었다. 박씨는 황급히 휴대폰 영상을 끄고 우는 아이를 달랬다. 박씨는 “어린이용 채널이라고 해서 안심했는데 이제는 겁이 나서 딸에게 스마트폰을 맡길 수 없게 됐다”고 말했다.

어린이 전용 애플리케이션이라더니…욕설·폭력 난무 #성인용 콘텐트 차단하는 알고리즘 '사각지대' #해외에서는 '엘사게이트' 사건으로 논란

유튜브의 아동 전용 동영상 서비스인 유튜브 키즈에 올라온 한 동영상. 누워있는 환자가 콜걸을 부른 컨셉으로 핑구 애니메이션에 더빙을 입혔다. [유튜브 키즈 화면 캡처]

유튜브의 아동 전용 동영상 서비스인 ‘유튜브 키즈’에 어린이들이 부적절한 동영상이 올라오면서 학부모들 사이에 주의보가 내려졌다. 성인을 대상으로 제작된 선정적이거나 폭력적인 콘텐트가 여과없이 검색돼 자칫 미취학 아동이나 유아까지 노출될 수 있다는 우려다.

지난해 5월 국내에서 첫 서비스를 시작한 유튜브 키즈는 유튜브 내 아동·유아를 위한 동영상 콘텐트를 선별해주는 일종의 VOD 서비스 애플리케이션이다. 구글과 전 세계 최대 동영상 사이트인 유튜브가 자랑하는 딥러닝 기술을 활용해 어린이가 시청하기 적절치 못하다고 판단되는 영상을 기계학습으로 걸러내는 방식이다.

유튜브 키즈는 2015년 2월 출시 후 현재 한국을 비롯해 미국, 영국, 캐나다 등 37개국에서 서비스되고 있으며 매주 1100만 명 이상이 시청하고 있다.[유튜브 키즈 캡쳐]

하지만 최근 유통되는 일부 콘텐트 속에는 폭력적이거나 선정적인 성인용 콘텐트가 그대로 올라오는 경우도 많다는 지적이 나온다. 예를 들면 얼핏 어린이들이 즐겨보는 애니메이션처럼 보이지만, 영상에 등장한 캐릭터들의 행동이나 내용이 전혀 맞지 않는 경우다. 대부분 개인 유튜버가 성인용 패러디물로 제작한 ‘19금’ 콘텐트 들이 검색되는 경우다.

실제로 28일 유튜브 키즈에 유명 어린이 애니메이션인 ‘꼬마 펭귄 핑구’를 검색할 경우 ‘핑구 동심 박살 더빙’이라는 이름의 영상이 노출된다. 해당 영상에서는 애니메이션의 한 장면 위로 “XXX 치다가 이렇게 됐잖아” “콜걸 부른 사람 찾아왔는데요” “XX새끼” 등 입에 담기 힘든 각종 비속어가 쏟아졌다. 누군가 장난으로 욕설과 음담패설을 녹음한 것이 어린이용으로 버젓이 노출되는 것이다.

일각에선 유튜브 키즈가 아동용으론 분류한 일부 콘텐트도 부적절하다는 목소리도 나온다. 시청자 정보를 미취학 아동으로 설정한 상태에서도 노출이 과한 걸그룹들의 무대 영상을 보여주거나, 어른들의 화장법을 가르치는 영상 등이 검색 가능하기 때문이다. 예를 들면 ‘선미 가시나 메이크업 따라 하기’ ‘사진발 잘 받는 셀카 메이크업’ 등의 영상이다. 이 중에는 아예 아동이 쓰기 적합한 화장품을 추천하며 구매를 유도하는 콘텐트도 있다.

가수 선미의 무대 화장을 따라하는 ‘메이크업 커버’ 영상. [유튜브 키즈 캡처]

전문가들은 유튜브 키즈에 부적절한 콘텐트가 계속 노출되는 건 딥러닝 기술이 불완전하기 때문이라고 지적한다. 이러한 영상들이 제목에 애니메이션 주인공의 이름이나 동화 이름을 사용하거나 부모들이 많이 찾는 태그를 지정하기 때문에 필터링이 되지 않고 검색을 통해 쉽게 노출되기 때문이다. 심지어 한번 유튜브 키즈에서 영상을 보게 되면 비슷한 영상이 계속해서 노출되기도 한다. 자동 재생 알고리즘에 따라 이를 선호하는 콘텐트를 분류하기 때문이다.

이러한 문제는 해외에서 '엘사게이트'(Elsagate)라는 신조어로 더 유명하다. 앞서 미국 등에서는 디즈니 애니메이션 ‘겨울왕국’의 엘사 캐릭터가 성관계를 가지거나 마약을 하는 음란물 영상이 유튜브에 올라오면서 사회적 문제로까지 불거진 바 있다. 이에 대해 유튜브 관계자는 “기계학습과 알고리즘 기술을 통해 유튜브 키즈에 올라갈 영상을 꾸준히 검토하고 있으며 모니터링 단도 운영하고 있다”고 설명했다.

디즈니 만화영화 주인공 ‘엘사’를 대상으로 한 소아성애적 동영상이 유통돼 논란이 된 '엘사 게이트' [유튜브]

하지만 황용석 건국대 미디어커뮤니케이션학과 교수는 “딥러닝이 모든 문제를 해결하지는 못한다. 글로벌 미디어의 경우 문화 간 차이를 정교하게 분류해 규제할 수 있는지도 의문이다”라면서 “유튜브가 이용자 신고를 즉각 반영하는 게 현재로썬 한계”라고 말했다. 결국 콘텐트와 플랫폼 제공자의 관리·감독과 자정작용이 더 중요하다는 얘기다.

일부 맘 카페에서는 유튜브 키즈에 사각지대가 있다는 사실이 알려지면서 “혹시 아이들이 볼까 봐 무섭다”는 엄마들의 우려가 이어지고 있다. 경북 영천에 사는 주부 이모(36)씨는 “식당에 가면 어쩔 수 없이 휴대폰으로 유튜브 키즈를 보여줬는데, 처음엔 만화였지만 관련 영상들이 나오면서 전혀 개연성도 없고 자극적인 영상뿐이어서 꺼림칙했다”고 말했다.

전문가들은 유해 동영상이 아동 정서에 미치는 영향이 매우 크다고 지적한다.  장난감보다 스마트폰에 익숙한 아이들이 선정적인 콘텐트에 무분별하게 노출될 경우 부작용이 심각하다는 것이다. 김성열 경남대 교육학과 교수는 “11세 이전엔 도덕적 관념이 없기 때문에 욕설이나 음담패설이 담긴 콘텐트에 노출될 경우 그대로 따라 하는 경향이 나타날 수 있다”고 말했다

최규진·정진호 기자 choi.kyujin@joongang.co.kr