생성형 인공지능(AI) 서비스가 부상하면서 콘텐트 관리 책임에 대한 목소리가 높아지고 있는 가운데 구글이 2022년 하반기 투명성 보고서를 발표했다. 지난 2010년부터 반기별로 투명성 보고서를 발간해온 구글은 불법·유해 콘텐트에 어떻게 대응하고 있을까. 한국이 가장 민감하게 반응하는 부분은 무엇일까.
무슨 일이야
미국 캘리포니아 마운틴뷰에 있는 구글 본사. AP=연합뉴스
지난달 28일 구글이 공개한 보고서에 따르면 한국 정부는 지난해 하반기 총 4587건의 콘텐트 삭제 요청을 구글에 전달했다. 삭제를 요청한 세부 항목의 개수는 총 6만 7445개. 예를 들면 한국 정부는 약 2000건의 요청을 통해 아동 성적 학대 등 피해자의 동의를 얻지 않은 디지털 성범죄 관련 URL 약 2만2000개를 삭제해 달라고 구글에 전달했고, 구글은 자체 검토 후 이 중 2만개를 삭제했다. 이태원 참사 피해자 이미지·동영상이 포함된 URL 2개와 동영상 41개도 네트워크법 위반을 이유로 방송통신심의위원회가 삭제를 요청함에 따라 구글 검색과 유튜브에서 볼 수 없게 됐다. 구글은 전체 삭제 요청 중 74%가량을 수용했다고 밝혔다. 콘텐트가 이미 삭제되거나 찾을 수 없는 경우도 12%에 이른다.
이게 왜 중요해
그래픽=차준홍 기자 cha.junhong@joongang.co.kr
2011년 상세 집계를 시작한 이래 지난해까지 한국의 콘텐트 삭제 요청 누적 건수는 2만 1725건, 항목 수는 29만 7653개다. 특히 2020년 2397건이었던 정부의 삭제 요청은 2021년 6741건, 2022년 9654건으로 급증했다. 2021년 전기통신사업법 및 정보통신망법이 개정되면서 부가통신사업자들의 디지털 성범죄물에 대한 삭제 및 유통방지 의무가 강화된 결과다. 지난 3년간 삭제 요청 및 항목 수가 전체의 85%에 이른다.
지난해 하반기 한국 콘텐트 삭제 요청 사유는 개인정보 보호와 보안이 72%(3314건)로 가장 많았다. 외설과 과다한 노출 14%(663건), 규제 상품·서비스 9%(406건) 순. 반면 같은 기간 모든 국가와 지역에서 접수된 5만 407건 중 가장 많은 비중을 차지하는 것은 국가 안보 46%(2만 3410건)로 나타났다. 국가별로 중시하는 정책에 따라 제한되는 콘텐트 유형도 달라지는 셈.
어떻게 삭제해
27일 온라인 간담회를 진행한 장 자크 사헬 구글 아태지역 콘텐트 정책 총괄. 사진 구글
구글이 콘텐트를 삭제하는 기준은 크게 두 가지. 해당 국가 법률을 위반하거나 구글 제품 또는 서비스에 대한 운영원칙을 위반하는 경우다. 장 자크 사헬 구글 아태지역 콘텐트 정책 총괄은 27일 열린 온라인 간담회에서 “구글 검색부터 광고까지 서비스마다 운영 기준은 조금씩 다르지만 정보 개방성과 접근성, 이용자 편의성, 문화적 다양성 등을 고려해 원칙을 만들고 전문가 의견을 반영해 지속적으로 업데이트하고 있다”고 밝혔다. 예를 들어 유튜브에서 폭력적이거나 잔인한 콘텐트는 허용되지 않지만 교육·다큐멘터리·과학·예술 등 명확한 맥락에 따라 타당한 이유가 있는 경우 예외적으로 허용되기도 한다.
모니터링을 위해 머신러닝 등 AI도 적극적으로 활용 중이다. 사헬 총괄은 “지난해 4분기 삭제된 유튜브 영상의 94% 이상이 머신 러닝에 의해 감지됐고, 이 중 71% 이상이 삭제되기 전 조회 수가 10회 이하였다”고 말했다. “2만명 이상 다국어 가능 인력이 24시간 투입돼 신고 및 요청이 들어온 콘텐트를 검토하고 삭제 작업을 수행하고 있다”는 설명. “코로나 19 관련 허위정보가 많아졌을 때 별도 정책을 마련한 것처럼 AI 등 새로운 유해 요인이 부상하면 엄격하게 대응해 나갈 것”이라고 덧붙였다.
앞으로는
25일 유럽연합 집행위원회가 지정한 디지털서비스법 규제 대상 기업들. AFP=연합뉴스
불법·유해 콘텐트 확산을 막기 위한 규제는 점차 강화되는 중. 유럽연합(EU)은 오는 8월 디지털서비스법(DSA) 도입을 앞두고 있다. 특정 인종·성별·종교 등 편파 발언이나 테러·아동 성 학대 등과 연관된 콘텐트는 물론 AI 기반 생성 정보 표시 및 유통 책임도 더해졌다. 지난달 25일 발표된 규제 대상에는 구글·유튜브·페이스북·인스타그램·트위터·틱톡 등 EU 내 월 이용자가 4500만명 이상인 플랫폼 19곳이 포함됐다. 규정 위반 시에는 매출의 최대 6%에 해당하는 벌금이 부과된다.
※ 지금 뜨는 기업ㆍ기술 궁금하세요? 요즘 핫한 테크 소식을 입체적으로 뜯어보는 ‘기사 +α’를 만나보세요.
👉 https://www.joongang.co.kr/factpl
