디지털 성범죄 피해 영상물, 인공지능이 찾아서 지운다

중앙일보

입력

‘리벤지 포르노(헤어진 연인에게 보복하기 위해 유포하는 성적인 영상물)’ 등 디지털 성범죄 피해 영상물을 찾아내는데 인공지능(AI) 기술이 적용된다. 22일부터 10개 웹하드 사이트에 적용되며 연말까지 총 45개 웹하드 사이트로 적용 대상이 확대될 예정이다.

[뉴스1]

과학기술정보통신부(과기정통부)와 여성가족부(여가부)는 이날 “웹하드 사이트를 통한 디지털 성범죄 피해영상물의 유포를 효율적으로 방지하기 위해 여가부의 ‘디지털 성범죄 피해자 지원센터(지원센터)’ 업무에 AI 기술을 시험 적용한다”고 밝혔다.
그동안은 디지털 성범죄 피해자가 신고한 불법 촬영물이 웹하드 사이트에 게시됐는지를 확인하기 위해선 지원센터 직원이 일일이 수작업으로 피해 촬영물에서 검색용 이미지를 추출한 뒤, 각 사이트를 검색해야 했다. 이로 인해 신속한 피해 지원이 어려운 한계가 있었다.

피해자가 신고하면 유사 영상물 자동 검색, 삭제 요청

이를 개선하기 위해 과기정통부ㆍ여가부ㆍ디지털 성범죄 피해자 지원센터, 한국전자통신연구원 등은 올 초부터 AI 기술을 활용한 불법 촬영물 삭제지원 시스템 개발을 추진해왔다.
삭제지원 시스템은 AI 기술을 활용해 피해자가 신고한 불법 촬영물에서 이미지를 추출한다. 이어 웹하드 사이트에서 피해 촬영물과 유사한 영상물을 자동으로 선별ㆍ수집한다. 지원센터의 직원은 AI가 수집한 정보를 바탕으로 피해 촬영물과 유사한 영상물이 웹하드 사이트에 게재돼 있는지를 확인한 뒤, 피해 촬영물이 유포된 것으로 확인되면 해당 웹하드 사이트에 삭제 요청을 하게 된다.

자료: 과학기술정보통신부ㆍ여성가족부

다만, 현재 삭제지원 시스템을 통해 검색할 수 있는 국내 웹하드 사이트는 10개로 시험 적용 단계다. 이남경 한국전자통신연구원 실장은 “웹하드마다 서비스 구조가 다르기 때문에 각 웹하드 사이트의 데이터를 AI 엔진에 규격화하는데 시간이 소요된다”며 “하반기에 35개 사이트를 추가해 연말까지 총 45개 사이트에 대한 불법 촬영물에 대한 선별ㆍ수집이 가능해질 것”이라고 말했다.

여가부 관계자는 “전체 웹하드 사이트를 대상으로 한 삭제지원 시스템 활용 시 웹하드에 유포된 불법 촬영물 검색시간이 현저히 단축될 수 있고 365일 24시간 자동 검색도 가능해 디지털 성범죄 피해자를 보다 신속하게 지원할 수 있을 것”이라고 말했다. 과기정통부 관계자는 “앞으로도 디지털 성범죄 피해방지를 위해 현장에서 필요한 기술을 개발하여 적용할 수 있도록 적극적으로 지원할 것”이라고 밝혔다.
김경진 기자 kjink@joongang.co.kr