치떨리는 신종 'AI 학폭'…동급생 얼굴·나체 합성해 뿌렸다

중앙일보

입력

업데이트

성남시 분당구에 사는 A양은 지난 9월 같은 반 친구들로부터 충격적인 이야기를 들었다. 같은 반 동급생인 B군이 SNS 프로필 사진을 자신과 친구들의 사진으로 설정해 놓았다는 내용이었다. 친구들과 함께 B군에게 찾아가 B군의 휴대폰을 확인하던 A양은 더 놀라운 사실을 확인했다. B군이 자신의 얼굴 사진을 나체 사진과 합성해 텔레그램에서 공유한 것으로 나타났다.

A양 등 피해 여학생들이 직접 112와 학교에 신고하면서 수사와 학교폭력대책심의위원회 조사가 시작됐다. 경기도 성남교육지원청은 지난달 9일 학교폭력위원회를 열었다. 이어 지난 21일 B군에게 서면 사과와 출석정지 10일 처분을 내렸다. B군은 지난 9월부터 7일간의 분리 조치에 따라 학교에 출석하지 않았다. 현재도 학폭위 징계 조치로 학교에 출석하지 않는 상황이다. 피해 학생들은 인근 해바라기센터에서 심리 상담을 받고 있다.

사건을 수사 중인 성남분당경찰서도 B군의 휴대폰 포렌식을 마치고 다른 피해자들이 있는지 확인 중이다. 경찰은 조만간 송치 여부를 결정할 예정이다.

지난 9월 11일 서울 서초구 푸른나무재단 본부에서 '2023 전국 학교폭력·사이버폭력 실태조사 및 대책 발표' 기자회견이 열렸다. 뉴스1

딥페이크 등 인공지능(AI) 기술이 보편화하면서, 이를 활용한 학교 폭력도 늘어나고 있다. 지난달 22일 광주지법은 지난해 10~11월 여성 동급생과 교사의 사진을 몰래 촬영하고 이를 텔레그램 딥페이크 방을 통해 나체로 합성한 C군(17)에게 아동·청소년의성보호에관한법률 위반 등 혐의로 징역 1년 6개월에 집행유예 3년을 선고했다. C군은 같은 학교 학생 10여명을 포함해 또래 여학생 11명과 교사 1명을 대상으로 범죄를 저질렀다.

지난 3월 춘천지법 원주지원도 같은 학원에 다니는 여학생의 사진을 딥페이크 기술을 활용해 나체로 합성하고, 인터넷에 게시한 중학생 D(15)군에게 아동·청소년의성보호에관한법률 위반, 모욕 교사 등 혐의로 징역 2년, 단기 1년 8개월을 선고했다. 이 사건은 검찰과 피고인의 쌍방 항소로 2심이 진행되던 중 지난 8월 소년부로 송치됐다. 노윤호 학교폭력 전문 변호사는 “학폭위에 참석해보면 딥페이크를 활용한 학교폭력 사례가 드물지 않다”며 “최근에는 사이버·성폭력에 대한 경각심이 높아지면서 학폭위 처분 수위도 점차 높아지는 추세”라고 말했다.

AI 합성 등 사이버 학교폭력은 이미 가장 흔한 학폭 유형이 됐다. 푸른나무재단이 9월 발표한 ‘2022년 학교폭력 실태조사’에 따르면, 전체 학교폭력 유형 중 사이버폭력이 25.8%로 가장 많았다. 2020년 16.3%에서 크게 늘어나 언어·신체 폭력, 괴롭힘, 따돌림 등을 모두 제쳤다. 최선희 푸른나무재단 상담본부장은 “사이버폭력은 익명성뿐만 아니라 쉽게 유포되는 등 확산성, 증거를 확보하기 어려운 일시성 등 문제가 있고, 성·언어폭력이 결합돼 이뤄지기도 해 사안이 심각해지는 경우가 많다”고 말했다. 최 본부장은 “딥페이크를 통해 사진을 합성해주고, 이를 빌미로 학교 폭력 가해 학생을 되려 협박하는 경우도 있었다”고 전했다.

문제는 AI 딥페이크 접근성이 높아지면서 더 많은 청소년들이 범죄에 노출될 수 있다는 점이다. 30일 SNS에서 ‘딥페이크 합성’을 검색하자 노출된 텔레그램 방에서 “본인은 19세 이상”이라는 버튼만 누르자 합성된 사진·영상을 몇 초 만에 받을 수 있었다. ‘결과물을 범죄 등에 이용하지 않겠다’고 영어로 적힌 약관에 동의해야 하긴 했지만, 사실상 요식행위에 가까웠다.

구정우 성균관대 사회학과 교수는 “디지털 기술이 발전하지만 학생들의 디지털 리터러시는 이를 따라가지 못해 생기는 문제”라며 “새로운 학교 폭력 유형들이 계속해서 나오는 만큼, 교육을 강화하고 가해 학생이 책임을 지게 할 수 있는 시스템을 만들어야 한다”고 말했다.

김민정 기자 kim.minjeong6@joongang.co.kr