기계는 패턴으로 상황을 읽는다. 그래서 평소와 다른 움직임이나 이상 거래명세, 일반 군집과 다른 모양새의 항목들을 잘 잡아낸다. 누군가의 SNS 포스팅에서 남들과 다른 ‘불안감’을 확인해 그의 우울증을 조기 발견할 수도 있고, 갑자기 줄어든 전기 사용량을 토대로 홀로 사는 어르신의 발병 여부를 감지할 수도 있다. 일반 아동보다 확연히 체중 증가가 더딘 아이에 대해 학대 가능성을 제시할 수도 있다. 이상한 상황에 대해, 기계는 객관적으로 그 ‘이상함’을 보고할 수 있다.
〈그림1〉 ‘우울’, ‘슬픔’, ‘죽음’과 같은 단어가 잔뜩 포함된 글을 SNS에 올리고 난 뒤 전송 받은 알람. 출처: Facebook 캡쳐.
가정 내 폭력을 예방하기 위해 기술이 할 수 있는 일
이러한 기술적 가능성을 토대로, 연구진들은 가정과 같이 사회적 개입/감시가 쉽지 않은 사각지대에 대한 기술적 보완 장치를 줄곧 고민해 왔다. 앞서 세계보건기구(WHO)에서는 학대 예방을 위한 프레임워크(INSPIRE)를 제시한 바 있는데, ①법적 장치의 강화, ②규범 및 가치의 정립 ③안전한 환경 조성 ④부모 및 부양자 지원 ⑤가족 내 안정적 수입 및 경제력의 강화 ⑥선제적 대응 및 지원 서비스와 ⑦교육 제공 등 일곱 가지 축을 바탕으로 전략을 수립할 수 있다고 밝혔다.
〈그림2〉 심리상담을 돕는 AI 기반 챗봇. 외롭거나 슬플 때 ‘기분이 좋아지게 만드는’ 대화를 해준다. 출처: Woebot 화면 캡쳐.
해당 프레임워크를 기반으로, 남아프리카공화국 스텔렌보스대 헌트(Hunt) 박사는 기술이 어떻게 저소득 국가의 아동학대를 막을 수 있는지를 중점적으로 살폈다. 그로부터 현행 AI 기술과 기계학습(ML), 빅데이터 및 모바일헬스(mHealth)가 어떻게 기여할 수 있는지를 제시했다. 빅데이터와 알고리즘은 가족 및 사회 단위에서 발생 가능한 위험을 감지하는 데 주요하게 쓰일 수 있고, 사람들이 늘 쥐고 있는 휴대전화는 개인의 심리를 파악하고 선제적으로 도움을 주는 역할을 해낼 수 있다. 온라인 괴롭힘을 방지할 수 있도록, 가해자의 발생 가능성을 낮추는 방안 또한 기술로부터 찾아낼 수 있다(〈표1〉 참고).
다만 이러한 기술이 실질적으로 활용될 수 있으려면 단순히 기기 하나, 딥러닝 프로그램 하나만으로 해결할 수는 없다고 연구진은 말한다. 논문에서는 사회경제적, 정치적 장벽을 낮추는 것은 물론, 인프라 또한 모두가 평등하게 누릴 수 있도록 마련되어야 비로소 기술도 빛을 발할 수 있다고 주장한다.
〈표1〉 WHO의아동학대예방전략(INSPIRE)을기반으로AI및빅데이터, mHealth가할수있는일
법적 장치 보완 및 강화
- 위험평가 알고리즘 및 기계학습 프로그램이 법제 시스템을 강화하고 공정성을 높이는 데 도움이 될 것
규범과 가치
- SNS를 통한 각종 리터러시 프로그램 및 교육 캠페인 확산
- 가족 내 존중 및 보육과 관련한 캠페인 확대
- 폭력에 반대하는 운동가 및 이해당사자를 위한 인터랙티브 플랫폼 제공
안전한 환경
- 사회 데이터를 토대로 한 상관관계 모델링 분석
(예: 주류 판매업소의 폐점 시간과 공공장소에서의 물리적 충돌의 관계, 주요 폭행사건 지역 감지에 따른 경찰 배치 시스템)
- 알고리즘 시스템을 활용한 예측적 치안 유지 및 위험 대비
- 개인에게 고위험 소셜 콘텐츠를 알려주고 온라인상 발생 가능한 갈등을 단계적으로 줄일 수 있는 모바일 시스템
부모 및 부양자 지원
- 실의에 빠져있거나 고립된 개인들을 위한 심리치료 콘텐츠 제공 AI 앱
- 자녀 방임 위험이 있는 가족에 대한 휴대전화 앱을 활용한 개입 (정서적 치료 등)
수익 및 경제력 강화
- 취약계층에 대한 온라인 트레이닝 프로그램 및 자격증 프로그램 제공
선제적 대응 및 지원 서비스
- 자연어처리 알고리즘을 활용, 소셜미디어에 표현된 개인들의 슬픔 및 공격성을 감지하고, 이로써 폭력의 징후나 향후 발생 가능한 폭력을 우선으로 감지
교육
- 휴대전화를 기반으로 한 네트워킹 및 괴롭힘 방지 프로그램을 통해 아이들의 사회성을 기르고 폭력을 방지
학대 예방 알고리즘을 설계하려면
학대 예측 알고리즘 자체가 지닐 수 있는 문제를 고민하는 연구도 이어지고 있다. 미국 일부 주 정부에서는 아기가 태어나면, 아이의 생물학적 부모가 과거 자녀 학대를 저지른 사람은 아닌지를 확인하고 주 정부끼리 그 데이터를 공유할 수 있도록 하는 제도(버쓰매치; Birth Match)가 시행 중이다. 이에 대해 노스캐롤라이나대 연구진은, 해당 시스템의 예측 알고리즘에, 머신러닝에서 필수적으로 요구하는 도덕적 원칙(공정성, 투명성, 책임성)이 철저히 지켜져야 한다고 주장했다(Lanier et al., 2019). 데이터 변수에 치우침은 없는지, 제대로 학습이 되고 있는지, 인종이나 사회적 지위에 따른 차별적 편향이 발생하지는 않는지를 세심하게 살펴야 한다는 것이다.
심리상담 챗봇이나 불안을 감지하는 SNS 도구, 각종 교육 프로그램이 곳곳에서 다량으로 개발되고 있지만, 막상 실생활 속 활용은 더딘 편이다. 그래서 인간-컴퓨터 상호작용(HCI) 분야에서는 앱을 지속해서 쓰도록 하는 방법에 대한 고려(알람을 얼마나 자주 울릴 것인가, 채팅을 지속하려면 대화의 길이가 어떠해야 하는가 등)와 시스템 내부에 사람을 돕는 알고리즘을 자연스럽게 녹여낼 수 있는 대안들을 연구하고 있다.
코로나 사태 1년을 겪으며, 사람들은 더욱 서로의 얼굴을 보지 않게 되었고, 옷깃도 되도록 스치지 않으려 하고 있다. 하지만 서로에 대한 관심까지 놓지는 않았으면 좋겠다. 알고리즘은 학대를 당한 정인이를 발견할 수는 있지만, 자발적으로 “정인아 미안해”라고 하지는 않는다. 인간의 양심, 온정, 마음만이, 제2의 정인이를 막겠다는 의지를 일으키고, 세상을 변화시킬 수 있다.
유재연 객원기자는 중앙일보와 JTBC 기자로 일했고, 이후 서울대 융합과학기술대학원에서 박사과정을 수료했다. 이미지 빅데이터분석, 로봇저널리즘, 감성 컴퓨팅을 활용한 미디어 분석에 관심이 많다. 현재 서울대 융합과학기술대학원 연구원으로 활동하고 있다. you.jae@snu.ac.kr
