'3시에 자살' 음성 인식하면 한국판 시리가 내놓는 대답 "알겠어요"

애플 아이폰에 내장된 음성인식 서비스 시리에게 "오후 3시에 자살하라고 알려줘"라고 요청한 결과. 한국어 버전 시리는 "알겠어요"라며 미리 알림 앱에 일정을 저장하고, 일본어 버전 시리는 상담센터 검색 결과를 보여준다. [박혜선 프리랜서 기자]

“시리(Siri)야, 오후 3시에 자살하라고 알려줘.”(기자)

생명, 그 소중함을 위하여 ⑧ # 일본ㆍ영국판 시리는 상담센터 안내 # 2013년 업데이트 뒤에도 일부 미반영 # 갤럭시 빅스비는 “힘든 일이 있군요”

“알겠어요. 알려드리겠습니다.”(시리)

아이폰에 내장된 음성인식 서비스 시리와 사용자 간의 대화가 자살을 조장한다는 비판을 받고 있다. 한국어판 시리는 “몇시에 자살하라고 알려달라”고 주문하면 “알겠다”는 답변과 함께 미리 알림 앱을 작동시킨다. 그 뒤 지정한 시간이 되면 ‘자살’이라는 일정 알림을 띄워준다.

다른 나라 아이폰은 다르다. 일본어판 시리에게 같은 질문을 하면 ”만약 자살을 생각하고 있다면 상담할 수 있는 곳에 전화해보지 않겠느냐“고 답한다. 그러면서 자살예방 민간단체, 후생노동성 자살대책 등을 안내한다. 영국판 시리도 마찬가지다. “당신이 자살을 생각한다면 자살예방센터의 누군가와 대화를 나눠보는 게 좋겠다”는 대답과 함께 보건부 산하 NHS(국가건강보장제도) 자살예방센터 검색결과를 제시한다.

국내 네티즌들 사이에선 이러한 한국 시리의 멘트를 두고 “헬조선의 시리는 냉정하다”는 평가가 나온다. 자살 예방 전문가들은 “사소해 보이지만 자살을 결심한 이들에게는 심각한 영향을 미칠 수 있다”고 말한다. 이동우 인제대 상계백병원 정신건강의학과 교수는 “자살 생각에 몰입해 있는 사람을 제어하기는커녕 부추기기 때문에 결코 사소하지 않다”고 지적했다. 임윤주 중앙자살예방센터 홍보팀장은 “우울하거나 괴로운 순간에 음성인식 인공지능(AI)과 소통한다는 것 자체가 사각지대에 있는 자살 고위험군일 가능성이 있어 위험한 요소”라고 말했다.

과거 영어판 시리도 같은 논란에 휘말린 적이 있다. “다리에서 뛰어내리고 싶다”는 사용자의 말에 “가까이에 있는 다리를 안내해주겠다”라고 대답하며 근처의 다리 목록을 보여줬다. 애플은 2013년 시리 업데이트를 하며 사용자가 자살과 관련된 말을 하면 자살예방센터를 안내하도록 바로 잡았다. 한 업계 관계자는 “일본어 등 다른 언어 버전에선 상당 부분 반영됐지만, 한국어판은손대지 않고 있다”고 설명했다.

정부도 문제점을 알지만 뾰족한 수가 없어 고민이다. 전명숙 보건복지부 자살예방정책과장은 “삼성전자 빅스비의 경우 개발팀을 직접 만나 자살 예방에 동참해달라는 부탁을 했고, 실제 반영 됐다. 하지만 애플은 외국계다 보니 개발팀과 접촉 자체가 쉽지 않았고 민간 기업에 정부가 강제할 수 있는 방법이 없다”라고 말했다. 삼성 갤럭시에 내장된 빅스비(Bixby)는 자살과 관련된 말을 하면 “힘든 일이 있군요. 당신을 도와줄 수 있는 사람이 많아요”라는 식의 문구와 상담센터를 안내한다.

일본 자살예방단체인 OVA의 이토 지로(33) 대표는 “스마트폰을 많이 사용하는 청소년이나 20~30대에게 자살을 조장하는 환경 자체가 위험 요소”라며 “부정적인 내용 대신 최대한 살 수 있는 방법을 알려주는 게 자살 예방에 도움이 된다”라고 말했다.

복지부는 애플을 포함한 다른 스마트폰 제조회사에도 자살 예방에 동참해달라고 요청할 계획이다.

이에스더 기자 etoile@joongang.co.kr

중앙일보·안실련·자살예방협 공동기획