죽은자처럼 말하는 AI '데드봇'에 英 "정상적 애도 방해 우려"

중앙일보

입력

일러스트=김지윤

일러스트=김지윤

인공지능(AI)이 발달하면서 사망한 사람의 대화 기록과 언어 습관을 학습해 마치 살아있는 것처럼 대화하는 챗봇이 있다. '데드봇(deadbot)' 혹은 '그리프봇(griefbot)'으로 불리는 이같은 챗봇 기술이 도리어 유족에게 심리적 피해를 줄 수 있다는 연구 결과가 나왔다.

9일(현지시간) 영국 일간 가디언·더타임스 등에 따르면 영국 케임브리지대 연구팀은 논문에서 최근 늘고 있는 이러한 '데드봇' 서비스가 상업적으로 이용되거나 미성년자를 대상으로 사용될 경우 지속적인 정신적 피해를 초래하고 고인의 존엄을 훼손할 수 있다고 경고했다.

데드봇 서비스를 이용하면 문자 대화를 통해 마치 사망한 가족이나 지인과 대화를 나누는 듯한 경험을 할 수 있다. 주로 가족을 잃은 유족이 그리움을 달래기 위해 사용하거나 시한부 판정을 받은 환자들이 남겨질 가족을 위해 직접 이용하며 챗봇의 학습을 돕기도 한다.

케임브리지대 리버흄 미래 지능 연구 센터(LCFI) 연구팀은 논문에서 최근 이러한 서비스를 제공하는 회사가 점점 늘고 있지만 이에 대한 법적인 제재는 거의 없어 악용될 우려가 있다고 지적했다.

이들은 특히 비윤리적인 기업에서 이러한 데드봇 기술을 통해 광고 메시지를 보내는 등 이를 부적절하게 수익화한다면 이는 유족에게 큰 심리적 피해를 가져올 수 있다고 우려했다.

데드봇이 유족이 원치 않는 스팸이나 서비스 약관 업데이트 등의 메시지를 보낸다면 유족은 마치 사망한 이에게 '디지털 스토킹'을 당하는 것과 같은 심리적 타격을 입을 수 있다는 것이다.

서비스 이용자가 미성년자일 경우에는 그 위험이 더 커질 수 있다.

세상을 떠나기 전 부모는 남겨진 아이가 자신의 죽음을 더 잘 극복할 수 있도록 돕기 위해 데드봇을 사용하지만, 도리어 정상적인 애도의 과정을 방해해 심리적 피해를 남길 수도 있다는 것이다.

연구팀은 "어떤 서비스도 아이들이 '데드봇'과 소통하는 것이 이들에게 더 이롭거나 취약한 상태인 이들에게 해가 되지 않는다는 것을 증명하지 못한다"고 지적했다.

이어 특정 기간이 지나면 데드봇 서비스를 더 이상 이용할 수 없게 하는 '은퇴' 혹은 '디지털 장례' 절차를 도입하거나, 서비스 이용 대상을 성인으로만 제한하는 등의 적절한 규제가 필요하다고 강조했다.

논문의 공동 저자인 카타지나노바치크-바신스카 박사는 "이 AI 영역은 현재 윤리적 지뢰밭"이라면서 "망자의 존엄을 최우선에 두고 이 기술이 금전적 동기에 의해 악용되지 않도록 해야 한다"고 말했다.

ADVERTISEMENT
ADVERTISEMENT