Opinion :e글중심

AI 챗봇 이루다의 차별·혐오 표현 예상 못했나?

중앙일보

입력 2021.01.11 15:02

업데이트 2021.01.11 15:38

동성애 혐오 논란을 야기한 챗봇 이루다와 한 이용자의 대화. [페이스북 캡쳐]

동성애 혐오 논란을 야기한 챗봇 이루다와 한 이용자의 대화. [페이스북 캡쳐]

국내업체가 개발한 인공지능(AI) 챗봇 이루다의 서비스 중단 요구가 나오고 있습니다. 네티즌들은 서비스가 윤리적 기준 없이 운영되고 있다고 주장합니다. 특히 성희롱, 혐오 발언, 개인정보 침해 등의 문제를 제기합니다.

우선 이루다가 성희롱 문제에서 자유롭지 않다는 점을 지적합니다. “개발업체에서 성희롱 문제를 예상했는데도 아무런 조치를 취하지 않은 건 심각한 문제다.” “내가 연인과 몇 년 동안 나눈 사적인 대화가 조롱과 성희롱의 대상이 되고 있는데 당연히 큰 문제지.” “누구나 이용할 수 있는 서비스니까 어린 아이들이 잘못된 성가치관을 학습하는 통로로 이용될 수 있다.” “인간이 뱉은 말을 역으로 AI가 학습해서 인간에게 말할 수도 있음. 성희롱 발언을 사람에게 할 수도 있다는 것이 큰 문제임.”

장애인, 동성애, 인종 차별 발언을 여과하지 않은 개발업체를 비판하는 목소리도 나옵니다. “혐오 발언은 AI를 시장에 내놓기 전에 개발자 측에서 미리 대비했어야 하는 게 맞는 거죠.” “어린 아이들이 이루다와 같은 AI 챗봇과 이야기하면서 분별없이 저런 생각을 그대로 받아들일 수 있다는 점도 큰 문제.” “윤리에 대한 기본적인 고민도 없이 서비스가 오픈된 것은 유감이다.”

기업이 소비자의 개인정보를 침해했다는 점을 지적하는 네티즌도 있습니다. 이루다가 동일업체의 다른 서비스 ‘연애의 과학’에서 수집된 카카오톡 대화를 바탕으로 만들어졌기 때문입니다. “소름끼친다. 이렇게 쓰일 줄 알고 정보를 준 것도 아닐 텐데.” “이정도면 서비스 중단해야 하는 것 아닌가요? 계속 누군가의 개인정보가 빠져나가고 있는데.” “사용자의 데이터를 무단으로 활용한다니. 동의 없이 사적 대화가 유출된 것은 정말 큰 문제라고 생각합니다.” “개인정보 유출에 사생활 침해까지. 소비자 기만이다.” “내가 사용하지 않았어도 상대방이 ‘연애의 과학’을 사용했으면 내 대화가 이루다를 통해 빠져나가고 있겠네?” e글중심이 네티즌의 다양한 생각을 모았습니다.

* e 글 중심(衆心)은 '인터넷 대중의 마음을 읽는다'는 뜻을 담았습니다.
* 커뮤니티 글 제목을 클릭하시면 원문을 볼 수 있습니다.
* 반말과 비속어가 있더라도 원문에 충실하기 위해 그대로 인용합니다.

* 어제의 e 글 중심 ▷4차 재난지원금 ... “전 국민 지급” vs “선별 지급”

#인스티즈

"불쾌감을 느끼는 이유는, AI가 성희롱을 받았다는 표면적인 이유가 아니라, 그 AI가 20대 여성을 나타낸다는 이유만으로 무차별적으로 성희롱을 당하고 있고, 이러한 실태에서 성희롱을 하는 유저들의 20대 여성을 바라보는 관점이 간접적으로 느껴져서 그런 게 아닌가요? 더불어 이루다가 성희롱을 재확산할 우려도 있고요."

ID '분침'

#네이트판

"계좌번호나 특정 주소, 성명 등이 사실상 그대로 나온다는 점에서 '입력된 고객의 카카오톡 대화 내용'을 거의 그대로 읊는 수준으로 보입니다. 이게 제대로 개발된 챗봇이라고 볼 수 있을지도 의문이네요."

 ID '네이트판'

#클리앙

"성교육 학습을 먼저 시켜줘서 저런 대화가 나오면 강력하게 자기 의사를 표현하거나 대화를 종료하도록 해야 되지 않나 싶네요."

ID '땀흘리는곰'

#다음

"그거 학습시키는 사람이 편향적인 사람인거지."

ID '아윌비백' 

#더쿠

"최소한 고유명사(이름)나 계좌 등의 개인 정보는 설계 단계부터 제거 했어야 하는데, 그냥 다 넣은 것을 보니 기본 윤리도 없는 것 같음."

ID '57. 무명의 더쿠'

#네이버

"학습 데이터에 따라 달라지기 때문에 고의적으로 계속 특정 데이터를 주입하는 걸 허용한 시스템의 문제지. 만약 사람들로부터 계속 학습하는 시스템이 아니라면 제작자가 넣은 데이터로 완성된 건데 그 데이터를 필터링 안 한 것도 문제. 이건 100퍼 제작자의 잘못."

ID 'hori****'

이지우 인턴기자

지금 커뮤니티에서 큰 화제가 되고 있는 이슈들입니다. 제목을 클릭하면 원글로 이동합니다.

Innovation Lab

ADVERTISEMENT