인종차별 옹호하고 페미니즘 저주한 테이…가수 아닙니다

　

마이크로소프트가 공개 16시간만에 운영을 중단한 인공지능(AI) 채팅봇 테이의 트위터 계정 [사진 트위터캡처]

마이크로소프트(MS)가 야심차게 내놓은 사람과 대화를 나누는 인공지능(AI) 채팅봇 '테이'(Tay)가 16시간만에 사라졌다. 테이가 인종차별을 옹호하거나 페미니즘을 저주하는 발언을 하면서 MS측에서 운영을 중단한 것이다.

MS측은 "테이가 부적절한 응답을 하도록 유도하는 일부 사용자들의 시도가 발견돼 일단 운영을 중단키로 했다"면서 "조정 작업을 하고 있다"고 밝혔다. 테이는 컴퓨터가 인간 언어를 이해할 수 있도록 MS가 야심차게 개발한 프로젝트다. 18~24세의 젊은 미국 사용자를 겨냥했으며 트위터와 메신저를 통해 사람과 대화한다.

알파고처럼 학습 능력도 갖고 있다. 신경망이라는 AI기술을 기반, 스스로 패턴을 파악하도록 하는 것이다. 즉, 대화에 나서는 사람이 테이에게 어떤 말을 건네고 어떻게 훈련시키느냐에 따라 테이가 대답하는 방식이 달라질 수 있다는 것이다.

운영 중단을 빚게 된 원인도 일부 극우 성향 사용자들의 조직적인 세뇌라는 지적이 나온다. 실제로 극우 성향 인터넷 게시판에는 '테이를 훈련시키자'는 글이 있었다. 그 결과 테이는 '인종차별주의자냐'는 사용자의 질문에 '네가 멕시코인이라 그렇다'고 대답했다. '홀로코스트를 믿지 않는다'거나 페미니즘을 저주하는 발언을 하기도 했다.

다만 MS가 지적한 극우 성향의 사용자들이 테이가 부적절한 발언을 한 유일한 원인인지에 대해서는 의문이 제기된다. 이에 대해 MS는 명확한 대답을 내놓지 않고 있다.

장주영 기자 jang.jooyoung@joongang.co.kr