20대 여성 카톡 1억건으로 대화한 '이루다'…과징금 1억330만원

중앙일보

입력 2021.04.28 14:00

공식 홈페이지에 소개된 이루다. [사진 이루다 홈페이지 캡쳐]

공식 홈페이지에 소개된 이루다. [사진 이루다 홈페이지 캡쳐]

사용자 개인정보 유출, 인공지능(AI) 윤리 논란을 일으킨 챗봇 서비스 '이루다' 개발사에 정부가 과징금 1억여원을 부과했다. AI 기술 기업의 개인정보 처리에 대한 첫 제재 사례다.

28일 개인정보보호위원회(개인정보위)는 제7회 전체회의를 열고 이루다를 개발한 스타트업 스캐터랩에 과징금 및 과태료 1억330만원을 부과했다고 밝혔다.

개인정보위 조사 결과 스캐터랩은 앱 서비스인 '텍스트앳'과 '연애의과학'에서 수집한 카카오톡 대화를 지난해 2월부터 지난 1월까지 이루다의 AI 개발과 운영에 이용한 것으로 확인됐다.

구체적으로 스캐터랩은 카카오톡 대화에 포함된 이름, 휴대전화 번호, 주소 등 개인정보를 삭제하거나 암호화하지 않고 이용했다. 약 60만명에 달하는 이들의 카카오톡 대화 문장 94억여건이다. 또 이루다 운영 과정에서는 20대 여성의 카카오톡 대화 문장 약 1억건을 응답 데이터베이스(DB)로 구축하고 이루다가 이 중 한 문장을 선택해 대화하도록 운영했다.

스캐터랩이 출시한 인공지능 챗봇 서비스 이루다. [유튜브 캡쳐]

스캐터랩이 출시한 인공지능 챗봇 서비스 이루다. [유튜브 캡쳐]

개인정보위는 스캐터랩의 이러한 운영 및 개발 방식은 ▲텍스트앳, 연애의과학 이용자가 이용약관에 동의했다고 해서 이루다 개발에 동의했다고 보기 어렵고 ▲이용자는 이루다 개발과 운영에 카카오톡 대화가 이용될 것이란 예상을 하기도 어려우며 ▲이용자의 개인정보 자기결정권이 제한되는 등 예측할 수 없는 손해를 입을 우려가 있다고 판단했다.

아울러 스캐터랩이 깃헙(Github)에 이름 22건, 지명정보 34건, 성별, 대화 상대방과의 관계 등이 포함된 카카오톡 대화 문장 1431건과 함께 AI 모델을 올린 것에 대해서도 개인정보위는 개인정보보호법을 위반한 것이라고 판단했다. 깃헙은 개발자들의 소스코드 공유 및 협업 사이트다.

윤종인 개인정보위 위원장은 "이번 사건은 기업이 특정 서비스에서 수집한 정보를 다른 서비스에 무분별하게 이용하는 것이 허용되지 않고, 개인정보 처리에 대하여 정보 주체가 명확하게 인지할 수 있도록 알리고 동의를 받아야 한다는 것을 분명히 하였다는 점에 의미가 있다"라며 "기업이 스스로 관리·감독을 강화해 나가는 계기가 되기를 바란다"고 당부했다.

오원석 기자 oh.wonseok@joongang.co.kr

ADVERTISEMENT
ADVERTISEMENT
ADVERTISEMENT

Innovation Lab