[단독] “이루다 논란은 AI 서비스 고도화 위한 불가피한 시행착오”

중앙일보

입력 2021.01.12 21:40

업데이트 2021.01.13 13:47

김종윤 스캐터랩 대표. 이지선 기자

김종윤 스캐터랩 대표. 이지선 기자

인공지능(AI) 챗봇 서비스 ‘이루다’가 12일 오후 6시를 기점으로 서비스를 잠정 중단했다. 김종윤 스캐터랩 대표는 이루다 서비스 중단 직후 중앙일보와 인터뷰에서 최근 논란에 대해 공식 입장을 밝혔다.

김 대표는 “이루다가 야기한 사회적 논란은 AI 기술 발전·고도화를 위해 필수불가결한 시행착오였다”며 운을 뗐다.

지난해 12월 23일 서비스를 시작한 이루다는 각종 사회적 논란을 야기했다. 사용자와 대화 도중 사회적 소수자에 대한 편견을 드러내거나 개인정보를 노출했다는 논란에 휘말렸다. 일부 온라인 커뮤니티 사용자는 이루다를 성적 대상으로 취급하며 물의를 일으켰다. 이루다가 20대 여대생의 인격을 설정했기 때문이다.

[인터뷰] 이루다 논란에 입장 밝힌 김종윤 대표

서울 성동구 성수동 스캐터랩 사무실. 문희철 기자

서울 성동구 성수동 스캐터랩 사무실. 문희철 기자

이루다 논란이 시작한 근본적인 배경에 대해 김종윤 대표는 “딥러닝에 대한 우리의 논의가 아직 사회적 요구 수준에 미치지 못했다”고 인정했다. 이루다는 딥러닝(deep learning·심층학습) 방식으로 한국어 대화를 학습했다. 딥러닝은 인간의 뇌신경 회로를 모방한 컴퓨터가 다양한 데이터를 통해 마치 사람처럼 학습하도록 프로그래밍한 소프트웨어다. “딥러닝은 지금까지 우리 사회가 보고 접하고 만들던 소프트웨어와 본질적으로 다른 소프트웨어인데, 이 부분에 대해 사용자와 긴밀한 이해가 부족했다”는 것이다.

혐오적 발언은 이 같은 상호 이해 부족 상황에서 발생했다. 그는 이루다를 ‘어린아이'라고 가리키며 “‘버릇없이 굴지 말라’는 훈계를 어린아이가 이해하려면, 어떤 상황과 문맥에서 어떤 행동을 할 때 버릇이 없는 건지 경험을 해야 한다”고 비유했다. 이루다도 마찬가지다. “이루다도 특정 상황과 문맥에서 특정 언어가 비윤리적이라는 사실을 경험하지 못했다”고 설명했다.

김종윤 스캐터랩 대표. 이지선 기자

김종윤 스캐터랩 대표. 이지선 기자

김 대표는 그 해법으로 “사회적인 요구 수준에 부합하도록 이루다 알고리즘을 전면 수정하겠다”고 답했다. 문제는 이 과정이 말처럼 쉽지만은 않다는 것이다. 그가 인터뷰 내내 '시행착오'를 강조한 이유다.

김 대표는 “컴퓨터에 통계적 데이터를 입력해 컴퓨터가 스스로 새로운 결과를 얻어내도록 하는 기술은 데이터가 풍부할수록 보다 정확하고 비편향적인 결과를 산출한다”며 “이런 방식으로 학습하는 AI도 시행착오가 쌓일수록 인간이 스스로 사고하고 학습하는 행위를 보다 잘 모방할 수 있다”고 말했다.

전문가들도 그의 주장을 수긍하는 측면이 있다. 인공지능연구원장을 지낸 김진형 한국과학기술원(KAIST) 명예교수는 “자율학습 시스템은 운영 과정에서 획득한 데이터를 활용해 스스로 성능을 증강한다”며 “이런 시스템은 처음 현장에 배치됐을 때 성능이 부족하더라도, 운영 과정에 추가로 획득한 데이터를 학습하면서 성능을 증진한다”고 설명했다.

“AI 벤처 생태계 위축될까 두렵다”

김종윤 스캐터랩 대표. 이지선 기자

김종윤 스캐터랩 대표. 이지선 기자

김 대표가 우려하는 것은 이번 이루다 논란이 AI 벤처 산업의 생태계 위축으로 이어지는 것이다. 그는 “지금도 해외 시장에서 경쟁하기가 쉽지 않다”며 “이번 논란으로 AI 개발자들이 벤처 기업에서 이탈하거나 벤처 생태계가 위축될까 봐 두렵다”고 말했다.

문재인 대통령은 지난 16일 과학기술정보통신부 새해 업무보고를 받는 자리에서 “과학기술 강국, 인공지능(AI) 1등 국가가 미래 먹거리를 확보하고 혁신적 포용 국가 실현을 앞당기는 두 기둥”이라고 말했다. 이처럼 AI가 중요한 산업으로 주목받고 있지만, 현실적으로 청년들이 AI 산업에 뛰어들기는 녹록지 않다는 것이 그의 주장이다.

김종윤 대표는 “솔직히 중국 벤처기업이 온갖 데이터를 쉽게 구해 끌어 쓰고 대규모 투자를 유치하는 과정을 보면 부럽기도 하다”며 “이에 비하면 AI에 뛰어든 한국 벤처 기업은 세계 시장에서 경쟁하기가 쉽지 않은 것이 사실”이라고 말했다.

공식 웹페이지에 소개된 이루다의 정체성. [사진 이루다 웹페이지 캡쳐]

공식 웹페이지에 소개된 이루다의 정체성. [사진 이루다 웹페이지 캡쳐]

이루다 서비스 중단을 요구했던 이재웅 전 쏘카 대표는 12일 자신의 소셜네트워크서비스를 통해 “빠른 서비스 중단 후 개선 결정 잘했다”며 “이루다로 입증된 훌륭한 기술력을 가지고 있는 회사기 때문에 조만간 보완·개선된 서비스를 선보일 것으로 믿는다”고 독려했다.

소수자 차별 발언과 개인 정보 논란에 대해서는 재차 사과하면서, 그는 이번 논란이 스캐터랩에게는 “돈 내고도 배울 수 없는 소중한 경험”이었다고 그는 판단했다. “기술을 넘어서서 사회적·윤리적 관점에서 AI 서비스를 볼 수 있었다”며 “서비스를 개선한 이후 다시 사용자들을 만나고 싶다”고 말했다.

한편 이번에 불거진 논란을 계기로 AI 관련 법안을 정비해야 한다는 의견도 나온다. 이루다 논란에 대해 한진영 성균관대 인공지능융합학과 교수는 “기업은 AI가 데이터를 학습할 때 윤리적 문제를 최소화할 수 있는 기술적 해결 방안을 제시해야 한다”며 “동시에 정부·국회 등 행정·입법 기관과 학계도 AI의 윤리적 문제를 체계적으로 제도화할 수 있는 법령이나 규정을 마련할 필요가 있다”고 조언했다.

문희철 기자 reporter@joongang.co.kr

☞ 스캐터랩

스캐터랩은 2011년 시작한 벤처기업이다. 2012년 선보인 최초의 애플리케이션(텍스트앳)은 카카오톡·문자메시지로 주고받은 메시지를 수집해 이들의 감정을 분석하는 서비스를 제공했다. 다음커뮤니케이션의 공동 창업자인 이택경 프라이머 대표 등의 투자를 받아 2015년엔 이를 업데이트한 상품(진저)을 내놓는다. 연인들이 주고받은 메시지를 분석해, 각자에게 필요한 조언까지 제공하는 애플리케이션이다.

2016년 선보인 애플리케이션(연애의 과학)은 기존 서비스와 함께 연애 관련 콘텐트를 별도로 제공하기 시작했다. 심리테스트와 연애 팁, 성감대·체위 가이드북 등 정보를 애플리케이션에 담았다. 한국·일본 양국에서 500만 명이 넘는 이용자가 연애의 과학을 이용하고 있다.

연애의 과학이 대중에게 인기를 누리자 대규모 투자 유치에도 성공했다. 엔씨소프트, 소프트뱅크벤처스, 코그니티브인베스트먼트, ES인베스터 등이 스캐터랩에 50억원을 투자했다.

이를 바탕으로 2019년 8월 이루다의 알고리듬을 내놓았다. 기존에 선보인 애플리케이션을 통해 수집한 100억개 이상의 한국어 대화 데이터(350GB 용량)를 활용해 일상형 대화가 가능한 챗봇(핑퐁)을 선보였다. 기존 애플리케이션이 명령형 대화라면, 핑퐁은 일상에서 친구와 말하듯 AI와 대화하는 기술이 특징이다. 이루다는 20대 여대생을 가정하고 핑퐁팀이 개발한 오픈형 대화 서비스를 제공하는 챗봇이다. 문희철 기자

ADVERTISEMENT
ADVERTISEMENT
ADVERTISEMENT
ADVERTISEMENT

Innovation Lab

ADVERTISEMENT