이루다·테이의 교훈, AI 악용 막을 장치가 관건

[SPECIAL REPORT]
가상 인간이 온다

브라질 최대 유통기업 ‘매거진 루이자(Magazine Luiza)’가 만든 가상 인간 ‘루 두 마갈루(Lu du Magalu)’의 페이스북 친구는 1461만 명, 인스타그램 팔로워는 576만 명에 달한다. SNS 게시물당 수입은 원화 기준 약 1200~2000만원이다. 과거에도 존재했던 가상 인간이 왜 지금 주목받는 것일까? 첫 번째 이유는 기술의 진화다. 인공지능(AI)의 발달로 인간의 외모만 닮은 것이 아닌 대화가 가능한 AI 가상 인간이 실현되고 있다. 최근 엔비디아(Nvidia)는 음성을 30분만 들려주면 이를 기반으로 성대모사를 해 주는 인공지능 도구 ‘리바(Riva)’와, 5300억 개의 변수(Parameter)를 학습한 대규모 인공지능 모델 ‘메가트론’을 공개했다. 현재 1700억 개 정도의 변수들을 학습한 오픈 AI의 ‘GPT-3’는 소설을 쓰고, 그림을 그리는 등 인간을 대신해 다양한 작업을 수행하고 있다. ‘메가트론’은 ‘GPT-3’보다 많은 변수를 활용해 학습할 수 있다. 이제 과거보다 자연스럽고, 정교하며 지능을 갖춘 가상 인간을 만들 수 있게 된 것이다.

두 번째는 코로나19라는 환경에서 가상 인간의 활용도가 높아졌기 때문이다. 전 세계적인 팬데믹으로 가상생활 비중이 증가하면서, 가상 인간은 시공간의 제약 없이 소비자와 활발하게 소통할 수 있다는 장점이 있다. 가상 인간을 활용하면, 높은 모델료, 모델의 사생활로 생길 수 있는 부정적 영향, 코로나19 리스크 등 많은 위험요소를 줄일 수 있다.

세 번째로 기업은 브랜드에 적합한 가상 인간을 설정하고 다양한 이야기를 만들어 가며 고객들과 소통할 수 있다. 가상 인간을 통해 혁신적이며, 새로운 이미지를 만들어 낼 수 있고, 가상 인간에 흥미를 느낀 사람들이 브랜드에 주목하기도 한다. 최근 주목받고 있는 가상인간 로지(Rozy)는 Z세대의 특성을 반영한 결과물이다.

마지막으로 가상 인간은 인플루언서의 역할을 넘어 전 산업과 사회에 활용될 수 있다. 싱가포르 최대 통신사 싱텔은 무인 매장에 가상인간 ‘스텔라(Stella)’를 채용했다. 스텔라는 싱텔 유니폼을 입고 키오스크에 등장해 고객의 질문에 대답하고 요금제를 추천한다. 제조생산 라인에서 일하는 작업자를 가상 인간으로 구현하여 효율적인 작업 환경 구축을 위한 시뮬레이션에 활용하기도 한다. 엔비디아의 옴니버스(Omniverse) 플랫폼은 가상 공장과 가상 인간을 구현하여 다양한 시뮬레이션을 통해 생산공정 효율화 방안을 제시한다. 세계보건기구(WHO)도 보건 분야 상담사로 가상인간 ‘플로렌스(Florence)’를 활용하고 있다. 플로렌스는 미국 질병통제예방센터(CDC)의 최신 정보를 계속 학습하며 12개국 언어로 코로나19 관련 정보를 제공하고 금연 상담도 해준다.

가상 인간의 확산과 함께 극복해야 할 문제도 있다. 2020년 12월에 출시된 인공지능 챗봇 ‘이루다’는 약 2주 만에 중단됐다. 이후 알고리즘 편향성, 개인정보 유출 등 가상 인간이 인간과 공존하기 위해서 해결해야 할 난제들을 남겼다. 인공지능 알고리즘 편향성은 계속 제기된 문제다. 2016년 3월 마이크로소프트가 공개한 인공지능 챗봇 ‘테이(Tay)’는 인종 차별, 폭력적인 메시지로 16시간 만에 서비스가 중단됐다. 최근 페이스북에서 사명을 바꾼 메타(Meta)가 2020년 3월 공개한 인공지능 챗봇 ‘블렌더봇(Blender Bot)’도 기존 챗봇보다 인간적인 측면, 공감 능력이 개선됐다는 평가를 받았으나, 히틀러를 ‘위대한 사람’이라고 표현해 논란이 일었다. 이는 가상 인간이 인간과 공존하기 위해서는 사회구성원 모두의 노력이 필요하다는 점을 시사한다. 개발자는 인공지능 윤리를 준수해야 하고, 신뢰할 수 있는 데이터에 기반해 우수한 알고리즘을 개발하고, 데이터 프라이버시에 유의해야 한다.

이용자 윤리도 필요하다. 마이크로소프트는 테이의 중단을 알리면서 “일부 사용자들이 합심하여 테이의 습득 능력을 악용했고, 결국 테이가 부적절하게 반응하도록 만들었다”라고 밝혔다. 이미 선행 데이터를 통해 학습을 거친 가상 인간은 이용자와 상호작용하면서 업데이트 되는 데이터로 새롭게 학습한다. 가상 인간은 개발자와 이용자의 가치관과 성향, 판단, 사회적 상호작용 속에 나타난 편향과 편견까지도 함께 배울 수 있는 것이다.

이러한 측면에서 가상 인간 제작 기업 ‘유니큐’가 발간한 가이드라인 “윤리적 가상인간 디자인을 위한 5가지 법칙(The five laws of ethical digital human design)”을 참고해볼 필요가 있다. 가이드라인에는 가상 인간은 가상 인간이 아닌 척을 해서는 안되고, 해를 끼치지 않아야 하며, 상호작용하는 사람의 사생활을 존중해야 하고, 신뢰할 수 있는 가상 인간을 만들기 위해 공동설계해야 한다는 법칙이 포함되어 있다. 가상 인간과 함께하는 새로운 미래에서 기회를 찾고 위험을 준비해야 하는 시점이다.

이승환 소프트웨어정책연구소 팀장