내 생각과 선택 유도하는 ‘필터 버블’ 함정 조심

[Neo 커뮤니케이션] 나보다 나를 더 잘 아는 인공지능 비서

SK텔레콤이 내놓은 스피커형 인공지능 비서 ‘누구’. 사람과 대화하듯 말을 건네면 음성인식과 인공지능 기술을 활용해 명령을 수행한다.

‘스피커형 인공 비서’ ‘스마트폰 속 인공지능(AI)’ ‘채팅형식으로 정보를 전달하는 봇’ 등 다양한 형태와 모양의 가상 비서(Virtual Assistant)는 어느 순간부터 우리 일상에 깊숙이 들어와 자리 잡고 있다. 하지만 기술이 빠르게 성장하는 만큼 일각에서는 이에 대한 우려의 목소리도 커지고 있다. 지난 4일 마텔은 어린이용 인공(가상) 비서 ‘아리스토틀(Aristotle)’의 출시 계획을 취소한다고 밝혔다. 올해 초 소비자가전전시회(CES)에서 소개된 아리스토틀은 아마존 에코와 비슷한 음성 비서지만 어린이 전용으로 개발됐다. 마이크로소프트와 퀄컴의 최신 인공지능 기술이 들어간 제품이다. 예정대로라면 지금쯤 판매됐을 제품이 왜 세상에 나올 수 없는 운명이 됐을까?

기계가 인성 형성 맡느냐는 비판에 #마텔, 어린이용 인공 비서 포기 #발달한 AI의 추천에 갈수록 의존 #“내 집에 영업사원 들인 격” 비판도

마텔의 자회사 나비 브랜드가 지난 1월 발표한 보도자료와 인터뷰 내용을 보면, 프로젝트 진행팀은 부모들의 육아 부담을 덜어 주기 위한 ‘꿈의 육아용 사물인터넷(IoT) 플랫폼’을 구축하겠다는 열망에 가득 차 있었다. 당시 발표된 자료에 따르면 아리스토틀은 영아에서부터 12세까지 어린이의 놀이와 학습에 도움을 줄 수 있는 다양한 기능을 갖춘 플랫폼으로 기획됐다. 아이가 좋아하는 장난감의 목소리로 대화하고 질문에 답할 수 있으며, 가상 부모처럼 아이에게 자장가를 불러주고, 수면 상태를 살피고, 전등을 끄고, 숙제를 함께 하는 기능도 포함됐다. 또한 아마존의 음성 비서 알렉사와 연결돼 부모가 ‘알렉사’라고 부르면 부모 모드로 바뀌어 기저귀 등 상품 주문, 우버 택시 부르기, 뉴스 확인도 지원했다. 무엇보다 높은 수준의 안전과 보안을 유지하기 위해 등록한 스마트폰·카메라 등의 기기에만 연결할 수 있도록 했고, 데이터를 암호화했으며, 부모가 데이터를 선택할 수 있도록 만들었다.

IoT 확산으로 사적인 데이터 수집 급증

아마존의 인공지능 비서 ‘에코’.

그러나 회사의 이 같은 노력이 부모들의 인공지능에 대한 우려를 불식시키기는 부족했던 것 같다. 개발 초기부터 로봇이 아이들의 대화를 엿듣는 것에 대한 우려의 목소리가 꾸준히 제기됐다. 급기야 지난 5월부터는 어린이가 상업적인 분야에 노출되는 것을 반대하는 CCFC라는 소비자단체를 중심으로 아리스토틀은 ‘보모’가 아닌 침실의 ‘침입자’로 규정하고 다른 제품의 마케팅 수단으로 쓰이는 것에 반대하는 캠페인이 진행됐다. 이들은 마텔의 경영진에 출시를 취소하라는 편지를 보내고 1만5000명이 참여하는 서명운동을 벌였다. 지난달 28일에는 민주당의 에드 마키 상원의원과 공화당의 조 바튼 하원의원이 마텔에 정보 공개 요청서를 전달했다. 의회는 비디오 사진을 촬영하는지, 얼굴 인식 기능이 작동하는지, 오디오 녹음은 되는지, 항상 켜져 있는지, 수집된 정보는 어느 서버에 어떻게 저장되는지, 데이터는 어떻게 지울 수 있는지, 데이터 암호화는 어떻게 되는지, 수집된 정보의 관리는 어린이 온라인 개인정보 보호법(COPPA)을 따르고 있는지 등에 대한 답변을 이달 18일까지 제출할 것을 요구했다.

소비자의 저항에 부딪친 마텔사는 결국 대변인 설명을 통해 아리스토틀의 출시 취소 결정을 발표했다. 회사의 결정에 대해 일단 시민단체와 소비자들은 긍정적으로 평가하는 것으로 보인다. 그러나 앞으로 다양한 가상 비서 제품은 엄청나게 많이 쏟아져 나올 것이고 소비자들은 그 편리함에 익숙해지고 길들여질 것이라는 것은 피할 수 없는 현실인 듯하다.

마텔이 어린이용 인공지능 비서로 개발하다 반대여론에 출시를 포기한 ‘아리스토틀’.

이번 마텔 아리스토틀 사례는 초연결성 디지털 시대에 살아가는 모든 개인이 관심을 갖고 다양한 관점에서 면밀하게 분석해 볼 만한 중대한 사건이다. 사물인터넷의 확산으로 사람과 사람의 관계는 이제 사람과 사물, 사물과 사물 사이의 아주 복잡한 연결로 확장, 변화되고 있다. 생활 곳곳에 위치하는 사물인터넷은 스마트폰이나 웹에서 불가능했던 매우 사적인 데이터를 획득하고, 이를 기반으로 고도의 디지털 데이터가 마치 혈관에 피가 흐르듯 연결된다. 이런 데이터를 학습하고, 배운 것은 절대 잊지 않는 인공지능과 머신러닝 기술은 뇌과학·인지과학·심리학·수학·통계학·로보틱스등 다양한 분야의 융합 연구를 통해 하루가 다르게 우리의 생활 곳곳으로 파고든다. 우리는 내 곁에서 누구보다 은밀하게, 나보다 나를 더 잘 알아가는 인공지능으로부터 최소한의 ‘나’를 지키기 위해서 깨어 있어야 한다.

특히나 어린이와 관련된 기술 개발에서는 단지 안전과 개인 정보 보안의 문제 차원이 아니라 자아 형성에 미치는 영향을 주목해야 한다. 소아과 전문의들은 “집에서 아이가 울거나 놀고 싶거나 공부하고 싶을 때, 인공지능 앱이 가장 먼저 반응하는 가족 구성원이 된다는 아이디어가 우려스럽다”고 주장한다. 유아기에 따뜻한 인간과의 상호작용이 필요할 뿐 아니라 스스로 혼자 노는 방법도 터득해야 하기에 디지털 기기가 지속적으로 옆에 있도록 해서는 곤란하다는 설명이다. 『외로워지는 사람들(Alone Together)』의 저자인 쉐리 터클 MIT 교수는 “이번 일은 기술에 대한 저항의 이슈가 아니다”고 말했다. 그는 “아이들이 공감하고 관계를 맺는 인성 형성에 대한 근본 원칙을 ‘친근한 기계’가 들어와 바꾸려고 한 것에 대한 문제 제기”라고 목소리를 높였다.

가상 비서, 메시징 챗봇 등의 영향력 커져

기업들은 이번 사례를 통해 소비자들이 무조건 이노베이션을 원하지는 않는다는 점을 깨달아야 한다. 플레시먼힐러드가 올해 전 세계 소비자를 대상으로 실시한 ‘진정성 갭(Authenticity Gap)’ 조사 결과에 따르면 소비자들이 혁신적 기술과 이노베이션만을 기대하는 것은 아니라는 것을 다시 한번 확인할 수 있다. 소비자의 81.6%는 제품 개발과 제조 등 전 과정의 투명성을 제품 가치 평가의 중요 요소로 꼽았으며, 73%는 기업이 법과 규정을 지키는 것에서 더 나아가 사회적 이슈에 대해 윤리적·도덕적 의사 결정을 하기를 기대한다고 답했다.

아리스토틀 출시 취소에는 어린이와 부모를 대상으로 한 장난감이 다른 제품의 마케팅 수단으로 쓰이는 것에 대한 거부감도 상당히 작용했다. 그러나 가상 비서의 알고리즘의 제품 추천 서비스가 구매 의사 결정에 영향을 미치고, 소셜네트워크서비스(SNS) 메시징 챗봇과의 친근한 대화가 쇼핑·금융·여행 등 서비스 활용에 영향을 미칠 날이 머지 않았다.

최근 『연결지배성』이라는 책으로 159가지 사물인터넷 사례를 소개한 조광수 연세대 교수는 “마음이 몸에서 작동하듯이 사물인터넷은 경쟁력 있는 인공지능 서비스의 활동 무대가 된다”고 지적했다. 그는 “SK텔레콤의 ‘누구’나 아마존 ‘에코’ 같은 사물인터넷 스피커 때문에 사용자가 마음을 놓고 있는 거실과 일상에서 인공 비서를 넘어 인공지능 영업 사원이 들어와 영업을 하고 있는 시대가 됐다”고 설명한다.

음성인식과 자연어 처리 기술이 급속히 발달하고, 심지어 풍부한 감성까지 갖춘 것처럼 느껴지는 인공 비서는 하루 종일 짜증나는 일을 많이 겪고 외롭다고 느끼는 사용자에게 음악도 틀어주며 대화하며 마치 공감을 하는 것으로 착각하게 만들며 친근한 관계를 맺게 될 것이다. 업체마다 브랜드의 성격에 맞춰 사람처럼 느껴지는 감성적 캐릭터로 접근하니 더욱 그렇게 받아들여질 것이다. 뿐만 아니라 사물 인터넷에 연결된 정보를 바탕으로 나의 분신을 가상으로 ‘디지털 트윈’처럼 만들어 놓고 나에 대한 다양한 실험을 시도할지도 모를 일이다.

나의 마음을 추측해서 제안하는 대로 좋다고 편하다고 익숙해지면 ‘필터 버블 (Filter bubble)’의 함정에 빠져 어항의 물고기 신세인지도 모르고 심한 편식자가 될 수 있다. 내가 실제로 무엇을 했는지, 무엇을 좋아하는지 분석하고 추론하는 인공지능이 인터넷 필터를 통해 우리가 관심가질 만한 것만 걸러서 보여준다.

집단지성 통해 상업성·편향성 해결해야

그 결과 개인들은 맞춤형이라고 불리는 정보의 거품 속에 갇히게 되는데 이를 엘리 프레이저는 ‘필터 버블’이라는 개념으로 정의한 것이다. 사실 머신 러닝의 근간인 데이터는 바이어스(편향성)가 있다고 봐야 한다. 위키피디어의 내용조차 참여하는 에디터들의 생각에 따라 치우친 내용이 들어갈 수 있고 우리가 쓰는 자연어에도 객관적으로 사용하는 단어조차 각자 상황에 따라 해석하는 바가 다른데 과연 어떤 기준으로 알고리즘이 의사 결정을 하고 있는지 우리는 알지 못한다. 즉 머신러닝은 객관적이거나 윤리적일 수 없고, 상업적 용도로 다양하게 각색되어 내게 접근할 수 있다.

터클 교수는 도저히 의심하기 힘든 ‘귀여운 외모’로 접근하는 인공 비서를 내 공간에 들이기 전에 한번 더 생각하라고 조언한다. 이제 현명한 질문을 던져야 할 때다. 언론·전문가·기업·정부·국회가 함께 최대한 많은 질문을 꺼내 놓고 투명하고 솔직한 대화로 타협점을 찾아야 한다. 5세대(5G) 통신 상용화를 위해 업계와 정부가 함께 투자하고 열정을 쏟는 것처럼 알고리즘이 더 투명하고 스마트한 의사 결정을 하도록 집단 지성을 발휘해야 할 때다.

박영숙 플레시먼힐러드코리아 대표
연세대 경영학과를 나와 미국 텍사스주립대에서 광고학 석사를 받았다. 광고 기획, 마케팅 매니저를 거쳐 2002년 글로벌 커뮤니케이션 컨설팅펌 플레시먼힐러드에 합류했다. 다수의 공공 부문 위원회와 아름다운재단 이사 등 비영리 부문에서도 활동하고 있다.