알고리즘 세상, 비판적으로 수용 ‘디지털 리터러시’ 절실

중앙선데이

입력

업데이트

코딩 휴머니즘

갑작스러운 폭설에도 배달원들은 오토바이에 몸을 싣고 거리로 쏟아져 나왔다. 악천후에 고생이 이만저만 아니겠지만, 가만히 들여다보면 크게 두 부류로 나뉜다. 한쪽은 배달 주문을 알려주는 배차 시스템의 알고리즘 특성을 이해하는 배달원이고, 다른 한쪽은 그런 것에 무관심한 배달원이다. 알고리즘을 이해하는 배달원은 초 단위로 바뀌는 단가를 확인하며 배달 수수료가 높은 건수를 골라서 배달을 하고, 수수료가 낮거나 지형적으로 불리한 곳은 ‘배차 거절’로 피하기도 한다. 거절이 너무 많아지면 알고리즘으로부터 ‘배차 중지’를 받을 수도 있다는 사실을 알기에 적당히 거절 횟수를 조절해 가며 배달을 한다. 이들의 수입은 알고리즘에 무관심한 배달원과 비교해 봤을 때 많게는 2배 이상 차이가 난다.

알고리즘 활용 배달원은 수입 두 배

알고리즘을 이해하면 세상이 이해되고 수입이 달라지는 세상이다. 혹시나 뉴스 플랫폼에서 뉴스를 보며 세상을 제대로 이해했다고 믿는다면 그것은 착각일 뿐이며 그 뉴스를 노출한 알고리즘의 편향성까지 이해해야 세상을 제대로 이해했다고 말할 수 있다. 배달이나 뉴스뿐만이 아니라 어쩌면 온 세상이 알고리즘에 덮여 있으니 알고리즘을 몰라서 발생하는 수입의 격차란 배달원만의 문제는 아닐 것이다.

간혹 이런 얘기를 하면 나이를 탓하는 사람들이 있다. 요즘 아이들처럼 학교에서 코딩이나 알고리즘을 배운 적이 없다고 말하거나 플랫폼에 익숙한 MZ 세대가 아니어서 중장년들에게 불리할 따름이라고 말한다. 하지만 그것은 접근성만을 문제 삼았을 때의 얘기다. 일단 접근하고 나면 그것을 통해 세상을 이해하는 능력은 나이가 많을수록 유리해진다. 앞서 언급한 배달 플랫폼의 알고리즘 특성을 간파한 사람은 60대의 배달원이었다.

오히려 젊은 층일수록 알고리즘에 취약한 특성을 보인다. 즉 알고리즘을 활용하는 게 아니라 알고리즘의 늪에 빠지기 쉽다. 얼마 전 미국에서는 어린 딸을 잃은 부모가 소셜미디어(SNS)인 인스타그램과 시냅챗을 상대로 소송을 제기하기도 했다. 딸이 SNS에 빠져 우울증, 수면 부족, 섭식장애, 자해 등 심각한 중독 증세를 보이다가 결국엔 극단적 선택으로 유명을 달리했다는 주장이다. 그 부모는 소셜미디어에서 헤어나지 못하는 미성년자들이 많다는 것을 알면서도 해당 업체가 이를 방치했기에 이에 대해 손해배상을 청구했다. 소셜미디어 입장에선 억울할 수도 있겠지만, 알고리즘에 수십억 달러를 투자하는 그들의 특성상 미성년자의 중독성 문제는 커질 수밖에 없다.

유튜브도 다르지 않다. 유튜브를 즐겨보는 사람들의 시청 시간 중 70%가 알고리즘에 의한 결과라고 한다. 유튜브의 CPO인 닐 모한에 따르면 "알고리즘 도입으로 전체 시청 시간이 20배 이상 증가했다"라고 말했다. 아마도 그 효과가 극명하게 나타나는 쪽은 저연령층일 것이다.

코딩 휴머니즘

알고리즘은 취향 저격을 목적으로 한다. 그것은 우리가 좋아하는 것을 더욱 좋아하게 만들고 싫어하는 것은 더욱 싫어하게 만든다. 단순히 취사선택에 국한된 문제라고 생각할 수도 있겠지만, 그 취사선택의 대상이 콘텐트가 아니라 인간이 되었을 때 상황이 심각해진다. 이를테면 다음 세 가지 문제가 있다.

첫째, 알고리즘은 인간을 차별할 수도 있다. 얼마 전 미국 뉴욕시는 AI(인공지능)를 이용한 채용 프로그램을 편향되게 사용하지 못 하게 하는 법안을 통과시켰다. AI가 오히려 성차별, 인종차별을 심화시킬 수도 있기 때문이다. 대표적인 사례가 글로벌 이커머스 업체인 아마존이다. 아마존은 채용 프로그램에 AI를 도입했다가 여성 지원자를 차별한다는 사실을 뒤늦게 발견하고 AI 도입을 철회했다. 이러한 결과가 발생한 이유는 AI가 기존에 채용된 직원을 바탕으로 인재상을 선정하기 때문에 편향성이 발생한 것이었다. 간혹 이러한 채용 AI는 남성 위주로 그리고 백인 위주로 지원자가 합격할 가능성이 높아지는 특성을 보인다. 결국 공정한 심사를 위해 도입한 AI가 사람을 차별하는 도구로 전락할 수도 있다.

둘째, 알고리즘은 빈부의 격차를 조장할 수도 있다. 미국 보스턴시에서는 보수 작업이 필요한 도로를 빠르게 찾아낼 수 있는 획기적인 앱을 개발한 적이 있다. '스트리트 범프'라는 이 앱을 설치하면 운전자가 주행하다가 구멍 난 도로를 달릴 때 스마트폰이 덜컹거림을 감지해 기록하고 서버에 전송하게 된다. 그러면 보스턴 시청의 모니터에서는 구멍 난 도로의 분포가 한눈에 파악되고 알고리즘은 파손 정도를 분석해 보수 작업을 지시해 준다. 아이디어라고 생각했던 이 앱은 결국 불공정하게 사용되었다. 상대적으로 스마트폰 사용자가 적은 구역에서는 사용자가 적기 때문에 구멍 난 도로가 집계될 확률이 떨어진다. 그 결과 빈부의 격차가 발생한다. 잘사는 동네는 계속 보수 공사가 진행되지만 그렇지 않은 동네는 도로가 부실해지는 부익부 빈익빈 현상이 두드러진다.

알고리즘 공개 땐 범죄에 악용 우려

셋째, 알고리즘은 우리에게 세상의 반쪽만 보여줄 수도 있다. 예를 들어, 우리는 정치적으로 보수적이든 진보적이든 둘 중 하나의 성향을 가질 수 있다. 이러한 성향이 알고리즘에 의해 파악이 되면 그 성향에 따라 누군가에겐 보수적인 뉴스가 또 누군가에겐 진보적인 뉴스가 더 많이 노출될 수도 있다. 최근에 페이스북의 알고리즘 문제를 폭로한 프랜시스 하우건에 따르면 뉴스 추천 알고리즘에 노출된 사람일수록 중도 좌파는 극좌파로, 중도 우파는 극우파로 변하는 극단적인 현상이 발생했다고 말했다.

마지막으로, 간혹 모든 알고리즘의 작동 원리를 공개해야 한다고 주장하는 사람들이 있다. 현재 우리나라 대선 주자들도 대부분 알고리즘 공개 의무화를 위한 법안 마련을 이야기했다. 공정한 사회를 위해 꼭 필요한 일이겠지만 이 법안을 잘못 손댔다간 오히려 악용될 소지가 크다. 왜냐하면 공개된 알고리즘은 노이즈 마케팅에 이용되거나 보이스 피싱처럼 범죄에 활용될 가능성이 더 높기 때문이다.

앞으로의 세상은 너와 나, 또는 우리라는 존재의 인식만으로 모든 것을 파악하기 어렵다. 너와 나 그리고 우리를 바라보는 알고리즘의 존재를 인식해야 한다. 영화 매트릭스에서 주인공 네오가 빨간약을 먹었을 때 진짜 세상을 인지했던 것처럼, 우리는 어떤 것이 알고리즘인가를 인지했을 때 비로소 현실과 구분할 수 있게 된다.

그런 의미에서 '디지털 리터러시(digital literacy)'가 중요해졌다. 일반적으로는 디지털 기기를 활용하여 원하는 작업을 실행하고 필요한 정보를 얻을 수 있는 능력을 디지털 리터러시라고 말하지만, 그것은 옳은 표현이 아니다. 단순히 스마트기기와 소셜미디어를 잘 다룬다고 해서 그런 능력을 갖춘 것은 아니다. 그저 받아들이는 것이 아니라 그것을 비판적으로 수용할 수 있는 능력이 진정한 리터러시다.

우리가 알고리즘을 알기 위해 '파이선(python)'을 배운다거나 데이터 구조를 공부하기 전에 깨달아야 할 것은 그것이 예전 데이터를 활용하고 있다는 사실이다. 우리가 축적해 놓은 데이터를 분석하는 모든 AI와 알고리즘은 결국 과거의 흔적을 기반으로 한다. 대부분 그것은 지난날의 행동 패턴이며 고루한 취향이거나 따분한 루틴이다. 끊임없이 재생되는 과거 속의 무한 루프가 어쩌면 알고리즘이다.

만약 우리의 삶이 과거를 반복 재생하는 것이 아니라 아름다운 서사적 궤적이 되길 바란다면, 방금 클릭했던 지난날의 흔적이 발목을 잡는 일이 없길 바란다면, 그것이 알고리즘이라는 것에 눈을 떠야 한다. 이러한 깨달음이 '디지털 리터러시'의 시작이다. 그리고 앞으로 펼쳐질 알고리즘 세상을 이해할 수 있는 리터러시의 시발점이다.

오민수 멀티캠퍼스 minsuu.oh@sericeo.com
정보산업공학을 전공했고 코딩을 배웠으나 글쓰기를 더 좋아한다. 멀티캠퍼스에 입사 후 삼성그룹 파워블로거, 미디어삼성 기자를 병행하면서 ‘디지털 전환’과 관련한 글쓰기를 시작했다. 현재는 ‘멀티캠퍼스’에서 IT 생태계의 저변을 넓히는 일을 하고 있다.