이준기의 빅데이터
빅테크 알고리즘
사실 우리 모두는 노출되는 정보에 영향을 받는 존재이다. 과거에는 뉴스나 지인 등을 통하여 듣는 정보에 노출이 되었다면, 지금은 매일매일 사용하는 SNS에 더 많이 노출되고 있고, 더 큰 영향을 받을 수밖에 없다. 소위 빅테크라 불리는 기업들은 인류 역사상 가장 큰 영향력을 행사할 수 있는 위치에 놓여 있게 됐다. 현재 세계 기업 규모로 보면 애플, 사우디 아람코, 마이크로소프트, 알파벳(구글), 아마존의 순이며 사우디 아람코를 제외하면 전 세계에서 가장 큰 5개 회사 중 4개가 빅테크 기업들이다. 빅테크 기업들은 어마어마한 자산을 보유하고 있으며, 사용자의 많은 정보에 접근하고 이를 축적해 왔다. 그들은 우리가 매일 다니는 동선, 매일 사용하는 e메일을 파악하고 있으며 어떤 친구와 관계를 갖고 있는지, 어떤 그룹에 속해 있는지를 속속들이 알고 있다.
문제는 이러한 정보가 정당하게 수집되고 있는지, 그리고 공정하게 사용되고 있는지에 대한 걱정이 나날이 늘어 가고 있다는 것이다.
무차별 정보 수집, 프라이버시 침해 논란
올해 1월 미국 시애틀교육청은 틱톡, 페이스북, 인스타그램, 유튜브 등을 고소했다. 교육청은 고소장에서 SNS 기업들이 청소년의 심리적 상태를 이용해 해당 기업의 시스템을 더 많이 이용하도록 기술적으로 교묘하게 디자인하고 있다고 주장했다. 특히 2009~2019년의 10년 동안 청소년이 ‘2주 이상 계속하여 불안 증세를 일으키고 무기력하게 지냈다’고 답하는 비율이 30% 증가했으며 많은 청소년이 불안장애, 우울증, 학교 부적응을 겪고 있다고 했다.
물론 이것들이 모두 SNS의 영향이라고 하더라도 SNS를 사용하지 않으면 그만이라고 주장할 수도 있을 것이다. 하지만 문제는 고소장에서 적시됐듯이 빅테크 기업들이 쓰는 알고리즘이 인간의 심리와 뇌과학을 이용해 점점 더 SNS를 쓰는 방향으로 사람들을 유도하게 디자인됐으며, 그 사실을 기업들이 알고 있다고 하면 문제는 달라진다. 물론 빅테크 기업들은 부정하고 있지만 과거에도 빅테크 기업들이 사용자의 적절한 동의 없이 정보를 수집하고 부적절한 방식으로 정보를 사용하고 있다는 사례가 있기에 더욱더 빅테크에 대한 불신이 깊어지는 것이다.
2014년 미국국립과학원회보(PNAS) 저널에는 페이스북 소속 과학자와 캘리포니아대학 교수의 흥미로운 논문이 실렸다. 논문에서는 사람의 감정을 SNS를 통해 통제할 수 있는지에 대한 연구내용을 다루었다. 논문에 따르면 무작위로 2개 집단을 나눈 후 한 그룹에는 SNS상에서 긍정적인 뉴스나 귀여운 사진을 집중적으로 보여 주고 다른 한 그룹에는 의도적으로 부정적 뉴스 등을 보여 주었을 때, 긍정적 뉴스에 노출이 많이 됐던 그룹의 사람들이 훨씬 더 긍정적 댓글이나 글을 많이 쓰고 부정적 뉴스에 많이 노출된 사람들은 스스로 부정적이 되어 댓글을 쓰더라도 점점 더 부정적이 된다는 것이다. 더욱이 이런 긍정적·부정적 감정은 SNS상의 친구들을 통해 접촉하는 사람들에게 퍼져 간다는 것이었다.
이 실험은 페이스북에서 진행됐다. 실험에 참여했던 과학자들은 아주 재미있는 연구 결과라서 세계적인 학술지에 발표해야 했다고 생각했지만 이 논문이 나온 후 페이스북은 여론으로부터 거친 비판을 받아야만 했다. 일단 이 실험은 실험대상자가 의식하지 못한 가운데 자신이 실험대상자가 된 것이라는 커다란 문제점이 있다. 또한 결과가 의미하듯이 페이스북은 20억 명이 넘은 사용자의 감정을 교묘하게 조작할 수 있다는 것을 의미한다. 물론 페이스북은 이에 대해 사과했고 향후 데이터 수집과 연구에서 개인의 프라이버시와 자율을 침해하지 않도록 규칙을 개정하겠다고 약속했다.
다시 2023년으로 돌아와서 시애틀교육청의 고소 사건을 보자. 무슨 근거로 시애틀교육청은 빅테크 기업들이 청소년에게 해가 된다는 것을 알면서도 좀 더 자신들의 서비스를 더 많이 사용하도록 유도하는 디자인과 알고리즘을 사용한다고 주장하는 것인가? 사실 그보다 앞선 2021년 페이스북의 전 데이터과학자였던 프란시스 호우겐은 내부고발자로서, 경영진이 자신들의 서비스가 청소년들에게 해롭다는 연구 결과가 나온 것을 숨기고 있다고 의회에서 증언했다. 호우겐의 의회 증언은 단호했고 그가 갖고 있는 비밀 파일들은 의회와 월스트리트 저널에 공개됐다. 그는 페이스북은 그들의 이익 극대화를 위해 SNS가 이용자들에게 나쁜 영향을 미치고 있다는 광범위한 자체연구 결과를 숨기고 있다고 증언했다.
빅테크, 자신의 경계 긋는 권한 막강
트위터는 트럼프가 올린 미시간주 득표수의 거짓 주장을 담은 캡처 사진들을 ‘숨김 처리’했다.
머스크는 계정 금지 등과 관련된 논의나 e메일 정보들을 하나둘 공개하면서 기존 경영진을 공개적으로 저격하기 시작했다. 또한 자신의 잣대에 의해 몇몇 극우파나 신나치주의라 여기는 사람들의 계정을 복귀시키고 있다. 우리는 머스크의 트위터가 그전의 트위터보다 좀 더 나은 바탕 위에서 언론의 자유를 유지시키면서도 가짜나 선동 뉴스들을 컨트롤하기를 원한다. 하지만 이 두 개의 라인의 경계는 언제나 명확하지 않으며 문제는 이 거대 빅테크는 언제든지, 주인이 누구이든지 간에 자신의 경계를 그을 수 있는 권한을 갖고 있다.
물론 대부분의 정부에서는 최근 법 개정을 강화하고 필요할 때는 빅테크 기업들의 잘못된 관행에 대해 법의 처분을 내리고 있다. 특히 2017년 당시 예일대 법대를 다니고 있던 리나 칸은 대학 저널에 아마존의 독과점에 대한 새롭고 획기적인 시각을 제시하며 일약 명사로 뛰어오른다. 당시 독과점법은 소비자 잉여 또는 가격에만 중점을 두고 있어서 대부분 무료로 제공되고 있는 SNS나 경쟁력 있는 가격으로 인터넷에서 상품을 팔고 있는 아마존에 대해 불공정 거래에 대한 개념을 적용하기 어려웠다. 하지만 리나 칸은 아마존의 ‘독점금지에 대한 역설’이란 소논문을 통해 아마존의 독점에 대한 새로운 이론을 제공했다. 당시 빅데크 규제에 대해 고민하고 있던 조 바이든의 눈에 띄어 리나 칸은 불과 32세의 나이에 연방거래위원회의 의장이 돼 현재 빅데크 기업에 대한 규제에 앞장서고 있다.
하지만 지구 역사상 가장 강력한 부와 데이터를 소유하고 있는 빅테크 기업에 대한 규제와 감시 노력은 쉽사리 해결되기 어려워 보인다. 2019년 미국의 연방거래위원회는 페이스북이 개인정보 취득에 있어 개인의 프라이버시에 침해할 수 있는 행동을 한 것에 대해 무려 6조원의 벌금을 부과했으나, 당일 페이스북의 주가는 201달러에서 205달러로 오히려 상승하고 시장이 마감됐다.