암울한 미래로 이끌 AI? 유토피아 가는 문 열쇠 될 수도

이준기의 빅데이터

챗GPT를 개발한 오픈AI사의 샘 올트먼 해임 사건은 전 세계의 이목을 집중시켰다. 새로운 인공지능 서비스인 챗GPT 개발의 주역으로 세계 언론의 모든 스포트라이트를 받은 그였다. 불과 6개월 전에 세계 16개국을 돌아다니며 각국 정상을 만나고 인공지능의 미래에 대해 전파하고 다녔던 그가 하루아침에 해임됐다가 5일 만에 복직했다.

샘 올트먼 ‘해임사건’ 부른 AI 윤리 갈등

챗GPT를 개발한 오픈AI의 창업자이자 최고경영자(CEO) 샘 올트먼. [AP=연합뉴스]

우리는 오픈AI사의 이사회 내부에서 무슨 일이 있었는지 정확하게 알지 못한다. 하지만 언론에 보도된 기사로 추측할 수 있는 내용은 인공지능의 빠른 성장과 안전에 대한 견해의 차이라는 설이다. 인공지능의 빠른 비즈니스화를 요구하는 올트먼과 인공지능의 미래 위협에 주의를 기울이며 좀 더 신중하게 인공지능을 개발할 것을 주장하는 일리야 수츠케버 등 다른 이사들 간의 갈등설에 무게가 실리고 있다. 특히 수츠케버는 현재 인공지능의 대부라 할 수 있는 토론토대학 제프리 힌튼 교수의 제자이다. 지난 5월 힌튼 교수가 구글을 떠나면서 인공지능의 위협에 대해 경고했던 터라 이러한 추측이 더욱 타당해 보인다.

그렇다면 세계적인 인공지능의 대가들이 걱정하는 인공지능의 위협이란 무엇일까? 이것은 일반인들이 생각하듯이 단순하게 언젠가는 인공지능이 인간의 지능을 앞서게 돼 인간이 인공지능의 지배하에 있게 될 것이라는 예상과는 조금 다르다. 소위 말하는 인공지능을 통한 디스토피아는 그것보다는 훨씬 가능성 있는 미래로 다가서고 있기에 그들의 염려가 그냥 흘려버리기에는 어려운 면이 있다.

인공지능의 첫 번째 디스토피아 시나리오는 조지 오웰의 『1984』에 나오는 감시의 사회이다. 예를 들어, 중국 인공지능 연구의 많은 부분이 안면인식 등의 감시에 집중된다. 게다가 중국의 영상기술은 단순 감시에서 감정 예측을 하는 방식으로 진화하고 있다. 지난해 영국의 BBC는 한 소프트웨어 엔지니어의 인터뷰를 통해 중국이 분리독립을 원하는 신장지구에 감정을 읽는 CCTV로 위구르인들이 무슨 생각을 하고 있는지 읽는 실험을 하고 있다고 폭로했다. 중국은 또한, 전체 인구 14억 명에 대한 안면인식 데이터베이스를 완성했고 이것을 통해 언제 어디서나 개개인을 식별할 수 있게 됐다는 보도가 나왔다. 중국은 이와 더불어 사회신용이라는 인공지능시스템을 도입해 모든 개인의 거래와 이동 등의 데이터를 수집해 분석하고 있다.

하지만 이런 인공지능을 통한 감시체계의 구축은 중국에만 국한된 것은 아니다. 러시아는 인공지능을 이용한 스파라라는 시스템을 이용해 반체제 인사를 감시하고 있다. 멕시코는 스파이웨어라는 시스템을 이용해 정부에 반대하는 변호사, 야당 지도자들을 감시하고 있다고 보도됐다. 이런 감시 체계는 비단 공산주의나 전체주의의 국가에 국한되지 않는다. 미국의 국토안보부는 올해 9월 발표한 인공지능에 대한 규정에서 향후 인공지능을 통한 국경 감시나 마약카르텔 감시에 대한 규제를 강화하겠다고 발표했다. 이것은 역으로 이러한 감시가 만연하고 있음을 방증하는 것이다.

사실 미국의 경우, 정부보다는 기업에 의한 인공지능의 감시가 더 심각한 위협으로 다가올 수 있다. 얼마 전 미국의 아마존 물류 창고에서 일하는 배송운전자는 틱톡에 자신이 얼마나 지속적으로 인공지능 영상으로부터 감시당하고 있는지를 불평했다. 그 종업원에 따르면 이 시스템은 지속적으로 업무상의 위반 상황을 적발하고 보고한다. 운전자가 속도위반을 했는지, 빨간불에 정지했는지 등에 대한 감시는 그래도 견딜 만하지만, 운전 중 커피를 입에 댔는지, 안전벨트를 몇 번 찼다가 풀었는지도 다 위반 사항으로 보고된다고 불평했다.

이런 것들을 소설 『1984』에 나오는 전체주의 통제의 어두운 면으로만 생각하면, 우리는 최소한 우리 민주주의 사회에서는 그것을 격렬하게 저항하고 사회적 운동 등을 통해 이러한 사회가 오는 것을 막을 수 있다. 하지만 이것을 감시라는 측면에서 국민의 안전을 지키는 인공지능으로 치환하면 다른 얘기가 된다. 즉, 이런 모든 시스템은 국민의 안전을 지키고 범죄를 예방하며 기업의 안전을 도모하는 좋은 시스템이 된다.

멕시코의 시스템은 마약범죄와의 전쟁에서 인공지능을 통한 감시의 목적으로 시작한 것이었으며, 러시아도 스마트시티라는 개념에서 범죄 없는 도시를 만들기 위한 시도였다. 중국도 범죄자를 색출하고 행방불명된 사람을 빨리 찾아주는 것을 시스템의 목적으로 설명하고 있다.

인공지능의 두 번째 디스토피아 시나리오는 헉슬리의 『멋진 신세계』나 웰스의 『타임머신』에서 보여 준 상하로 나누어진 계급의 사회이다. 『멋진 신세계』에서 인간은 태어나면서부터 알파족, 감마족, 베타족 등의 계층으로 나누어지며 이 계층은 너무나 견고하게 고착화해 아무도 그에 대한 저항을 하지 않고 당연한 것으로 받아들인다. 『타임머신』 또한 오랫동안 부와 지식으로 무장해 권력을 갖고 있었던 상위 계층인 엘로이야와 그들을 위해 봉사하고 있었던 지하의 멀록에 대한 소설이다.

“기술이 위험하다고 멈출 수는 없어”

지금까지 디지털 기술의 발달이 보여 준 최근 인간 역사의 궤적은 부익부 빈익빈의 강화였다. 지식과 디지털 기술로 무장한 계층은 부를 쌓는 속도를 더욱 높여 왔다. 기업에서는 생산성 증가와 임금 상승 효과의 상관관계가 없어지기 시작했다. 즉, 기업의 상위 경영층은 추가 이익을 향유했으나 이것의 대부분은 노동력이 기술에 의해 대체되는 경향을 보이며 일반 직원들에게는 혜택이 돌아가지 않고 있다는 것이다.

최근 이러한 경향은 인공지능의 발달 등으로 인해 더욱 가속화하고 있다. 최근의 크레디 스위스 통계를 보면 지난 10년 동안 창출된 부의 약 50% 정도가 상위 1% 수퍼리치의 몫으로 돌아갔으며, 특히 2020년 이후에는 이 숫자가 63%에 이르고 있다.

세계적으로도 부익부 빈익빈의 현상은 강화되고 있으며, 상위 계층은 교육에 대한 투자와 디지털 기술의 활용 등으로 계층이 점점 고착화하는 경향을 보이기 시작했다. 향후 얼마만큼의 직업군이 없어질 것인지가 계속 기삿거리가 되는 것은 인공지능에 의한 인간의 육체적, 정신적 노동에 대한 대체가 더욱 심화할 것이라는 예상이 가능하다.

하지만, 이것 또한 부의 집중 문제보다는 인간이 노동에서 해방되고 좀 더 많은 시간을 여가에 활용하고 취미생활 등을 하며 지낼 수 있다고 생각하면 디스토피아와 유토피아의 경계가 모호해진다. 산업혁명 시대의 근로자들이 하루 평균 10~14시간, 주 6일 노동했다. 그런데 지금은 노동시간이 거의 반으로 떨어졌다. 따라서 향후 인공지능의 발달은 인류를 노동에서 해방시킬 것이라는 기대를 하게 한다.

물론 이 두 가지 디스토피아 시나리오 외에도 딥페이크와 거짓정보에 의한 탈진실 사회에서의 사회혼란이 가져올 디스토피아, 인간이 인공지능을 무기로 사용하면서 시작될 인공지능을 통한 끝없는 전쟁, 인공지능과 메타버스 사회로 진행되며 사회성을 잃어버리게 되는 인간사회에 관한 디스토피아, 인간이 인공지능에 모든 것을 물어보고 일을 시키면서 뇌가 퇴화하는 인류 퇴보의 디스토피아 등 여러 가지 시나리오가 있을 수 있다. 그러나 이러한 모든 디스토피아 시나리오의 다른 측면은 인류의 행복과 안전을 보장해 주는 유토피아의 시나리오임을 잊지 말아야 한다.

MIT의 아세모글루 교수는 최근 그의 역작 『권력과 진보』에서 기술의 진보와 번영에 대한 통찰력 있는 주장을 내놓았다. 그에 따르면 기술이 위험하다고 해서 멈출 수 있는 것은 아니지만, 항상 우리에게는 두 갈래 길이 놓여 있고, 그것을 선택하는 것은 우리 자신이라는 것이다. 산업혁명 이후 부의 집중에서 인류는 갈등과 타협 속에서 노동조합을 탄생시켰고, 주 근무 한계시간을 정했으며, 반독점법을 만들어 시행했다. 인공지능을 통한 안전보다는 감시에, 개인의 번영보다는 상업적 이익과 지대 추구에 인공지능을 이용하려는 권력에 맞서 사회적 합의와 규제를 이루어 가려는 권력에 대한 저항과 투쟁이 있을 때만 우리는 공동의 번영을 위한 대안을 만들어 나갈 수 있을 것이다.

이준기 연세대 정보대학원 교수. 서울대에서 계산통계학과를 졸업 후, 카네기멜론대 사회심리학 석사, 남가주대 경영학 박사를 받았다. 국가 공공데이터 전략위원회에서 국무총리와 함께 민간 공동위원장을 맡고 있으며 『AI 로 경영하라』 『오픈콜라보레이션』 『웹2.0과 비즈니스 전략』 등을 펴냈다.