[뉴스위크]‘의식’ 있는 인공지능이 탄생한다면 어떤 미래가 펼쳐질까

온라인 중앙일보

입력

과학문명의 발달과 함께 인간 진화가 극점에 달하면 그 뒤에는 어떤 미래가 기다릴까? 2회에 걸쳐 그 답을 탐구한다.

당신은 깨어 있다. 주변 상황을 인지한다. 똑바로 서 있을지도 모른다. 혼수상태이거나 죽지 않았다. 어떤 강력한 향정신성 약물을 복용했다면 이 글을 읽고 있지 않으리라 가정해도 무방할 듯하다. 중요한 점은 당신이 지금 이 자리에 살아 숨 쉬고 따라서 의식이 있다는 점이다. 그리고 그 사실을 알고 있다.

그렇다면 당신도 나도 의식이 있고, 나머지 모두가 의식이 있으니 개념정리를 해보자. 의식이란 무엇인가? 어디에 존재하는가? 뇌에 속하는가, 또는 몸 안에 있는가, 아니면 그 외부의 어떤 곳에 존재하는가? 의식은 우리 영혼의 일부인가, 또는 우리가 만들어내는 물건들, 미술, 음악, 도시, 전쟁에도 존재하는가? 그것은 기계적 방식인가 전자적 방식인가? 그렇다면 어떻게 작동하는가? 무엇보다 우리 스스로 새로운 종류의 의식, 독립적으로 존재하는 새로운 유형의 의식을 만들어냈을 수도 있을까? 그렇다면 인간의 앞날은 어떻게 되는가?

의식의 정의를 탐구하는 작업은 세계 최장수 탐정 드라마라고 해도 무방하다. 인간의 두뇌가 질문을 던질 만큼 발달한 뒤로 내로라하는 천재들이 그 문제에 매달려 왔지만 아직도 돌파구를 찾지 못한 듯하다. 플라톤과 아리스토텔레스도 문제를 풀지 못했다. 임마뉴엘 칸트·데이비드 흄·존 로크는 다른 각도에서 도전했고, 에르빈 슈뢰딩거·베르너 하이젠베르크·알베르트 아인슈타인도 그 앞에선 여전히 경외의 시선을 던질 뿐이었다. 그중 누구도 공식적이고 확정적으로 모든 반론을 잠재우는 답을 찾아내지 못했다.

하지만 최근 탐구작업에 고속 기어가 들어간 듯하다. 탐색을 어떻게 어디서 해야 좋을지를 둘러싼 이견은 여전하지만 가장 집요한 탐정 여럿이 합의에 깜짝 놀랄 정도로 근접했다. 기자회견을 열고 마침내 범인을 잡아냈다고 세상에 발표할 만한 단계에는 아직 누구도 이르지 못했지만 적어도 다음 두 가지 단서로 조사의 초점이 맞춰지기 시작했다. 바로 오메가 포인트(Omega Point, 인간진화의 극점)와 기술 특이점(Singularity, 기술이 인간을 뛰어넘는 미래의 한 시점)이다.

전환점

영화 ‘이미테이션 게임’에서 베네딕트 컴버배치가 앨런 튜링 역을 맡아 에니그마 암호 해독 장치 ‘튜링 봄비’ 머신을 조정하고 있다.

프랑스 철학자 피에르 테야르 드 샤르댕은 두 가지 면에서 예언자 같지 않은 예언자다. 한 가지는 그가 사망했다는 점에서, 다른 하나는 여전히 유명한 고생물학적 사기에 연루됐다는 점에서 그렇다. 1881년 프랑스의 클레르몽페랑 인근에서 11자녀 중 넷째로 태어난 드 샤르댕은 어린 시절 신과 화석 두 가지에 흥미를 가졌다. 18세 때 예수회에 수련 수사로 들어가 철학과 수학 학업과정을 수료했다.

1912년 그는 필트다운인(Piltdown Man) 연구팀의 일원이 됐다. 연구팀은 영국 이스트 서섹스 지방에서 ‘발견’된 뼈들이 초기 인류의 것이며 따라서 진화상 유인원과 인간 사이에 빠져 있던 연결고리를 찾아냈다고 주장했다. 근 40년 뒤 그들의 발견은 거짓으로 밝혀졌다. 찰스 도슨 조사팀장이 현대 인류의 두개골과 오랑우탄의 턱뼈를 결합한 것이다. 드 샤르댕이 실제로 그 사기극에 가담했든 안 했든(두개골에 없던 어금니를 찾아내는 데 기여했다는 점이 그의 가담 사실을 뒷받침하는 증거였다) 그의 고고학 연구는 제1차 세계대전의 발발로 중단됐다.

1918년 학계로 돌아왔을 때 지리학 연구로 방향을 돌려 중국에서 강단에 서기 시작했다. 그는 여생을 저술, 정신수련, 교육, 모험에 몰두했다. 1955년 사망할 때까지 유라시아 대륙 전체를 자동차로 순례했고 루실 스완이라는 미국인 조각가와 오랫동안 성생활을 하지 않는 관계를 지속했다고 한다.

그러나 교회와 갈등을 빚게 된 원인은 그의 과학연구도 애정생활도 아니었다. 교회와 기독교를 통합하려는 시도, 그리고 원죄에 관한 그의 관점이 원인이었다. 원죄 부분은 아직도 모호하지만(그가 지지한 게 죄가 큰 쪽인지 작은 쪽인지 아무도 모른다) 드 샤르댕의 기본 이론은 과학·인류·문명이 발달함에 따라 언젠가는 정신권(noosphere, 의식적 사고의 영역)이 진화하다가 인간의 의식이 통합돼 놀라운 일이 일어나는 시점이 온다는 주장이다. 그는 1970년 출간한 수필집 ‘나의 해설서(Let Me Explain)’에서 “내부 의식의 불똥이 진화의 힘으로 서서히 거대한 불길로 타올라 그 궁극적인 통합의 순간에 마침내 우주를 집어삼킬 것”이라고 서술했다. “광대하게 펼쳐진 우주 물질이 수학자의 초입방체(hypercube)처럼 붕괴되면서 절대정신(absolute spirit, 최고 단계의 완성된 형태)으로 변해 이 불행한 지구를 벗어나고자 하는 우리의 오랜 욕구가 마침내 충족될 것이다.”

그 정신권이 이처럼 박진감 넘치는 피날레에 이르려면 먼저 층층이 분열된 인간 사고가 모두 무형의 한 덩어리지능으로 통합돼야 한다. 드 샤르댕은 그 무형의 지능을 인간의 지시를 받지만 별개인 것, 때마침 요즘의 인터넷과 아주 흡사해 보이는 지능으로 상상했다.

정신권 이론의 장점은 과학과 신학을 통합하는 듯할 뿐 아니라 인공지능(AI)까지 감안한다는 점이다. 단점이라면 오역의 여지를 감안하더라도 드 샤르댕의 저술은 추상의 밀림 속을 헤치며 오르는 가파른 산행이라는 점이다. 이 같은 약점에도 불구하고 마침내 그의 시대가 온 듯하다.

1940년대 공식 교육을 받은 과학자로서 드 샤르댕은 진화론을 당연시했다. 가톨릭 교회는 그렇지 않았다. 그는 자신의 수작 ‘인간현상(The Phenomenon of Man)’에서 진화의 다음 단계는 우주의 모든 것, 모든 과학·사고·에너지·물질이 신적 통합의 오메가 포인트를 향해 소용돌이치며 나아가는 시점이 될 것이라고 주장했다. 그의 주장을 언짢게 여긴 교황청은 그에게 평생 출판 금지령을 내리고 프랑스에서 추방했다.

1940년대 드 샤르댕이 책을 펴낼 당시 단일한 글로벌 지성은 너무 비현실적이고 요원한 듯했다. 그러나 그뒤 다른 사상가와 기타 분야의 학자들이 그의 이론을 21세기로 끌어들였다. 물리학자들이 모두 통합된 하나의 거대한 ‘만물의 이론(Theory of Everything)’을 찾는 동안 생물학계에선 드 샤르댕의 이론이 ‘가이아 가설’과 영국 과학자 제임스 러블록 연구의 변형 버전으로 인기를 끌었다. 어쨌든 지구가 단일 유기체로서 건강하게 기능한다면 분명 그 안의 인간 의식도 집합적으로 기능할 테니까.

게다가 기술 특이점 이론가들도 있다. 그들은 멀지 않은 미래에 AI가 마침내 인간 지능을 능가하고 컴퓨터 스스로 후세대를 설계하는 능력을 갖추는 때가 온다고 믿는다. 그 시기는 사상가에 따라 예측이 다르다. 저술가이자 과학자인 버너 빈지는 2030년, 기술 특이점 팬들이 내놓은 추정치 중간값은 2040년 선이다.

컴퓨터로 인해 인류의 존재 가치가 없어질 수 있을까? 그리고 컴퓨터가 슈퍼 지능을 갖는다면 그 지능은 어떤 형태를 띠게 될까? 현재의 가정은 원래 인류가 설계했든 안 했든 어떤 대안 기술이든 자동적으로 인간과 경쟁 관계가 된다. 다시 말해 인간이 설계한 AI가 곧 우리를 파멸시킬 수도 있다는 의미다.

그래서, 이 모든 것들(양자역학·철학·정부·자본주의)이 실제로 한 점으로 수렴하기 시작한다면 우리가 드 샤르댕이 말하는 전환점에 이르는 걸까? 그렇다면 그 건너편에는 무엇이 있을까? 드 샤르댕은 정말로 뭔가 알고 있었을까, 아니면 신천지를 외치는 또 다른 사이비 몽상가였을까? 그리고 무엇보다도 까다로운 문제는, 의식의 실체도 모르는데 우리 의식이 변하는지 어떻게 알 수 있을까?

기계 속의 천사들

프랑스 철학자 피에르 테야르 드 샤르댕은 오늘날의 인터넷과 아주 흡사한 무형의 지능을 예견했다.

의식에 관한 이론은 크게 3가지로 나뉜다. 이성적·과학적 접근법, 영적·신비주의적 접근법, 그리고 두 관점의 교차점이 있다.

이성적·과학적 접근법에선 의식이 존재의 한 부산물이며 존재는 우리가 속한 우주의 일부라고 본다. 의식이 거대하지만 이해 가능한 우주 안에 있어 언젠가는 찾아내 측정할 수 있을 듯하다. 머지 않은 장래에 우리가 마침내 의식을 규명하고 포착해서, 경도나 내연기관을 설명하듯이 그것을 묘사할 수 있는 도구(탐침, 분광계, 저울 세트)를 발명하는 때가 올 것이다. 어쩌면 의식은 뇌 속이나 심장 가까이 있을지 모른다. 아니면 옛날 이론처럼 마침내 찾아내 보니 정확히 21g의 무게를 갖고 있으며 정확히 사망 시점에 몸에서 빠져나갈지도 모른다. 어느 쪽이든 분명 찾아내게 될 것이다.

영적·신비주의적 접근법에선 의식의 가시적 형태를 찾으려는 시도가 모두 터무니없이 빗나갔다고 본다. 완전히 정반대 방향에서 출발하기 때문이다. 의식은 우주의 소산이 아니며 우주가 의식의 산물이다. 우리는 모두 의식 안에 있으며 모두 서로 불가분의 관계에 있다. 살아 있는 수십억 명의 우리 인간 각자가 의식에서 비롯되며, 어른이든 아이든 또는 생쥐든 의식을 이해할 수 있다. 실제로 어른보다 어쩌면 아이와 생쥐가 의식을 더 잘 이해할 수도 있다. 성인의 경우엔 논리적인 요소가 너무 많이 중간에 끼어들기 때문이다. 의식은 평생 동안보다 한 순간에 더 잘 이해된다. 그리고 어린이가 평생 배우는 건 망각의 기술뿐이다.

이 접근법에선 똑똑하지 않아도 의식을 이해할 수 있다. 오히려 영리한 게 불리하게 작용할 수 있다. 우리 대다수가 의식을 이해하지 못하는 건 우리의 머리가 방해하기 때문이다. 하지만 의식의 탐구에 몰두하는 사람들(철학자·신학자·천체물리학자·신경화학자)은 대부분 똑똑하다. 아주 영리하고 현명하다. 여러 학문분야를 넘나들며 과학과 신비주의를 통합하고, 두 분야 모두에 경의를 표할 만큼 지혜롭다.

그렇다면, 이 글을 읽는 데 한 가지 조건이 붙는다. 의식에 관한 글쓰기가 무의미하다는 점이다. 완전히 바보 같은 짓이다. 사랑의 회계학이나 노래의 (동식물 방식) 분류법을 찾으려 애쓰는 격이다. 단어를 동원하면 할수록 본질에서 더 멀어진다. 의식은 3차원 현상이 아니라 다차원적이다. 그리고 글쓰기는 3차원적 해법이기 때문에 분명 그 일을 하기에 알맞은 도구가 아니다. 의식에 관한 글을 읽기보다는 창문 밖을 멍하니 내다보거나 음악을 들을 때 의식을 이해할 확률이 훨씬 더 높아진다.

하지만 철학적으로 과학과 신비주의는 아주 거리가 멀어 보인다. 과학적 관점에서 의식은 해결을 기다리는 하나의 문제일 뿐이다. 신비주의 방식에선 우주, 시간, 해결책, 또는 은하계가 존재하는 것과 마찬가지로 의식의 존재에도 아무 문제가 없다. 아무런 차이도, 형체도 없다. 실체 없는 단 하나의 영혼만 존재할 뿐이다.

우리 대다수는 평생 동안 신이든 명상이든 또는 자신을 완성에 이르게 하는 누군가를 통해서든 갖가지 형태의 영혼(더 거창한 표현이 마땅히 없다)을 탐구한다. 인정하든 않든 우리 대다수는 그 단일한 자아로 돌아가는 길을 모색한다. 하지만 대다수 성인이 오래 전에 정도(正道)를 잃었기 때문에 대신 골목길을 헤맨다. 임사체험(Near-Death Experiences), 섹스, 술, 약물, 1990년대 초의 독일 트랜스 음악(몽환적 느낌의 신세사이저 멜로디), 그리고 우리 눈에 보이는 현상과 우리가 감으로 존재를 느끼는 것 사이의 간극을 좁히는 듯하면 무엇이든 탐구한다.

1930년대 알버트 호프먼은 환각제 LSD를 처음 합성해 거기서 얻은 환상에서 인식의 문으로 들어가는 열쇠를 찾았다. 과학적 접근법 진영 내에선 그가 이끄는 진영과 대니얼 C 데넷의 골수 극단적 다윈주의 입장 간에 엄청난 차이가 있다는 사실은 입에 올릴 가치조차 없다.

그러나 지난 수십 년 동안 신비주의적 입장과 과학적 입장 간의 거리가 크게 줄어들었다. 전에는 둘 중 하나였다. 열렬한 합리주의자거나 아니면 약물 사용자였다. 놀라운 변화는 과학계가 답을 모른다고 시인한다는 점이다. 그리고 크게 향상된 도구와 계산기를 동원해 알아내는 것이 더 많은 확실성이 아니라 더 많은 불확실성이라고 털어놓는다. 전통적 법칙이 적용되지 않고, 한 세트의 규칙이 다른 규칙들을 무의미하게 만드는 영역들이 있다고.

지난 한 세기 동안 양자과학은 감탄할 만한 수준에 도달했다. 하지만 뉴턴 물리학은 원자 수준을 넘어서면 붕괴된다. 아인슈타인의 일반상대성 내의 시공간 이론(theory of spacetime)은 부분적으로 양자장론(Quantum Field Theory)과 상충된다. 모든 법칙마다 모순이 있다. 분자는 항상 똑같은 행태를 보이지 않고, 빛은 입자도 파형도 될 수 있고, 시간여행은 어느 순간에라도 실현될 가능성이 있다.

그게 끝이 아니다. 모든 가능한 결과마다 그에 상응하는 평행 우주(parallel universes)가 존재한다.우리는 어느 시점에든 하나의 우주가 아니라 다중 우주(multiverse)에 존재한다. 아원자 세계에는 원인 없는 결과가 있을 수 있다. 세계 한쪽에 있는 원자의 행태가 세계 반대쪽 원자의 행태에 영향을 미친다. 시간이 휜다. 복잡성은 단순성의 토대 위에 세워지며 모든 게 사실상 우주의 벽지처럼 무한한 패턴의 반복이다.

과학자들이 오늘날 하는 말과 그리고 신비주의자들이 4000여년 동안 끈질기게 주장해온 것 사이의 수렴은 AI 세계 내의 패리티(parity, 플러스와 마이너스의 두 값을 취하는 양) 증가로 보완된다. 데우스엑스마키나(Deus Ex Machina, 연극에서 신이 공중에서 갑자기 나타나 사건을 해결하는 기법)의 개념은 고대 그리스인이 비극 장르를 처음 개발할 때부터 존재해 왔지만 기술 특이점 이론은 1850년 작가 새뮤얼 버틀러의 소설 ‘에레혼(Erewhon)’에서 처음 묘사됐다. 그 뒤 1950년 수학자 존 폰 노이만이 이름과 과학적 논리성을 부여했다.

그렇다 해도 기술 특이점의 문제는 그것이 발생할 가능성이 있는 시점이 아니라 그 진영 사람들이 그 건너편에서 어떤 일이 일어나리라고 생각하느냐는 점이다. 노벨상 수상 이론물리학자 스티븐 호킹이 주장하듯 컴퓨팅 능력이 현재도 우리가 거의 통제할 수 없는 속도로 커지고 있다면 말이다. “그런 기술이 금융시장의 원리를 능가하고, 인간 과학자들의 발명능력을 뛰어넘고, 인간 지도자들의 지도력을 앞서고, 우리가 이해할 수도 없는 무기를 개발하는 미래를 그릴 수 있다.”

호킹의 의사소통에 필요한 기술은 그에게 남다른 통찰을 부여한다. 그의 업그레이드된 신형 컴퓨터 음성 시스템은 영국 회사 스위트키가 개발했으며 인텔 기술을 이용해 그의 사고 패턴 형성과정을 인식한다. 호킹은 엄지 손가락으로 작동하는 시스템을 이용해 분당 15단어를 전달할 수 있다(보통 연설에선 분당 약 150단어다). 그러나 근육이 퇴화함에 따라 2011년에는 분 당 2개 단어 정도만 표현할 수 있었다.

인텔 팀은 결과적으로 호킹의 생각을 읽어내는 데 근접한 기술을 개발하게 됐다. 호킹이 주로 어떤 식으로 사고하는지 파악해 그의 ‘발언’ 습관에 맞춰나간다. 지금은 단어나 어구의 한 두 개 철자만 보고 나머지를 예측한다. 심지어 그의 문법적 결벽성, 그리고 신기술에 대한 거부감까지도 고려한다. 호킹이 지적하듯 생각을 읽는 이 모든 기술은 비교적 초보적이다. “하지만 AI가 본격적으로 개발되면 인류의 종말을 부를 수 있다고 본다. 일단 AI가 개발되면 자력으로 비상해 갈수록 빠른 속도로 자가 개조해 나갈 것이다. 완만한 생물학적 진화의 한계에 갇힌 인간은 경쟁도 못하고 뒷전으로 밀려나게 된다.”

그와 같은 주장의 가장 확실한 시험대는 무어의 법칙이다. 고든 무어는 인텔을 창업하고 호킹이 목소리를 찾도록 도운 인물이다. 1965년 컴퓨터 성능과 복잡성이 2년마다 2배로 늘어난다고 주장했다. 그 법칙이 성공한 데는 업계 내에서 말이 씨가 된 측면도 있었다. IT 업체들은 의도적으로 그 목표를 달성하려고 애썼다. 2배 증가의 시한이 지금은 18개월로 더 단축됐다. 그 종착점(가령 2040년)은 컴퓨터가 인간을 능가하고 완전히 자기복제를 하는 시점이 될 것으로 예상된다.

유한한 수명의 육체는 쓸모 없어진다

SF 영화 ‘엑스 마키나’에서 알리시아 비칸데르가 인공지능 로봇 ‘에이바’를 연기한다.

기술 특이점의 일부 지지자들은 그 이후의 미래가 그만큼 더 좋아진다고 믿는다. 솔직히 말해 저온냉동기술로부터 트랜스휴머니즘(transhumanists, 과학기술을 이용해 인간 능력의 확장을 주장)과 ‘마인드 업로더’에 이르기까지 이들은 넓은 의미의 종교 집단임을 부인하기 어렵다. ‘마인드 업로더’는 언젠가는 인간 두뇌의 모든 콘텐트를 별도의 하드드라이브에 저장해 우리 육신을 불필요하게 만들 수 있다고 믿는 사람들이다.

기술 특이점 낙관론 진영의 예언자이자 선도자는 레이먼드 커즈웨일이다. 구글 엔지니어링 책임자이자 디지털 불멸성의 오랜 주창자다. 지금껏 많은 예측을 적중시켰지만(스캐너, 문자-음성 변환 소프트웨어, 체스에서 인간을 물리치는 컴퓨터) 빗나간 예측도 많았다. 생명공학은 암과 심장병 사망률을 줄이지 못했으며 사람들은 컴퓨터가 만들어낸 ‘가상 인격’에게서 물건 구입하기를 좋아하지 않는 것으로 밝혀졌다. 커즈웨일은 디지털 열반의 세계 예측에 들인 시간만큼이나 자신의 육체적 불멸성(그가 이 주제를 다룬 한 저서의 부제가 ‘장생불사’다)을 보장받으려 애쓰며 시간을 보낸 논란 많은 인물이다. 철학자 데이비드 차머스는 다른 각도에서 기술 특이성 문제에 접근한다.

차머스는 호주국립대학 의식연구소 소장이며 ‘어려운 문제’를 정의한 것으로 유명하다. 신경과학이나 심리학에선 설명할 수 없는 의식적 경험의 영역들이다. 그는 의식에 관한 저술과 강연을 하며 연구 경력의 대부분을 보냈다. 요즘엔 기술 특이점을 둘러싼 많은 문제에 매달려 있다. “기술 특이점이 있다면 지구 역사상 가장 중요한 사건 중 하나가 될 것”이라고 그는 2010년 논문에 기술했다. “지성 폭발에는 막대한 잠재적 혜택이 따른다. 모든 질병의 치료, 빈곤 종식, 비상한 과학적 진보 외에도 숱하게 많다. 하지만 커다란 잠재적 위험도 안고 있다. 인류의 종말, 적대 관계에 있는 기계들의 군비경쟁, 지구를 파멸시킬 힘 등이다.”

그는 같은 논문에서 “기술 특이점이 있을까?”라고 물었다. “분명히 불가능해 보이지는 않는다. 최대 걸림돌은 능력보다는 동기부여일 가능성이 크다. 기술적 특이점을 어떻게 해야 잘 넘길까? 아주 신중하게, 기계에 적절한 가치관을 심어 넣고, 첫 AI와 AI 플러스 시스템을 가상세계에 구축하면서 아주 조심스럽게 진행해야 한다. 우리는 기술 특이점 이후의 세계에 어떻게 통합할 수 있을까? 그때도 우리가 여전히 존재한다면 점진적인 업로드에 이은 강화로, 우리가 존재하지 않는다면 부활을 위한 업로드에 이은 강화를 통하는 방법이 있다. 나는 기술 특이점과 업로드에 관해 쓰는 전략을 갖고 있다. 어쩌면 이런 식으로 해서 내 말이 틀렸음을 입증하기 위해서라도 후손들이 나를 부활시킬지 모른다.”

흥미롭게도 가장 가까이 있는 사람들이 가장 크게 경고한다. IT 전문가들은 맥박이나 양심이 없는 기계에 그렇게 큰 힘을 건네주는 게 과연 좋은 생각인지 확신을 갖지 못한다. 마이크로소프트 창업자 빌 게이츠는 IT에 너무 큰 믿음을 가져선 안 된다고 경고해 IT 업계에 큰 논란을 불러일으켰다. “나는 슈퍼 지능에 관해 우려하는 진영에 속한다”고 그가 온라인 토론에서 말했다. “처음에는 기계가 우리를 위해 많은 일을 하고 지능도 그렇게 뛰어나지 않을 것이다. 그때는 우리가 잘 관리하면 플러스가 된다. 하지만 20~30년 지나면 지능이 우려할 만큼 높아진다. 나는 이 문제에서 테슬라 CEO 엘론 머스크를 비롯한 사람들과 같은 생각이며 걱정할 필요 없다는 사람들을 이해할 수 없다.”

머스크 CEO는 우리의 앞날에 모험적인 투자로 재산과 명성을 얻었다. 그도 AI에 관해 우려를 표명한다. 그는 온라인 결제 서비스 페이팔로 출발해 지금은 전기자동차 제조사 테슬라를 경영하며 지구 생명체에 대한 갖가지 위협에 대처하기 위해 로켓 프로그램을 개발하는 데도 열을 올린다. 하지만 트위터에 “내가 고향 별인 화성으로 돌아가기 위해 우주선을 건조 중이라는 루머는 전혀 근거 없는 헛소문”이라는 메시지를 올리기도 했다.

그는 매사추세츠공대(MIT) 강연에서 이렇게 경고했다. “AI에 관해 상당히 주의를 기울여야 한다. 인류의 존재에 대한 가장 큰 위협을 예상하라면 나는 AI를 꼽겠다. AI에 관한 문제는 우리가 악령을 불러낸다는 것이다. 그 뒤에는 옛날 얘기에서처럼 누군가 십자가와 성수로 물리치려 해도 소용없다.” 머스크 CEO를 비롯한 많은 IT 종사자의 두려움은 우리가 만들어낸 기계가 결과적으로 악행을 저지르거나, 우리를 감금시키거나(집단적 감시 같은 시스템을 통해), 지금은 인간들만 경쟁이 가능한 작업과 절차를 접수해 우리를 쓸모없는 존재로 만드는 데 있다.

튜링 테스트

2014년 여름 그런 미래의 모든 가능성이 실현되는 상징적인 한걸음을 내디뎠다. 영국 런던 소재 왕립학회가 앨런 튜링의 유명한 테스트를 통과했다고 발표됐다. 독일 암호 ‘에니그마’ 해독자 튜링이 ‘기계가 인간과 구별할 수 없는 지능을 과시할 수 있을까’를 알아보기 위해 개발한 테스트다. 여기서 컴퓨터가 우크라이나의 13세 소년 ‘유진’ 행세를 하며 심사위원 중 3분의 1을 속이는 데 성공했다. 유진의 나이와 국적이 대화 중의 오타와 미숙함을 가리는 핑계거리가 됐다. 컴퓨터는 이해할 수 없는 문제가 나오면 질문으로 답했다.

튜링의 원래 조건은 단순히 컴퓨터가 각 심사위원과 간단한 대화를 나눌 수 있어야 하고 심사위원 중 30% 이상이 AI와 인간 지능을 구별할 수 있어야 한다는 것이었다. 튜링은 언젠가 통신업체 중역 회의에서 “내가 추구하는 것은 미국전신전화회사 사장처럼 그냥 보통 수준의 두뇌”라고 말했다.

다른 사람들은 더 엄격한 기준을 요구했다. 하지만 대부분 튜링 테스트는 부차적인 문제, 하나의 도구라고 입을 모은다. 더 흥미로운 문제는 유진이 1명의 십대를 모방하는 게 아니라 우리가 매일 우리 자신에게 하는 실험이다. 수백만 대의 컴퓨터가 수백 만 명의 생각을 합성해 단일 회사 소유의 일개 서버에 저장하게 되면 어떤 일이 생길까? 테야르 드 샤르댕이 수렴에 관해 한 말이 이런 의미였을까, 아니면 이것이 더 불길한 어떤 것이었을까?

그리고 언젠가 동네 선술집 퀴즈에서 자기 집 세탁기에 패할 일은 없다고 여긴다 해도 정부와 대기업까지 이 수렴 비즈니스에 뛰어든다는 증거가 있다. 오메가 포인트나 기술 특이점에 열광해서가 아니라 그들은 단지 가능한 한 많은 디지털화에 큰 관심을 보인다. 근년 들어 에드워드 스노든의 폭로에서 나온 증거를 보면 미국과 영국 당국이 이미 국민에 관한 마스터파일을 분석하기 시작한 듯하다. 한편 아마존·구글·페이스북 같은 기업은 자신들이 보유한 데이터를 고급 정보로 변환시키는 알고리즘을 개발하기에 바쁘다.

– 벨라 배서스트 뉴스위크 기자