[책 속으로] 초지능적인 AI, 인간의 명령 따를까

중앙일보

입력

슈퍼인텔리전스
닉 보스트롬 지음
조성진 옮김, 까치

548쪽, 2만5000원

딥러닝 기반 범용적 인공지능 #모든 면에서 인간보다 뛰어나 #왜 인간 위해 일하냐 묻기 전에 #기계를 설득할 만한 답 찾아야

가끔 읽지도 않은 책에 대해 많은 사람들이 흥분하고 토론할 때가 있다. 아니, 사실 매우 자주 있는 일인 것 같기도 하다. 솔직히 나는 톨스토이의 『전쟁과 평화』를 한번도 제대로 읽어본 적이 없다. 하지만 수많은 버전의 영화를 보았기에, 원작을 읽었다고 착각하곤 한다. 중국 전문가인 친한 지인은 중국을 이해하려면 삼국지 표지가 닳도록 여러 번 읽어야한다고 하지만, 부끄럽게도 삼국지 역시 만화책으로 읽었던 기억만 난다.

스티븐 호킹과 일론 머스크가 극찬한 옥스포드 대학 닉 보스트롬 교수의 『슈퍼인텔리전스』 역시 처음부터 끝까지 읽어본 사람은 몇 명 안될 만한 책이다. 웬만한 해외 서적은 몇 개월 만에 번역되는 대한민국 출판계에서 왜 이미 2014년 소개 된 슈퍼인텔리전스는 이제서야 한국어 버전으로 출간된 것일까. 사실 『슈퍼인텔리전스』 절대 쉬운 책이 아니다. 아니, 매우 어렵고 복잡한 책이다. 대중을 위한 책에 어울리지 않는 전문 철학적 용어와 논리적 명제 가득해 우리말로 번역하기도 힘들었을 것이다.

지난해 이맘때쯤 우리는 충격에 빠져있었다. 직감과 창의성을 기반으로 한 바둑에 도전한 알파고 덕분이었다. 불과 얼마전까지 우리가 보고 자란 공상과학 영화와는 비교할 수 없을 만큼 초라했던 인공지능. 전기코드선 하나 제대로 넘지못하는 ‘인공지능’ 청소기를 바라보며 우리는 안심했고 또 믿고 싶었다. 아무리 기계가 발전하더라도 창의성과 직감만큼은 영원히 인간의 고유 영역일 것이라고. 그렇기에 우리는 이세돌과 함께 희망했고, 함께 싸웠고, 그리고 모두 함께 패배했다.

인간보다 똑똑한 초지능은 통제 범위를 벗어나 인간의 존재를 위협할 수 있다. 닉 보스트롬은 초지능이 재앙이 되지 않도록 인류가 할 일을 제시한다. [중앙포토]

인공지능은 어떻게 하루아침에 현실이 돼버린 걸까. 왜 정부·기업·학교 모두 4차 산업혁명을 준비하고 앞으로 사라질 일자리를 걱정하고 있는 것일까? 바로 빅데이터를 통해 세상을 인식할 수 있는 기계학습 때문이다. 인간이 정해놓은 규칙을 기반으로 설계되었던 기존 인공지능과는 달리 알파고 같은 최근 기계들은 스스로 학습 가능한 딥러닝 기술을 기반으로 한다. 그렇다면 학습하는 인공지능의 한계는 어디까지일까. 기하급수적으로 진화할 수 있는 기계 지능을 인간의 힘으로 영원히 통제할 수 있을까. 바로 보스트롬이 던지는 질문들이다. 과학기술과 인류의 미래를 연구해온 그는 슈퍼인텔리전스, 그러니까 인간의 지능을 초월한 초지능 인공지능 이야말로 호모 사피엔스 그 자체를 멸종시킬 수 있는 미래 최고의 대재앙이 될 것이라고 주장한다. 그런데 왜 하필 초지능 인공지능일까.

알파고는 바둑만 잘 두도록 학습된 ‘바둑 인공지능’이다. 하지만 만약 앞으로 더욱 발달된 보편적 기계학습 알고리즘 덕분에 범용적 인공지능(Artificial General Intelligence, AGI)이 가능해 진다면? 데이터만 있다면 모든 지적인 영역에서 인간보다 뛰어난 초지능적 인공지능이 등장할 수 있다. 더구나 기계는 죽지도, 잊어버리지도 않는다. 그렇다면 인간의 자율성과 독립성마저도 학습한 기계는 언젠가 우리에게 물어볼 수 있다. 왜 인간보다 뛰어난 기계가 여전히 인간의 명령을 따라야 하냐고? 왜 기계가 인간을 위해 일해야 하냐고? 인간은 도대체 왜 존재해야 하냐고?

슈퍼인텔리전스의 탄생은 다시 되돌릴 수 없다. 더 이상 인간이 통제할 수 있는 기계가 아니기 때문이다. 보스트롬은 그렇기에 기계가 물어보기 전 우리가 먼저 질문해야 한다고 제시한다. 왜 지구에 인간이 존재해야 할까? 만약 기계를 설득 할만한 답을 찾지 못한다면, 초지능 인공지능의 탄생은 동시에 호모 사피엔스의 멸종을 의미한다. 지구는 더 이상 우리 인간의 것이 아니라, 우리의 기억과 기술, 그리고 희망과 두려움을 물려받게 될 기계들의 세상이 될 것이다.

[S BOX] ‘트랜스휴머니스트 연합’ 만들어

저자 닉 보스트롬(44)은 스웨덴 출신의 철학자다. 현재 영국 옥스퍼드대 철학과 교수이며, 옥스퍼드대 마틴 스쿨의 인류미래연구소(Future of Humanity Institute) 소장을 맡고 있다. 미국 외교전문지 ‘포린 폴리시(Foreign Policy)’가 선정한 세계 100대 지성에 이름을 올리기도 했다. 또 1998년에는 ‘세계 트랜스휴머니스트 연합’을 만들고, “인류는 기억 및 집중력 지원기술, 생명 연장 요법, 생식기술, 인체 냉동보존술 등 다양한 인간능력 증강 기술을 활용해 트랜스휴먼이 될 것”이라고 주장했다.

대표적인 저서로는 『인류의 편향(Anthropic Bias, 2002)』『전지구적 재앙 위험(Global Catastrophic Risks, 2008)』『인간 강화(Human Enhancement), 2009』 등이 있다. 2014년 영국에서 첫 출간된 『슈퍼인텔리전스』는 영미권에서만 13만부 넘게 팔렸다.

김대식 KAIST 전기및전자공학부 교수