[책 속으로] 인간 능가하는 AI의 출현, 그건 재앙이다

파이널 인벤션
제임스 배럿 지음
정지훈 옮김, 동아시아
448쪽, 1만8000원

오늘날의 인공지능은 친절하다. 나보다 나를 더 잘 아는 아마존 사이트는 쇼핑 욕구를 해소하도록 도와주고 영화관 앱은 취향에 맞는 작품을 척척 골라준다. 멀지 않은 장래에는 자율주행차가 알아서 목적지로 데려다 줄 것이다. 인간은 핸들도, 브레이크도 없는 차 안에서 여유를 즐기기만 하면 된다. 이처럼 인공지능은 유토피아를 상징해왔다.

하지만 ‘비판적인 사고가 필수적이고 진실일 법한 이야기도 의심해야 하는’ 미국 다큐멘터리 필름제작자인 지은이의 생각은 사뭇 다르다. 그는 인공지능의 한없이 디스토피아적인 속성을 파고든다. ‘인공지능은 인류의 마지막 발명품이 될 것인가’라는 화두를 안고 수많은 전문가를 인터뷰한 결과다. 이 책은 인공지능의 미래에 대한 집단지성의 고민이다.

현재 구글을 비롯한 민간기업과 각국 정부는 인공지능 개발에 엄청난 돈을 쏟아붓고 있다. 문제는 온통 인공지능의 발전에만 관심을 보인다는 점이다. 인공지능이 어떤 세상을 만들까에 대한 확신 없이 일단 긍정적일 것이라고 믿어버린다. 하지만 지은이는 이를 설계 단계부터 고려하지 않으면 재앙을 맞을 수 있다고 지적한다. 수많은 전문가가 인간이 인공지능과 경쟁하는 시대가 아니라 지구를 내줘야 하는 세상이 올지도 모른다는 오싹한 경고를 하고 있기 때문이다.

영화 ‘엑스 마키나’ 포스터. 인공지능 로봇 에이바는 매혹적인 여성의 모습으로 자유의지까지 지녀 진실을 호도한다. 저자는 인공지능 개발이 인류에게 비극적 미래를 가지고 올 수 있음을 경고한다. [중앙포토]

그에 따르면 프로기사 이세돌과 바둑을 둔 인공지능은 딥러닝을 바탕으로 한 약인공지능(ANI)일 뿐이다. 문제는 이보다 훨씬 빠르고 강하며 치밀한 미래의 인공지능이다. 인간의 지능수준을 뛰어넘는 강인공지능(AGI)이 앞으로 10년쯤 뒤에, 인류보다 훨씬 우월한 초월적 존재인 초인공지능(ASI)도 2030년쯤이면 등장할 것으로 전망된다. 이제 인류는 수퍼지능을 갖춘 기계와 지구에서 공존할 수 있을지를 절실하게 고민해야 한다.

고도 인공지능은 인간이 전원을 끄는 것에 저항하고 다른 기계에 침입하며 복제본을 만들려고 시도할지도 모른다. 마치 생물이나 인간이 하는 것처럼 말이다. 속성상 남의 안전에 아랑곳하지 않고 자신의 생존을 위한 자원을 독차지하려고 시도할 가능성도 크다.

전문가들은 인공지능이 일단 인간을 능가하는 힘을 갖게 되면 자신의 생존을 위해 지구의 자원을 놓고 인간과 경쟁하다 최종적으로는 위협이 될 것이라고 전망한다. 인공지능은 상상 이상으로 교활하고 강력하며 이질적이기 때문이라는 게 이유다. 그렇다면 우리는 우리가 발명한 인공지능과 지구에서 공존할 수 있을지를 지금부터 진지하게 고민하면서 개발에 나서야 한다는 것이 지은이의 충고다.

[S BOX] 착한 인공지능 vs 무서운 인공지능

물리학 박사인 스티븐 오모훈드로는 인공지능 분야에서 예언자적인 인물이다. 그는 “고도로 발전한 인공지능은 내부적으로 갖고 있는 목표지향적인 시스템과 자신을 중심으로 사고하는 속성 때문에 위험한 행태를 보일 수밖에 없다”고 전망한다. ‘인공지능이 인간을 대체할 수 있는 수준으로 발전한 다음에도 과연 인간의 명령을 따를까’라는 조심스러운 물음에 대한 확신에 찬 대답이다. 또 인간에게 이로운 시스템은 위험하지 않을 것이라고 생각하는 것은 착각일 뿐이라고 지적한다.

해결법은 없을까? 그는 “인공지능 프로그램을 개발할 때 반사회적이 되지 않도록 세심하게 짜는 수밖에 없다”고 말한다. 인공지능의 능력에만 관심을 두지 말고 거기에 어떤 가치를 집어넣을지를 충분히 고민해야 한다는 것이다. 그 길만이 인공지능이 인류 친화적이며 인간에 협력적인 대상으로 지구에 남는 길이라고 강조한다.

채인택 논설위원 ciimccp@joongang.co.kr