일론 머스크
터미네이터 같은 영화나 SF 소설을 많이 본 사람들은 대체로 AI의 미래가 어둡다고 느낀다. 그런 사람 중에 아주 강력한 인물이 있는데 바로 일론 머스크다. 그의 공격적인 행보를 보며 세상이 망한다면 이 사람이 주인공이 아닐까 싶었는데 그는 의외로 반대편에 서 있었다.
700페이지가 넘는 『일론 머스크』(사진)라는 책은 월터 아이작슨이라는 세계적인 전기 작가가 썼다. 이 책의 40장 ‘인공지능’ 편은 머스크와 허사비스의 만남으로 시작된다. 데미스 허사비스는 딥마인드라는 회사를 차려 알파고를 만든 사람. 알파고를 만들어 이세돌 9단을 꺾으며 세계적으로 명성을 떨친 인물이다.
나는 그 대결 때 한국 측 실무를 맡았다. 수많은 인터뷰나 회의에서 “컴퓨터가 바둑에서 사람을 이긴다는 것은 아득한 미래의 일”이라고 단언했고 그 말에 한 조각 의심도 품지 않았다.
빗나간 판단을 치욕으로 느끼지는 않는다. 그러나 아는 사람과 모르는 사람의 차이는 극명하다. 나는 모르는 사람의 대열에 서 있었다.
허사비스는 신경과학자이자 인공지능 연구자다. 체스, 포커의 챔피언으로 국제마인드스포츠 올림피아드에서 5차례 챔피언에 올랐다. 그는 머스크에게 인류에 대한 또 하나의 잠재적 위협으로 ‘인공지능’을 거론한다. 기계가 초지능을 갖게 돼 인간을 넘을 수 있고 심지어 인간을 폐기처분 할 수도 있다고 했다. 이게 머스크의 뇌를 흔든 게 분명했다. 머스크는 친구인 구글의 래리 페이지에게 딥마인드라는 회사와 AI의 위험성에 대해 얘기했다.
“인간의 의식은 우주의 소중한 불꽃, 우리는 그것이 꺼지지 않게 해야 한다.”
페이지는 달랐다. “기계가 인간을 능가하게 된들 그게 무슨 문제냐. 진화의 다음 단계 아니냐.”
그는 머스크가 기계종보다 인간종을 우선시하는 종 차별주의자라고 비난했다. 아이러니하게도 2013년 말, 구글은 딥마인드를 인수한다. 머스크는 이 거래를 막기 위해 허사비스에게 “AI의 미래를 페이지가 통제하게 해서는 안 된다”고 장시간 설득했으나 실패한다. 머스크는 이 일로 오바마 대통령도 면담했다.
책에 따르면 머스크가 샘 올트먼을 만난 것은 바로 이 무렵이다. 소프트웨어 기업가이자 생존주의자 샘 올트먼. 두 사람은 비영리 인공지능연구소를 설립하기로 결정하고 이름을 ‘오픈 AI’로 정했다. 두 사람은 ‘AI 정렬’이란 목표를 정했는데 저명한 SF 소설가 아이작 아시모프가 자신의 소설 속에서 로봇의 3원칙을 정한 것처럼 AI 역시 인간의 목표와 가치에 부합하도록 규칙을 정하는 것이었다.
그러나 이후 머스크는 오픈 AI를 떠나고 지분 전체를 마이크로소프트에 넘긴다. 이번 다보스 포럼에서는 샘 올트먼(오픈 AI의 CEO)이란 이름이 자주 들려온다. 2022년 챗GPT를 출시해 세상을 놀라게 한 오픈 AI의 리더. 그러나 1년도 안 돼 오픈 AI 이사회에서 해임당했고 다시 마이크로소프트의 도움을 받아 5일 만에 복귀했다. 보도된 바에 따르면 이사회와 샘 올트먼 갈등의 핵심은 ‘AI가 안전한가’였다.
AI는 얼마나 위험한 존재일까. 올트먼조차 “AI는 두려운 존재”라고 말한다. 그렇다고 멈출 수는 없다. 악마의 경쟁은 이미 시작됐다. 바둑은 이제 알파고의 후예들, 즉 AI가 지배한다. 바둑판에서 AI는 신적인 존재다. 그런 일이 다른 분야에서도 똑같이 일어날 수 있을까. 3년여 AI와 함께 바둑해설을 하면서 “그럴 수 있다”고 나는 느낀다. 그러나 똑같은 신이라도 바둑과는 다를 것이다. 바둑에서 AI는 인간의 능력을 훨씬 넘어섰으나 인간의 의식까지는 지배하지 못한다. 즉 신이지만, 신성을 획득하지는 못하고 있다.
다른 분야에서는 어떨까. 챗GPT의 대성공을 보면 AI가 인간의 영혼을 장악하고 신성을 획득할지도 모른다는 생각이 든다. AI는 종교가 될 수 있다. 아시모프의 소설 『파운데이션』에서는 ‘과학종교’라는 말이 나온다. 과학종교는 신성을 획득했고, 사제들이 이끈다.
박치문 바둑칼럼니스트
