인공지능이 지구 정복? "아직은 공상에 불과"

일론 머스크 테슬라 CEO. [사진 TED]

 인공지능(AI)이 인류를 정복할 날이 가까워지고 있을까? AI의 위험성을 경고하는 기사들이 연일 쏟아지고 있다. 일런 머스크 테슬라 CEO는 12일(현지시간) 트위터를 통해 "AI는 북한보다 훨씬 위험하다"며 "사람들에게 위협이 되는 자동차, 항공기, 음식, 의약품 등은 규제를 받는다. AI도 규제 대상이 돼야 한다"고 강조했다.

머스크 등 AI 종말론 퍼뜨려…AI 전문가들은 "가능성 없다" 일축 #현 AI 수준은 받은 명령 실행하는 걸음마 단계, 사고하는 지능 아냐 #이세돌 이긴 알파고, 바둑판 크기 약간만 달라져도 실력 발휘 못해 #자율주행차 사고나 AI로 인한 일자리 손실 등 진짜 문제에 초점 맞춰야

머스크는 AI가 인류를 멸망시킬 위험이 있다고 경고해 온 인물들 가운데 하나다. 머스크 외에도 빌 게이츠 마이크로소프트 설립자, 미래학자 레이 커즈와일, 물리학자 스티븐 호킹 등 여러 유명인사가 'AI 종말론'을 펼쳐왔다.

IBM 인공지능 컴퓨터 왓슨은 2011년 퀴즈쇼 '제퍼디'에 출연해 챔피언들을 제압했다. [중앙포토]

그러나 현업에 종사하고 있는 대다수 AI 전문가들은 AI가 인류를 위협할 것이라는 전망에 회의적이다. 인류보다 뛰어난 지능을 갖춘 AI가 언젠가는 개발될 수도 있지만 걸음마 단계에 불과한 현 수준의 AI 연구 분야에서 이를 걱정하는 것은 기우라는 지적이 나온다.

매사추세츠공과대(MIT) 컴퓨터공학·인공지능연구소 초대 소장을 지낸 로드니 브룩스는 "AI가 인류에게 위협적이라고 주장하는 사람들의 공통점은 그들이 AI 분야에서 직접 일하지 않는다는 것"이라며 "AI를 만드는 사람들은 AI가 제대로 작동하도록 만들기가 얼마나 어려운지 잘 안다"고 말했다.

브룩스는 이어 "우리가 어떤 일을 아주 잘하는 사람을 보면 그 사람의 지적 능력이 뛰어나다고 생각한다"며 "그러나 AI는 다르다. 알파고가 바둑에서 이세돌을 이겼다고 해서 알파고가 지능이 뛰어나고 그 지능으로 다른 일도 잘하는 것은 아니다"라고 지적했다.

브룩스의 말대로 현 단계의 AI는 설계된 대로 아주 특수한 목적을 위해서만 일을 처리할 수 있는 연산 도구에 가깝다. '인공지능'이란 이름과 달리 실제로 사고하는 인간의 지능과는 거리가 멀다는 의미다.

예를 들면 알파고는 오로지 바둑만을 할 수 있게 만들어졌기 때문에 아무리 바둑을 잘 둔다 한들 그 능력으로 바둑 외의 다른 것을 사고하기는 불가능하다. 심지어 알파고를 개발한 구글 딥마인드 측에 따르면 바둑판의 크기가 아주 약간만 늘어나거나 줄어들더라도 알파고는 실력을 전혀 발휘하지 못한다.

구글 인공지능 알파고와의 첫 대국에서 이세돌 9단이 첫 수를 두고 있다. 맞은편은 알파고 개발 회사인 구글 딥마인드의 아자 황 선임연구원. 아마 6단인 그는 알파고를 대신해 바둑돌을 놓았다. [중앙포토]

브룩스에 따르면 머스크 같은 종말론자들은 종종 AI와 실제 인간의 지능 사이에서 착각을 일으킨다. 이 같은 착오를 가장 잘 보여준 사건이 지난달 31일 벌어졌던 페이스북의 'AI 언어' 해프닝이다. 이달 초 페이스북이 자체 개발한 AI가 실험 도중 인간이 알아듣지 못하는 언어를 개발해 서로 대화하자 페이스북 측이 이를 강제 종료시켰다는 기사가 화제가 됐다.

일부 언론들은 이 사건을 'AI의 위협', 'AI가 비밀 대화 나누다 적발' 등 자극적인 제목으로 다루면서 사람들의 공포는 극대화됐다. 이런 기사들에는 "AI들이 서로 대화하다가 '인간이 필요 없다'는 결론을 내리면 어떡하느냐"며 우려를 표하는 댓글이 달리기도 했다.

그러나 사실 페이스북이 AI를 강제 종료한 것은 AI가 너무 똑똑해서 인간 몰래 대화를 나눌까 두려워서가 아니었다. 오히려 의도와 달리 AI들이 너무 멍청했기 때문이다. 페이스북 측은 영어를 사용해 협상을 하도록 AI를 설계했지만 AI들은 인간의 언어를 사용하는 데 실패하고 자신들만의 언어를 만들어낸 것이다. 영어가 아닌 언어를 사용했다는 점을 제외하면 대화 내용은 설계된 프로그램에서 벗어나지 않았다고 페이스북 측은 밝혔다.

AI가 인류에게 위협적이라고 주장하는 사람들의 공통점은 그들이 AI 분야에서 직접 일하지 않는다는 것 - 매사추세츠공과대(MIT) 컴퓨터공학·인공지능연구소 초대 소장 로드니 브룩스

결국 AI가 지구정복 같은 자신들만의 목적을 갖는다든지, 특정 목적을 위해 인간 몰래 모의한다든지 하는 일은 현 수준의 기술로선 상상도 할 수 없는 영화 속 이야기나 다름 없다는 것이다. 페이스북의 이번 협상 AI 프로젝트를 주도한 드루브 바트라 선임연구원은 "AI 분야 외부 사람들에겐 AI들이 언어를 만들어냈다는 게 놀랍고 두려운 일일 수도 있겠지만, 이는 수십 년 전부터 AI들이 보여왔던 행동이며 이 분야 종사자들에겐 익히 알려진 사례"라고 설명했다.

그렇다면 AI가 빠르게 발전해서 인간과 같은 지능을 갖추게 된다면 어떨까? 인간처럼 모든 분야에서 자유롭게 사고가 가능하면서 인간보다 훨씬 뛰어난 연산력을 갖춘 AI는 '초지능(superintelligence)'이라고 부른다. 머스크 같은 AI 종말론자들이 우려하는 것은 사실 AI가 초지능으로 발전할 수 있다는 가능성이다.

그러나 초지능의 등장에 대해서도 현업에 종사하는 AI 전문가들은 회의적이다. 전미인공지능학회(AAAI)가 AI 연구자 80명을 대상으로 실시한 설문조사에서 67.5%가 초지능이 나타나기까지 최소 25년 이상이 걸릴 것이라고 응답했다. 25%는 초지능이 불가능하다고 답했고, 10년에서 25년 내에 등장할 것이라고 답한 사람은 7.5%에 그쳤다.

미국에 거주하는 배우 겸 사업가 손지창(47)씨가 페이스북을 통해 공개한 테슬라 급발진 사고(지난해 9월) 당시 부서진 차량과 차고·거실. [중앙포토]

초지능이 어쩌면 30년, 50년, 아니면 100년 뒤에 나타날 수도 있다. 그러나 언제 만들어질지, 과연 만들어지기나 할지 그 가능성조차 알 수 없는 초지능을 현 단계에서 우려하는 것은 무의미하다고 전문가들은 지적한다. 공상과학에 불과한 존재 때문에 과도한 규제를 만들고 기술 발전을 막아서는 안 된다는 것이다. 브룩스는 "머스크는 초지능의 가능성 때문에 AI를 규제하자고 말한다. 그런데 존재하지도 않는 것을 어떻게 규제하는가? 초지능의 출현을 막으려면 어떤 규제가 필요한지 머스크도 모를 것"이라며 "차라리 테슬라의 자율주행차 AI 규제에 대해 논의해야 할 것이다. 그건 실제로 존재하는 문제"라고 꼬집었다.

현실과 거리가 먼 AI 종말론은 자율주행차가 일으키는 사고 등 현실에서 벌어지고 있는 AI의 문제들로부터 사람들의 관심을 멀어지게 만든다. 오렌 엣지오니 워싱턴대 컴퓨터공학과 교수는 "AI에 대한 우려 중에는 일자리 감소 등 논의가 필요한 것들도 많다"며 "그러나 초지능의 출현은 우리가 예상 가능한 시간대를 넘어서 있으며 현존하는 데이터로 입증할 수도 없다"고 지적했다.

이기준 기자 foridealist@joongang.co.rk