AI가 인류 멸망시킨다? 전문가 “AI 종말론은 기우”

“인공지능(AI)이 북한보다 훨씬 위험하다.” 인간을 뛰어넘는 AI의 현실화 가능성을 두고 일각에서 경계심이 확산되는 가운데 일런 머스크 테슬라 최고경영자(CEO)가 지난 12일(현지시간) 트위터를 통해 AI의 위험성을 경고하며 규제 필요성을 강조했다. 전날 머스크가 투자한 업체 오픈AI의 AI가 컴퓨터 전략 게임 ‘도타2’에서 세계 정상급 선수를 상대로 승리를 거두자 내놓은 논평이다. 머스크는 “온라인 게임은 체스나 바둑 등 전통적인 게임보다 훨씬 복잡하다”며 우려를 표했다.

머스크 “AI는 북한보다 훨씬 위험” #MIT 전 인공지능연구소장 브룩스 #“AI 분야에서 일 안 해 몰라” 일축 #인간 수준 초지능AI 등장엔 회의적

머스크는 AI가 인류를 멸망시킬 위험이 있다고 경고해 온 인물들 가운데 하나다. 이밖에 빌 게이츠 마이크로소프트 설립자, 미래학자 레이 커즈와일, 물리학자 스티븐 호킹 등도 ‘AI 종말론’을 펼쳐왔다.

하지만 현업에 종사하고 있는 대다수 AI 전문가들은 걸음마 단계에 불과한 현 수준에서 AI 위협을 걱정하는 것은 기우라고 본다. 매사추세츠공과대(MIT) 컴퓨터공학·인공지능연구소 초대 소장을 지낸 로드니 브룩스는 지난달 IT전문매체 테크크런치 인터뷰에서 “AI가 인류에게 위협적이라고 주장하는 사람들의 공통점은 그들이 AI 분야에서 직접 일하지 않는다는 것”이라며 “AI를 만드는 사람들은 AI가 제대로 작동하도록 만들기가 얼마나 어려운지 잘 안다”고 주장한다.

브룩스에 따르면 현 단계의 AI는 설계된 대로 아주 특수한 목적을 위해서만 일을 처리할 수 있는 연산 도구에 가깝다. “알파고가 바둑에서 이세돌을 이겼다고 해서 알파고가 지능이 뛰어나고 그 지능으로 다른 일도 잘하는 것은 아니다”라는 게 브룩스의 설명이다.

전문가들은 AI에 대한 대중의 막연한 공포가 종종 AI를 향한 잘못된 인식으로 이어진다고 지적했다. 이 같은 착오를 가장 잘 보여준 사건이 지난달 31일 벌어졌던 페이스북의 AI 강제종료 해프닝이다. 페이스북이 자체 개발한 AI가 실험 도중 인간이 알아듣지 못하는 언어를 개발해 서로 대화를 나누다 페이스북 측에 의해 강제 종료됐다. 일부 언론에서 이를 ‘AI의 위협’, ‘AI가 비밀 대화 나누다 적발’ 등 자극적인 제목으로 다루면서 사람들의 공포가 극대화됐다.

하지만 페이스북 측에 따르면 AI를 종료한 것은 AI가 너무 똑똑해서 인간 몰래 대화를 나눌까 두려워서가 아니라 애초 설계된대로 영어로 하지 못하고 자신들만의 언어를 만들었기 때문이다. 영어가 아닌 언어를 사용했다는 점을 제외하면 대화 내용은 설계된 프로그램에서 벗어나지 않았다고 페이스북 측은 밝혔다.

전문가들은 AI가 인간처럼 모든 분야에서 자유롭게 사고하면서 인간보다 훨씬 뛰어난 연산력을 갖춘 ‘초지능’으로 발전할 가능성에 대해서도 회의적이다. 지난해 3월 전미인공지능학회(AAAI)가 AI 연구자 80명을 대상으로 실시한 설문조사에서 67.5%가 초지능이 나타나기까지 최소 25년 이상이 걸릴 것이라고 응답했다. 25%는 초지능이 불가능하다고 답했고, 10년에서 25년 내에 등장할 것이라고 답한 사람은 7.5%에 그쳤다.

오렌 엣지오니 워싱턴대 컴퓨터공학과 교수는 IT전문지 MIT테크놀로지리뷰 기고문에서 “AI에 대한 우려 중에는 일자리 감소 등 논의가 필요한 것들도 많다”면서도 “그러나 초지능의 출현은 우리가 예상 가능한 시간대를 넘어서는 문제”라고 지적했다.

이기준 기자 foridealist@joongang.co.kr