지난해 연말 서울 상공에 몰래 침투한 북한 무인기. 이 무인기는 그저 날아다니다가 북한으로 되돌아갔다. 그런데 이 무인기가 깡통이 아니라 스스로 자율 비행을 할 수 있다면? 자율 비행을 하면서 목표를 식별해내 공격할 수 있다면?
이건 SF 영화 속에서 등장하는 장면이 아니다. 3년 전 리비아에서 이런 상황이 벌어졌다. 인공지능(AI)형 드론이었다.
천재 물리학자 스티븐 호킹은 생전 “AI 무기는 내일의 칼라시니코프(AK-47 소총)가 될 것”이라는 묵시록을 남겼다. 그는 석학·기업가 1000여 명과 함께 2015년 발표한 공개서한에서 ‘싸고 쉽게 구할 수 있지만 치명적인 무기’의 대명사인 AK-47 소총처럼 ‘킬러 로봇’이 만연한 시대가 올 것이라고 예언했다. 영화 속 터미네이터가 지배하는 세상을 연상케 하는 섬뜩한 경고였다.
그러나 영화는 이미 현실이 되고 있다. 우크라이나를 비롯한 여러 전장에서 AI 무기는 아무런 규제 없이 버젓이 인간 사냥에 쓰이고 있다. 이를 규제할 출구도 잘 보이질 않는다. 킬러로봇·드론(무인기) 등 능동지능을 갖춰 인간의 조종 없이도 알아서 공격하는 ‘치명적 자율무기(Lethal Autonomous Weapons·LAWs)’가 우후죽순 개발되는 ‘AI 군비경쟁’ 시대다.
그 끝이 어디인지 모를 AI 무기 개발 경쟁은 핵무기만큼이나 인류를 위협하고 있지만 현실은 암울하다. 지난 6일 블룸버그에 실린 ‘AI는 인류엔 좋을 수 있지만, 전쟁에는 매우 나쁘다’는 칼럼은 AI 군비통제가 왜 그토록 어려운지 구체적으로 설명한다. 이젠 핵무기보다 AI 무기가 더 두려운 시대가 왔다.
