호킹·머스크·촘스키 “인공지능 킬러 로봇 개발 규제해야”

중앙일보

입력 2015.07.29 00:22

업데이트 2015.07.29 00:41

지면보기

종합 16면

“‘킬러 로봇’은 ‘내일의 칼라시니코프’가 될 수 있다.”

 세계적 천체 물리학자 스티븐 호킹과 전기자동차 제조업체 테슬라의 설립자 일론 머스크, 언어학자 노엄 촘스키, 애플의 공동 창업자 스티브 워즈니악 등 1000여 명의 학자·철학자·정보기술(IT) 전문가들이 27일(현지시간) 삶의미래연구소(FLI) 홈페이지에 공개한 서한에서 이같이 경고했다. 호킹·머스크·워즈니악 등은 인터넷 전화 스카이프의 공동 창업자인 얀 탈린이 지난해 설립한 FLI의 과학자문위원으로 활동하고 있다.

 호킹 등은 서한에서 “인공지능(AI) 기술을 활용한 자동화 무기, 일명 킬러 로봇 개발을 규제해야 한다”고 강조했다. 이들은 “자동화 무기 발전은 화약과 핵무기를 잇는 ‘제3의 전쟁 혁명’”이라며 “자동화 무기가 개발되면 암시장을 통해 테러리스트·독재자·군벌의 손에 들어가는 것은 시간 문제이기 때문에 국제 협약으로 개발을 엄격히 규제해야 한다”고 촉구했다.

 이들은 또 “자동화 무기는 인간의 개입 없이 사전에 설정된 기준에 따라 목표물을 선택해 공격한다는 점에서, 먼 곳에서 인간이 조종하는 무인항공기(드론)나 크루즈 미사일과는 다르다”고 규정했다. 핵무기와 비교해 가격이 상대적으로 싸고 구하기도 어렵지 않아 칼라시니코프(AK-47) 소총처럼 대량 생산돼 전세계에서 사용될 것이라고 우려했다. 이들은 “자동화 무기가 전투에 도입되는 것은 수십 년이 아니라 수년 안”이라며 “인간의 제어를 벗어난 이런 무기를 금지하는 법을 제정해야 한다”고 했다.

 영국 일간 인디펜던트는 자동화 무기의 실례로 지난해 국내 휴전선에 배치된 ‘보초 로봇’을 들었다. 한화테크윈(옛 삼성테크윈)이 개발한 ‘SGR(센트리 가드 로봇)-A1’은 비무장지대(DMZ) 등 허가 받지 않은 지역에 사람이 나타나면 자동으로 소총 사격을 해 격퇴하는 기능을 갖추고 있다. 다만, 실제 사격 판단은 로봇이 하지 않고 경계병이 맡는다. 특정 지역에 목표물이 들어왔으니 사격할지 말지를 결정해 달라고 요청하는 식이다.

 학자들이 이번 서한에서 강조하고 있는 것은 AI 자체에 대한 반대가 아니다. AI 자체는 인류에게 도움을 줄 수 있는 기술이지만, AI를 활용한 킬러 로봇이 인류에 비극을 초래할 수 있으므로 통제해야 한다는 주장이다. 이들은 “화학자·생물학자들이 생화학 무기 개발에 관심이 없는 것처럼 대다수 AI 연구자들은 AI 무기에 관심이 없다”며 “화학자들이 화학무기금지협약을 지지하고 물리학자들이 핵무기와 레이저 무기의 금지 및 개발 규제를 지지하듯 AI 학자들은 AI 무기 개발 금지와 규제를 촉구한다”고 밝혔다.

 학계와 국제사회가 킬러 로봇이나 AI의 위험을 경고한 건 이번이 처음은 아니다. 호킹은 지난해 말 BBC 방송과의 인터뷰에서 “완전한 AI의 개발은 인류의 종말을 초래할 수 있다”고 경고했다. 머스크는 올 초 “통제 불능의 AI는 잠재적으로 핵무기보다 더 위험하다”고 밝혔다. 워즈니악은 지난 3월 호주 언론과의 인터뷰에서 “머스크와 호킹의 예언처럼 AI가 사람들에게 끔찍한 미래가 될 수도 있다”고 말했다.

 유엔 차원에서도 킬러 로봇 개발규제협약을 만들기 위한 시도가 진행되고 있다. 2013년 유엔 특별보고관 크리스토프 헤인즈는 “킬러 로봇 개발을 금지해야 한다”는 보고서를 냈다. 지난해 11월엔 킬러 로봇의 잠재적 위험을 경고하는 유엔특별회의가 열렸다. 이 회의에서 인권단체 휴먼라이트워치(HRW) 등이 주도하는 킬러 로봇 반대 단체 ‘스톱킬러로봇’은 “인간이 킬러 로봇의 개발과 배치·운용 등을 제어할 최소한의 수단이 필요하다”며 “민간인 살상을 금지한 제네바 협약 같은 국제 규제를 마련해야 한다”고 주장했다.

  2차대전 때인 1947년 개발된 칼라시니코프는 지금까지 1억대 이상 생산돼 세계에서 가장 많이 팔린 자동 소총이다. 단순한 구조로 어떤 환경에서도 방아쇠를 당기면 발사되는 신뢰성과 한 시간만 배우면 어린이도 쏠 수 있는 단순한 조작법, 저렴한 가격의 삼박자를 갖춰 전세계 소총 5정 가운데 1 정이 이 계열이다. 이 때문에 민간인을 학살한 대표적 총기로 수많은 국제 분쟁에 등장한다.

 이 소총을 개발한 러시아인 미하엘 칼라시니코프는 생전에 “내 발명이 자랑스럽지만 테러리스트들이 사용한다는 점은 슬프다. 나는 항상 농기계를 만들기를 원해 왔다”고 말했다.

고란 기자 neoran@joongang.co.kr

ADVERTISEMENT
ADVERTISEMENT
ADVERTISEMENT

Innovation Lab

ADVERTISEMENT