영화 ‘터미네이터’에서 미국의 국방용 컴퓨터 프로그램은 스스로에 대해 생각하는 자각 능력을 갖추게 된다. 인간이 곧 자신을 파괴할 것으로 예상하는 이 프로그램 속의 인공지능(AI)은 핵무기와 살상 로봇 ‘터미네이터’를 이용해 인류를 멸망시키려 한다.
뉴욕 타임스(NYT)는 26일 이 영화처럼 가공할 능력을 갖춘 것은 아닐지라도 초보적 자각 능력을 가진 인공지능 로봇이 제작되기 시작했다고 보도했다. 미국 로봇 제작 업체 윌로 게라지가 지난달 공개한 가정용 로봇은 배터리가 방전되면 자동으로 콘센트를 찾아 충전을 시작한다. 로봇이 스스로 생존할 능력을 갖춘 것이다. 신문에 따르면 미국이 보유한 무인 정찰기는 머지않아 사람을 발견하면 스스로 공격 여부를 결정할 수 있게 된다.
마이크로소프트(MS)가 개발한 컴퓨터는 인간의 고통에 공감하도록 프로그램됐다. 어머니가 “아이의 귀가 아프다”고 말하면 인간 얼굴 모습의 컴퓨터 화면에서 “안됐다”고 말하는 식이다.
컴퓨터 과학자와 인공지능 연구가, 로봇 공학자들로 구성된 미국 인공지능발전협회(AAAI)는 최근 인간을 위협할 수 있는 인공지능 기술에 대해 토론을 벌이기 시작했다. 과학자들은 멀지 않은 미래에 인공지능이 스스로 인간을 공격하는 능력을 갖출 것이라고 내다봤다. NYT는 AAAI가 이 같은 일에 대비하기 위해 기계가 인간의 통제를 벗어날 가능성을 측정하는 기준을 마련할 계획이라고 보도했다.
1975년 유전자 조작 기술에 관한 대책회의를 주도했던 폴 버그 노벨 화학상 수상자는 “손을 쓸 수 없는 상황에 이르기 전에 과학자들이 조치를 취하는 게 필요하다. 이대로 방치하면 유전자 변형 식품 문제처럼 복잡하고 어려운 과제가 된다”고 지적했다.
공상과학 소설가인 아이작 아시모프는 1950년 발간한 소설 『아이로봇』에서 지능형 로봇이 인간에게 해를 끼치지 못하도록 로봇 행동 세 가지 법칙을 제시했다. 1법칙은 로봇은 인간에게 해를 끼쳐서는 안 되며, 위험에 처해 있는 인간을 방관해서도 안 된다. 2법칙은 로봇은 인간의 명령에 반드시 복종해야만 한다. 단, 제1법칙에 거스를 경우는 예외다. 3법칙은 로봇은 자기 자신을 보호해야만 한다. 단, 제1법칙과 제2법칙에 거스를 경우는 예외다. 세 가지 법칙을 어길 경우 작동을 멈추도록 프로그램하면 로봇은 인간을 공격할 수 없게 된다.
김민상 기자
