美 “인간이 통제·개입 유지해야”…군사적 AI 사용 선언문 공개

중앙일보

입력

보니 젠킨스 미국 국무부 군비통제·국제안보 담당 차관이 지난 15일(현지시간) 네덜란드 헤이그에서 열린 '군사적 영역에서의 책임 있는 인공지능에 관한 장관급 회의'(REAIM 2023)에서 발표하고 있다. REAIM 2023.

미국 국무부가 16일(현지시간) 인공지능(AI)을 군사적으로 책임 있게 사용하기 위한 가이드라인을 담은 선언문을 공개했다.

국무부는 이날 보도자료를 통해 군이 어떻게 책임 있게 AI와 자율성을 작전에 사용할 것인가에 대한 국제적 콘센서스를 구축하기 위한 차원에서 이 선언문을 ‘군사적 영역에서의 책임 있는 인공지능에 관한 장관급 회의’(REAIM 2023)에서 공개했다고 밝혔다.

선언문은 ▶각국에 군사적 AI 능력이 국제법과 일치시키는 데 필요한 조치를 취하고 ▶ 핵무기와 관련한 주권적 결정을 실행하는 데 필수적인 조치에 인간의 통제와 개입을 유지하며 ▶ 무기 시스템을 비롯해 후과가 큰 모든 군사적 AI 능력의 개발 및 전개시 고위 정부 관료의 감독을 보장할 것 등을 촉구하고 있다.

여기에는 군사적인 AI 시스템이 감사가 가능하도록 하고 명시적이고 잘 정의된 용도로 사용되도록 하며 수명 전반에 걸쳐 엄격한 테스트 및 평가를 받도록 하고 의도치 않은 행동을 할 경우 비활성화할 수 있도록 하는 것 등도 포함된다.

국무부는 “우리는 군이 AI와 같은 신기술을 책임 있게 사용하도록 보장하는 것을 공동의 도전 과제로 보고 있다”며 “우리는 이 선언문이 AI와 자율성의 책임 있는 사용을 보장하는 데 필요한 국제사회에서의 원칙과 관행에 대한 토대로 역할을 할 수 있다고 믿는다”고 밝혔다.

한국과 네덜란드가 공동으로 헤이그에서 15~16일 주최한 REAIM 2023은 AI의 책임 있는 군사적 사용이라는 주제를 다룬 첫 국제회의다.

국무부는 “이 주제를 적시에 논의하기 위한 REAIM 회의를 한국과 네덜란드가 공동 주최한 것에 대해서 평가한다”고 말했다.