인공지응(AI) 관련 이미지. 로이터=연합뉴스
유엔이 처음으로 인공지능(AI)에 관한 결의안을 채택했다. 부적절한 AI 개발의 위험성을 경고하고 디지털 격차 해소 등을 촉구하는 것이 골자로, 이를 위해 AI의 안전한 사용에 관한 국제적인 합의 마련이 시급하다는 내용 등이 담겼다.
21일(현지시간) AP통신 등에 따르면 유엔은 이날 총회에서 ‘지속 가능한 발전을 위한 안전하고 위험이 없으며 신뢰할 수 있는 AI 기회 활용’에 관한 결의안을 표결없이 컨센서스(전원동의)로 채택했다. 유엔에서 AI에 관한 결의안을 채택한 건 이번이 처음이다. 미국이 주도한 이번 결의안은 한국과 영국 등 미국의 우방국은 물론 중국도 참여했다.
결의안에서 유엔 회원국들은 “AI 시스템의 부적절하거나 악의적인 설계·개발·배포 및 사용은 인권과 기본적 자유의 보호·증진 및 향유를 약화할 수 있는 위험을 초래한다”며 책임 있는 AI 개발을 강조했다. 이와 함께 AI가 디지털 격차 확대, 구조적 불평등·편견 악화, 사생활 침해 같은 문제를 야기할 수 있다고도 지적했다.
이 같은 문제를 해결하기 위해 유엔 회원국들은 AI 시스템 수명 주기 전반에 걸쳐 인권과 기본적 자유가 존중·보호·증진돼야 한다고 결의했다. 또한 국가 내·국가 간 디지털 격차 해소를 위해 노력하고 이를 위해 AI 관련 논의에서 모든 회원국이 참여해야 한다는 내용도 결의안에 담았다.
인공지능 관련 유엔 결의안 채택을 주도한 린다 토머스-그린필드 주유엔 미국대사가 지난 18일 유엔 안전보장이사회에서 발언하고 있다. AP=연합뉴스
유엔총회 결의는 국제법상 구속력은 없지만, 만장일치로 회원국이 찬성했다는 점에서 향후 국제사회가 AI 관련 규제나 거버넌스 체계를 논의하고 마련하는 데 있어 기초가 될 전망이다. 결의안을 주도한 린다 토머스-그린필드 주유엔 미국대사는 유엔 총회 연설에서 “딥페이크와 같은 AI가 생성한 콘텐츠는 정치적 논쟁의 진실성을 훼손할 가능성이 있고, 알고리즘의 편향은 사회분열과 소수자 차별을 심화시킬 수 있다”고 말했다. 결의 채택 후엔 “193개 회원국 모두가 인공지능이 우리를 지배하는 게 아니라 우리가 인공지능을 지배하기로 결정했다. 획기적인 결의”라고 강조했다.
“AI 위험 피하려면 냉전시대 핵 다루듯 해야”
지난해 7월 중국 상하이에서 열린 세계인공지능회의(WAIC)에서 인공지능(AI) 로고가 장식돼 있다. 로이터=연합뉴스
최근 AI 안전 관련 논의는 이 분야 양대 강국인 미국과 중국을 중심으로 활발히 이뤄지고 있다. 중국 관영 CCTV와 영국 파이낸셜타임스(FT) 등에 따르면 지난 14일 서방과 중국의 주요 AI 과학자들은 AI 안전에 관한 국제회의를 열고 “AI 위험 피하려면 냉전시대 핵 다루듯 인류가 협력해야 한다”는 내용에 합의했다.
이날 회의엔 ‘딥러닝의 아버지’라 불리는 제프리 힌튼 토론토대 교수, 요슈아벤지오 몬트리올대 교수, 스튜어트 러셀 UC 버클리 교수 등이 참여했다. 중국에선 컴퓨터 분야 노벨상인 튜링상 수상자인 야오치즈(姚期智) 칭화대 교수, 장홍장(張宏江) 베이징 인공지능 아카데미(BAAI) 원장 등이 참석했다.
벤지오 교수는 “논의의 핵심은 강력한 AI 시스템이 지켜야 하고 전 세계 정부가 AI 개발 및 배포에 있어 설정해야 할 레드라인에 관한 것이었다”고 말했다. 성명에선 밝힌 레드라인에는 “어떤 AI 시스템도 인간의 명시적인 승인과 도움 없이 스스로를 모방하거나 개선할 수 없어야 하며, 자신의 힘과 영향력을 부당하게 증가시키기 위한 조치를 취해서도 안 된다”는 내용이 담겼다.
성명에는 또 “어떤 시스템도 대량 살상무기를 설계하거나 생화학무기 협약을 위반하도록 능력을 실질적으로 증가시켜서는 안 되며 심각한 재정적 손실 또는 이에 상응하는 피해를 줄 수 있는 사이버 공격을 자율적으로 실행할 수 있어서는 안 된다”는 것도 포함됐다.
