[최계영의 중국 프리즘] 중국의 글로벌 인공지능 거버넌스 이니셔티브: 글로벌 사우스(Global South)를 향한 리더십 경쟁

중앙일보

입력

이미 중국에서 인공지능은 효율적인 공공 서비스 제공은 물론이고 감시 통제에도 적극적으로 활용되고 있다. 셔터스톡

중국은 지난 10월 20일 제3차 일대일로 포럼에서 ‘글로벌 인공지능 거버넌스 이니셔티브’를 발표했다. 미국의 대중 반도체 추가 제재 발표 직후이자, 영국이 주최하는 글로벌 인공지능 서밋(summit)이 다가오는 와중에 발표된 글로벌 인공지능 거버넌스 이니셔티브는 서방과 중국 간에 글로벌 인공지능 거버넌스를 둘러싼 리더십 경쟁이 본격화되고 있음을 우리에게 새삼 일깨워주고 있다.

중국의 글로벌 담론과 인공지능 거버넌스 이니셔티브

필자가 지난 칼럼에서 소개한 글로벌 개발, 안보 및 문명 이니셔티브에서 알 수 있듯이, 중국의 글로벌 담론은 언제나 인권과 같은 서구식 ‘보편 가치’보다는 주권국 간의 동등한 권리와 기회를 강조해 왔다. 중국이 제창한 글로벌 인공지능 거버넌스 이니셔티브도 예외가 아니다. 중국이 강조하는 거버넌스의 주요 원칙에는 개인 정보의 보호는 물론이고 인공지능 기술 개발, 알고리즘 디자인, 데이터 수집 과정에서의 공평성, 비차별성이 포함되어 있다. 그리고 각국의 주권, 법체계를 존중해야 하고 모든 국가가 그 규모나 국력, 사회체제와 무관하게 인공지능의 개발 및 이용에서 동등한 권리를 가져야 함도 강조되고 있다.

하지만 안보를 명목으로 공안이 특별한 제동 장치 없이 개인 정보나 알고리즘에 언제나 접근, 간여할 수 있는 국가가 바로 중국이다. 즉, 중국에서는 개인을 보호하기 위한 원칙의 실현이 어려우며, 모든 국가가 인공지능의 운용에 있어서 독자성을 존중받아야 한다는 것은 사실상 인공지능의 남용을 ‘주권’의 이름 하에 허용해야 함을 의미하는 것이다.

중국이 인공지능 거버넌스에서 공공 담론 조작이나 허위정보 유포, 타국의 사회제도나 안정, 내정에 간섭함을 반대하는 입장을 표명하는 것에도 주목할 필요가 있다. 사실 중국은 온라인 영향 공작(Influence Operation)을 통해 타국의 선거에 개입하는 대표적인 국가로 지목되고 있다. 이미 캐나다, 미국, 호주, 대만의 정보당국은 중국이 자국의 선거에 개입하였음을 지적한 바 있으며(물론 중국은 부인하고 있다), 인공지능을 활용한 영향 공작, 선거 개입 가능성에 많은 국가가 우려하고 있는 것이 작금의 현실이다.

한편, 중국 입장에서는 중국 및 중국의 우호국에 대한 서방의 ‘악의적’ 영향을 차단하는 것도 글로벌 거버넌스의 중요한 요소가 된다. 내정 간섭은 나만 하는 것이지 남이 나에게 해서는 안 되는 것이다. 더 나아가, 글로벌 인공지능 거버넌스 이니셔티브는 ‘... 인공지능 개발에 특정국들만의 배타적 그룹이나 이데올로기적 구분을 형성하려는 시도, 그리고 글로벌 인공지능 공급망을 교란하는 시도(즉, 반도체 제재)를 반대’함과 동시에 인공지능 발전에 있어서 개도국과의 협력과 지원을 강조한다. 이러한 입장은 향후 창설이 예상되는 UN의 인공지능 거버넌스 관장 기구에서 중국의 영향력을 증대하고자 하는 의도로 해석된다.

인공지능 거버넌스의 중국적 특색과 글로벌 사우스

그렇다면, 인공지능 거버넌스에 대한 각국의 독자적 주권 존중이라는 기치 아래 중국이 추구하는 인공지능 거버넌스, 더 일반적으로는 인터넷 거버넌스는 어떤 것일까? 이미 중국에서 인공지능은 효율적인 공공 서비스 제공은 물론이고 감시‧통제에도 적극적으로 활용되고 있다.

중국은 프라이버시보다 편리성, 안정성을 더 우선시하는 공리주의적 자세가 더 우세한 사회이다. 즉, 공공질서 확보나 범죄 억제를 통하여 사회의 행복 총량의 최대화에 기여한다면 개인의 자유 침해도 가능한 사회가 중국이며 공공질서 확보를 위해서는 당의 영도적 지위에 대한 비판을 불가능하게 하는 모든 조치가 허용됨은 물론이다. 이런 사회에서는 목적 달성을 위해 분야를 가리지 않고 인공지능에 의존할 수 있으며, 그 극단적 사례가 바로 신장 위구르 지역 통제인 것이다.

하지만 많은 개도국에게는 인공지능을 자신들의 목적에 맞게 경제적, 사회적 용도로 사용하는 것을 중국이 지원해 준다면 중국식 거버넌스가 어떤 것이든 상관이 없다. 더구나 중국식 거버넌스가 특정 국가, 정부의 의도에 부합하는 경우도 적지 않을 것이다. 그리고 그 결과는 일대일로 및 디지털 실크로드의 연장선상에서 글로벌 인공지능 산업, 표준, 거버넌스에 대한 중국의 영향력 확대가 될 것이다. 그런 의미에서, 3차 일대일로 글로벌 포럼은 중국이 글로벌 인공지능 거버넌스 이니셔티브를 제창하는 데 최적의 무대였던 것이다.

인공지능 거버넌스의 미래와 우리

인공지능 거버넌스가 글로벌 이슈로 부상한 이유는 혁신의 주도권 경쟁만큼이나 인공지능이 제기하는 글로벌 차원의 리스크를 누가, 어떤 영역에서, 어떻게 다루어야 할지를 아직 알지 못한다는 데 있다. 현재 서방 세계의 인공지능 거버넌스의 핵심은 인공지능을 이용하는 서비스별로 리스크를 평가하여 규제하는, ‘리스크 기반 접근방식’(risk-based approach)이다. 특정 인공지능 서비스가 차별, 감시와 같이 개인의 자유나 인권을 침해할 리스크는 물론이고 바이오 또는 사이버 무기의 확산과 같이 사회적, 안보적 리스크를 증대시킬 경우 그 이용에 제한을 가하고 적절히 관리하는 것이 그 핵심이다.

하지만 최근에는 이용 서비스가 아니라 최첨단 인공지능 모델 자체를 규제하거나 강력한 규제기관을 창설하자는 주장도 힘을 얻고 있다. 특히 인공지능이 선거 개입과 같이 민주주의 과정 자체를 위협할 수 있다는 점이 주목받고 있다. 지난 49회 G-7에서 주창된 ’히로시마 인공지능 프로세스‘는 일반적인 거버넌스 정책뿐만 아니라 허위정보 등 외국의 정보 조작(manipulation)에의 대응을 명시하고 있다. 한편, 최근에 정부가 발표한 ’디지털 권리장전‘은 서방진영의 인공지능 거버넌스의 기초인 자유, 인권과 같은 보편적 가치를 우리도 공유하고 있음을 보여준다.

그러나 보편적 가치의 공유가 모든 국가로 확산되기 위해서는 개도국, 글로벌 사우스에 대한 경제적 리더십이 필수적이다. 서방이 경제적, 산업적인 측면에서 현실적인 혜택을 제공하지 못하면 아무리 올바른 거버넌스를 추구하더라도 글로벌 차원에서 주도권을 확립하기 어려울 것이다. 이와 관련하여, 미국을 비롯한 서방 주요국들이 인공지능 분야의 글로벌 개발 협력에 얼마나 중점을 둘 것인지 지켜볼 필요가 있다. 우리도 인공지능 거버넌스가 경제, 안보, 민주주의에 걸친 중대한 이슈라는 인식하에 인류의 보편 가치가 위협받지 않도록 서방 선진국은 물론이고 개도국과도 기술‧산업‧가치협력을 강화해 인공지능이 인류의 발전에 순기능을 하도록 기여해야 할 것이다.

이는 단순히 남에게 기여한다는 차원의 문제가 아니며 허위정보, 선거 개입과 같은 인공지능의 위협으로부터 우리 자신을 보호하기 위해서도 중요하다. 지난 한‧미‧일 켐프 데이비스 공동성명이 해외의 정보 조작과 감시 기술의 오용, 허위 정보의 위협에 대한 대응능력 조율을 강조한 것은 참으로 시의적절하다고 할 수 있다. 이러한 공조 체제가 강화될수록 진정한 의미에서의 ‘인공지능 주권’을 담보하고 중국이 강조하는, 각국이 자신의 인공지능 주권을 확보해야 한다는 글로벌 인공지능 거버넌스의 액면가치에도 부합할 수 있을 것이기 때문이다.

최계영 정보통신정책연구원 선임연구위원