인류의 잠재적 위험 AI…인간의 감시망 안에 넣어야

유창동 KAIST 전기 및 전자공학부 교수

2019년 3월 세계 생명공학계가 연구중단을 선언한 일이 있었다. 미국 매사추세츠공대(MIT) 등의 세계 과학자들은 국제학술지 ‘네이처’를 통해 정자·난자 같은 인간 생식세포와 수정란을 이용한 유전자 편집 기술의 임상 적용을 잠정 중단하자는 ‘모라토리엄 선언’을 촉구했다. 그 전 해 11월  중국 허젠쿠이(賀建奎) 중국 남방과기대 교수가 유전자를 조작해 일명 ‘디자이너 베이비’를 탄생시킨 뒤의 일이었다. 공상과학(SF) 영화에서나 볼 수 있던 일이 실제로 일어난 것이다.

그로부터 불과 4년 뒤, 생명공학에서 일어났던 일과 비슷한 움직임이 인공지능 분야에서 일어나고 있다. 인공지능(AI) 분야의 저명한 학자인 제프리 힌턴은 인공지능의 잠재적 위협을 세상에 알리기 위해 10년 동안 일했던 구글을 퇴사했다. 힌턴 박사는 1980년대에 인공지능이 데이터로부터 지식을 습득하도록 하는 알고리즘을 발표했고, 2012년에는 제자들과 공동으로 1000여 종류의 이미지를 매우 정확하게 분류하는 인공지능 모델을 공개하는 등 생성형 AI 개발의 필수적 토대가 된 여러 기술을 개발한 업적이 있다. 그러나 구글은 힌턴의 퇴사 소식이 화제가 되는 와중에도 생성형 AI에 대한 투자 확대를 선언했으며, 연례 개발자 콘퍼런스인 ‘구글 I/O’에서 구글 문서 도구를 비롯해 자사의 모든 서비스에 AI를 탑재하는 계획을 재확인했다.

세계적 석학도 우려한 인공지능
삶에 미칠 부정적 영향 적지않아
우려 속에도 개발 멈추긴 어려워
AI업계 비전의 맹목적 수용 안돼

“AI, 인간지능과 동떨어져 있어”

전 세계적으로 인공 지능(AI)의 위험성을 우려하는 목소리가 높아지면서 무분별한 연구개발을 막아야 한다는 움직임이 일고 있다. [사진 플리커닷컴]

힌턴은 인공지능 분야에 전념해 온 그의 일생에 대하여 회의감을 드러내면서, 현재 개발되는 인공지능은 인간의 지능과는 매우 동떨어져 있다고 주장했다. 힌턴은 현재 인공지능이 악의적인 사용자에 의해 가짜 정보를 대량으로 생산하는 데 쓰일 수 있다는 점을 우려했고, 정치인들이 인공지능 챗봇을 이용해 인터넷의 여론을 조작할 가능성에 대해서도 언급했다. 또한, 앞으로 인공지능이 사람들의 수많은 일자리를 잠식할 수 있다는 점을 예로 들면서 인공지능 개발이 사람들의 삶에 미칠 부정적인 영향에 대해 경고했다.

인공지능에 대한 우려 목소리에도 불구하고 AI 산업의 성장과 발전을 멈추기는 어려워 보인다. 힌턴은 인공지능을 둘러싼 국가 간 산업 경쟁으로 인해, 특정 국가가 인공지능의 개발 중단에 나선다고 해도 다른 국가들이 이에 동참하지는 않을 것이라고 지적했다. 한편, 캘리포니아 대학교 버클리 캠퍼스의 스튜어트 러셀 교수는 기업 간 경쟁을 비롯한 경제적·자본적 이유로 인해 인공지능의 지속적인 연구와 개발이 불가피하다고 주장했다. 러셀 교수는 현재 자율주행 자동차, 개인 비서 소프트웨어 등의 분야에서 이러한 요인이 실제로 작용한다고 언급했다.

인공지능 산업이 지금과 같이 계속해서 성장한다면 결국 모든 분야에서 활용할 수 있는 ‘범용 인공지능’이 탄생할 것으로 예상된다. 범용 인공지능이 상용화한다면 인간 사회는 분명히 큰 발전을 이룰 것이다. 예를 들어, 공급망에서 불필요한 인건비를 줄여 전 세계 사람들에게 높은 수준의 생활을 제공할 수 있다. 러셀의 논문 ‘If We Succeed’(우리가 성공한다면)에 의하면, 이는 전 세계 GDP를 10배 가까이 증가시키는 효과로 이어진다. 고도로 발달한 인공지능은 인간이 현재 이루지 못하는 많은 것들을 가능하게 한다. 사람들은 자신보다 더 우수한 지능에 접근하여 고난도의 일을 해결하고, 개인에게 최적화된 교육 서비스를 활용함으로써 지식을 지금보다 훨씬 효율적으로 습득할 수 있다. 결과적으로 우리의 지능은 더 이상 우리의 삶을 속박하지 않을 것이며, 인간의 행동반경은 오로지 물리법칙에 의해서만 제한될 것이다.

범용 인공지능, GDP 10배 증가시켜

그러나 러셀의 저서 『어떻게 인간과 공존하는 인공지능을 만들 것인가』(원제:Human Compatible)에 따르면, 인공지능이 학습을 통해 얻은 사고방식은 인간의 가치관과 어긋날 가능성이 크다. 러셀은 현재 인공지능의 훈련에 사용되는 단순하고 경직된 기준으로는 인간의 가치관을 인공지능에 가르치기는 불가능하며, 인공지능은 성능이 향상됨에 따라 오히려 인류를 위험에 빠뜨리게 될 것이라고 말한다. 러셀은 기계가 인간의 선호를 이해하기 위해 지속적으로 질문을 하며 인간과 상호작용해야 한다고 제안한다. 이런 과정을 통해 기계는 인간과 협력적인 관계를 구축하고, 사람들이 제공하는 피드백을 통해 자신의 사고방식을 유연하게 수정해야만 인간의 선호에 맞출 수 있다. 이렇게 될 때, 기계는 미리 프로그래밍 된 명령이나 강제된 목표에만 의존하여 의사결정을 내리지 않고, 인간의 가치관에 더욱 부합하는 방식으로 행동할 것이다.

결국 인공지능은 수많은 비판과 논쟁 속에서도 끊임없이 연구·개발돼 점차 우리 사회 발전의 주요 원동력이 될 것이고, 사람들의 생활에 깊이 스며들 것이다. 그렇다고 해서 우리가 이러한 현상을 수용하고 지켜보기만 해도 되는 것은 아니다. 우리는 인공지능 업계에서 제시하는 비전을 맹목적으로 받아들이는 것을 뛰어넘어, AI가 사람들의 선호와 윤리관에 부합하는 방향으로 치밀하게 개발되도록 지속적으로 비판하고 감시해야 한다. 그뿐만 아니라, 인공지능을 우리에게 도움이 되는 방향으로 활용하기 위해서는 사회 구성원 간의 적극적인 의사소통 및 교육이 필요하다. 맥스 테그마크가 그의 저서 『Life 3.0』에서 주장한 것처럼, 인공지능 시대는 그저 주어진 운명이 아니라 우리가 노력을 통해 만들어가야 하는 미래다.

유창동 KAIST 전기 및 전자공학부 교수