과거 진실 위조해 현재와 혼합…‘역사의 종말’ 시대 온다

중앙선데이

입력

업데이트

김대식의 ‘미래 Big Questions’<3> 진실의 미래는?

메인

기후변화 덕분에 날마다 40도 넘는 무더운 203x년 여름. 포퓰리즘과 반독재 국가들이 대부분인 세상에 얼마 남지 않은 민주주의 국가 중 어느 한 곳. 대선이 일주일도 남지 않았는데 여당과 야당 후보의 예측된 표차는 여전히 막상막하다. 이때 핵폭탄급 동영상 한 편이 인터넷에 등장한다. 이미 보편화한 6G 통신망 덕분에 걷잡을 수 없는 속도로 빠르게 퍼진 동영상에선 후보 중 한 명이 마약을 하며 자신이 대통령 되도록 도와준다면 특정 국가와 기업에 엄청난 혜택을 주겠다고 약속한다. 다음날 나라는 발칵 뒤집힌다. 동영상 인물이 절대 본인이 아니라고 주장하지만, 누가 보더라도 그 후보의 얼굴과 목소리였고, 당일 그의 알리바이 역시 분명하지 않았다. 그래서였을까? 다음 주 대선에선 경쟁 후보가 근사한 차이로 승리한다.

6G 통신망 타고 가짜 동영상 기승 #대선 결과도 좌지우지할 가능성 #‘세상을 알아보는 기계’ 등장 주목 #인공지능 덕에 거짓도 대량생산

새 정부가 들어선 지 6개월 후. 충격적인 사실이 밝혀진다. 바로 그 동영상이 컴퓨터 천재이기로 유명한 고등학생이 장남 삼아 인공지능 기술로 만들어낸 가짜 동영상이었다는 것이다. 긴급 기자회견을 연 대통령은 본인의 대선 승리와 가짜 동영상과는 인과관계가 없다고 주장한다. 동영상 없이도 본인이 승리했을 거란다. 인과관계를 증명하는 건 사실 현실적으로 불가능하다. 통계학적으로 의미 있는 결과를 얻으려면 가짜 동영상의 존재를 랜덤으로 바꿔가며 동일한 선거를 수백 번 반복해봐야 할 테니 말이다. 반대로 대선에서 패배한 후보는 강하게 인과관계를 주장하고, 대선 결과를 절대 인정할 수 없으며 헌법재판소에 소송을 걸겠다고 선언한다.

GAN 기술로 기계 스스로 데이터 생성

과거 공상과학 영화에서나 등장하던 인공지능. 기계에 논리와 수학을 통해 세상을 설명해 주려던 시도들은 대부분 실패하고 인공지능 분야가 긴 겨울에 빠져있던 2000년도. 제프리 힌턴(Geoffrey Hinton), 얀 르쿤(Yann Lecun) 그리고 조슈아 벤지오(Yoshua Bengio) 교수와 연구진들의 혁신적인 결과를 통해 인공지능은 ‘딥러닝’이라는 새로운 이름으로 재탄생한다. 딥러닝은 무엇이었던가? 인간의 뇌를 모방한 인공신경망을 사용해 기계에 학습 능력을 부여하자는 아이디어였다. 이 단순한 발상의 결과는 뜻밖에도 기대 이상이었다. 지난 50년간 풀리지 않았던 많은 문제가 빠르게 풀리기 시작했으니 말이다.

가장 먼저 풀린 문제는 물체 인식이었다. 교통상황을 실시간으로 인식할 수 있기에 이제 자율주행 차를 상상해볼 수 있고, 딥러닝으로 무장한 기계는 헤어스타일과 나이가 바뀐 얼굴 역시 동일한 인물로 정확히 인식한다. 중국 여러 공공장소에서 이미 딥러닝 CCTV를 사용해 반정부 인물들을 식별하려고 시도하는 이유다. 그렇다면 이런 생각을 해볼 수 있겠다. 우리 후손들은 우리가 사는 지금 이 시대에 이름을 붙여줄 수 있겠다. 바로 기계가 세상을 알아보기 시작한 시대라고. 중세기, 르네상스, 근대시대… 우리는 과거 시대에 이름을 붙여준다. 물론 중세기에 살았던 본인들은 자신이 중세기에 살았는지 알 리 없었다. 고대 시대와 르네상스 시대 사이 어정쩡하게 끼어있는 ‘중간 시대’라는 기분 나쁜 이름을 역사학자들이 지어주었을 뿐이다. 비슷하게 역사적으로 21세기를 대표하는 가장 중요한 사건은 지금 이 시대를 사는 우리에게 중요한 포퓰리즘도, 세계화 붕괴도 아닌, 스스로 세상을 알아보는 기계의 등장이라고 미래 역사학자들은 평가할 수 있다는 말이다.

세상을 알아보는 기계. 어쩌면 우리는 이제 되돌릴 수 없는 판도라의 상자를 열어 버렸는지도 모른다. 인간이 만들어낸 데이터를 통해 학습하던 기계는 이제 스스로 새로운 데이터를 만들기 시작했다. 바로 생성적 적대 알고리즘 (Generative Adversarial Network, GAN)이라는 기술의 등장 덕분이다. 기존 기계학습은 대량의 라벨된 데이터가 필요하다. ‘고양이’를 알아보는 기계를 만들기 위해서는 고양이 사진과 고양이라는 정답이 함께 주어져야 한다는 말이다. 소비자들이 라벨링한 천문학적 데이터를 이미 확보한 구글, 페이스북 같은 특정 기업들이 미래 산업을 독점할 수 있겠다고 걱정한 젊은 공학자 이안 굿펠로우(Ian Goodfellow)는 그렇기에 2014년 GAN을 제시한다. 물체 인식을 하는 ‘인식기’와 데이터를 만들어내는 ‘생성기’를 서로 경쟁시킨다면 소비자 라벨링 없이도 인식기가 알고 있던 진짜 데이터와 구별할 수 없는 새로운 데이터를 만들 수 있지 않을까? 인공지능이 가짜 데이터를 대량생산하기 시작한 시점이었다.

할리우드 영화배우를 닮은 가짜 인물들이 미래 영화에서 주연으로 등장하고, 나와 내 가족들과 비슷한 얼굴들 역시 대량 생산될 수 있다. 조금 더 발전된 기술을 사용하면 유명 정치인들의 얼굴, 행동, 그리고 목소리 역시 GAN을 통해 무한으로 왜곡할 수 있겠다. 현대사회에서의 핵심인 개인과 개인, 국가와 국민과의 신뢰관계를 단 한 번에 무너트릴 수 있는 방법들이다. 그렇다면 여기서 질문해 봐야겠다. 도대체 진실과 거짓의 차이는 과연 무엇일까?

진실이 무엇인지 정의하긴 어렵지만, 중요한 것은 진실은 단 하나지만 무한으로 다양한 거짓이 가능하다는 점이겠다. 지금까진 진실과 거짓 모두 사람을 통해서만 만들어질 수 있었다. 하지만 인공지능과 GAN 덕분에 이젠 거짓의 대량생산이 가능해졌다. 진실은 여전히 사람을 통해 만들어지는 단 하나의 독특한 현상이지만, 기계가 만들어낸 거짓은 무한의 반복과 다양성을 가질 수 있다. 단 하나의 진실과 무한의 거짓이 경쟁할 미래 인터넷 공간. 이 싸움에서의 승자가 누구일지 예측 가능하지 않을까?

조지 오웰(1903~1950).

역사란 무엇일까? 미래도, 현재도 아닌 과거에 대한 이야기이며, 지금까지의 과거는 더는 바꿀 수 없는 것들의 합집합이었다. 물론 과거 기록을 위조하려는 시도는 언제나 있었다. 조지 오웰의 『동물농장』에서 “모든 동물은 평등하다”라고 주장하며 인간을 몰아낸 돼지들이 동물농장의 구호를 “모든 동물은 평등하다. 그러나 어떤 동물은 다른 동물들보다 더 평등하다”라고 살짝 바꿔 놓았던 것처럼 말이다. 하지만 오프라인 상태의 아날로그 기록을 완벽히 왜곡하기는 쉽지 않다. 언제나 흔적과 기억이 남기 때문이다. 인류 최악의 인종주의 극우파였던 나치들. 아이러니하게도 나치 정당의 공식 이름은 ‘국가사회주의 독일 노동자당(Nationalsozialistische Deutsche Arbeiterpartei, NSDAP)’ 이었다. 노조와 사회주의자 탄압이 주목표였던 그들이 노동자들의 표를 얻기 위해 만들어낸 왜곡된 이름이었다.

권력 잡은 정권, 아젠다 위해 기록 왜곡

존 하트필드(1891~1968). AIZ 잡지 표지, 1934.

하지만 그들의 본색과 행동은 여전히 아날로그 기록으로 남아있기에, 우리는 독일 몽타주 아티스트 존 하트필드(John Heartfield)의 1934년 패러디를 여전히 이해할 수 있다. ‘그 모든 것은 단지 권력쟁탈을 위한 나치의 현실 왜곡이었으며 NSDAP라는 이름은 마르크스 분장을 한 아돌프 히틀러일 뿐이었다고.’

그러나 이제 인류의 대부분 흔적은 더는 오프라인이 아닌 온라인, 아날로그가 아닌 디지털 형식이다. 미래 역사학자들은 더는 정치인들의 편지와 문서를 분석하는 것이 아니라, 그들의 트위터와 페이스북 댓글을 해석해야 한다는 말이다. 디지털 세상에선 오리지널과 복사의 차이가 무의미해지고 인공지능 기술을 통한 ‘페이크’ 정보의 무한 생산이 가능해진다. 그렇다면 미래 인공지능 사회는 권력을 획득한 정권의 정치적 아젠다를 위해 과거 기록이 매번 위조되고 왜곡될 수 있는, 그렇기에 ‘과거’ 역시 현실의 한 영역이 되어버릴 ‘역사의 종말’ 시대가 될 수도 있겠다.

※정답:9명 모두 GAN으로 만들어진 가짜 얼굴들. [출처:ThisPersonDoesNotExist.com]

김대식 KAIST 교수·뇌과학자 daeshik@kaist.ac.kr
독일 막스-플랑크 뇌과학연구소에서 박사학위를 땄다. 미국 MIT와 일본 이화학연구소에서 각각 박사후 과정과 연구원을 거쳤다. 미국 미네소타대 조교수, 보스턴대 부교수를 지냈다. 2013~2015년 중앙SUNDAY에 ‘김대식의 Big Questions’를 연재했다.