[궁금한 화요일] '빛 자물쇠' 절대 도청 못하는 시대 연다

중앙일보

입력

업데이트

암호의 역사는 전쟁의 역사다. 세계 최초의 암호는 스파르타 군대가 개발했다. 일정한 규격의 원통에 종이를 둘둘 감은 뒤 그 위에 글을 쓰는 ‘원통 암호’였다. 종이를 풀면 글이 뒤죽박죽이 돼 내용을 알 수 없게 된다. 처음 글을 쓸 때 사용한 것과 같은 원통 위에 종이를 감아야 다시 글이 드러난다.

　독일군은 제2차 세계대전 때 에니그마(Enigma, 독일어로 ‘수수께끼’란 뜻)란 암호기를 사용해 교신을 했다. 연합군은 독일군의 암호를 해독하지 못해 번번이 뒤통수를 맞았다. 1941년 침몰하는 독일군 잠수함(U보트)에서 에니그마와 코드북을 입수하면서 연합군은 대서양의 전세를 뒤집을 수 있었다.

▷여기를 누르시면 크게 보실 수 있습니다

　현대에도 ‘암호 전쟁’은 계속되고 있다. 사이버 해킹을 둘러싼 전쟁이다. 전 미국 중앙정보부(CIA) 직원 에드워드 스노든은 2013년 미 정부가 각국을 상대로 무차별 해킹을 하고 있다고 폭로해 큰 파문을 일으켰다. 미 정부는 중국 해커들이 자국 기업들의 정보를 약탈하고 있다고 비난하고 있다.

　이런 ‘전쟁’ 와중에 새롭게 부상하는 새 통신 암호기술이 있다. 바로 양자(量子, quantum)암호다. 양자는 더 이상 작게 나눌 수 없는 최소 에너지의 단위를 가리킨다. 원자·전자·이온 등이 대표적이다. 양자암호 통신은 그 가운데 빛의 알갱이인 광자(光子, photon)를 이용해 암호를 만드는 기술이다.

지난 2일 한국과학기술연구원(KIST)과 한국전자통신연구원(ETRI)은 3년 뒤 무선 양자암호통신 기술 개발을 목표로 공동연구 협약을 맺었다. 사흘 뒤 정부는 “2020년까지 양자통신 글로벌 선도국가에 진입한다”는 중장기 정보통신전략을 발표했다.

　양자암호의 가장 두드러진 특징은 “도청이 절대 불가능하다”(김재완 고등과학원 계산과학부 교수)는 점이다. ▶두 가지 물리적 상태를 동시에 갖고(양자중첩) ▶송·수신자의 측정 결과가 강한 상관관계를 가지며(양자얽힘) ▶동시에 정확하게 측정할 수 없다(불확정성)는 양자의 특성을 기반으로 하기 때문이다. 현재 인터넷 등에 쓰이는 암호 방식(RSA)과 양자암호를 비교해 보자.

　RSA는 수학을 이용한다. ‘모든 합성수는 유한개의 소수(素數, 1과 그 자신으로만 나눌 수 있는 자연수)의 곱으로 쪼갤 수 있다’는 소인수분해 원리다. 525를 3×5²×7로 표현하는 식이다. 이 같은 합성수를 암호화 ‘자물쇠’로, 그 소인수분해 값을 ‘열쇠’로 쓰는 게 현재 방식이다. ‘자물쇠’의 정체가 다 공개돼 있는데도 해킹이 힘든 것은 ‘열쇠’를 만드는 데 시간이 너무 오래 걸리기 때문이다. 특히 합성수의 자릿수가 크면 클수록 그렇다. 1977년 RSA 개발자들이 낸 129자리 합성수의 소인수분해의 정답을 구하는 데는 약 20년이 걸렸다. 그나마 25개국 600여 명이 1600여 대의 컴퓨터를 8개월간 돌린 끝에 간신히 얻어낸 결과였다. 만약 2000자리 합성수를 소인수분해 하려면 “우주 전체의 입자 개수(1080)만큼의 컴퓨터를, 우주의 나이(1018)만큼 돌려야 할 것”이라는 게 전문가들 얘기다. 최신 RSA(RSA-2048)는 최대 617자리 합성수를 사용한다.

　하지만 RSA도 ‘철옹성’은 아니다. 컴퓨터의 성능이 비약적으로 발전하고 소인수분해를 빨리 할 수 있는 알고리즘이 잇따라 개발되고 있기 때문이다.

　반면 양자암호는 암호를 가로채 해독을 하는 것 자체가 불가능하다. ‘열쇠’를 완벽하게 가로챌 수가 없을뿐더러 가로채는 순간 바로 티가 나기 때문이다. 현재 쓰이는 가장 대표적인 양자암호인 ‘BB84 프로토콜’은 2종류의 필터와 4종류의 편광을 사용한다. <그래픽 참조>. 송·수신자가 임의로 선택한 필터가 같은 경우에만 주고 받은 편광을 측정한 값이 100% 일치한다. 둘의 필터가 다르면 50% 확률로 측정오류가 생긴다. 송·수신자는 양자 채널로 광자를 주고 받은 뒤 일반통신 채널을 이용해 각자 어떤 필터를 썼는지 대조한다. 그 결과 같은 필터를 써서 측정한 값만 골라 암호키로 사용한다.

　이런 양자암호 통신을 도청하는 것이 불가능한 이유는 두 가지다. 기존 광데이터 통신에서는 하나의 비트 정보를 보낼 때 수백만 개 이상(1mW, 1GHz 기준)의 광자를 사용한다. 반면 양자통신은 광자 하나하나에 정보를 실어 보낸다. 때문에 일부만 발췌해 도청하는 것은 불가능하다.

　암호를 빼내 복사한 뒤 다시 수신자에게 돌려보내도 바로 티가 난다. 도청자는 송신자가 어떤 편광의 암호를 보냈는지 모른다. 때문에 엉뚱한 필터를 고를 확률이 50%다. 필터 하나마다 두 종류의 편광이 나올 수 있으므로(확률 50%), 도청자가 수신자에게 보낸 송신자가 원래 보낸 편광과 달라질 확률이 25%다. 송·수신자가 같은 필터를 써도 중간에 누군가 도청을 하면 네 번 중 한 번은 다른 측정값이 나오게 되는 것이다. ETRI의 윤천주 선임연구원은 “통상 측정오류가 11%만 넘어도 도청이 있다고 보고 통신을 중단한다”고 말했다.

　양자암호를 티 안 나게 도청하는 길은 송신자가 광자를 보내는 순간 동시에 알아채는 방법뿐이다. 하지만 이는 ‘빛보다 빠른 입자는 없다’는 상대성이론의 대명제에 배치된다. 김재완 교수는 이 때문에 “양자암호 도청은 20세기 물리학의 두 기둥인 양자물리학과 상대성이론이 모두 무너질 때만 가능하다”고 말한다.

　재미있는 것은 신호의 복사가 불가능한 양자통신의 장점이 반대로 단점이 되기도 한다는 점이다. 기존 통신은 원거리 송·수신을 위해 중간 중간 신호를 복사·증폭한다. 하지만 양자통신은 이런 ‘릴레이’가 힘들다. 때문에 전송거리에 한계가 있다. 2012년 오스트리아 빈 대학 연구팀이 143㎞ 통신에 성공한 것이 역대 최고 기록이다.

　광섬유를 이용하는 유선통신의 기록이 이 정도니 무선통신은 더 말할 것도 없다. 날씨 등에 큰 영향을 받는다. KIST와 ETRI는 2017년 말까지 약 100m 거리에서 사용 가능한 군용 통신망 개발을 목표로 하고 있다. 성공하면 인접한 함정과 함정 사이, 부대와 부대 사이에서 100% 안전한 통신이 가능해진다. 미국은 2002년 인공위성~기지국 사이의 양자통신 실험에 성공했다. 중국은 2016년 양자통신용 인공위성을 쏘아올릴 계획이다.

김한별 기자