양자컴퓨터, 계산의 벽을 뚫고 우주를 이해하다

박권 고등과학원 물리학부 교수

거칠게 말해, 과학은 우주가 무엇인지 이해하는 과정이다. 이 과정에서 특히 중요한 단계는 우주를 이루는 물질이 무엇인지 이해하는 부분이다. 우리가 아는 한, 우주를 이루는 물질이 무엇인지 가장 정확하게 설명할 수 있는 이론은 양자역학이다. 그런데 양자역학은 현재 계산의 벽에 부딪혀 앞으로 나아가는 데에 어려움을 겪고 있다.

우주의 시작 풀 수 있는 양자역학

우선, 물질의 기본 단위는 원자다. 양자역학은 원자를 매우 정밀하게 설명할 수 있다. 현재 양자역학이 겪고 있는 어려움은 많은 원자들이 서로 결합해 고분자를 만들거나 더 나아가 규칙적인 격자 구조로 배열되어 고체를 만들 때 발생한다. 전문적으로, 고분자나 고체와 같이 많은 입자들로 이루어진 시스템을 다루는 문제를 ‘다체문제’(多體問題·many-body problem)라고 한다. 다체문제는 매우 다양하다. 논의의 편의상, 여기서는 고체를 다루는 다체문제에 집중하기로 하자.

과학, 우주가 뭔지 이해하는 과정
양자역학이 정확히 설명하지만
모든 경우의 수 동시에 파악해야
양자컴퓨터 없인 이해할 수 없어

양자역학을 통해 풀어야 하는 다체문제는 입자의 개수가 많아질수록 계산량이 기하급수적으로 늘어난다. 슈퍼컴퓨터라고 하더라도 기하급수적으로 늘어나는 계산량은 감당할 수 없다. 그렇다면 다체문제의 계산은 왜 그렇게 어려운 것일까.

바둑과 다체문제

지난 6월 서울 중구 동대문디자인 플라자(DDP)에서 열린 국내 최대 양자 기술 관련 국제 행사 ‘퀀텀 코리아 2023’에서 내빈들이 초전도 기반 50 큐비트 양자컴퓨터 모형을 살펴보고 있다. [연합뉴스]

비유적으로 말해, 다체문제는 일종의 바둑이다. 바둑은 가로 19줄, 세로 19줄이 서로 교차하는 사각 격자 모양의 바둑판 위에 검은 돌과 흰 돌을 적절하게 배치하는 게임이다. 비슷하게, 고체를 다루는 다체문제는 원자들이 이루는 규칙적인 격자 구조 위에 두 종류의 전자를 적절하게 배치하는 게임으로 볼 수 있다. 참고로, 전자는 스핀(spin)이라는 성질에 의해 스핀 업과 다운이라는 두 종류로 구분된다.

바둑의 목표와 다체문제 풀이의 목표에도 유사점이 있다. 바둑의 목표는 자신의 돌로 에워싼 빈 공간, 즉 ‘집’을 상대방보다 많이 만드는 것이다. 그러기 위해서 적절한 돌의 패턴을 찾는 것이 중요하다. 다체문제 풀이의 목표는 시스템의 전체 에너지를 가장 낮출 수 있는 전자의 패턴을 찾는 것이다. 시스템의 전체 에너지는 전자의 운동 에너지와 위치 에너지로 구성된다. 전자의 운동 에너지는 개별 전자들이 각자 여러 격자점을 자유롭게 잘 뛰어다닐수록 낮아진다. 전자의 위치 에너지는 서로 다른 전자들이 최대한 멀리 떨어질수록 낮아진다. 운동 에너지와 위치 에너지는 보통 서로 상충하는데, 전체 에너지는 이 둘 사이의 적절한 균형을 통해 낮출 수 있다.

바둑과 다체문제 사이에는 매우 큰 차이점도 있다. 바둑은 고전적이지만 다체문제는 양자역학적이라는 차이점이다. 바둑은 주어진 대국에서 적절한 돌의 패턴을 하나 찾으면 끝난다. 하지만 다체문제에서 전자의 패턴은 딱 하나로 규정되지 않는다. 양자역학에 따르면, 일어날 수 있는 일은 모두 동시에 일어난다. 이것은 ‘슈뢰딩거의 고양이’ 우화로 잘 알려진 파동 함수의 중첩 현상이다.

구체적으로, ‘슈뢰딩거의 고양이’ 우화에서 고양이의 생사 여부는 그 옆에 놓인 독가스 병이 깨지느냐 아니냐에 달려 있다. 독가스 병의 운명은 다시 그 옆에 놓인 기계 망치의 작동을 결정하는 모종의 장치 속 원자의 상태에 달려 있다. 원자는 양자역학의 원리에 따라 바닥 상태와 들뜬 상태의 중첩으로 존재한다. 결과적으로 슈뢰딩거의 고양이도 삶과 죽음의 중첩 상태로 존재한다. 다체문제에서 전자의 패턴은 슈뢰딩거의 고양이와 비슷하게 가능한 모든 상태의 중첩으로 존재한다. 비유적으로, 다체문제에서 전자의 패턴을 찾는 것은 바둑에서 가능한 모든 경우의 수를 한꺼번에 파악하는 것과 같다.

양자컴퓨터라는 새로운 길

그렇다면 바둑에는 얼마나 많은 경우의 수가 가능할까. 바둑판의 교차점의 수는 19×19=361이다. 가장 간단하게 생각하면, 바둑의 모든 가능한 경우의 수는 처음 검은 돌을 361개 교차점 중의 하나에 두고, 그다음 흰 돌을 나머지 360개 교차점 중의 하나에 두고, 이렇게 바둑판의 모든 교차점을 소진할 때까지 계속 돌을 두는 가짓수다. 이 수는 361!=361×360×359×…×3×2×1로서, 대략 10의 768승이다. 이것은 우주에 존재하는 모든 원자의 개수가 대략 10의 82승인 것을 고려할 때 그 크기를 가늠조차 할 수 없는 엄청나게 큰 수다. 게다가 고체에서 원자들이 이루는 격자 구조의 격자점의 수는 그 자체로 엄청나게 큰 아보가드로 수(Avogadro’s number), 즉 6×10의 23승이다. 이렇게 많은 격자점에 전자를 배치하는 문제는 우리가 감당할 수 있는 차원을 가뿐히 벗어난다. 우리에게는 새로운 길이 필요하다.

양자전기역학으로 노벨물리학상을 받은 유명한 이론물리학자 리처드 파인먼은 1982년 다음과 같은 말을 했다. “자연은, 젠장, 고전적이지 않다. 당신이 자연을 시뮬레이션하고 싶다면 양자역학적으로 해야 할 것이다.” 양자역학적 시뮬레이션을 수행할 수 있는 컴퓨터는 다름 아니라 바로 양자컴퓨터다. 앞선 다체문제가 어려운 이유는, 양자역학의 원리에 따라, 가능한 모든 경우의 수를 한꺼번에 파악해야 하기 때문이다. 양자컴퓨터는 이 어려움을 그것을 야기한 바로 그 양자역학의 원리를 써서 거꾸로 돌파할 수 있다. 만약 앞으로 본격적인 규모의 양자컴퓨터가 만들어진다면 우리는 원칙적으로 고체뿐만 아니라 모든 물질의 성질을 정확히 규명하고 예측할 수 있을 것이다. 그리고 그렇게 되면 우리는 우주가 진정으로 무엇인지 이해하는 최종 목표에 한 걸음 더 가까이 다가서게 될 것이다.

박권 고등과학원 물리학부 교수