[분수대] '수학의 마왕' 괴델

'수학의 마왕' '지상에 내려온 수학의 신' 이라고 불린 20세기의 인물이 체코슬로바키아 출신의 수학.논리학자 쿠르트 괴델(1906~78)이다. 오늘(4월 28일)은 그가 태어난 날.

괴델은 24세 때인 1930년에 '불완전성 정리' 를 발표, 수학뿐 아니라 사상계 전반에 엄청난 충격을 주었다.

즉 "증명도 반증도 할 수 없는 수학적 명제가 존재한다. (제1 불완전성 정리)" "여기에는 '수학은 그 내부에 모순을 포함하지 않는다' 는 명제가 포함된다(제2 불완전성 정리)" 는 것을 엄밀한 수학적 방법으로 증명한 것이다.

학계에서 이를 '괴델 붕괴' (모두 무너뜨렸다는 뜻)라고 부른 데에는 그럴만한 배경이 있다.

20세기 초 수학자들의 주요 관심사는 수학의 무모순성을 증명하는 것이었다. 이런 과제가 대두한 것은 19세기 말 게오르크 칸토어가 창시한 집합론 때문이다. 무한집합의 성격을 규명하다 보니 '전체와 부분의 크기가 같다' 등의 역설이 생겨났던 것이다. 집합론은 수학의 모든 분야를 포괄하기 때문에 역설의 존재는 수학을 뿌리부터 뒤흔들 수 있었다.

수학의 원리와 방법 자체를 연구하는 수학기초론이 탄생한 것도 이 때문이다. 러셀과 화이트헤드가 유클리드의 『기하학 원론』을 재구성해 방대한 『수학원론』을 집필한 것도 같은 이유에서다. 이처럼 집합론의 역설에도 불구하고 '수학은 완전하다-모든 수학적 정리는 체계 내에서 증명 가능하다' 는 믿음이 당시를 지배하고 있었던 것이다.

이때 괴델의 '불완전성 정리' 는 이를 일거에 붕괴시켜 버렸다. 가장 완전한 체계.지식으로 간주되는 수학이 이러할진대 다른 학문이나 지식은 어떠하겠는가.

'불완전성 정리' 는 하이젠베르크의 '불확정성 원리' (양자의 위치와 운동량을 동시에 정확하게 측정하는 것은 원리적으로 불가능하다는 이론)와 함께 인간 지식의 한계를 입증한 양대 이론으로 꼽힌다.

괴델은 이와 함께 '완전성 정리' -논리적으로 올바른 명제는 모두 논리적 체계 내에서 증명할 수 있다-와 집합의 농도에 관한 '연속체 가설의 무모순성' 도 증명하는 대단한 업적을 남겼다.

오스트리아에서 활동하던 괴델은 40년 미국으로 옮겨와, 프린스턴대학의 고등학술연구소에서 재직하다 여생을 마쳤다.

아쉬운 것은 괴델과 형 루돌프(방사선 학자)가 모두 후손을 남기지 못했다는 점이다. 당시에 정자의 냉동보관이 가능했다면 오늘날 신청자가 줄을 잇지 않을까.

조현욱 문화부 차장