[과학으로 세상보기] 수학으로 본 시대정신

수학은 장구한 시간 속에 다양한 변화를 거쳐 발전해 왔으며, 각 시대의 수학적 발견을 통해 그 시대의 지적 풍토를 읽어낼 수 있다. 예컨대 니체가 '차라투스투라는 이렇게 말했다'에서 '신은 죽었다'는 공격적인 슬로건을 들고 나온 시기에 수학자 칸토어는 무한집합에 관한 이론을 전개했다. 칸토어는 '유한'한 '인간'과 대비할 때 '신'의 영역에 속한다고 볼 수 있는 '무한'을 수학적으로 분석함으로써 감히 신은 죽었다고 말한 니체와 비슷한 시도를 한 것이다. 이는 철학자 니체와 수학자 칸토어를 관통하는 일종의 시대 정신이라고 할 수 있을 것이다.

수학사에서 0이 출현한 것은 상당히 오래 전이지만 본격적인 수로 인정된 것은 10세기 전후 인도에서부터다. 고대 이집트나 메소포타미아 문명은 꽤 발전된 수 체계를 갖고 있었으나 0을 인정하지는 못했다. 그러나 불교의 발원지인 인도에서는 '공(空)'에 대한 개념을 일찍부터 갖고 있었기에 이를 표현한 0을 하나의 수로 받아들일 수 있었다. 동양화에서 여백의 미가 중요한 것이나 무(無)를 화두로 삼아 명상하며 마음의 평화를 찾는 것에서 보듯이 0은 동양적 정서와 잘 어울린다.

음수에 대해서도 유사한 해석이 가능하다. 수를 이해하는 초기 단계에서는 '양'과 '수'를 동일시하는데, 0이 되면 아무것도 없는 상태가 된다. 더 나아가 음수가 되면 없는 것보다 더 적은 상태가 되기에 음수는 인간의 직관에 반하는 개념이라고 할 수 있다. 대개의 학생들은 처음 음수를 배울 때 심각한 인지 장애를 경험하는데, 수학사에서도 역시 음수를 둘러싼 많은 진통이 있었다. 그렇지만 음양사상을 배경으로 한 중국에서는 서양보다 자연스럽게 음수를 수용할 수 있었다.

17세기 근대 철학자이자 수학자인 데카르트는 x축과 y축으로 이뤄진 좌표평면을 고안했다. 데카르트는 천장에서 움직이는 파리의 위치를 나타내고자 좌표평면을 생각했다는 에피소드도 있지만, 좌표평면이 '근대성'이라는 시대정신을 수학적으로 표현했다는 해석이 더 설득력 있다. 데카르트는 이 세계는 정신과 물질 두 가지로 이뤄져 있으며, 정신의 속성은 사유이고 물질의 속성은 연장(延長.부피와 크기)이라고 보았다. 신이 모든 것에 우선했던 중세를 마감한 시대를 살았던 데카르트에게는 합리적.이성적 사유를 하는 인간이 중요했다. 모든 것에 정령이 깃들어 있다는 중세적인 사고에서 벗어나 사물이나 자연을 균질공간에 놓여 있는 단순한 연장으로 파악하기 위해서는 좌표평면이라는 도구가 필요했을 것이다. 이렇게 보면 좌표평면은 근대성을 추구하는 인간의 이성이 배태한 자연스러운 수학적 산물이라고 할 수 있다.

찰리 채플린이 기계 앞에서 동일한 동작을 코믹하게 반복하던 장면으로 유명한 '모던 타임스'는 산업화에 따른 자동화가 일으키는 인간 소외를 풍자한 영화다. 견강부회식 해석 같기는 하지만 이 영화에서 여러 개의 톱니바퀴로 이뤄진 기계나 쳇바퀴 돌 듯 지루하게 반복되는 일상을 보면 부분이 전체의 패턴을 동일하게 반복하는 '프랙털'이 연상된다.

이처럼 수학이 인간의 사유를 표현하는 중요한 매체였다면 요즘의 상황과 시대정신은 어떤 수학으로 발현될까. 최근의 연구 분야인 카오스.카타스트로피.퍼지 이론이 현 상황을 대변한다고 보면 지나친 해석일까. 카오스 이론의 혼돈 상황, 카타스트로피 이론의 파국적인 급변 상황과 불연속적인 변화, 퍼지 이론이 다루는 모호하고 불분명한 상황은 현대 사회의 특징과 통하는 바가 있다. 그러나 혼돈과 예측불허의 현상 속에도 모종의 질서와 규칙이 존재하는 법. 복잡다단한 현실에도 한 줄기 서광과 같이 우리의 삶을 비추어 줄 로고스를 찾을 수 있으리라 기대해 본다.

박경미 홍익대 교수.수학교육학