이자 계산에서 상대성이론까지, 수학은 살아있다

[수학이 뭐길래] 왜 배워야 하나

화가 조반니(1406~1486)가 그린 ‘일곱 개의 자유 학예(The Seven Liberal Arts)’(1460). 여신들은 중세 대학의 필수 교과였던 3학 4과를 의미하는데 그 중 4과가 수학 분야로 산술·기하·음악·천문학이다. 여신들은 순서대로 논리학·산술·기하·천문학·수사학·문법 그리고 음악을 의미한다. [위키미디어]

70대인 내 아버지는 지난해부터 고등학교 수학 문제를 풀고 있다. 아버지는 우연히 상대성이론에 관해 쉽게 풀어쓴 책을 읽다 미적분학에서 막혔다고 한다. 그러면서 동시에 고등학교 시절 문과를 선택해 미적분학을 공부하지 않았던 아쉬움이 함께 떠올랐다고 한다. 오기가 발동한 아버지는 미적분학을 공부하기 위해 지난해 언젠가부터 고등학교 1학년 수학 문제집을 풀기 시작했다. 언제 미적분학을 공부하실까 싶었는데, 지금은 1학년 과정을 마치고 ‘미적분과 통계’ 문제집을 풀고 있다.

상대성이론 책 읽던 70대도 #흥미 느끼면 미적분과 씨름 #어디에 쓰이는지 모르는 학생들 #성취도평가 상위권이지만 #호감도는 상대적으로 떨어져 #고대 그리스선 우주와 사물의 원리 #중세엔 하나님 이해의 도구로 여겨 #근대 들어 과학분야 본격 활용

나이 드신 아버지가 수학 문제와 씨름하고 있는 걸 보면서, 그 나이에 그걸 왜 푸시냐고 뵐 때마다 그만두시라고 말씀드렸다. 하지만 막무가내였다. 고등학교 때 미적분을 배우지 못했으니 지금이라도 반드시 미적분을 정복하겠다고 한다. 구체적으로 수학이 어디에 사용되는지를 알게 되었던 것이 결국 나이 드신 아버지에게 수학 문제집을 들게 한 것이다.

그렇다면 중·고등학생들은 어떨까? 우리나라 상당수의 중학생은 학원에 다니거나 과외를 받으면서 수학 문제집과 씨름하고 있다. 하지만 모든 학생이 수학을 좋아하지도, 수학 점수를 잘 받지도 않는다. 고등학교에 들어가면 어느덧 여기저기서 수학을 포기하는 학생들이 나타난다. 우리나라 중·고등학생들의 수학 능력은 다른 나라 학생들보다 떨어지는 걸까? 전 세계 72개국 만 15세 학생들을 대상으로 평가한, 국제학업성취도평가(PISA) 2015년 결과에 따르면, 우리나라의 수학 순위는 6~9위다. 경제협력개발기구(OECD) 회원국으로 평가 대상을 좁히면, 우리나라의 수학 성취도는 일본의 1위 다음으로 1~4위다. 세계수학연맹(IMU)이 세계 최고의 수학 실력을 보유했다고 인정하는 독일·프랑스·영국·미국 등도 우리보다 한참 뒤처져 있다. 놀라운 성적인 것이다.

수와 수의 비례 통해 우주 원리 이해

하지만 국제학업성취도평가 결과와 상관없이 우리나라 학생들의 수학에 대한 호감도는 외국 학생들과 비교하면 떨어질지도 모르겠다. 학생 대부분이 수학 공부를 많이 하지만, 입시 문제를 제외하면 하고 싶어서도 아니고, 왜 하는지도 모르면서하기 때문에 그만큼 호감도가 떨어지고 오히려 반감을 가질 수 있는 것이다. 수학을 좋아하고 성적이 좋은 학생들조차도 수학이 어디에 쓰이는지는 그리고 어떤 학문인지를 제대로 모르고 공부하기때문에 수학을 정말로 좋아하는 것인지는 의문이다.

수학자나 언론 등은 수학이 중요하다고 하지만 수학을 공부한 어른 세대들 상당수가 수학이 실생활에 전혀 유용하지 않다고 이야기하는 현실을 고려한다면 수학은 그저 수학자들에게만 필요한 분야는 아닐까? 수학 교과서나 문제집을 공부하는 것은 이런 문제들을 이해하는 데 전혀 도움이 되지 않는다. 이 문제들을 제대로 이해하기 위해서는 그동안 수학이 발전해온 역사를 살펴볼 필요가 있다.

역사적으로 수학이 계속해서 발전해왔던 것은 여러 측면에서 실용적인 분야였기 때문이다. 가령, 수학이 본격적으로 발전하기 시작했던 고대 그리스에서 수학은 우주와 사물의 원리를 이해할 수 있는 원리라고 여겨졌다. 모든 존재 아래에 있는 수와 수의 비를 통해 우주와 사물의 원리를 이해할 수 있다고 생각한 것이다. 따라서 피타고라스 학파는 제자 양성 과정에서 수학을 주요 준비 교육 과목으로 두었다.

이러한 생각은 플라톤으로 이어졌다. 그는 우주의 근원과 그 운동을 원과 구를 포함해 다양한 도형이나 정다면체들을 통해 설명할 수 있다고 생각했다. 따라서 국가를 통치하는 통치자가 되기 위해서는 이 세계를 이해하기 위해 먼저 수학을 공부해야 한다고 생각했다.

이러한 생각은 이후 서유럽으로 전해졌다. 기독교 사회였던 서유럽에서 기하학과 천문학은 하나님의 창조 사역을 이해하기 위한 중요한 도구였다. 음악 역시 하나님을 찬양하기 위해 조화로운 음을 만들고 이해하기 위한 필수 분야로 여겨졌다. 결국 12세기부터 대학이 설립되면서 산술이나 기하, 음악 그리고 천문학을 포함하는 수학 분야들은 대학의 필수 교육 과정을 구성했다.  르네상스를 지나면서 수학의 유용성은 보다 더 다양한 측면에서 이해되기 시작했다. 우선 대학에서 교육되던 천문학은 천체의 운행 외에도 하나님이 창조한 인체의 질병을 이해하고 치료하기 위한 도구로 활용됐다. 또한 천문학은 하늘의 운행을 통해 개인의 운명과 국가의 미래를 점치기 위한 도구로도 사용됐다.

한편 이 시기에는 상업 및 도시의 발전과 함께 수학이 대학을 벗어나 사립 교육기관을 통해서도 교육되기 시작했다. 수학은 이자 계산을 용이하게 하기 위한 수단이자 재료가 담긴 용기의 용량과 가격을 비교하기 위한 도구였다. 항해에서는 위도를 계산하기 위한 원리였고 그림의 구도가 실제 눈으로 보는 것과 일치하도록 하기 위한 장치였다. 이외에도 수학은 기하학적으로 조화로운 건축물을 주조하기 위한 원리였으며 군대를 효율적으로 배치하고 난공불락의 성곽을 세우기 위한 기준 등으로 활용됐다. 수학이 활용되는 분야는 점점 더 늘어났고 수학자들을 후원했던 이들은 유용성을 염두에 두고 기꺼이 돈을 지불했다.

뉴턴, 지상·천체 운동 단일화해 설명

근대 들어 수학은 본격적으로 과학 분야에 활용되기 시작했다. 뉴턴의 『자연철학의 수학적 원리, 일명 프린키피아』(1687)는 대표적인 성과였다. 뉴턴 이전까지 학자들은 지상 위에서의 운동과 하늘의 천체 운동을 별개의 운동으로 생각하고 연구했다. 그러나 뉴턴은 자신이 발견한 운동의 법칙과 만유인력의 수학 공식을 통해 지상 위에서의 운동과 천체 운동을 단일한 수학적 원리와 법칙으로 설명했다. 이것은 매우 놀라운 것이었고, 그만큼 수학이 지닌 위력을 보여준 것이었다.

뉴턴의 성취에 고무된 이들은 과학 연구에 수학을 응용하고자 노력하기 시작했다. 이 과정에서 학자들은 전통적인 기하학을 대수적인 방식으로 변화시켰던 해석 기하학과 곡선의 연구를 대수적인 방식으로 정리했던 미적분학의 연구들을 적극 활용하였다. 18세기 말에 천체의 운동을 대수적인 방식으로 설명했던 해석역학의 연구는 그 대표적인 성취라 할 것이다.

그런데 일부 과학 분야에 수학이 쓰이기는 했지만 18세기 동안에도 대부분의 과학기술 분야에 수학은 효과적으로 활용되지 못했다. 과학기술 분야가 수학적인 방식으로 기술되기 위해서는 그 이전에 먼저 정밀 측정이 가능해야 했다. 하지만 정밀한 시계나, 매우 높거나 낮은 온도를 측정할 수 있는 온도계, 아주 정확한 눈금이 그려진 비커나 미세한 무게를 측정할 수 있는 저울 등은 한참까지도 표준 제작되지 않았다. 길이를 재는 자나 무게를 재는 저울 등은 지방이나 국가별로 통일되지도 않은 상태였다.

그러나 과학기술 분야들을 수학적으로 기술할 수만 있다면 해당 과학기술을 이해하고 더 나아가 효율적으로 활용하는 것이 가능했다. 결국 그러한 측정 도구나 정밀 장치들을 개발하는 노력은 꾸준히 계속되었고 그 과정을 통해 화학이나 열역학, 전자기학 그리고 파동학 같은 분야들이 수리 과학 분야가 되어 갔다. 수학이 과학기술 분야의 언어가 되기 시작한 것이다.

한편 19세기 동안에는 기존의 수학이 과학기술 분야에 응용되는 것을 넘어 수학 그 자체의 논리적인 발전 과정에서 이전과는 다른 새로운 수학 분야들이 등장하기 시작했다. 유클리드 기하학을 연구하는 과정에서 비유클리드 기하학이 생겨났고, 미적분학의 근본적인 문제들을 해결하려는 과정에서 해석학이 발전했으며, 2차원에서 논의되던 대수학은 n차원 공간에서 논의되는 선형대수학 등으로 발전했다. 또한 이 시기에는 통계학, 위상수학 그리고 집합론 등 새로운 수학 분야들의 발전도 이어졌다. 새롭게 등장했던 수학 분야들은 처음에는 기존 수학의 연구 과정에서 발전한 것이었다.

그러나 한 세기도 지나지 않아 새로운 수학은 과학기술을 넘어 사회학이나 인류학·예술·건축·알고리즘 연구 등 다양한 분야에 응용 가능함이 발견됐다. 현재에도 수학은 여전히 진화하고 있다. 그리고 그 응용 가능성은 계속해서 새롭게 발견되고 있다.

※ PISA 2006부터 95% 신뢰 수준에서 각 국가의 순위에 대한 범위를 제공하고 있음※ PISA 점수는 평균 500이고 표준편차 100인 척도점수임 ※ OECD 평균은 OECD 35개국 각각의 평균에 대한 평균임

중·고교 수학 분야별 발전 유래 설명할 것

역사적으로 수학은 매우 유용했고 다양한 분야에 응용되어 놀라운 성과를 거두었던다. 수학이 가진 문제 해결력과 그 응용 가능성은 오랜 기간의 발전을 통해 계속해서 확인됐다. 그 결과 서양에서 고등 교육이 발전하면서 수학은 늘 필수 교과목의 하나로 교육되었다.  문제는 중등 교육의 경우 기본적인 내용을 가르치다 보니, 학생들의 입장에서는 특정 수학 분야들이 구체적으로 어디에 어떻게 응용되는지를 배우기 힘들어졌다는 데 있다. 더욱이 과거의 수학적 응용 및 그 성과들은 대거 잊혀 졌고 최근의 성과들은 학생들이 이해하기에 너무 어려운 문제가 됐다.

중·고등학교 교과서에서는 2000년이 넘는 세월 동안 서서히 발전해 온 수학의 기본 내용들을 상당 부분 담으려다 보니 가르치는 내용이 방대해졌다. 수학 교사들 입장에서는 광범위한 수학 분야의 역사적인 발전 과정을 모두 이해하기 힘들고, 과학기술 분야를 전공하지 않은 상태에서 과학기술 응용 사례 등을 구체적으로 가르치기가 힘들어졌다. 학생들이 자신이 배우는 수학이 어디에 활용되며 어떤 측면에서 유용한지를 이해하기 어려운 현실이 된 것이다.

본 칼럼에서는 바로 그러한 문제들에 착안해 중·고등학교 수학 교과서에 나오는 수학 분야들과 문제들이 과거 어떤 문제들을 해결하려는 과정에서 발전했으며, 그러한 성취는 이후 수학의 발전에 어떤 영향을 미쳤는지를 살펴보고자 한다. 이 칼럼을 통해 수학이 발전해온 발자취를 살펴보면서 수학 교육의 현재와 문제 등을 이해하는 시간이 되기를 기대한다.

조수남 수학사학자

sunamcho@gmail.com
서울대 과학사 및 과학철학 협동과정 박사.현 서울대 강사, 과학문화센터 연구원, 전북대 과학학과 박사후연구원으로 있으며, 과학사와 수학사를 연구하고 있다. 고등과학원 초학제연구단에서 연구했으며, 『욕망과 상상의 과학사』 등을 썼다.