월드컵 단골 이슈 ‘경우의 수’ … 도박 판돈 계산이 시초

중앙선데이

입력

[수학이 뭐길래] 확률·통계

네덜란드 화가 얀 스테인의 ‘카드 게임 중의 다툼’(1664~65). 결투로 번지던 일이 많았던 도박 판돈 분배 문제는 경우의 수를 논의하게 된 계기가 됐다.

고1 때 공통으로 배우는 수학 단원 중에 ‘경우의 수’가 있다. 이 단원은 순열과 조합이라는 개념을 통해 어떤 사건이 일어날 수 있는 모든 경우의 가짓수를 구하는 방법을 담고 있다. 순열과 조합은 도대체 어디에 사용되는 걸까? 확률과 통계의 역사에 대해 간단히 살펴보자.

도박 중단됐을 때 판돈 배분 문제 #파스칼 해법 제시 후 확률에 관심 #베르누이가 순열·조합으로 첫 정리 #연금 생기며 등장한 통계와 결합 #다양한 사회적 문제 분석에 적용

경우의 수와 관련된 논의는 17세기 중반 도박 판돈과 관련된 문제로부터 비롯됐다. 최초로 이 문제가 구체적으로 논의된 것은 1654년 파스칼과 페르마의 서신 교환에서다. 파스칼은 프랑스의 문인이었던 슈발리에 드 메레로부터 도박 현장에서 생길 수 있는 판돈 분배 문제 등에 관한 질문을 받았다. 그중 대표적인 것이 판돈을 걸고 게임을 하다가 그 게임이 갑자기 중단됐을 때 돈을 어떻게 분배해야 하느냐에 관한 것이었다. 파스칼은 남아 있는 게임 수와 이기는 데 필요한 게임 수가 판돈 분배를 결정한다고 보았다. 파스칼은 페르마에게 서신을 보내 자신이 고안한 해답에 대해 소개했고 『산술삼각형에 관한 논고』의 말미에 이 내용을 덧붙였다.

하위헌스, 기댓값 계산하는 방법 고안

우연에 따르는 사건에 대해 이렇게 접근했던 것은 이전에는 없던 완전히 새로운 방식이었다. 1657년에는 네덜란드의 과학자인 하위헌스가 그의 스승의 책에 덧붙인 부록, 『우연에 따르는 게임의 추론에 대하여』에서 이를 수학적으로 다루었다. 그는 도박 같은 우연에 따른 문제에서 누가 이길지는 확신할 수 없지만, 각자의 게임에서 얻을 기댓값은 계산할 수 있다고 보았다.

비슷한 시기 통계의 필요성 역시 커졌다. 연금이나 해상 보험 같은 상품이 개발되면서 그러한 상품을 운영하기 위해 얼마만큼 받고 또 지급해야 하는가 하는 문제가 점점 중요해진 것이다. 이런 상황에서 영국의 상인이었던 존 그론트는 런던 교구의 사망 기록을 조사하여 1662년 『사망 통계표에 대한 관찰』이라는 책을 출판했다. 최초의 통계 서적 중 하나로 알려진 이 책에서 그론트는 사망 원인을 분석하면서 도시와 시골의 차이나 성별 간 차이 등을 나누어 1532년 이후의 사망률을 정리했다. 이는 연금 상품 개발에 무엇보다도 중요한 자료였다. 이후 각국에서는 정부 차원에서 통계 데이터를 제작 분석하기 시작했다.

시간이 흐르면서 수학자들은 우연적이거나 미결정된 사건에 대한 합리적인 이해 및 공정한 계약 등을 위해 그 사건의 기댓값이나 리스크를 수치화하기 위해 노력했다. 그런데 이를 위해서는 가장 먼저 경우의 수를 알아야 했다. 어떤 상황이 나올 경우의 가짓수 모두를 알아야 각 상황에 따른 기댓값이나 오차 등을 논할 수 있기 때문이다. 현 고등학교 1학년 과정에서 경우의 수를 소개하는 것은 경우의 수를 구하는 방법을 습득해 이후 각 사건이 일어날 확률과 그에 기반한 통계 추정 및 오차 범위 등을 논할 수 있도록 준비시키기 위해서다. 고등학교 교과 과정 속의 순열과 조합은 바로 그런 경우의 수를 구하는 방법들이다.

이러한 경우의 수를 구하는 방법을 최초로 수학적으로 정리한 책은 수학자 야콥 베르누이의 『추측술』(1713)이다. 베르누이는 어떤 문제를 이해하기 위해서는 그 문제에 얽힌 다양한 부분들을 먼저 이해할 필요가 있다고 설명한다. 바로 그 다양한 부분들을 찾는 방법이 순열과 조합을 다루는 조합론이다.

베르누이 『추측술』 낸 후 수학 장르로

베르누이는 순열과 조합을 이용해 도박같이 운에 따르는 게임에서 생길 수 있는 다양한 문제들과 그 해결 과정을 자세히 분석했다. 그런 다음 ‘확실성’ ‘우연성’ ‘필연성’ 같은 개념들을 설명하면서 ‘확률’을 ‘확실성의 정도’로 새롭게 정의했다. 확률에 대한 추론과 수학적 정리 및 증명 등이 본격적으로 시도됐다.

더욱이 베르누이는 확률 연구가 도박 등의 분야 외에도 다양한 사회적, 학술적 문제들에 적용될 수 있다고 보았다. 특히 ‘큰 수의 법칙’을 소개하면서 “어떤 사건이든 끝까지 무한히(확률이라는 것이 완전한 확실성으로 바뀌도록) 계속 관측하면 이 세상에 있는 모든 것은 정확한 비와 정해진 변화 법칙에 따른다는 것을 알 수 있게 될 것”이라고 보았다.

베르누이의 『추측술』 이후 확률 연구는 새로운 수학 장르로 발전했다. 천문학과 측지학에 종사하던 수학자들은 천체 현상과 지구의 형태 등에 관해 관측하고 연구하는 과정에서 관측한 결과들을 어떻게 결합해 오차를 고려한 참값에 도달할 수 있을 것인지에 대해 고민했다.

프랑스의 수학자 아드리앵마리 르장드르는 이전 학자들의 연구를 분석해 오차 문제를 연구하는 과정에서 오차를 최소화하고 근사해를 구할 수 있는 최소제곱법을 개발했다. 아브라암 드 무아브르나 피에르시몽 라플라스와 같은 수학자들은 베르누이의 확률 연구를 더욱 발전시켜 확률을 새롭게 정의하고 관련 정리들을 확장해 끌어냈다.

케틀레가 이러한 통계학을 인간과 사회 현상에 적용하면서 이후 확률 및 통계 연구는 다양한 사회적 문제에도 적용되기 시작했다. 인간과 사회 문제에 관해 분석하기 위해 사회과학자들은 고려해야 할 다양한 변수들을 통제할 수 있는 방법에 대해 고민했다. 이 과정에서 회귀와 상관이라는 통계 자료 속 변수 간의 관계를 분석하는 방법이 고안됐다. 본격적인 수리통계적 추론이 시작된 것이다. 19세기와 20세기 초에는 프랜시스 골턴과 칼 피어슨 등이 확률 및 통계를 다양한 우생학 연구와 생물통계학 연구에 적용하면서 수리통계학은 더욱 발전했다.

확률과 통계만큼 다양한 분야에 적용되는 수학 분야도 없다. 문·이과가 나누어지는 경우에도 확률과 통계만큼은 공통으로 가르치는 이유다.