오피니언 김상현의 과학 산책

좋은 틀린 답

중앙일보

입력

지면보기

종합 28면

김상현 고등과학원 수학부 교수

김상현 고등과학원 수학부 교수

그에게 수학은 금맥이었다. 손을 대는 분야마다 발견이 쏟아졌다. 프랑스 수학계는 열광했다. 서른을 갓 넘긴 앙리 푸앵카레(1854~1912)는 이미 스타였다.

1885년, 그는 새로 제정된 수학상의 소식을 듣는다. 주최 측은 뉴튼의 ‘삼체 문제’를 공고했다. “태양계 행성의 위치를 공식으로 나타내시오.” 중력의 영향이 까다로워서, 수많은 수학자를 좌절시켜 온 질문이다. 그는 3년에 걸쳐, 160여 쪽에 달하는 논문을 완성한다. 공식을 찾지는 못했으나, 더욱 중요한 발견을 하였다. 태양계는 ‘안정적’이다. 즉, 행성 간의 충돌은 걱정할 필요가 없다는 결론이다. 그의 수상은 당연했고, 논문은 명문 학술지 ‘수학 활동’에 게재되었다. 모든 수학도가 꿈꾸는 바이다. 역사적인 난제를 풀고, 유력 학술지에 논문을 싣고, 국제적인 상까지 받는다.

김지윤 기자

김지윤 기자

그런데 곧, 학자로서 최고의 악몽이 시작된다. 논문의 오류가 지적되었다. 유명해질 대로 유명해진 그는, 고통 속에서 수정에 돌입한다. 수개월 후 그가 보내온 수정본에는 정반대의 결론이 담겨 있었다. 안정성을 예측하는 것은 불가능하다! 예외적으로, ‘수학 활동’의 편집장은 시중의 사본을 모두 파기하고, 새로 인쇄된 논문을 배포했다. 이 비용은 푸앵카레가 냈다. 돌이켜볼 때, 새 논문은 푸앵카레의 가장 혁명적인 업적이다. 미래 예측이 어려울 수밖에 없는 근본적인 이유, 혼돈이론을 창시하였기 때문이다. 아이러니하게도, 수십 년이 지난 후 몇몇 수학자가 삼체문제의 공식을 찾아내지만 그 발견은 역사에서 잊혀진다. 이제 수학의 관심사는 ‘공식’에서 ‘안정성’으로 옮겨 간 것이다.

누구나 실수는 한다. 중요한 것은 ‘좋은 실수’를 놓치지 않는 안목이다. 나 자신이나 동료의 실수가, 마치 묻혀진 원석처럼 보석으로 제련되는 사례를 목격하고는 한다. 푸앵카레는 실수를 폐기하지 않고 더욱 깊이 파고들었다. 실수를 딛고, 도전은 도약이 되었다.

김상현 고등과학원 수학부 교수