논문 390편 쓴 영원한 수학자 … “한국 수학 실력 축구와 비슷”

네이버·중앙일보 공동기획 [인생스토리] ⑤ 박세희 서울대 수학과 명예교수

박세희 서울대 수학과 명예교수가 지난달 5일 서울 도곡동 자택에서 중앙SUNDAY와 인터뷰하고 있다. 박 교수는 1960년대부터 수학계를 이끌어 온 원로로 ‘영원한 수학자’로 불린다. [임현동 기자]

여든이 넘은 백발의 노교수는 “몇 년 전부터 읽고 싶은 소설이 있는데 아직 읽지 못했어요. 지금 하고 있는 연구만 끝나면 읽겠다고 몇 번을 다짐했는데, 매번 시간이 모자라요”라며 아이처럼 웃었다. 서울 도곡동 자택에서 만난 박세희(84) 서울대 수학과 명예교수 얘기다.

대한수학회 70년 산증인 #6·25 당시엔 수학자 두세명 뿐 #지금은 박사만 1000여 명 정도 #단순한 동기로 수학 전공 #6·25 때 정치해 맞아죽는 사람 봐 #수학 하면 맞아죽지 않겠다 생각 #한국 수학계 수준 높아져 #세계 20개 강국에 들어갈 정도 #올림피아드에서 두 번이나 1등

‘영원한 수학자’로 불리는 박 명예교수는 1960년대부터 우리나라 수학계를 이끌어 온 원로다. 논문 390여 편을 쓴 ‘논문 왕’이고, 대한수학회장을 지냈다. 한국과학기술한림원 종신 회원인 그는 고령인 지금도 온종일 연구를 하며 하루를 보낸다고 한다. 해외의 학자들이 자주 인용하는 수학계의 이론들을 만들기도 했다.

교수님이 우리 수학계의 가장 원로이신가요.

“저보다 나이가 많은 분은 두 분 계시는데 모두 저보다 대한수학회 회장을 훨씬 늦게 했어요. 그래서 제가 회장으로서는 가장 원로입니다. 또 제가 수학회에서 하는 일이 매우 많아서 최근에는 70년사 편찬위원장을 맡아 844쪽이나 되는 책을 2년 반 걸려 만들었어요. 밤도 새면서 작업하느라 눈 수술도 하고 고생도 많았습니다.”

그동안 국내외에서 논문 390여 편이나 쓰셨는데요.

“한국 수학자로서는 지금부터 10여 년 전까지만 해도 제가 논문을 제일 많이 썼다고 많이들 얘기했어요. 조그만 연구라도 제가 써서 발표하면 우리나라의 위상이 올라가니까 많이 썼어요. 1980년 이후에 학문을 본격적으로 연구하는 분위기가 생겼는데, 제가 앞장서서 했기 때문에 논문도 많아졌어요.”

37세에 늦깎이 미국 유학 가 박사학위

2016년 대한수학회 창립 70주년 기념식에 참석한 박 명예교수가 기념 촬영을 하고 있다. [사진 대한수학회]

지속적인 연구와 논문 발표의 비결은 뭔가요.

“학문에 대한 열정은 사람마다 다른데요. 제 경우에는 젊어서 수학을 하게 된 동기가 좀 더 참된 진리에 가까이 가자는 거였어요. 그런데 대학생 당시 제 스승께서 ‘대학원에 들어가서 당신을 도와 조교를 하고, 그다음 문리과대학 수학과를 위해서, 대한수학회를 위해서, 우리나라를 위해서 수학을 일으키라’고 하셨어요. 그 당부대로 살아왔어요.”

교수님이 만든 수학계의 중요 이론들을 소개해 주세요.

“하나는 ‘해석적 부동점 이론’이라는 건데요. 해석학에 나오는 부동점이론의 정리들을 정리해서 한 이론으로 만들었습니다. 그게 비교적 성공적으로 끝나서 1994년에 그것으로 학술원상을 받았어요. 그 이론을 좀 더 발전시켜서 ‘추상블록공간 이론’을 만들었는데요. 세 명의 폴란드 학자들이 만든 추상블록공간 정리가 있는데, 그 정리에서 파생되는 백여 개의 정리와 그것과 관련된 일반적인 연구를 하나로 요약한 이론입니다.”

논문을 대부분 단독집필하신다구요.

“학문을 남하고 같이한다는 게 그리 쉬운 일이 아닙니다. 자연과학에서는 실험이나 여러 연구자의 데이터를 모아서 하기 때문에 여러 사람이 논문을 같이 씁니다. 일종의 공장 시스템처럼 학문의 산업화가 이루어지고 있다고 생각하는데요. 저는 제가 생각하는 것을 해결하기에 바빠서 남에게 무언가 물어볼 틈도 없었고, 남들이 같이 연구하자고 해도 그럴 수 있을 만큼 제 시간을 할애해 줄 여유도 없어서 주로 혼자 썼어요.”

외국 학자들이 교수님의 논문을 많이 인용한다고 들었어요.

“제가 쓴 연구를 다른 사람이 읽고, 그중 한 줄이라도 인용한다는 것은 굉장히 고마운 일입니다. 어떤 면에서는 서로 인용을 하면서 격려를 하면서 학문을 발전시켜 나가는 겁니다.”

수학 공식처럼 복잡할 것 같았지만, 노교수가 수학자가 된 이유는 생각보다 단순했다. “6·25 전쟁 때 정치에 관여했다거나 고등 교육을 받았다는 이유로 맞아 죽는 사람들을 봤어요. 그래서 ‘수학을 하면 그럴 일은 없겠다’는 생각이 들었어요.” 저명한 원로 수학자는 또 “대한민국의 수학사 70년을 정리해 책으로 만들 수 있어 정말 영광이었다”고 했다.

밤새며 ‘70년사’ 편찬하느라 눈 수술도

국제 학회에 참석한 박 명예교수가 외국 학자들과 찍은 사진. [사진 대한수학회]

수학에 처음 관심을 갖게 된 계기가 뭔가요.

“중·고등학생 때 수학을 잘했고요. 6·25 전쟁 중에는 공부를 제대로 못 했으니까 우선 수학으로 대학을 가자는 생각으로 서울대 문리과 대학에 진학했어요. 문학과 철학, 역사도 좋아했어요.”

수학자가 되는 데 스승의 영향이 컸던 건가요.

＂당시는 직장이 별로 없어서 취직하기가 굉장히 어려웠어요. 근데 수학을 전공하면 최소한 고등학교 교사는 할 수 있다는 보장은 있었어요. 그러다 스승님의 당부로 대학원에 갔고, 스승님의 조교가 됐습니다. 공식 발령이 나지 않고 월급도 없는 조교였습니다. 이후 대리 강사를 하다가 전임 강사가 되기까지 5년이 걸렸어요. 이 기간동안 월급을 제대로 못 받아 연구를 제대로 못 했는데, 지금도 가슴이 아픈 부분입니다.”

미국 유학 시절은 어떠셨나요.

＂1970년에 조교수로 서울대 수학과 주임교수로 있다가 72년에 외국에 가서 공부를 더 해야겠다는 생각이 들어서 미국에 갔어요. 37세쯤 됐을 텐데 미국에서 저보다 16살 젊은 학생들과 함께 공부했습니다. 한국에서는 대학원 강의까지 한 사람인데, 거기서는 대학원 1학년 강의부터 새로 들었어요. 근데 서울대에서 ‘3년 안에 돌아와야 한다’고 하더라고요. 상당히 무리였지만, 어린 학생들이 세 과목을 들을 때 저는 다섯 과목을 들어서 1년 반 만에 박사를 했어요. 정부에서 14살 이상 자녀는 데려가지 못하게 해서 가족과 헤어져 사는 불행도 겪었습니다.”

유학 중인 후배들을 보면 무슨 생각이 드시나요.

＂미국 등 외국에서 교수 생활을 하고 온 학자들이 어깨에 힘이 가득 들어 있는 경우가 있는데, 그런 사람들보다 국내에서 활동하는 학자들이 훨씬 수준이 높은 경우가 많습니다. 이런 얘기는 듣기 싫어하는 말이지만, 제가 수학회 원로니까 할 수 있는 얘기입니다. 조국을 빛내려면 외국에서도 공부를 좀 더 열심히 하고 논문 인용도도 높이라는 말을 하고 싶습니다.”

대한수학회는 어떤 조직인가요.

＂6·25 전쟁을 전후한 시절에는 학자도 거의 없었어요. 수학을 가르치는 사람이 전국에 수십 명 있었고, 그중에 학자라고 할 수 있는 사람은 겨우 두세 명뿐이었습니다. 그때 학문을 일으켜야 한다고 생각한 스승 최윤식 박사가 ‘학자들의 모임인 학회가 반드시 있어야 한다’고 생각하고 조선수물학회를 만듭니다. 수학과 물리학자들을 모아 함께 연구하고 논문을 쓰자는 생각이었습니다.”

지금과는 아주 달랐겠네요.

＂이후 그것이 자라서 80년대가 되니까 학술지도 발행하고 학술발표회도 열심히 해서 외국에도 나가게 됐습니다. 2014년에는 세계수학자대회를 개최하고요. 지금은 아마 회원 중 수학 박사 학위를 가진 사람이 1000여 명 될 겁니다. 회원 수도 8000명 정도고요. 2016년에 밤낮으로 몰두해 ‘대한수학회 70년사’ 를 만들었는데 자랑스럽게 생각합니다.”

‘해석적 부동점 이론’ 정리해 학술원상

우리나라의 수학계의 수준은 세계적으로 어떤가요.

＂우리의 축구 실력과 비슷할걸요. 세계에서 20개국을 뽑으면 간신히 들어갈 정도는 됐다고 봐요. 그야말로 수학 박사 한 명도 없는 상황에서 시작해서 지금은 아마 수학 박사가 1000여 명 될 겁니다.”

학생들의 수학 실력도 늘었죠.

＂세계국제올림피아드대회라고 젊은 고등학생들을 대상으로 한 경시대회에서 우리가 두 번이나 1등을 했습니다. 그러니까 올림피아드에서는 세계 10대 강국이 된 거예요. 제 생각이니까 다른 사람들이 동의하지 않는다고 할 수도 있습니다.”

젊은 사람들에게 해주고 싶은 조언이 뭔가요.

＂뭐든지 열심히 해야 한다는 말을 해주고 싶어요. 최초의 꿈은 아니더라도, 차선을 선택할 것이라도 해도, 무슨 일이든지 정말 열심히 해야 한다는 겁니다. 외국에는 구멍가게를 하더라도 3대, 4대가 이어서 열심히 하는 경우가 많잖아요? 그게 정말 아름다운 거라고 생각해요.”

인생에서 꼭 지키려는 것은 무엇인가요.

＂어머님이 세 가지 당부하신 것이 있어요. ‘직업을 바꾸지 마라, 술 먹지 마라. 노름하지 마라.’ 제가 다른 것은 다 잘 지켰는데 술 먹지 말라는 것은 도저히 못 지키겠어요(웃음).”

인생이 무엇이라고 생각하시나요.

＂인생은 흘러가는 것이죠. 흐름을 거역할 수 없잖아요? 시류를 거역해서 혁명가가 될 수 없을 바에는 자기 할 일을 충실해야 한다고 생각합니다. 그게 영웅이 될 수 없는 사람이 해야 할 일이라고 생각해요. 주어진 환경 안에서 최선을 다하고, 그 과정에서 옳은 일을 하려고 하는 삶의 자세가 필요하다고 믿습니다.”

박세희 명예교수는

1935년 서울 출생
1959년 서울대 문리과대학 수학과 졸업
1970년 서울대 수학과 주임교수
1975년 미국 인디아나대 박사 학위 취득
1981년 서울시 자연과학 부문 문화상 수상
1982년 대학수학회 회장 취임
1987년 국민훈장 동백장 수상
1992~1993년 미국 인디아나대 객원교수
1994년 한국과학기술한림원 종신회원
1994년 대한민국 학술원상 수상
1996년 중국 연변대 객좌교수
1998년 대한수학회 논문상 수상
2001년~ 서울대 수학과 명예교수

송우영 기자 song.wooyeong@joongang.co.kr