[인생스토리] 수학계의 산 증인…논문 390여 편 쓴 '영원한 수학자'

네이버·중앙일보 공동기획 [인생스토리] ⑤ 박세희 서울대 수학과 명예교수

여든이 넘은 백발의 노교수는 “몇 년 전부터 읽고 싶은 소설이 있는데 아직 읽지 못했어요. 지금 하고 있는 연구만 끝나면 읽겠다고 몇 번을 다짐했는데, 매번 시간이 모자라요”라며 아이처럼 웃었다. 서울 도곡동 자택에서 만난 박세희(84) 서울대 수학과 명예교수 얘기다.

논문 390여 편 쓴 '영원한 수학자' #박세희 서울대 수학과 명예교수 #“수학을 하면 맞아 죽지는 않겠다고 생각” #대한수학회의 70년사 책으로 만들어

박세희 서울대 수학과 명예교수가 5일 서울 도곡동 자택에서 중앙일보와 인터뷰하고 있다. 임현동 기자

‘영원한 수학자’로 불리는 박 명예교수는 1960년대부터 우리나라 수학계를 이끌어 온 원로다. 논문 390여 편을 쓴 ‘논문 왕’이고, 대한수학회장을 지냈다. 한국과학기술한림원 종신 회원인 그는 고령인 지금도 온종일 연구를 하며 하루를 보낸다고 한다. 해외의 학자들이 논문에 자주 인용하는 수학계의 이론들을 만들기도 했다.

“6ㆍ25 전쟁 때 정치에 관여했다거나 고등 교육을 받았다는 이유로 맞아 죽는 사람들을 봤어요. 그래서 ‘수학을 하면 그럴 일은 없겠다’는 생각이 들었어요.” 수학 공식처럼 복잡할 것 같았지만, 노교수가 수학자가 된 이유는 생각보다 단순했다. 저명한 원로 수학자는 또 “이제 남은 생이 길지 않은데, 철학과 역사를 원하는 만큼 많이 공부하지 못한 것은 아쉬워요”라고 했다.

교수님이 우리 수학계의 가장 원로이신가요.

저보다 한 살, 네 살 더 나이가 많은 분이 계시는데 그분들이 저보다 대한수학회 회장을 훨씬 늦게 했어요. 그래서 제가 회장으로서는 가장 원로입니다. 또 제가 수학회에서 하는 일이 매우 많아서 최근에는 70년사 편찬위원장을 맡아 844쪽이나 되는 책을 2년 반 걸려서 만들었어요. 밤도 새면서 책을 만드느라 눈 수술도 하고 고생도 많았습니다. 그래도 우리나라 수학회를 위해서 하는 일이라고 생각해서 끝까지 열심히 했어요.

그동안 국내외에서 논문 390여 편이나 쓰셨는데요.

한국 수학자로서는 지금부터 10여 년 전까지만 해도 제가 논문을 제일 많이 썼다고 많이들 얘기했어요. 근데 논문을 많이 쓴 게 자랑이 아니에요. 조그만 연구라도 제가 써서 발표하면 우리나라의 위상이 올라가니까 많이 썼어요. 예전에는 수학에 관한 연구라고 하는 것이 뚜렷하지 못했고 연구하는 분위기도 1980년 이후에 생겼는데, 제가 앞장서서 그 일을 해 나갔기 때문에 논문도 많아졌고요. 또 새로운 이론을 제가 만들었기 때문에 논문이 많아졌는데, 결코 이것은 자랑이 아니고 학문의 역사에서는 흔히 있는 일이에요.

2001년 정년퇴임 당시의 박세희 명예교수(가운데 앞). [사진 박세희 명예교수]

지속적인 연구와 논문 발표가 쉬운 일은 아닐 것 같은데요.

학문에 대한 열정은 사람마다 다른데요. 제 경우에는 젊어서 수학을 하게 된 동기가 좀 더 참된 진리에 가까이 가자는 거였어요. 이런 기분에서 수학하면서도 논리학 공부를 하고 철학 공부를 해서 뭔가 그런 깊이 있는 일을 하려고 했는데요. 실질적으로 인생을 살아나가는 데는 직업도 있어야 하잖아요. 당시 제 스승께서 뭐라고 당부를 하셨냐면, 대학교 4학년 때 ‘대학원에 들어가서 당신을 도와 조교를 하고, 그다음 문리과대학 수학과를 위해서, 대한수학회를 위해서, 우리나라를 위해서 수학을 일으키라’고 하셨어요. 그 당부를 받아서 ‘다른 것을 했다가는 큰일 나겠다’는 생각이 들어서 그대로 살아왔어요.

1983년 대한수학회가 주최한 제1회 수학교육 심포지엄에서 발표하고 있는 박 명예교수(오른쪽). [사진 대한수학회]

교수님이 만든 수학계의 중요 이론들을 소개해 주세요.

하나는 ‘해석적 부동점 이론’이라는 건데요. 부동점 이론이 여러 가지가 있습니다. 거리 공간에서 하는 게 있고, 이산수학적으로 연구하는 것이 있고요. 제가 한 것은 해석학에 나오는 부동점이론의 정리들을 정리해서 한 이론으로 만드는 건데요. 그게 비교적 성공적으로 끝나서 1994년에 그것으로 학술원상을 받았어요. 그 논문이 대학수학회 잡지에 실렸는데, 지금까지도 사람들이 ‘한국 잡지에 실린 것으로 그런 큰 상을 받은 것은 역사상 처음이다’고 해요. 그 이론을 좀 더 발전시켜서 ‘추상블록공간 이론’을 만들었는데요. 세 명의 폴란드 학자들이 만든 추상블록공간 정리가 있는데, 그 정리에서 파생되는 백여 개의 정리와 그것과 관련된 일반적인 연구를 하나로 요약한 이론입니다.  

이 두 이론이 수학계에 어떤 의미가 있나요.

쓸모가 매우 많은 이론인데요. 저는 밑바닥에 깔린 원리를 찾아내서 정리하고 체계를 세운 것입니다. 전 세계에서 390명 정도의 학자들이 내 이론을 공부하고 제 논문을 인용하고 있어요. 그런데 우리나라 학자들은 별로 제 이론들은 인용하지 않아요. 우리 학계에는 우리의 연구에 대해서는 별로 주의 깊게 살피지 않는 경향이 있어요. 학자들이 해외에 진출하려는 욕망이 강해서 그런 분위기가 있습니다.  

박세희 명예교수가 자신이 쓴 '추상블록공간의 이론'에 대해 설명하고 있다. 임현동 기자

국내 연구를 경시하는 경향이 있다는 건가요.

그렇습니다. 국학을 하는 분들을 제외하면 학자들 사이에서 외국 대학, 외국 연구를 숭상하는 분위기가 있는데요. 철학을 비롯한 사회 과학, 인문 과학은 국제적인 학자가 되기가 참 어려워요. 논문은 외국어로 쓰는 것도 어렵고 말이죠. 그런데 수학은 저처럼 새로운 이론을 세워서 자기 것을 만들고 그것을 외국에 알려지게 하는 것도 중요하다고 봅니다. 

“대부분 논문 단독집필…세계 70여개 국 방문”  

교수님은 특히 논문을 대부분 단독집필하시는 거로 유명한데요.

학문이라는 것은 머릿속에서 이루어지는 건데, 그것을 남하고 같이한다는 게 그리 쉬운 일이 아닙니다. 자연 과학에서는 실험이나 여러 연구자의 데이터를 모아서 하기 때문에 여러 사람이 논문을 같이 씁니다. 일종의 공장 시스템처럼 학문의 산업화가 이루어지고 있다고 생각하는데요. 이런 식으로 여러 사람이 모여서 논문 한 편을 만드는 경우도 있고요. 저는 제가 생각하는 것을 해결하기에 바빠서 남에게 무언가 물어볼 틈도 없었고, 남들이 같이 연구하자고 해도 그럴 수 있을 만큼 제시간을 할애해 줄 여유도 없어서 주로 혼자 썼어요.  

외국 학자들이 교수님의 연구를 인용할 때 보람차시겠어요.

젊었을 때 논문을 쓰면 아무도 읽어주지 않아요. 그리고 외국에 나가 유명해진 학자 중에도 다른 학자들로부터 인용도가 높은 사람은 많지 않습니다. 그런데 제가 쓴 연구를 다른 사람이 읽고, 그중 한 줄이라도 인용한다는 것은 굉장히 고마운 일입니다. 어떤 면에서는 서로 인용을 하면서 격려를 하면서 학문을 발전시켜 나가는 겁니다.   

논문 발표와 해외 학술 대회 참가 등으로 해외에도 많이 다니셨다고 들었습니다.

세계 70여 개국을 다녔어요. 1980년대까지는 우리나라 학자가 외국에 가서 발표하는 경우가 굉장히 드물었는데요, 수학의 경우에는 연구 환경이 좋지 않아서 국제적으로 발표할 만한 연구 결과가 없었던 것도 한 원인이고요. 정부 통제도 심했어요. 80년대부터 연구 분위기가 조금씩 조성되고, 외국에 나가는 것도 용이해졌습니다. 방학 때 외국 학회에도 참석하고 자료도 수집해오고 이런 것을 지금까지 한 30년 하니까, 외국 학자들과 교류도 많이 하고 현지 연구 시설들도 활용했어요.   

“수학을 하면 맞아 죽지는 않겠다는 생각이 들어” 

1981년 대한수학회 창립 35주년 기념식 사진. 왼쪽에서 세번째에 앉아 있는 사람이 당시 부회장이던 박 명예교수다. [사진 대한수학회]

수학에 처음 관심을 갖게 된 계기가 뭔가요. 

어린 시절 독서광이었어요. 그래서 부모님은 ‘얘가 아무래도 소설가가 될 건가 보다’고 얘기를 하셨는데요. 6·25 전쟁 때 중학생이었는데 당시 고등 교육을 받았다는 이유로 맞아 죽는 사람도 있었고, 정치에 관여했다고 해서 죽는 사람도 있었어요. 그런 것을 보면서 ‘아 수학을 하면 맞아 죽지는 않겠다’는 생각을 했어요. 중·고등학생 때 수학을 잘했고요. 6·25 전쟁 중에는 공부를 제대로 못 했으니까 우선 수학으로 대학을 가자는 생각으로 서울대 문리과 대학에 진학했어요.

수학 외에 다른 것에도 관심이 많았나요. 

문학과 철학, 역사를 좋아했어요. 지금도 문리과 대학 같은 곳이 있어도 학생들이 철학 공부도 하고 문학 공부도 했으면 좋겠는데, 지금은 힘들죠. 이제 남은 생이 길지 않은데, 철학과 역사를 원하는 만큼 많이 공부하지 못한 것은 아쉬워요.

1953년 고등학교를 다니던 시절의 박 명예교수(오른쪽). [사진 박세희 명예교수]

수학자가 되는 데 스승의 영향이 컸던 건가요. 

당시는 직장이 별로 없어서 취직하기가 굉장히 어려웠어요. 근데 수학을 전공하면 최소한 고등학교 교사는 할 수 있다는 보장은 있었어요. 그러다 스승님의 당부로 대학원에 갔고, 스승님의 조교가 됐습니다. 당시 미발령 무급조교라고 자리가 없어서 공식 발령이 나지 않고 월급도 없는 조교였습니다. 교통비 정도 받고요. 

1959년 서울대 수학과 신입생 환영회 사진. 맨 오른쪽이 박 명예교수고, 가운데가 박 명예교수의 스승인 최윤식 박사다. [사진 대한수학회]

이후 교수가 되신 거군요.

대리 강사가 됐어요. 그때는 교수가 부족해서 대학원 졸업 한 사람은 강사 발령이 나기 전에도 강의를 대신하기도 했어요. ‘대강’이라고 하죠. 전임 강사가 되기까지 5년이 걸렸는데, 이 5년 동안 월급을 제대로 받아본 적이 없어서 연구도 제대로 못 했어요. 논문 목록에도 이 기간이 비어있는데, 지금도 가슴이 아픈 부분입니다. 한참 열정을 갖고 공부를 해야 할 석사졸업생이 돈이 없어서 연구를 제대로 못 했다는 것이요.  

후배 연구자들을 보면 옛날 생각이 나시겠어요. 

요즘은 형편이 상당히 나아졌지만, 아직도 시간 강사를 하는 학자들의 고통은 이루 말할 수가 없습니다. 외국 유명 대학들은 이런 것을 상당히 합리적으로 해결 강사는 하고, 시간 강사를 해도 먹고 살 수는 있을 정도의 월급을 주는데 아직 우리 대학 사회에선 모자란 상황입니다.  

“해외파라고 어깨에 힘주면 안 돼”

1992년 박 명예교수가 한국을 방문한 미국 인디아나대 지도교수와 찍은 사진. [사진 박세희 명예교수]

미국 유학 시절은 어떠셨나요.

그때는 미국이 상당히 너그러워서 장학금을 잘 주던 시대입니다. 저는 1970년에 조교수로 서울대 수학과 주임교수로 있다가 72년에 외국에 가서 공부를 더 해야겠다는 생각이 들어서 미국에 갔어요. 37세쯤 됐을 텐데 미국에서 저보다 16살 젊은 학생들과 함께 공부했습니다. 한국에서는 대학원 강의까지 한 사람인데, 거기서는 대학원 1학년 강의부터 새로 들었어요. 근데 서울대에서 ‘3년 안에 돌아와야 한다’고 하더라고요. 상당히 무리였지만, 어린 학생들이 세 과목을 들을 때 저는 다섯 과목을 들어서 1년 반 만에 박사를 했어요. 그 뒤에 한국에 돌아와서 박사과정을 제대로 만드는 일을 했습니다.

3년 만에 돌아와야 했던 이유는 뭔가요. 

우리나라에서 공무원이 3년씩 외국에 나가는 것을 좋아하지 않았어요. 당시는 정부가 학자를 양성하고, 외국에서 연구하라고 격려하던 시절이 아닙니다. 미국에 갈 때 정부에서 14살 이상 자녀는 데려가지 못하게 해서 가족과 헤어져 사는 불행도 겪었습니다. 굉장히 원시적인 일이 불과 70년대에 우리나라에서 있었어요. 그런 상황에서도 선비 정신으로 학자들이 한둘씩 나오고, 대학이 운영되면서 여기까지 온 겁니다.  

유학한 후배들도 많을 텐데요. 

여러 학자가 미국에 가서 취직하고 외국에서 교수 생활을 하고 그러는데요. 그런 학자들보다 국내에서 활동하는 사람들이 훨씬 수준이 높은 경우가 많습니다. 논문 수나 인용도 측면에서요. 이전까지는 미국에서 교수를 하다가 왔다고 하면 어깨에 힘이 가득 들어 있었는데, 요즘에는 그런 사람들을 조금 우습게 보는 분위기도 생겼습니다. 이런 얘기는 학자들이 듣기 싫어하지만, 제가 수학회 원로니까 할 수 있는 얘기입니다. 조국을 빛내려면 외국에서도 공부를 좀 더 열심히 하고 논문 인용도도 높이라는 말을 하고 싶습니다.  

“대한수학회의 70년사 정리해 영광” 

2016년 대한수학회 70년사 편찬위원회 위원들이 모여 찍은 사진. 앞쪽 가운데가 편찬위원장인 박 명예교수다. [사진 대한수학회]

대한수학회는 어떤 조직인가요. 

요즘은 정부가 학회를 장려하고 학문의 육성을 위해서 애를 쓰는데요. 6·25 전쟁을 전후한 시절에는 학자도 거의 없었어요. 수학을 가르치는 사람이 전국에 수십 명 있었고, 그중에 학자라고 할 수 있는 사람은 겨우 두세 명뿐이었습니다. 그때 학문을 일으켜야 한다고 생각한 스승 최윤식 박사가 ‘학자들의 모임인 학회가 반드시 있어야 한다’고 생각하고 조선수물학회를 만듭니다. 수학과 물리학자들을 모아 함께 연구하고 논문을 쓰자는 생각이었습니다.  

지금과는 아주 달랐겠네요. 

이후 그것이 자라서 80년대가 되니까 학술지도 발행하고 학술발표회도 열심히 해서 외국에도 나가게 됐습니다. 지금은 그 수학회가 커져서 2014년에는 세계수학자대회를 개최했습니다. 지금은 아마 회원 중 수학 박사 학위를 가진 사람이 2000여명 될 겁니다. 회원 수도 4000명 정도고요.

자랑스러우시겠어요. 

우리 수학계가 그만큼 발전하는 과정에서 제가 여러 가지 일을 했는데요. 그것을 정말 자랑스럽게 생각합니다. 스승님께서 저한테 당부하신 ‘문리과대학 수학과를 키워라. 그다음 대한수학회를 키워라. 한국의 수학을 일으키라’고 하신 것에 일조한 것을 제 필생의 영광으로 생각합니다.

대한수학회의 70년사를 책으로 만드셨다고 하셨는데요.

2016년 대한수학회 창립 70주년을 맞아 당시 회장이 수학회의 역사를 제일 잘 알고 원로인 저에게 편찬위원장을 맡아 달라고 했어요. 그래서 옛날 회장들 전원을 편찬위원으로 하고, 두 사람을 상임위원으로 해서 밤낮으로 2년 반이 걸려 만든 것이 ‘대한수학회 70년사’ 책입니다.  

2016년 서울대에서 대한수학회 창립 70주년 기념사를 하고 있는 박 명예교수. [사진 대한수학회]

우리나라의 수학계의 수준은 세계적으로 어떤 수준인가요.

우리의 축구 실력과 비슷할걸요. 일류는 못돼도 이류 정도는 됩니다. 세계에서 20개국을 뽑으면 간신히 들어갈 정도는 됐다고 봐요. 전통적인 수학 강국은 프랑스하고 독일이고요. 영국·스웨덴·러시아·폴란드·이탈리아도 수준이 높고요. 미국은 20세기 들어와서도 한참 후부터 인재를 영입해서 집중적으로 육성하기 시작했는데 지금 최강국이 됐습니다. 우리는 그야말로 수학 박사 한 명도 없는 상황에서 시작해서 지금은 아마 수학 박사가 1000여명 될 겁니다.  

학생들의 수학 실력도 늘었죠. 

세계국제올림피아드대회라고 젊은 고등학생들을 대상으로 한 경시대회에서 우리가 두 번이나 1등을 했습니다. 그러니까 올림피아드에서는 세계 10대 강국이 된 거예요. 제 생각이니까 다른 사람들이 동의하지 않는다고 할 수도 있습니다.

“최초 꿈은 아니더라도 정말 열심히 해라” 

박세희 서울대 수학과 명예교수가 5일 서울 도곡장 자택에서 중앙일보와 인터뷰하고 있다. 임현동 기자

젊은 사람들에게 해주고 싶은 조언이 뭔가요. 

젊은 사람들이 저 같은 노인의 말을 듣겠습니까만, 뭐든지 열심히 해야 한다는 말을 해주고 싶어요. 최초의 꿈은 아니더라도, 차선을 선택할 것이라도 해도, 무슨 일이든지 정말 열심히 해야 한다는 겁니다. 외국에는 구멍가게를 하더라도 3대, 4대가 이어서 열심히 하는 경우가 많잖아요? 그게 정말 아름다운 것이라고 생각합니다.  

인생에서 꼭 지키려는 것은 무엇인가요.

어머님이 세 가지 당부하신 것이 있어요. ‘직업을 바꾸지 마라, 술 먹지 마라. 노름하지 마라.’ 제가 다른 것은 다 잘 지켰는데 술 먹지 말라는 것은 도저히 못 지키겠어요(웃음).  

인생이 무엇이라고 생각하시나요. 

인생은 흘러가는 것이죠. 흐름을 거역할 수 없잖아요? 시류를 거역해서 혁명가가 될 수 없을 바에는 자기 할 일을 충실해야 한다고 생각합니다. 그게 영웅이 될 수 없는 사람이 해야 할 일이라고 생각해요. 주어진 환경 안에서 최선을 다하고, 그 과정에서 옳은 일을 하려고 하는 삶의 자세가 필요하다고 믿습니다.

송우영 기자 song.wooyeong@joongang.co.kr

박세희 명예교수는

1935년 서울 출생
1959년 서울대 문리과대학 수학과 졸업

1970년 서울대 수학과 주임교수

1975년 미국 인디아나대 박사 학위 취득

1981년 서울시 자연과학 부문 문화상 수상
1982년 대학수학회 회장 취임

1987년 국민훈장 동백장 수상
1992~1993년 미국 인디아나대 객원교수

1994년 한국과학기술한림원 종신회원

1994년 대한민국 학술원상 수상
1996년 중국 연변대 객좌교수

1998년 대한수학회 논문상 수상
2001년~ 서울대 수학과 명예교수