오피니언 김영훈의 과학 산책

신호와 소음

중앙일보

입력

지면보기

종합 28면

김영훈 고등과학원 수학부 교수

김영훈 고등과학원 수학부 교수

과학은 반복되는 패턴을 발견하고 그 원리를 찾는 과정이다. 이렇게 찾아낸 원리를 바탕으로 새로운 예측을 하고 검증하는 과정을 반복하여 확실한 지식의 영역을 넓혀간다.

짐 사이먼스(85)는 버클리에서 박사학위를 받고 MIT 교수를 거쳐 스토니 브룩 대학교에서 미분기하학에 크게 기여하며 수학자로서 성공적인 삶을 누리고 있었다. 40세가 된 1978년 무질서해 보이는 금융시장에서도 수학에서처럼 패턴과 원리가 분명히 있을 것이라 믿고 도전에 나섰다. 학계를 떠나 롱아일랜드의 허름한 사무실에 투자회사를 차린 것이다.

김지윤 기자

김지윤 기자

하지만 주식이나 선물 거래에서 패턴을 읽어내기는 인간의 능력으로는 어려웠다. 1990년까지 그저 그런 성과를 내는 소규모 펀드를 운용하는 데 머물렀다. 그러다가 90년대 이후 완전히 달라졌다. 수학적 모델링을 통한 알고리즘 투자를 본격적으로 시작한 것인데, 컴퓨터 성능의 향상, 양질의 데이터 확보, 그리고 확률미분방정식과 기계학습의 기법을 적용하여 시장의 패턴을 읽어냈다.

2008년 금융위기 시기에도 그가 운영하는 펀드는 연 84%의 수익률을 보이며 수학적 방법의 힘을 증명했다. 이후에도 경이적인 수익률을 이어가고 있는데, 현재 미국 주식 거래의 30% 이상이 사이먼스의 방법을 따르는 퀀트 투자자에 의해 이뤄지고 있다. 큰 부를 얻은 이후 사이먼스는 많은 기부를 통해 자폐아 치료, 학술 활동과 교육 사업 등을 지원해 왔다.

소음으로부터 신호를 분리하여 패턴을 읽어내는 기술은 나날이 발전하고 있다. 설문조사를 통해서만 이루어지던 시장 예측에 요즘은 인공위성 사진, 휴대전화 사용패턴, 주유 횟수 등 온갖 데이터들에서 소음을 제거하고 패턴을 찾아 정확성을 높일 수 있다. 머지않은 장래에 사이먼스가 개발한 수학적 기법들이 금융을 넘어 빈부격차·기후위기·식량부족과 같은 인류 전체의 문제를 해결하는 데 크게 기여할 수 있기를 바란다.

김영훈 고등과학원 수학부 교수