ADVERTISEMENT
오피니언 문병로의 알고리즘 여행

은유와 관계

중앙일보

입력

지면보기

종합 24면

문병로 서울대학교 컴퓨터공학부 교수

문병로 서울대학교 컴퓨터공학부 교수

비유는 직접적 표현보다 맛깔스럽다. 어떤 표현과 그것이 묘사하는 것 사이에 표면적 괴리가 크면 은유적 긴장도가 높다고 한다. 직유는 긴장도가 거의 제로인 은유라 할 수 있다. 사고의 추상화 레벨이 높아질수록 은유적 프로세스가 많이 개입된다. 패턴 감지, 기시감, 알파고가 다음 착점 후보를 감지하는 것도 은유와 상관있다. 고등교육의 중요한 목적 중 하나가 긴장도 높은 은유를 감지할 수 있는 능력을 기르는 것이다.

교육 핵심은 은유 능력 키우는 것 #역사에서 배우지 못하는 사람은 #은유적 상상력이 없는 탓이다

피아노를 아주 깊게 친 학생은 마음만 먹으면 수학에서 비슷한 깊이까지 들어갈 수 있다. 바둑도 마찬가지다. 인간에게는 은유적 능력이 있기 때문이다. 튜링상을 받은 컴퓨터 분야의 천재 도널드 크누스는 자기 집에 초대형 파이프 오르간을 직접 설계해서 설치할 정도로 음악적 조예가 깊었다. 그가 말했다. “수학은 패턴의 과학이다. 음악도 다름 아닌 패턴들이다. 컴퓨터과학은 추상화와 패턴의 형성에 깊은 관련이 있다. 다른 분야와 비교하여 컴퓨터 과학은 지속적으로 차원이 급상승한다는 특징이 있다.” 음악, 바둑, 수학, 알고리즘은 모두 패턴의 과학이다. 명시적이거나 은유적인 패턴의 반복을 느끼는 과정이 핵심을 이룬다.

과학자들의 발견은 대개 은유적 착상으로부터 시작된다. 이후 그것을 명시적으로 규명하는 과정이 따른다. 새로운 문제에 대한 해결 알고리즘을 만드는 과정도 비슷하다. 먼저 영감이 오고 체계적 절차와 관계를 표현하는 일이 따른다. 어떤 문제를 해결하는 알고리즘 하나를 배우는 것은 직접적이다. 그것으로부터 기시감을 느껴 다른 문제 해결에 사용하는 것은 은유적이다. 은유적 능력은 고통스런 기초 확립의 시간과 시행착오의 축적이 만드는 기시감의 밭으로부터 나온다. 전공과 다른 영역의 독서도 은유적 상상력을 자극하는 토양이 된다.

필자가 아는 인물 중에 은유를 가장 사랑한 사람은 인류학자이자 생태학자이면서 심리학자이기도 했던 그레고리 베이트슨이다. 20세기의 대표적 석학이다. 그는 항상 장황한 은유로 직접적 표현보다 풍부하게 전달하고자 했다. 그가 말했다. “은유는 정신적 상호 연관성의 피륙을 짜는 방법이다.” 그는 그레고리 멘델의 연구를 세상에 알리고 유전학이란 용어를 처음 만든 윌리엄 베이트슨의 막내아들이다. 멘델을 기려 막내아들 이름을 그레고리라고 지었다 한다. 그레고리 베이트슨의 첫 번째 부인이 20세기 최고의 여성 문화인류학자라 불리는 마거릿 미드다. 재미있게도 베이트슨과 미드는 각각 3번씩 결혼한다.

관계는 은유의 핵심이다. 베이트슨은 마음속에서 지적 구성 요소들이 형성되고 관계하면서 성장하는 과정과 관계를 중심으로 한 생태학적 진화를 은유적으로 대비시켰다. 개체에 앞서 관계가 있다고 할 정도로 관계에 집착했다. 20세기 물리학도 개체 중심의 사고방식으로 쪼개고 쪼개어 들어가다 가장 깊은 레벨에서 관계 중심으로 설명할 수밖에 없는 상황을 만났다.

관계는 알고리즘에서도 핵심 개념이다. 재귀는 문제 속에 자신과 똑같지만 크기만 작은 문제가 하나 이상 포함되어 얽힌 현상을 말한다. 유명한 괴델 정리와 튜링의 정지 문제도 재귀로부터 모순을 도출한다. 알고리즘 분야에서 그래프는 점과 이들을 연결하는 간선으로 표현된 것을 말한다. 점은 대상물에 대응되고 간선은 대상물 간의 관계를 표현한다. 자동차 내비게이션, 고급 온라인 추천, 요즘 핫이슈인 딥러닝 같은 것들이 다 그래프 표현으로부터 시작한다.

일단 그래프로 모델링 되고 나면 해결 알고리즘의 창안 과정이 기다리고 있다. 전형적으로 이미 배우거나 경험한 문제들에 대한 알고리즘들로부터의 은유로 시작해서 이들을 결합 또는 확장하는 과정이 큰 비중을 차지한다. 알고리즘은 컴퓨터 과학에서 구축해놓은 사고의 빌딩블록들을 기초로 추상화를 하는 학문이다.

기업 현장에서 어려움을 겪는 문제들도 흔히 요소들 간의 관계에서 오는 복잡함을 감당하지 못해서 발생한다. 일을 해보면 압도적인 비율로 그래프 모델링을 하게 된다. 역사에서 배우지 못하는 사람은 은유적 상상력이 없는 탓이다. 정치인들이 이런 은유적 예민함을 갖고 있다면 우리는 훨씬 품격있는 정치를 보고 있을 것이다. 갑자기 가슴이 답답해진다.

문병로 서울대 컴퓨터공학부 교수