그림 속에 감춰진 '수학의 역설'

중앙일보

입력

업데이트

미술과 수학은 잘 어울릴 것 같지 않은 분야다. 그러나 사실은 잘 어울린다. 서로 사상과 이론을 접목하며 발전해왔다. 미술 속의 수학을 찾아본다.[편집자]

'반듯한 곡선'은 미국 미술가 브리지드 릴리의 1963년 작품 이름이다. 직선=곡선이라는 식의 작품명은 상식적으로 전혀 어울리지 않는다. 서로 상반된 개념이기 때문이다. 그의 작품은 직선만으로 이루어져 있으나 그 속에는 전체적으로 곡선과 직선이 공존하고 있다. 눈의 착시현상 탓이다.

릴리의 작품은 수학 이론 중 토폴로지(topology)라는 위상기하학이 적용된 작품이다.

토폴로지는 ◇☆♡□이 모두 같다고 본다. 마름모꼴이나 별 모양 등 네 가지 도형은 한 선의 양끝이 연결된 단일폐곡선이기 때문이라는 것이다. 모양이나 각도가 변하는 것은 전혀 달라지는 것이 아니라는 개념이다. 이는 수학을 단순히 3차원이나 자연 속에서 찾지 않고 사유의 세계로까지 영역을 확장한 것이다.

초현실주의 화가인 르네 마그리트의 작 '유클리드의 산책'에는 수학의 공리에 반대되는 역리(패러독스)가 표현되어 있다. '평행한 두 직선은 절대 만나지 않는다'는 그리스 수학자 유클리드의 증명이 틀렸다는 것을 역설적으로 보여준다. 그림 속에서 유클리드가 걷고 있는 양쪽 대로변이 멀리서 만나게 그려져 있다.

전혀 관련이 없을 것 같은 수학과 미술. 릴리나 마그리트의 작품에서처럼 미술과 수학은 서로의 이론과 사상에 동화되면서 발전해 왔다. 고대 그리스 시대에는 유클리드 기하학의 영향으로 '평행한 두선은 절대 만나지 않는다'가 르네상스 시대를 거치면서 '평행한 것도 만나는 것처럼 보인다'로 변한다. 그때 회화에 원근법이 나타나기 시작했다.

이탈리아 산타마리아 노벨라 성당의 벽화인 성삼위일체(마사초 작.1425년)는 수학에 기초한 정밀한 원근법을 처음으로 적용해 그린 그림이었다. 원근법은 평행한 두 선이 아주 먼 곳에서는 만나는 것처럼 보이기도 한다.

고신대 정보미디어학부 계영희 교수는 "19세기 유럽의 시대정신은 수학에서 집합론을 탄생시켜 미술을 추상화로 치닫게 했다. 미술에서는 화가의 시점이 고대나 르네상스처럼 한 점이 아니라 여러 곳이 되는가 하면, 원근법이 파괴되고 외형에서 내면의 세계로 작품의 흐름이 바뀌었다. 결과적으로 추상화는 토폴로지 시대를 열었다"라고 분석했다. 계교수는 시대별로 미술 속에 어떤 수학이 녹아들어 있나를 집중적으로 연구하고 있다.

추상화의 거장 피카소의 '마리 텔레즈(1937년)'는 여성의 옆 모습과 앞 모습을 한 화폭에 담고 있다. 여인을 바라보는 화가의 시각이 하나로 고정되어 있지 않은 것이다. 피카소의 작품에는 이처럼 원근법과 자연주의 등에서 나타나는 고정관념을 깬 장면이 여러 곳에서 발견된다.

원근법이 깨지게 된 것은 화가들이 원근법이 눈의 착각임을 깨닫고 인간의 내면 세계로 눈을 돌렸기 때문이다.

20세기에 들어 처음 등장한 수학의 프랙탈 이론은 미술에도 많은 영향을 끼쳤다. 프랙탈은 눈의 결정이나 야채의 한 종류인 브루클리 모양처럼 뽀글뽀글한 무늬가 반복되면서 나타나는 것. 네덜란드의 판화가 엣셔의 '천국과 지옥(1960년)'은 프랙탈의 진수를 맛보게 한다. 박쥐를 연속적으로 그린 이 작품은 검은 색 바탕을 보면 박쥐가,흰 바탕을 보면 천사가 연속적으로 있는 것 처럼 보인다. 프랙탈을 이용해 파라독스를 표현한 작품이기도 하다.

르네 마거릿뜨의 또다른 작품인 '단어의 사용Ⅰ(1928년)'은 일명 마도로스 파이프 하나가 그려져 있는 것이다. 그러나 거기에는 '이것은 파이프가 아닙니다'라는 글귀가 적혀있다. 화가는 캔버스에 그려져 있는 파이프는 단지 허상일 뿐이라는 사실을 알려주는 것이다. 이는 참이라고 생각하면 거짓이 되고, 거짓이라고 생각하면 참이 되는 수학의 순환논리를 말해주고 있다.

독일의 수학자 뫼비우스가 '뫼비우스 띠'를 만들자 미술에도 이 띠는 중요한 소재가 됐다. 이 띠는 띠의 면을 180도 꼬아 끝을 서로 붙여 놓은 것으로 면과 중심점이 하나다. 막스 빌의 조각 '끝없는 표면', 에셔의 '불개미'등이 뫼비우스를 소재로 한 대표적 작품이다.

계교수는 "화가들에 의한 원근법의 탄생은 사영기하학을 태동시켰으며,19세기의 자율성을 추구하는 사상은 수학과 미술을 추상으로 이끌어 갔다"며 "이런 흐름은 수학과 미술이 같은 시대정신의 리듬을 타기 때문"이라고 말했다.

박방주 과학전문 기자