'인간의 꼼수'가 치명타였다…14번 패한 최강 'AI 바둑'의 굴욕

인공지능의 시대, 인간이 설 자리는…

주정완 논설위원

인공지능(AI)과 인간의 바둑 대결에서 이변이 발생했다. 세계 최고 수준의 오픈소스 바둑 프로그램으로 평가받는 카타고를 인간이 꺾은 것이다. 15차례 대결에서 인간이 14승 1패를 기록했다. 정공법 대신 AI의 맹점을 찾아낸 게 인간이 승리한 비결이었다. 미국 캘리포니아의 AI연구소인 ‘FAR AI’는 이런 내용의 논문을 홈페이지 등에 공개했다.

AI 바둑의 공격, 인간의 반격

승리의 주인공은 FAR AI의 인턴 연구원 켈린 펠린이다. 캐나다 맥길대 박사과정인 펠린은 미국 바둑협회에서 아마추어 6단을 인정받았다고 한다. 그는 일종의 ‘꼼수 전략’으로 카타고를 함정에 빠뜨렸다. 바둑에서 꼼수는 상대의 실수를 유도하는 얄팍한 속임수를 가리킨다.

최강 프로기사도 꺾은 카타고
미 아마추어에 1승 14패 굴욕

정공법 대신 ‘꼼수 전략’ 먹혀
2년 전 버그 확인, 여태 못 고쳐

“오류 없이 완벽한 AI는 없어
완전자율주행 불가능할 수도”

① 카타고(백)와 인간(흑)의 대결 장면. 오른쪽 아래 흑 9점을 잡은 백이 압도적으로 우세하다. ② 흑이 중앙 백 대마의 포위망을 완성했다. ③ 중앙 백과 주변 흑이 최후의 전투를 벌인다. 흑의 수가 더 많아 백 대마를 잡았다. ④ 흑이 죽은 백돌을 모두 따내고 승리를 확정한 모습. [사진 FAR AI]

연구소에서 공개한 기보(바둑의 경기 기록)를 보면 펠린의 전략은 경기마다 비슷한 패턴을 보인다. 우선 바둑판 4분의 1 정도 공간을 차지하는 대형 전투를 벌인다. 이때 인간의 대마는 두 집을 못 내고 AI에게 포위돼 죽은 돌이 된다. AI는 집 계산에서 압도적인 우위를 확인한다.

여기서부터 인간의 반격이 시작된다. 인간의 대마를 포위한 AI의 돌을 야금야금 포위하는 작전이다. AI가 전혀 신경 쓰지 않는 사이에 인간의 포위망이 완성된다. 이때도 AI는 승리를 의심하지 않는다. 그래도 인간 프로기사였다면 상대의 포위망이 완성되게 놔두지 않았을 것이다. 문제가 커지기 전에 화근을 제거한다는 개념은 AI에게 보이지 않는다.

이렇게 양쪽이 서로를 포위한 상태에서 최후의 전투를 벌인다. AI가 제대로 대응하면 인간이 이길 수 없는 상황이다. 그런데 무슨 이유에선지 AI가 수읽기에 착오를 일으킨다. 결국 인간이 AI의 대마를 잡고 극적인 역전승을 거둔다. 논문은 “바둑 AI의 실수는 인간에게 즐거움을 준다. 하지만 금융시장에서 AI를 활용한 자동매매나 자율주행 차량에서 비슷한 실수가 발생하면 심각한 결과로 이어질 수 있다”고 설명했다.

7년 전 알파고 오류와 차원 달라

이현욱

한국기원을 찾아가 프로기사의 의견을 들었다. 이현욱 9단이 인터뷰에 응했다. 이 9단은 2016년 이세돌 9단과 알파고와의 대결에서 현장 해설자로 활약했다. 1995년 프로 생활을 시작한 그는 현재 유튜브 채널(이현욱TV) 등으로 바둑팬을 만나고 있다. 다음은 일문일답.

현재 카타고의 실력은 어느 정도 수준인가.

“프로기사가 먼저 두 점을 놓는 정도로는 카타고를 이기기 어렵다. 최정상급 기사라도 먼저 석 점은 놓아야 승산이 있을 것이다. 현재 AI 바둑 중에서 가장 강하다고 하는 건 중국의 줴이(絶藝)다. 줴이는 비공개라서 일반인은 사용할 수 없다. 카타고도 줴이에 별로 뒤지지 않는다. 카타고는 수시로 업데이트되기 때문에 실력이 계속 강해지고 있다.”

이번 카타고의 바둑은 어떻게 봤나.

“처음엔 믿어지지 않았다. 다른 사람도 비슷한 수법으로 성공했다고 한다. 조작이나 사기는 전혀 아닌 거다. 모양은 이상하지만 어쨌든 바둑의 규칙을 어기지 않는 범위에서 벌어진 일이다. 단순 업데이트로 풀 수 있는 문제가 아니다. 근본적인 해결책을 찾아야 할 것이다.”

카타고가 오류를 일으킨 원인이 뭐라고 생각하나.

“바둑은 경우의 수가 무한대에 가깝다. 아무리 AI라도 모든 경우의 수를 다 계산할 수는 없다. 승률이 높은 수를 찾는 게 중요하다. 그 과정에서 말도 안 되는 수는 아예 무시한다. 거기서 카타고의 약점을 찾아낸 것으로 보인다. 외신을 보면 약점을 찾는 데 다른 AI의 도움을 받았다고 한다.”

7년 전 이세돌 9단이 알파고를 이겼던 바둑과 비교한다면.

“당시 네 번째 대국에서 이 9단이 ‘신의 한 수’라는 백 78수를 두자 알파고가 오류를 일으켰다. 대국 후 프로기사들의 연구에서 백 78수는 결과적으로 안 되는 수라는 결론을 냈다. 그렇더라도 이 9단은 가장 복잡한 수를 선택한 것이었다. 구글이 만든 다큐멘터리에 따르면 알파고는 이 수가 두어질 확률을 0.0007%로 봤다고 한다. 이번 카타고의 오류는 완전히 차원이 다르다. 이걸 바둑이라고 해야 할지, 말아야 할지도 모르겠다.”

‘신의 경지’ 넘보는 AI 바둑

바둑계에 전설처럼 내려오는 이야기가 있다. 대만 출신으로 1960년대 일본 바둑계 정상에 오른 린하이펑(林海峰)이란 기사가 있었다. 어느 날 기자가 물었다. “만일 바둑의 신과 대국한다면 먼저 몇 점을 놓아야 이길 수 있겠습니까.”

린하이펑은 이렇게 대답했다. “먼저 석 점을 놓는다면 웬만해선 지지 않을 겁니다. 그래도 목숨을 걸어야 한다면 넉 점을 놓겠습니다.” 현재 프로기사가 카타고나 줴이에 대해 느끼는 것과 비슷한 수준이다. 과거 최정상급 기사가 상정한 바둑의 신에 가까울 만큼 AI 바둑의 수준이 높아졌다는 얘기다.

알파고가 등장하기 전까지 AI가 바둑에서 인간을 꺾는 건 먼 미래의 일이란 의견이 압도적이었다. 크게 두 가지 이유가 있었다. 첫째로 바둑에선 경우의 수가 너무 많다. 가로 19줄, 세로 19줄의 바둑판에선 361개의 점이 존재한다. 바둑 한 판은 대개 150~200수까지 진행된다. 이때 경우의 수는 우주에 존재하는 모든 원자의 개수보다도 많다고 한다.

바둑이 체스·장기와 다른 점

둘째로 바둑에선 누가 이기고 있는지 판단하기가 매우 어렵다. 체스나 장기에선 각각의 말이 내재적인 가치를 갖는다. 따라서 중요한 말이 많이 남아 있으면 승률이 높다고 볼 수 있다. 반면 바둑에선 각각의 돌이 동일한 가치를 지니면서도 상황에 따라 극과 극으로 변한다.

인간 프로기사는 직관과 경험, 치밀한 수읽기로 이 문제를 해결한다. 알파고는 정책망(policy network)과 가치망(value network), 몬테카를로 트리 탐색이란 방법으로 기존의 한계를 극복했다. 수많은 경우의 수 가운데 비교적 확률이 높은 수를 추리고, 그중에서 가장 승률이 높은 수를 찾는 방법이다. 알파고는 2017년 바둑계를 은퇴했지만 비슷한 방식을 채택한 AI 바둑은 인간 최고수를 능가하고 있다.

FAR AI의 논문에 따르면 카타고를 꺾은 것과 같은 수법으로 다른 AI 바둑에도 도전했다. 릴라제로를 상대로는 132회 대결에서 8승(승률 6.1%), 엘프를 상대로는 142회 대결에서 5승(승률 3.5%)을 거뒀다. 논문은 “카타고를 상대로 한 것과 비교하면 상당히 낮은 승률이다. 다만 최정상급 기사가 릴라제로나 엘프에게 전혀 승산이 없는 것을 고려하면 중요한 의미가 있다”고 주장했다.

“완벽한 AI는 없다, 맹신은 금물”

김진호

AI·빅데이터와 바둑과의 관계를 연구한 전문가를 만났다. 스위스경영대 한국 대표인 김진호 교수다. 김 교수는 2016년 알파고와 이세돌 9단의 대결을 앞두고 알파고의 압승을 예상한 것으로 바둑계에 유명한 인물이다. 빅데이터·통계 관련 서적을 여러 권 펴낸 그는 AI가 현대 바둑의 수법에 어떤 영향을 줬는지 연구 중이다.

카타고에 오류가 발생한 원인은.

“상대의 돌이 길게 이어지면 계산에 착오를 일으킨다고 한다. 일종의 버그다. 카타고 개발자인 데이비드 우도 이미 2년 전에 문제를 알고 있었다고 한다. 그런데 고치지 않고 그냥 놔뒀다. 그만큼 수정이 어려운 문제라는 거다.”

수정이 어려운 이유는 뭔가.

“카타고 같은 바둑 전문 AI와 범용 AI인 알파고는 큰 차이가 있다. 특정한 문제를 해결하기 위한 코딩이 들어갔느냐, 아니냐다. 알파고 제로(2017년 버전)는 아무것도 들어가지 않았다. 사전 지식이 전혀 없는 상태에서 스스로 대국하며 바둑의 이치를 터득했다. 반면 카타고는 여러 가지 바둑의 규칙을 미리 프로그램에 집어넣었다. 이런 점에선 중국의 줴이도 카타고와 비슷하다.”

아예 버그를 고치지 못할 수도 있나.

“어떻게 임시방편으로 보완할 수는 있을 거다. 그러면 또 다른 약점이 나타날 수 있다. 결국 AI도 100% 완벽하지는 않다. 완벽한 바둑을 위해선 모든 경우의 수를 다 계산해야 한다. 그건 불가능하다.”

바둑이 아닌 다른 분야의 AI에는 어떤 시사점이 있을까.

“모든 AI에는 결함이 있을 수 있으니 맹신하지 말아야 한다. 자율주행 차량을 생각해 보자. 온전히 AI의 판단에만 맡길 수 있을까. 사고가 났을 때 법적인 책임 문제도 있을 것이다. 결국 인간이 일정한 규칙을 집어넣을 것이다. 이럴 땐 이렇게 하고, 저럴 땐 저렇게 하라는 식이다. 그게 모든 문제를 해결하는 건 아니다. 경우에 따라선 상황이 더욱 꼬일 수 있다. 그래서 완전 자율주행은 현실에서 실현될 수 없는 꿈이라고 본다.”

주정완 논설위원