절판 책값 260억원…너무 부지런했던 인공지능의 참사

인공지능 vs 인공지능

그래픽=최종윤 yanjj@joongang.co.kr

인공지능(AI)은 눈부신 발전을 거듭해 이젠 몇몇 분야에서 인간의 능력을 앞서고 있다. 1997년 ‘딥 블루’라는 인공지능 컴퓨터가 세계 체스 챔피언을 이긴 이래, IBM 왓슨이 인간과의 퀴즈 대결에서 승리했으며(2011년), 알파고가 이세돌을 이겼다(2016년). 가장 최근에는 구글의 유방암 탐지 인공지능이 그 분야 전문의를 눌렀다(2020년).

쉬지 않는 알고리즘 간 무한경쟁 #주가지수 폭락 등 사태 부를 수도 #앞으로 인공지능 디자인 할 때는 #AI간 대결이 낳을 부작용 고려해야

이런 놀라운 결과에 힘입어 사람들은 인공지능을 여러 분야에 적용하기 시작했다. 올해 CES의 주된 관심은 ‘일상생활 속의 인공지능’이었다. 24시간 쉬지 않고 일하고, “월급 올려달라”고 불평하지 않으며, 오직 나를 위해 일하는 인공지능 노예를 만들어 지금까지 인간이 하던 일을 더 잘해 나간다면 누가 그것을 마다하겠는가.

벌써 많은 소비자 상품 기업은 몇천 명이 하던 고객 응대 업무를 ‘챗봇’이라는 인공지능 노예로 대처하고 있다. 금융회사인 골드만삭스가 최근 발표한 인공지능 시스템 ‘워런’은 애널리스트 15명이 꼬박 4주 동안 해야 하는 데이터 수집·분석과 시장 예측을 불과 5분 만에 해낸다고 한다.

앞으로 기업이나 개인의 경쟁력은 인공지능 노예를 어떻게 내 구미에 맞게 디자인하고 잘 활용하는가에 달릴 것이다. 이에 더해 앞으로 많은 사람이 인공지능 노예를 사용함에 따라, 인공지능과 인공지능이 대결하는 상황도 변수로 고려해야 할 것이다.

수년 전 아마존 북스토어에서 실제 일어난 ‘책값 260억원 사건’은 인공지능 간의 대결이 초래한, 상상치 못한 결과를 보여준다. 유전공학을 전공하는 버클리대 연구원은 아마존 북스토어에서 초파리 연구에 관한 『파리의 탄생(The Making of a Fly)』이라는 책을 사려다 깜짝 놀라고 말았다. 92년에 초판이 나온 후 절판돼 시중에 몇 권 없었다고 하지만, 책값이 무려 173만45.91달러(약 21억원)였다. 가끔 인터넷에서 오류가 날 수도 있는 일이라, 사려던 것을 포기하고 다음 날 다시 아마존에 들어갔다. 책값은 280만 달러로 올라 있었다. 그날 저녁에 다시 본 가격은 350만 달러, 거의 42억원이었다.

무엇이 잘못됐던 것일까. 아마존 내 서점인 ‘프로프내스(profnath)’와 ‘보디북(bordeebook)’ 두 곳은 컴퓨터를 통해 상대방의 책값을 읽었다. 한 서점은 다른 서점에서 파는 똑같은 책의 값에 1.27059를 곱해 가격을 표시하라는 알고리즘을, 다른 한쪽은 0.9983을 곱해 가격을 정하라는 알고리즘을 시행했다. 서로 한 번 주고받으면 25% 넘게 책값이 뛴다. 이에 따라 두 곳이 줄기차게 책값을 조정하면서 결국 값은 260억원까지 올랐다(택배비는 그대로 3.99달러였다).

인공지능은 고지식하다

IBM의 왓슨은 2011년 미국 퀴즈쇼 ‘제퍼디’에 출연해 챔피언들을 제압했다. [중앙포토]

그저 재미있는 에피소드로 생각할 수도 있지만, 이 사례는 인공지능과 인공지능의 대결 때문에 앞으로 우리에게 닥칠 수도 있는 사회의 단면을 보여준다. 상대방 가격을 체크해 내 상품의 가격을 바꾸는 일을 인간에게 시켰다면 기껏해야 하루에 2~3번 정도 했을 것이다. 그러나 너무나도 부지런한 인공지능 노예는 수십만 건의 상품에 대해 하루에 수백 번씩 이 일을 진행했다.

인공지능끼리의 대결은 주식거래와 광고에서도 빈번하게 일어나고 있다. 현재 전 세계 주식 트레이딩의 75~80%는 컴퓨터 알고리즘에 의해 움직인다. ‘로봇 트레이딩’ 또는 ‘알고리즘 트레이딩’이라 부르는 것이다. 여기서 트레이딩은 인간이 아닌, 미리 구성된 알고리즘에 의해 자동으로 진행된다. 가장 큰 장점은 속도다. 인간이 상상할 수 없는 속도로 정보를 분석해 1초에 수천 건 거래를 진행한다.

사람들은 한편으로 남보다 빠른 네트워크 회선을 구축하기 위해 서버를 거래소 근처로 옮겼다. 또한 다른 사람의 알고리즘에 혼돈을 주는 알고리즘, 다른 알고리즘을 읽어오고 저격하는 알고리즘 등 주인을 위해 다른 알고리즘과 싸워주는 인공지능 노예들을 전장에 내보내고 있다.

인공지능 간에 싸움이 치열한 다른 분야는 온라인 광고다. 독자들은 가끔 다른 사이트로 이동했음에도 불구하고, 온라인 쇼핑몰에서 구매를 고려했던 상품이 배너 광고 형태로 따라 들어온 경험이 있을 것이다. 이는 ‘실시간 경매 시스템(RTB)’이란 온라인 광고 기법을 적용한 예다. 이용자들이 단순히 이 사이트에서 저 사이트로 검색하고 구매도 하고 정보를 찾아 옮겨 다닐 때, 이런 정보들을 대부분 ‘프로그램 광고’라는 산업 테두리의 기업들이 수집한다. 그러고는 당신이 어느 사이트에 들어오는 순간 당신의 최근 검색, 쇼핑, 방문 사이트, 읽은 기사 정보들을 분석해 어떤 배너 광고를 내보낼지 인공지능 간에 경매를 한다. 서로 다른 광고를 보여주려고 경쟁하는 기업들이 경매에 참여해 가장 높은 가격을 제시한 업체의 광고가 당신이 들어간 사이트에 나타난다. 물론 지금 여기서 설명한 모든 일은 0.001초 안에 이뤄진다. 배너 광고 공간을 차지하려는 한 기업의 인공지능 알고리즘과 다른 기업들의 알고리즘이 치열하게 경쟁하는 것이다.

인공지능이 빚은 이더리움 폭락

사람보다 훨씬 빠르고 엄청난 기억력과 정보처리능력으로 주어진 일을 쉬지 않고 하는 인공지능 노예는 장점도 많지만 문제도 있다. 고지식하고 상식이 없어 그저 시키는 대로만 일한다. 그러다 어느 순간 인간이 생각하지 못한 엄청난 실수를 저지른다. 특히 인공지능끼리 경쟁하다 보면 그 속도와 범위가 우리의 상상을 넘어 인간이 의도하지 않은 방향으로 갈 수 있다. 앞서 소개한 대로 인공지능끼리 서로 반응해 10만원 이하의 책이 260억원이 되기도 한다. 주식거래에서도 그렇다. 2010년 미국 뉴욕 주식시장에서 다우지수를 순식간에 1000포인트가량 하락시킨 후 다시 10분 안에 회복시킨 일이 있고, 2017년 암호 화폐 이더리움이 순식간에 300달러에서 10센트로 떨어진 일도 있다. 일부 인공지능의 거래 오류와, 이에 반응한 다른 알고리즘의 연쇄적인 ‘추종 거래’가 일으킨 사고다. 알고리즘간의 경쟁이 어떻게 시스템의 실패로 이어질 수 있는가를 보여주는 예다.

인공지능 간의 대결은 그 분야가 지속해서 확대되고 있다. 얼굴 인식과 가짜 뉴스에서, 한쪽 인공지능은 가짜를 만들고 다른 쪽에서는 가짜를 판별하는 싸움을 하고 있다. 정보보안 분야에서도 보안을 뚫으려는 인공지능과 막으려는 인공지능의 경쟁이 치열하다. 앞으로는 범위가 더 확대될 것이다. 예를 들어 상대와 비즈니스 대화를 하는 동안 내 스마트폰 안의 인공지능은 상대가 거짓말이나 과장을 하고 있을 확률이 어느 정도인지 표시해 줄 수 있다. 물론 상대도 내 말의 진위를 같은 방식으로 확인하고 있을 것이다. 경우에 따라서는 상대를 교란하기 위한 작전을 인공지능이 지시해 줄 수도 있다.

앞으로 인간은 인공지능이 나만을 위해 최적의 일을 할 수 있는 디자인과 더불어, 상대방의 인공지능 전략을 이해하고 이를 역이용하는 전략까지 고려해야 한다. 또한 인공지능의 시간과 범위는 지금까지의 인간의 사고 범위를 뛰어넘어 시스템 자체의 붕괴를 부를 수 있다는 점도 같이 고려해야 할 것이다.

세계 체스 챔피언은…인공지능 아닌 ‘인간 + 인공지능’ 연합팀

2005년 ‘자유형 체스 대회’라는 것이 생겼다. 작은 PC조차 체스에서 인간의 마스터 급 플레이어를 이기게 된 후다. 자유형 체스 대회는 슈퍼컴퓨터가 나오든, 사람 여러 명이 팀으로 나오든 상관없는 대회다. 많은 사람은 슈퍼컴퓨터를 통한 세계 최고 인공지능끼리의 경쟁이 될 것으로 예상했다. 하지만 놀랍게도 이 대회의 첫 우승자는, 체스 실력이 조금 우수한 정도였던 청년 두 명이었다. 이들은 노트북 PC를 갖고 나와 상대 슈퍼컴퓨터 인공지능의 전략을 분석하며 체스를 두어 승리했다. 그 후도 우승은 가장 좋은 인공지능이 아니라 체스를 조금 둘 줄 아는 사람이 인공지능을 이해하며 컴퓨터의 도움을 받아 두는 팀으로 거의 다 돌아가고 있다. 이처럼 인공지능 대 인공지능의 대결에서도 결국은 인간의 개입이 가장 큰 변수가 될 것이다.

◆이준기 교수

연세대 정보대학원에서 ‘디지털 기술이 기업과 사회에 미치는 영향’을 연구하고 가르친다. 연세대 학술정보원장(CIO), 한국빅데이터학회장 등을 역임했다. 서울대에서 컴퓨터를 전공하고 미국 카네기멜런대 사회심리학 석사, 남캘리포니아대 경영학 박사 학위를 받았다. 『웹2.0과 비즈니스 전략』 『오픈콜라보레이션』 등의 저서가 있다.