아이돌 합성 음란사진, 뉴욕증시 폭락…인공지능 역습, 벌써 시작됐다

지난달 11일 미국 다우지수가 4% 급락했다. 사흘 전에도 4.15% 하락했다. 딱히 특별한 악재도 없었다. 낙폭을 키운 주범은 인공지능(AI). 각종 주가 변수 빅데이터를 인공지능이 분석해 주식을 사고파는 ‘알고리즘(연산절차) 매매’가 한꺼번에 매물을 쏟아낸 것이다.

투자은행인 B라일리FBR의 아트 호건 수석시장전략가는 “시장 변동성이 급격히 높아지면 알고리즘 매매의 비중이 90%까지 올라간다”며 “문제는 알고리즘의 구조가 비슷해 방아쇠가 한꺼번에 당겨진다는 데 있다”고 설명했다.

지난달 초 미국 다우지수가 급락하며 뉴욕 증시가 널을 뛰었다. 낙폭을 키운 주번으로 인공지능(알고리즘 매매)이 꼽힌다. [로이터=연합뉴스]

최근 인공지능으로 인한 폐해가 하나둘 드러나면서 제도적 보완책이 마련돼야 한다는 목소리도 커지고 있다.

당장 타격받는 부문은 일자리다. 인공지능 분석 업체인 ‘켄쇼’를 사들여 금융시장 분석을 맡긴 골드만삭스는 2000년대 초반 600여 명에 달했던 관련 애널리스트들을 2명으로 줄였다. 세계최대 자산운용사인 블랙록은 지난해 초 펀드 운용을 인공지능에 맡기고 스타 펀드매니저를 무더기로 해고했다.

세계경제포럼(WEF)에 따르면 2020년까지 15개 국가에서 일자리 716만 개가 사라질 전망이다. 새로 생기는 일자리는 202만 개에 불과하다. 일자리 감소는 일자리 질의 악화로 이어진다.

박가열 한국고용정보원 연구위원은 “인공지능이 중산층의 일자리를 대신하게 되고, 이들이 저숙련 노동으로 몰리게 된다”며 “근로 환경이 더 나빠지면서 일자리 양극화가 일어날 수 있다”라고 말했다.

인공지능이 노동을 대신하지만 소비를 대체할 수는 없다. 결국 재화ㆍ서비스의 생산량이 줄면서 대공황 수준의 경제 위기가 닥칠 수 있다고 우려하는 이유다.

사회적 규범과의 가치 충돌도 해결해야 할 과제다. 올해 초 열린 ‘CES 2018’에서 등장한 ‘하모니’는 여성과 같은 외모에 인간과 비슷한 표정을 짓고, 사용자와 야한 농담을 주고받는 섹스 로봇이다. ‘책임 있는 로봇을 위한 재단’(FRR)은 “성폭행 판타지나 소아성애 욕망을 충족시키기 위해 고용될 수 있다”며 “사회규범에 치명타를 입히고 약자들을 더 큰 위험에 노출한다”고 경고했다.

온라인상에는 인공지능으로 가짜 성인물을 만드는 기술인 ‘딥페이크’(Deepfakes)로 합성한 사진, 동영상 등이 유포되고 있다. 국내는 물론 헐리우드 유명 스타들의 얼굴을 합성한 음란물이 확산하고 있다.

최근에는 구글의 인공지능 기술이 미국 국방부의 ‘메이븐’ 프로젝트에 사용되고 있다는 사실이 드러나 파장이 일기도 했다. 무인항공기가 촬영한 영상을 분석해 무기 시스템 등을 감지하는 분석하는 프로젝트다. 구글 대변인이 “비(非)공격적 이용만을 위한 것이며, 사람이 검토할 수 있도록 도와줄 뿐”이라고 해명했지만, ‘인공지능이 인간을 살상하는 데 악용될 수 있다’는 비난 여론은 계속 이어지고 있다.

인공지능의 진단에 따라 치료를 했다가 의료사고가 나거나 자율주행차가 교통사고를 냈을 경우 인공지능의 소유자가 보상해야 할지 아니면 인공지능 개발자가 책임을 져야 할지 판단이 쉽지 않다. 인공지능이 만든 미술ㆍ음악 등 창작물의 지적재산권을 어느 선까지 인정하고 보호할지 등에 대해서도 논쟁이 지속하고 있다.

지난달에는 인공지능의 위협을 시나리오별로 검토한 전문가 보고서까지 나왔다. 미국 예일대와 영국 케임브리지대ㆍ옥스퍼드대의 전문가들은  ‘인공지능 악용 보고서’를 통해 5년 후면 인공지능의 인류 위협이 가시화할 수 있다고 전망했다.

보고서는 “인공지능이 기존 보안 시스템을 무력화하고, 드론은 얼굴 인식 기능을 이용해 테러를 가할 수 있다”며 “가짜 뉴스를 생산하거나 음성ㆍ영상 합성 기술로 여론을 조작하고 정치에 영향을 미칠 수도 있다”고 지적했다.

박유미 산업연구원 연구원은 “인공지능은 인간이 어떻게 설계하느냐에 따라 독이 되기도, 반대로 약이 되기도 한다”며 “앞으로 인공지능에 탑재되는 윤리적ㆍ사회적 가치 판단 여부를 어떻게 정할 것이냐에 대한 사회적인 논의가 활발해져야 한다”고 조언했다.
최현주 기자 chj80@joongang.co.kr