2분 만에 460억 날린 투자AI…사생활 침해 논란 ‘딥페이스’

중앙일보

입력

업데이트

지면보기

정진우 기자 백수진 기자

인공지능(AI) 영화‘엑스 마키나’ 캡처

지난 13일 치러진 이세돌 9단 대 인공지능(AI) 알파고의 제4국. 이 9단의 백 78수에 알파고는 ‘떡수(이상한 착수를 뜻하는 속어)’를 연발하며 자멸했다.

인공지능 윤리 ‘발등의 불’
금전적 손해 초래, 범죄 악용 우려
인명 피해 큰 ‘전투 로봇’ 억제론

이로써 알파고가 무결점의 완벽한 AI가 아님이 드러났다. 자율주행차·원격의료 등 AI 기술을 실생활 곳곳에 활용할 계획을 갖고 있는 구글로서는 아픔을 느낄 만한 대목이었다.

이은철 트레저데이터코리아 대표는 “AI는 기계적으로 방대한 자료를 학습하지만 예상치 못한 상황에 대한 대응력에는 한계가 있을 수밖에 없다”고 말했다.

지난달 14일(현지시간) 구글의 자율주행차가 시속 3㎞로 미국 캘리포니아주의 도로를 달리다가 버스와 충돌했다. 당시 자율주행 프로그램은 차로 변경을 시도하면 버스 운전자가 속도를 늦출 것이라고 판단했으나 예상대로 상황이 전개되지 않자 대처를 못하고 그대로 버스와 부닥쳤다. 자율주행차가 고속도로에서 빠른 속도로 달린다면 큰 인명 피해를 낼 수도 있음을 의미한다.

AI의 시스템 오류가 막대한 금전적 손해를 초래한 경우도 있었다. 2013년 한맥투자증권은 차익거래 자동매매시스템의 알고리즘 오류로 단 2분 만에 460억원의 손실이 발생해 파산했다. 1600만원짜리 코스피200 옵션상품을 25만원에 팔아 버렸다. 당시 이 오류로 손실액이 눈덩이처럼 불어나는 상황에서도 거래를 제어할 수 있는 안전장치가 없었다.

AI가 범죄에 악용될 수 있다는 것도 문제점으로 꼽힌다. 페이스북의 안면 인식 프로그램 ‘딥페이스’가 이 때문에 논란의 대상이 됐다. 딥페이스는 얼굴 사진으로 그 얼굴의 주인을 가려내는 능력을 갖고 있다. 페이스북에 따르면 정확도가 97.25%다. 하지만 얼굴 사진 한 장만으로도 페이스북 계정을 찾아내 이름과 주소, 생활패턴 등 각종 정보를 알 수 있다는 문제를 안고 있다.

AI가 과연 인간처럼 윤리적 판단을 할 수 있겠느냐도 논란거리다. AI와 관련된 대표적인 ‘도덕적 딜레마’는 자율주행차가 위험 순간에 처했을 경우의 문제다. 탑승자 한 명을 태우고 도로를 달리던 중 전방 횡단보도에서 갑작스럽게 보행자 2명이 튀어나왔는데 도로 양쪽이 낭떠러지라면 AI는 어떤 판단을 내려야 할까.

그대로 달린다면 2명의 보행자가 사망하고, 핸들을 꺾는다면 한 명의 탑승자가 사망하기 때문에 ‘최소 피해’를 판단 기준으로 입력했다면 자율주행차는 낭떠러지행을 택해야 한다.

문명로 서울대 로봇공학과 교수는 “타인의 생명을 구하기 위해 스스로를 희생하도록 설계됐다면 누가 자율주행차를 타려고 하겠느냐”며 “AI의 판단적 한계를 어떻게 극복할 것인지에 대한 논의가 필요하다”고 말했다.

AI를 갖춘 로봇에 무기를 장착하면 ‘전투 로봇’이 된다. 로봇을 전쟁터에 투입하면 아군의 인명 피해 위험 없이 적군을 살상할 수 있다. 이 같은 극단적 ‘피해 비대칭성’ 때문에 피터 싱어 등의 윤리학자들은 전투 로봇 개발 억제를 주장하고 있다. 지난해에 영국 물리학자 스티븐 호킹 박사와 전기자동차 업체 테슬라의 최고경영자(CEO) 일론 머스크 등 각계 유명 인사 1000여 명도 전투 로봇 개발에 반대하는 입장을 밝혔다.

정진우·백수진 기자 dino87@joongang.co.kr