[트랜D]인공지능이 하는 일에 사람 의견도 반영 될까?

중앙일보

입력

업데이트

트랜D

'유재연의 인사이드 트랜D'

데이터 분석을 위한 인공지능(AI) 시스템을 곳곳에서 도입하고 있다. 하지만 기계에 모든 결정을 마냥 맡기기는 부담스럽다고들 한다. AI 연구자들 사이에서도 소위 XAI(설명가능한 인공지능)라고 하는, 기계의 결정에 대한 인간의 신뢰도를 높이는 노력이 이어지고 있다. 그럼에도 불구하고 AI의 결정이 "전문가인 사람만 하겠느냐"는 의심까지 지우기는 힘들다. 사람의 AI 작업에 대한 개입, 혹은 사람과 AI의 협업에 대한 연구와 관심이 점차 느는 것도 이런 이유에서다.

사람이 참여하는 AI, 휴먼인더루프 AI

사람은 대용량의 데이터를 한꺼번에 다루기 힘들다. 기계는 특정 주제별로 어떤 매개변수에 가중치를 두는 것이 좋을지 모른다(알아도 편향이 발생할 위험이 있다)). 전문 지식을 가진 전문가 인간이 기계에 인사이트를 부여하고, 기계는 인간이 탐내기 힘든 벌크 데이터를 분석하는 체계가 휴먼인더루프 AI(Human-in-the-loop AI)의 골자라고 할 수 있다.

이 개념에서는 사람과 기계의 거리가 아주 좁다고 보는 경향이 우세하다. 개념적으로는 휴머니스틱 인텔리전스(humanistic intelligence)와 가깝다. 이 이론에서는 기계를 인간의 몸에서 떼어낼 수 없는, 인간에 체현된 것으로 여기고 있다. MIT의 민스키(Minsky) 교수와 미래학자 커즈와일(Kerzweil), 웨어러블 컴퓨팅계 대부인 만(Mann) 교수가 주창했는데, 기계와 인간이 사실상 결합된 ‘사이보그’를 연상하면 이해가 쉬울 것이다. 머릿속에 칩을 심음으로써 기계가 인간의 인지 작용을 함께 하고, 각종 센서 칩이 인간의 감각에 즉시 응답하며 ‘피드백 루프’를 형성하는 것이다. 휴먼인더루프 또한 AI와 인간이 한 몸이 되어 굴러가는 측면에서 논의된다. AI가 자동화로 업무를 수행하는 동안, 그 흐름 안에서 작동하는 사람의 작업과 결정이 전혀 외부적이지 않다. 그 역의 경우도 마찬가지다.

휴먼인더루프와 관련한 또 다른 연구는 지난해 11월 IBM 리서치에서 진행됐다. 이들은 ‘증강 AI’라는 표현을 논문에 썼다. 연구진은 자동화된 AI 데이터 분석 툴 때문에 자신들의 일이 사라질지도 모르는 데이터 과학자들을 인터뷰했다. 인터뷰에 참여한 과학자들은, 툴의 고도화가 분명 ‘위협적’이라고 답했다. 다만 이들이 보고 겪은 자동화된 AI의 프로세스나 결정은 여전히 사람의 손길이 필요하다고 했다. 오히려 기반 지식이 있는 인간 전문가의 능력이 들어가야, 쓸 만한 결과를 낸다는 것이다. 연구진은 AI의 답변과 인간의 인사이트가 조화롭게 어우러져야 한다는 의미에서 ‘증강 AI(Augmented AI)’의 개념을 제기했다.

업체들도 “사람 역할은 정말 중요” 한목소리

이러한 자동 AI 분석 솔루션을 조직으로 들여온다면, 어떻게 관념화하는 것이 좋을까. 휴먼인더루프 관점에서는 ‘아웃소싱’이 아닌 ‘인하우스’ 개념으로 접근할 것을 권한다. 대표적인 솔루션 기업들로는 알테릭스(Alteryx)와 유아이패스(UiPath)를 들 수 있을 것이다. 두 업체 모두 국내에 알려져 있는데, 각각 솔루션 성격이 다르다. 알테릭스의 경우 데이터 분석에 특화가 돼 있고, 유아이패스는 로봇자동화(RPA)를 통해 사람들의 단순 반복 작업을 줄이고 의사결정에 도움을 주는 쪽에 집중돼 있다.

지난달 비즈니스와이어 보도에 따르면, 두 업체가 전략적 제휴를 맺어 엔드-투-엔드로 데이터 분석에 얽힌 모든 과정의 자동화를 이끈다고 한다. 즉 사용자들이 손끝으로 사용하게 되는 기능들에 대해 직접 손을 잡는다는 것이다. 유아이패스로 사람들이 단순 반복하는 작업을 기계적으로 진행하면, 이를 알테릭스의 머신러닝 시스템이 즉시 분석해 내고, 그 내용을 다시 유아이패스 솔루션이 받아 적절한 조처를 할 수 있게 하는 프로세스라 한다. 얼핏 보면 사람이 끼어들 자리가 하나도 없어 보인다.

유아이패스의 휴먼인더루프 시스템 개요. 기계가 사람들에게 ‘질문’같은 피드백을 주고, 이에 사람이 답을 하면 기계가 그에 맞게 일처리를 진행하는 순환 시스템을 도식화한 것이다. 출처: https://www.uipath.com/product/action-center

하지만 두 솔루션 모두 사람의 역할이 아주 중요하다. 실제로 이들 모두 휴먼인더루프를 전면에 내세우며 세일즈를 진행하고 있다. 인간의 관여를 더 편하게 하도록 시스템을 디자인했다는 게 이들 솔루션의 강점이기도 하다. 가령 로봇 자동화에서는 각종 예외 사항이나 승인 등에 대해 로봇이 신호를 보내면, 사람은 그에 맞는 결정을 진행한다. 사람과 기계 간 활발한 상호작용을 토대로, 사람도 로봇의 의사결정 과정이나 데이터 처리 과정에서 배제되지 않는 것이다. 머신러닝 분석에서는 변수 설정이나 가중치 확인 등 인간이 관여해야 할 일이 너무도 많다. 잘못된 결정을 출력하지 않기 위해, 인간에게 지속해서 질문을 던지는 솔루션이 이미 우리 가까이에 나와 있는 셈이다.

그래도 언젠가는 인간이 낄 수 없는 상황이 오지 않을까?

기계는 학습한다. 인간과 기계가 순환 고리 안에서 함께 목표를 향해 달려가고 있지만, 기계가 사람을 완전히 학습하는 바람에 인간이 쓸모없어지는 순간이 올 수도 있다. 하지만 아직은 이러한 전망이 이상적일 뿐이라는 분석이 우세하다. 인간사는 늘 변화를 거듭하고, 예상치 못한 상황도 지속해서 벌어지기 때문이다. 문제를 극복하고, 환경에 적응하며, 갖은 직관을 동원해 어려움을 이겨내는 것은 인간에게 주어진 꽤 특별한 능력이다. 어느 자율형 로봇도 전염병이 창궐하고 사람들이 갈라서고 모든 값어치가 치솟는 상황에선, 주체적으로 일을 해결해내지 못할 것이다.