AI가 공정하다는 건 착각, 끊임없이 감시해야

인공지능, 그 이면의 문제들

유창동 KAIST 전기 및 전자공학부 교수

현대인에게 인공지능은 익숙한 존재다. 일례로 최근 지어진 아파트에 입주한 사람들은 아파트에서 제공하는 인공지능 기반의 서비스를 아무렇지도 않게 이용한다. 그리고 사람들은 무의식적으로 인공지능이 정직하고 무해한 존재일 것이라고 판단하는데, 지난 선거에서 후보들과 쏙 닮은 모습으로 전국을 돌며 유세를 하던 아바타들을 향해 긍정적인 반응을 보낸 사람이 많았던 것은 그러한 이유에서일 것이다. 이처럼 인공지능은 우리 일상에서 떼어낼 수 없는 존재가 되었다.

나아가 인공지능은 우리가 상상할 수 있는 모든 산업 분야에서 활용되고 있는데, 특히 자율주행, 헬스케어, 제조업과 같은 분야에 큰 기여를 하고 있다. 우선, 자율주행 분야에서 인공지능은 필수적인 요소가 되어가고 있다. 카메라·라이다·레이더 등 다양한 센서들을 이용해 주변 상황을 파악하고 원활한 주행을 가능하게 해주는 인공지능의 능력이 자율주행의 품질을 결정하고 있으며, 앞으로도 자율주행에서 인공지능이 차지하는 중요도는 매우 높을 것이다.

일상생활과 산업에 혁신 이뤘지만
눈부신 발전이 인류에 독이 될수도
일자리 위협, 편향된 판단할 가능성
인공지능 진단 시스템 만들어야

월스트리트저널 등 미국 언론들은 지난해 10월 페이스북 내부 고발자의 제보를 인용, 인종차별·혐오 등을 강화하는 알고리즘 문제를 보도했다. [AFP=연합뉴스]

다음으로, 헬스케어 산업은 인공지능을 통해 큰 혁신을 이루고 있다. 인공지능은 진단에 매우 능숙해, 병리학자보다 유방암을 더욱 정확하게 진단할 수 있으며 숙련된 의사와 비슷한 실력으로 암세포를 찾아낼 수 있다. 대표적인 사례가 IBM 왓슨 게노믹스라는 인공지능 소프트웨어다. 여러 병원에서 이를 통해 당뇨와 같은 질환을 초기에 예측하는 데 도움을 얻고 있으며, 환자의 증상 및 유전자 정보에 기반한 맞춤형 치료를 제공하고 있다.

제조업 분야에서도 인공지능은 큰 역할을 하고 있다. 인공지능은 제품 생산 과정에 관여하는 수백 가지의 변수들이 각각 생산에 어떠한 영향을 주는지 쉽게 예측할 수 있다. 또한 인공지능은 생산 장비의 이상 유무를 판단하고 장비의 고장 시기를 예측할 수 있어서, 사람이 직접 공장을 관리할 때에 비해 효율성이 높다. 그리고 인공지능은 제품의 결함을 사진을 통해 정확히 감지하고 공장 관리자에게 이에 관해 신속하게 경고를 보낼 수 있다. 이와 같이 제조업에서 인공지능은 매우 중요한 위치를 차지한다. 2020년 MIT 설문조사에 따르면 이미 제조업체의 60%가량이 인공지능을 사용하고 있는 것으로 드러났다.

인공지능은 산업계뿐 아니라 연구계에서도 큰 혁신을 이루어냈다. 알파고로 유명한 구글 딥 마인드는 2020년에 인공지능기반 알파폴드2를 개발해, 50년 동안 풀지 못했던 3차원 단백질 구조의 예측에 성공했다. 이제는 아미노산 배열이 주어졌을 때, 인공지능을 통해 단백질의 3차원 구조를 예측하고, 그 결과를 이용해 여러 난치병의 치료에 도움을 줄 수 있다. 또한 사람의 목소리를 글로 변환하는 음성인식 기술과 인간의 언어를 이해하고 해석하는 자연어 처리 기술은 모두 근래에 인공지능을 통해 큰 성장을 이뤄냈다. 이와 같이 여러 연구 분야에서 인공지능은 혁신의 발판이 되고 있다.

그러나 우리가 명심해야 할 것이 있다. 인공지능의 눈부신 발전이 오히려 인류에게 독으로 작용할 수도 있다는 점이다. 인공지능이 산업에서 활용되기 시작한 이후 사람들이 우려해 왔던 것은 인공지능이 우리 일자리를 위협할 수 있는 점과 인공지능이 불공정한 판단을 내릴 수 있다는 점이다.

실제로 기업들은 비용 절감을 위해 인력을 인공지능 혹은 인공지능 기반의 기계로 대체하는 추세다. 이러한 추세는 최근 회사들이 코로나 직장 감염을 피하면서 낮은 운영 비용을 유지하기 위해 가속화했다. 영국 옥스퍼드대학에서는 현존하는 직업의 절반 정도가 미래에는 기계로 대체될 수 있다는 연구 결과를 발표했다. 최근 시사주간지 타임은 미국에서 팬데믹이 정점에 달했을 때 약 4000만 명이 회사에서 해고됐고, 상황이 호전되면서 절반 정도만 복귀됐다고 보도했다. 기본적으로 기계는 병에 걸리지 않고, 동료 보호를 위한 격리도 필요 없고, 일을 쉬지 않고 할 수 있다는 부분이 부각되면서 많은 일자리가 영원히 없어졌고 앞으로 더욱 많은 일자리가 없어질 것이라고 예상한다. 기본적으로 반복적인 일이 많은 직업일수록 인공지능으로 대체될 가능성이 크다. 여기에는 택시 및 트럭 운전사·회계사·주식 트레이더 등이 포함된다.

물론 인공지능으로 대체되는 일자리가 있으면 새로 창출되는 일자리도 있을 것이다. 그렇지만 일시적으로 생각해 보면 인공지능으로 대체되는 근로자의 수가 인공지능을 개발 관리할 사람의 수보다 많을 것 같다. 다수의 경제학자들은 역사가 반복한다면 인공지능을 활용한 산업의 생산력은 늘 것이고,제품이나 서비스 가격은 하락해서 수요는 늘 것이며, 그 산업과 관련된 새로운 일자리들이 자연스럽게 많이 창출될 것이라고 예측하고 있다. 하지만 이런 현상이 10년 정도 걸린다면 단기간의 갑작스러운 충격을 완화할 정부·국회·노동조합·기업이 포함된 공동의 노력으로 해답을 찾아야 한다. 새롭게 창출될 일자리에 대비해 재교육이 절실히 필요하다. 다양한 재교육 프로그램 및 학위과정들이 발굴 및 육성돼야 하며 이를 위한 지원금, 그리고 퇴직금이 마련되어야 할 것이다. 국가 경쟁력을 높이는 방안으로 국가는 인공지능과 더불어 생존하는 삶을 지향하고, 인공지능으로 대체되지 않고 인공지능에 능숙한 인력을 양성해야 한다. 그래서 인공지능의 활용·개발, 그리고 통제에 대한 다양한 교육 프로그램과 제도들을 만들어야 할 것이다.

인공지능의 공정성 문제도 일반인들이 깊은 관심을 가져야 한다. 인공지능의 공정성이 확보되지 않을 경우, 인공지능은 편향된 판단으로 취약계층이나 소외 집단에 피해를 줄 수도 있기 때문이다. 미국 법원에서 미결·구금 및 석방에 대한 결정을 내리는 데 사용되는 콤파스(COMPAS) 소프트웨어는 사람의 재범률을 예측한다. 그런데 이 소프트웨어를 조사한 결과 흑인에 대한 편향성이 발견됐다. 흑인의 경우 백인에 비해 재범률이 더욱 높다고 판단하는 것이었다. 하지만 이는 명백한 오류다. 실제로는 동일한 위험 점수를 받은 백인이 흑인보다 높은 재범률을 보였다. 이 외에도 공정성에 문제가 있는 인공지능이 보도된 사례는 너무 많다. 아마도 지금까지 인공지능 때문에 피해를 본 사람들의 수는 상상 이상일 것이다.

사실 인공지능의 공정성을 근본적으로 해결하는 것은 어렵다. 근래의 인공지능 모델은 그 구조가 너무나 복잡하고 학습에 사용되는 데이터의 양이 매우 많기 때문에, 인공지능이 어떠한 사고 방식을 습득했는지를 사람이 파악하는 것은 매우 어려운 일이다. 대신에 우리는 주기적으로 ‘진단시스템’ 을 작동해, 인공지능이 인간의 윤리적 원칙 및 공정성 정책을 잘 준수하고 있는지 점검해 볼 수 있다. 공정성의 기준은 상황에 따라, 그리고 시대에 따라 달라질 수 있다. 어떤 상황에서 큰 문제가 없다고 여겨지는 판단이 다른 맥락에서는 불공정한 것일 수도 있다. 페이스북은 거의 10년 동안 광고주들이 인종 선호도 레이블을 이용해 특정 인종을 겨냥하거나 배제할 수 있도록 하였다. 일반적인 제품을 판매하는 경우에는 이와 같은 차별적인 광고 전략이 큰 문제가 되지 않겠으나, 주택·직업·신용 서비스같이 광범위한 사람들의 생활에 큰 영향을 미치는 것들의 경우에는 인종에 따라 불평등한 광고를 제공하는 것이 공정성 면에서 분명히 문제가 된다. 때문에 페이스북은 여러 건의 소송 이후, 결국 해당 알고리즘을 수정하는 데 동의해야만 했다. 10년 전 공정성 기준이 지금 기준과 많이 다르듯 인공지능의 공정성도 시대에 흐름에 맞춰져야 한다. 이와 같이 인공지능의 공정성에 대한 기준은 맥락에 따라 달라질 수 있으며,  시대에 따라 변화할 수도 있다. 그러므로 앞서 언급한 진단 시스템도 이에 맞추어 발전해야 할 것이다. 진단 시스템이 더욱 다양한 맥락과 시대상을 반영할 수 있다면 인공지능의 공정성은 개선될 것이고, 사람들은 지금보다도 인공지능을 더욱 신뢰할 수 있을 것이다. 이처럼 인공지능을 더욱 신뢰할 수 있는 존재로 만들고자 하는 노력은 인류에게 매우 중요하다. 왜냐하면 우리에게 인공지능은 이제 일상에서도 직장에서도 뗄 수 없는 존재가 되었기 때문이다.

유창동

미국 캘리포니아공과대에서 응용과학을 전공하고, 코넬대와 매사추세츠공대(MIT)에서 전기공학으로 각각 석·박사 학위를 받았다. 1997년 한국으로 건너와 한국통신(KT) 연구개발본부 선임연구원을 거쳐 KAIST 교수로 임용됐다. 현재 한국인공지능학회 회장과  KAIST 비디오 튜어링 테스트 인공지능 센터장, 인공지능 공정성 연구 센터장을 맡고 있다.

유창동 KAIST 전기 및 전자공학부 교수