[비즈 칼럼] 인공지능의 미래, 기술에 대한 신뢰에 달렸다

오병준 SAS코리아 대표

음성인식부터 암 진단, 자율주행에 이르기까지 인공지능(AI)의 활용 분야가 늘어나면서 우리 사회는 인공지능이 내린 의사결정에 점점 더 많은 영향을 받고 있다. 인터넷과 사물이 연결되는 사물인터넷(IoT)과 산업 전반에서 빅데이터가 생성되면서 인공지능의 잠재력은 더 커질 전망이다. 시장조사기관 IDC에 따르면 올해 전 세계 인지 및 인공지능 시스템 시장은 전년 대비 54.2% 증가한 191억 달러 규모로 전망된다. 2021년이면 이 시장은 522억 달러까지 커진다.

특히 빅데이터를 바탕으로 기계를 학습시키는 머신러닝·딥러닝·예측분석 등 고급 분석 기술이 비약적으로 발전해 사람이라면 수년에 걸쳐 배워야할 전문 지식과 기술을 인공지능은 단 몇 초, 몇 분 만에 습득한다. 문제는 인공지능의 성능이 좋아진 만큼 그 알고리즘(연산절차)이 더 복잡해졌고 인간이 해석하기도 어렵다는 것이다.

1990년대에 폐렴 환자의 합병증 위험도를 예측하고 치료 방법을 결정하는 초창기 머신러닝 연구를 보면, 당시 이용된 머신러닝 시스템은 천식이 있는 폐렴 환자에 대해 합병증 위험도가 낮다고 보고 퇴원을 권했다. 하지만 합병증 위험을 낮게 판단한 알고리즘에 이 환자가 집중 치료를 받았다는 사실은 반영되지 않았다. 이 알고리즘의 결함이었다.

이처럼 비교적 이해하기 쉬운 알고리즘의 결함은 바로잡는 게 어렵지는 않다. 문제는 최근 알고리즘이 복잡해지면서 부정확한 결론에 이르거나 알고리즘에 의도치 않은 편견이 존재할 경우 오류를 수정하기가 어렵다는 것이다.

의료·금융 등 다양한 분야에서 인공지능이 쓰일수록 기업은 더 정확하고 신뢰할 만한 결과를 제공하기 위해 노력해야 한다. 인공지능의 오류로 인한 책임은 궁극적으로 사람에게 있기 때문이다.

이에 따라 인공지능 관련 업계에서는 공정성(Fairness)·책임감(Accountability)·투명성(Transparency)이라는 세가지 요소를 갖춘 ‘FAT 인공지능’의 실현이 새로운 화두로 떠오르고 있다. 정확성을 추구하는 데이터 과학자, 공정한 대우를 원하는 사용자, 투명한 의사결정을 확보해야 하는 규제 기관의 이해를 고루 만족시키기 위해서다. 그런 점에서 인공지능 기술의 최전방에 있는 데이터 분석 기업의 역할도 중요하다. 단순히 방대한 데이터를 빠르게 분석하는 수준에 만족하는 것이 아니라 왜 그러한 예측과 의사결정을 내렸는지 과정을 정확하게 해석하고, 투명하게 설명할 수 있는 분석 시스템을 고민해야 한다. 인공지능은 기술에 대한 신뢰가 바탕이 될 때 인간의 믿을 수 있는 동반자로 함께 할 수 있을 것이다.

오병준 SAS코리아 대표