인공지능 감사제도의 득과 실

김병필 KAIST 기술경영학부 교수

최근 인공지능(AI)에 대한 감사제도가 논란이 되고 있다. 무릇 감사(監査)란 남이 하는 일을 자세히 살펴서 잘못된 점이 없는지 찾는 일을 말한다. 그런데 인공지능을 감사하자니 무슨 말일까? 인공지능이 우리 삶 전반에 있어 차지하는 역할은 날로 커지고 있으니, 인공지능이 공정하게 작동하는지 객관적으로 검증하는 제도를 만들자는 것이다.

AI 감사제도 도입, 국제적 화두 #공정성 보장 위해 필요하지만 #영업비밀 침해·감사 악용 우려 #AI 사회적 신뢰 찬찬히 쌓아야

최근 국내에서 논란이 된 사례는 인터넷 포털이나 언론사의 기사 선별 인공지능에 관한 것이다. 인공지능이 어떤 기사를 첫 화면에 보여주느냐에 따라 여론이 달라질 수 있으니 인공지능의 중립성과 공정성을 보장하는 것은 민주주의 보장에 있어 무척이나 중요한 일이다. 객관적으로 검증할 필요성을 부인하기 어렵다. 인공지능에 대한 감사는 다른 영역에도 적용된다. 온라인 쇼핑몰은 인공지능을 활용하여 상품 검색 순위를 결정한다. 이때 쇼핑몰의 자체 판매 상품을 다른 일반 판매자 상품보다 우대하는 것은 아닌지 감독할 필요도 있다. 시장에서의 공정한 경쟁을 보장하기 위해서다. 직원 채용에 인공지능을 도입하는 경우라면 인공지능이 채용에 관한 차별금지 법률을 잘 준수하는지 확인할 필요도 있다. 이렇게 보면 인공지능에 대한 감사제도는 미래 사회에 필수적인 규제 같아 보이기도 한다.

인공지능 감사는 국제적으로도 중요한 화두가 되고 있다. 영국의 개인정보보호 감독기관 ICO는 올해 초 ‘인공지능 감사 프레임워크 가이드라인’ 초안을 공개했다. 이 가이드라인은 인공지능이 개인의 자유와 권리에 미치는 영향을 미리 평가해서 그 위험을 최소화하는 조치를 마련하도록 하고 있다. 지난 7월에는 유럽 연합 차원의 보고서도 발간되었다. 유럽 연합 인공지능 고위 전문가 자문단의 ‘신뢰할 수 있는 인공지능을 위한 평가항목’에 관한 보고서이다. 강제적 외부 감사의무를 부과하는 것까지는 아니지만, 기업 스스로 인공지능의 안전성과 공정성, 책임성 등에 관해 평가해 보라는 취지다.

인공지능 10/5

인공지능을 활용하는 기업으로서는 새로운 규제가 도입되는 셈이니 달가울 리 없다. 그런데 곰곰이 살펴보면 인공지능 감사제도를 함부로 도입해서는 안 된다는 주장도 일리가 있다. 우선 인공지능 프로그램은 기업의 영업비밀이자 지식재산이다. 함부로 외부인이 들어와 살펴보게 하기 어렵다. 인공지능 감사제도는 혁신적 인공지능 확산에 걸림돌이 될 수도 있다. 인공지능을 도입하는 기업에 감사 부담을 주기 때문이다.

더욱 어려운 문제는 인공지능 감사제도가 오히려 이용자에게 피해를 줄 수도 있다는 점이다. 감사제도가 실효성이 있으려면 그 결과를 공개해야 한다. 하지만 인공지능의 작동 방식이 일부라도 공개되면 이를 악용하는 이들이 나오기 마련이다. 가령 금융 사기를 탐지하는 인공지능이 어떻게 동작하는지 공개되면, 해커가 이를 회피하여 더욱 교묘하게 금융 사기를 저지를 수도 있다. 그로 인한 피해는 금융 소비자 모두가 부담하게 된다.

그래서 아직은 인공지능에 대한 감사는 기업의 자율에 맡겨야 한다는 주장이 설득력을 얻고 있는 것처럼 보인다. 기업이 자체적으로 감사를 수행하여 인공지능을 개선하도록 맡겨 놓되, 사후적으로 이용자에 대한 피해가 발생하면 그때 가서 책임을 묻자는 것이다. 마치 기업의 재무제표는 원칙적으로 대표이사의 책임하에 작성하도록 하고, 분식 회계가 드러나면 그에 대한 책임을 묻는 제도와 유사하다.

우리나라 입장에서 고려해야 할 또 다른 문제는 국내 사업자에 대한 역차별 가능성이다. 인공지능 감사제도를 도입하더라도 구글이나 페이스북과 같은 해외 서비스 제공자에 대해 실효성 있게 적용하기 쉽지 않다. 인공지능 감사제도를 섣불리 도입하면 아직 성장 단계에 있는 국내 인공지능 산업에만 악영향을 끼칠 것이라는 우려가 제기되는 이유다.

이처럼 복잡하게 얽힌 문제에 해법을 내려면 문제의 원인부터 찾아야 한다. 인공지능 감사제도를 도입하자는 주장이 제기되는 이유는 결국 인공지능에 대한 사회적 신뢰가 아직 충분하지 못하기 때문이다. 행여나 불신이 있다면 불신이 어디에서 비롯된 것인지, 어디서부터 해결할 것인지 찬찬히 살펴야 한다. 신뢰를 쌓는 데는 시간이 걸리기 마련이다. 친구를 사귀는 것과 마찬가지다. 인공지능에 대한 사회적 신뢰를 쌓으려면 어떻게 할지 숙고해 볼 일이다. 조급히 새로운 규제를 도입하지 않더라도 기존 제도를 현명하게 활용할 방법은 없는지도 찾아보아야겠다.

김병필 KAIST 기술경영학부 교수