[outlook] 무고한 흑인 체포한 AI…‘표준양심’이 필요하다

중앙일보

입력

얼굴인식

“기술에는 양심이 없다.” 지난달 열린 ‘소비자가전쇼(CES) 2021’에서 마이크로소프트(MS)의 최고법률책임자(CLO)인 브래드 스미스 사장이 제시한 화두다. 브래드 스미스는 그간 기술과 사회가 만나는 교차점에서 발생하는 중요한 이슈들에 대해 목소리를 높여왔다. 2019년 출간한 『도구와 무기』에서 그가 도구와 무기에 비유한 것은 다름 아닌 기술이었다. 디지털 기술은 사용자의 의도에 따라 도구가 될 수도, 무기가 될 수도 있다.

안면인식 오류로 억울한 피해자 #챗봇 ‘이루다’는 소수자 혐오 발언 #윤리의식 빠진 기술, 인간에 위기 #‘AI 표준 윤리원칙’ 제정 서둘러야

기술로 무장한 많은 테크기업은 기술이 인류의 삶을 얼마나 편리하고, 윤택하게 만들어줄 수 있는지 보여준다. 최신 기술을 선보이며 인류의 장밋빛 미래를 그려주기도 한다. 그러나 편하고 환상적인 기술에는 이면이 존재한다. 인류의 유용한 도구인 줄만 알았던 기술을 ‘무기’에 비유한 스미스의 표현이 놀랍지 않은 것은 지금도 우리가 수많은 기술의 ‘공격’에 시달리고 있어서다.

신기술의 무분별한 활용은 사회적 편견과 차별을 조장하기도 한다. 최근 미국에서 아프리카계 청년인 로버트 줄리언-보르차크 윌리엄스가 부당 체포와 시민권 위반 혐의로 경찰을 고소했다. 사건의 발단은 안면 인식 기술이었다. 윌리엄스를 포함해 인공지능(AI) 오류로 최소 3명이 억울하게 체포됐는데, 피해자는 모두 흑인이었다.

중국에서는 폐쇄회로(CC)TV 카메라를 통한 안면 인식 기술이 대형마트와 지하철 개찰구, 심지어 쓰레기 수거함에도 사용되고 있다. 이 때문에 지난해 홍콩의 반정부 시위 때 시민들은 마스크나 복면을 쓰고 거리에 나섰다. 안면 인식 인프라가 부당한 편견과 사생활 침해, 민주주의 가치를 훼손할 가능성까지 내포하고 있다. 국내에선 AI 챗봇 ‘이루다’의 소수자 혐오 발언 등이 이슈로 불거졌다.

이런 사건들은 테크기업과 기업인에게 두 가지 질문을 던져준다. 지구 공동체의 일원으로서 우리는 ‘어떤 원칙’을 세워야 하는가, 그리고 우리는 ‘어떤 행동’을 해야 하는가이다. 그 답은 ‘AI 표준’을 체계적이고 일관되게 구축하는 일에서 시작해야 한다. 사회·교육·소통 등 다양한 전문가와 커뮤니티 그룹을 통해 책임 있는 윤리원칙이 만들어져야 한다. 그런 다음 새로운 시스템과 도구를 개발하고, 이를 현장에 적용하는 과정에서 ‘AI 기술’로 발전시키는 것이다. 이를 통해 기업과 사회에서 ‘AI 문화’를 정착시켜야 한다. 구성원들에게는 기술 기획·개발 과정부터 윤리의식을 주문해야 한다. MS의 경우 지난해 AI 교육에 14만5000여 명이 참여했다.

AI 기술 도입 확대와 이에 따른 경제적 파급 효과에 대한 새로운 대책도 마련돼야 한다. 지난날의 기술 발전은 조세·주거·교육·건강·소득재분배 등에 큰 영향을 줬다. 하지만 이에 따른 소득 불평등은 더욱 커졌다. 기술 발전과 함께 생겨날 수 있는 사회적 격차 해소에 대한 노력이 필요하다.

이런 원칙과 노력은, 사람의 책임감과 윤리의식이 배제된 기술은 언제든 부메랑이 될 수 있다는 위기의식을 기반으로 한다. 기술적인 측면에서 도구는 사람 중심적인 사고를 할 수 없다. AI와 같은 첨단기술이 사회에 윤리적인 기술이자 도구로 사용될 수 있도록 지속적으로 관리해야 한다.

기술에는 양심이 없다. 과거에도 그랬으며 지금도 그렇고, 앞으로도 그럴 것이다. 우리는 기술을 대신해 ‘양심’을 실천해야 한다. 날마다 일터에서 매 순간 ‘이 기술이 선을 위해 사용될 것인가, 또는 악을 위해 사용될 것인가’를 결정한다. 우리가 마주한 기회이자 어려움이다.

이지은 한국마이크로소프트 대표이사