로봇 윤리 강령 … 언제든 Off 가능해야, 책임은 인간이

중앙선데이

입력

[조현욱의 빅 히스토리] 인공지능 ④

차량을 운전하거나 외과수술을 돕는 등 다양한 기능을 가진 로봇들이 빠르게 늘면서 로봇의 설계와 제조, 사용 등에 대한 윤리강령이 필요한 시대가 됐다.

#그 자동차의 컴퓨터는 보았다. 한 여성이 자전거를 끌고 고속도로를 횡단하고 있었다. 충돌 6초 전의 일이었다. 시속 65㎞, 멈추거나 진로를 변경할 시간은 충분했다. 하지만 사고는 일어났고 그녀는 병원에서 숨졌다. 자율주행차량에 의해 보행자가 사망한 최초의 사례다. 지난 3월 미국 애리조나주에서 우버가 운행하던 차량이었다. 미 교통안전국의 예비조사 결과 자율주행시에는 비상제동 장치가 작동하지 않도록 설계된 것으로 드러났다. 더욱 매끄러운 주행을 보장하기 위해서였다.

자동차 처음 등장했을 때와 비슷 #기술 널리 퍼지면 규칙 필요해져 #터미네이터 ‘액체 로봇’ 5계명 위배 #인간의 편견 AI에 주입하면 안 돼

오늘날 우리 주변은 로봇으로 빠르게 채워지고 있다. 차량을 운행하고 외과 수술을 하며 선거에 영향을 미치고 일자리를 위협한다. 하지만 어떤 방식으로 로봇과 함께 살아가야 할 것인가에 대한 답은 아직 나오지 않았다. 로봇의 설계와 제조, 사용에 관한 윤리적 원칙이 필요한 시대가 왔다는 의미다. 어느 수준 이상의 자율성을 지니도록 설계된 로봇의 행태를 뒷받침하는 근본 틀 말이다.

가장 널리 알려진 것은 과학작가 아시모프가 1942년 제시한 로봇공학 3원칙이다.

원칙 1: 로봇은 인간에게 해를 끼치거나 인간이 해를 입도록 방관해서는 안 된다.

원칙 2: 로봇은 인간이 내리는 명령에 따라야 한다.

원칙 3: 로봇은 자신의 존재를 보호해야 한다.

이들 원칙은 그러나 소설의 전개를 위한 허구적 장치에 불과하다. 현실 상황은 그렇게 깔끔하게 정리되기 어렵다는 뜻이다.

이달 초 과학잡지 ‘뉴사이언티스트’는 ‘로봇에 관한 윤리 강령(code of conduct)이 시급하게 필요하다’는 취지의 특집 기사를 실었다. “현 상황은 자동차가 처음 도로에 등장했을 때와 비슷하다. 최초의 운전자들에게는 규칙이 없었다. 하지만 기술이 널리 퍼지면 사회는 규칙을 필요로 한다.” 로봇공학의 규칙에 관한 유럽연합(EU) 보고서의 저자인 메이디 델보의 말이다.

이 같은 논의는 결국 기술이 아니라 윤리문제로 귀착된다. 하나의 사회로서 우리는 어떤 것을 보호할 가치가 있다고 평가하는가? 로봇이 해를 끼칠 능력을 가지고 있는 장소에서는 그것이 군사작전을 벌이는 넓은 전역이든, 전투현장이든, 도로 위에서든 인간의 감독은 필수다. “가장 중요한 목표는 기계로 하여금 인간을 인간답게 대하게 하는 것이 되어야 한다(이는 상대를 존중하면서 친절하고 품위 있게, 공감하면서 이해하고, 예의를 갖추고 정직하게 대해야 한다는 의미다).” 미국 캘리포니아 ‘일의 미래연구소’ 이사 앤마리 아이머피돈의 말이다. 또한 로봇의 배후에는 인간이 있으며, 인간이 로봇을 책임지도록 해야 한다. “쓰여야 할 진정한 로봇 법은 기계가 아니라 사람을 감독하기 위해 필요한 것이다.”

뉴욕 대학의 학제 간 연구기관인 ‘AI 나우 연구소’의 권고도 들어 보자. 이에 따르면 복지, 사법 행정, 보건, 교육처럼 극히 중요한 부문과 관련된 기관에서는 해당 알고리즘을 우리가 상세히 분석할 수 없는 블랙박스 시스템을 더 이상 사용하지 않아야 한다. 이것은 기계 학습 소프트웨어가 인간이 이해할 수 있는 좀 더 쉬운 기술과 결합해야 한다는 말이다.

눈길을 끄는 것은 뉴사이언티스트가 스스로 ‘로봇 5계명’을 제시하면서 기존 SF 영화 등이 바로 여기에 위배된다고 설명한 대목이다. “새로운 로봇공학의 모든 보편적 원칙은 다음과 같은 사항을 포함해야 할 것이다.”

<뉴사이언티스트 로봇 5계명>

제1계명: 로봇은 사람을 해치거나, 사람이 해를 입도록 방관해서는 안 된다. 다만 다른 사람이 해당 로봇을 감독하고 있는 경우는 그렇지 않다. ‘배틀스타 갈락티카’는 1978~2009년 여러 차례 영화와 TV 시리즈로 방영된 SF다. 악명 높은 사일론은 인류의 대부분을 쓸어버리고 생존자들을 은하계 끝까지 추격한다.

제2계명: 로봇은 자신을 스스로 설명할 수 있어야 한다. 영화 ‘2001: 우주 오디세이’에 등장하는 컴퓨터 핼 9000은 우주선의 승무원들을 파멸로 몰고 가지만 그 이유는 분명치 않다.

제3계명: 인공지능은 사람을 어떤 범주로 분류하려는 충동에 저항해야 한다(모든 사람을 평등하게 대해야 한다). 2004년 제작된 영화 ‘스텝포드 와이프 Stepford Wives )’가 대표적이다. 제목은 사회 통념과 남편인 의사를 무조건적으로 따르는 순종적인 아내를 가리키는 단어다. 로봇 아내는 성차별적 편견의 표상이다.

제4계명: 로봇은 인간인 척해서는 안 된다. 2016년부터 방영 중인 미국의 TV 시리즈 ‘웨스트 월드’가 대표적이다. 사람과 구별할 수 없는 정교한 로봇이 인간적인 각성을 해 나간다.

제5계명: 로봇은 작동을 멈추는 스위치를 언제나 갖추고 있어야 한다. 영화 ‘터미네이터’에 나오는 액체 로봇은 막을 수가 없다. 총으로 쏴도 얼려도 해체해도 되살아난다.

전문가들이 이보다 진지하게 작성한 지침은 참고할 만하다. 2011년 영국의 ‘공학 및 자연과학 연구위원회(EPSRC)’ 와 ‘인문학 연구위원회(AHRC)’는 실제 세계에서 ‘로봇을 설계·제조·사용하는 사람이 지켜야 할 5대 윤리강령’을 공동으로 발표했다. 지금도 로봇윤리에 관해 유용한 출발점으로 널리 받아들여지는 내용이다.

1. 로봇은 사람을 살상하는 것을 유일하거나 주된 목적으로 설계되어서는 안 된다.

2. 책임을 져야 할 것은 로봇이 아니라 사람이다. 로봇은 사람의 목적을 달성하기 위해 설계된 도구다.

3. 로봇은 안전과 안정성을 담보하는 방식으로 설계돼야 한다.

4. 로봇은 인공물이다. 감정적 반응이나 의존을 유발함으로써 취약한 사용자를 착취하도록 설계돼서는 안 된다.

5. 로봇에 대해 법적인 책임이 있는 사람을 찾아내는 것이 항상 가능해야 한다.