오민수의 코딩 휴머니즘

주행 중 고장 난 자율차, 보행자·운전자 누굴 보호할까?

중앙선데이

입력 2021.09.25 00:02

업데이트 2021.09.25 00:23

지면보기

755호 24면

코딩 휴머니즘 

자율주행

자율주행

브레이크가 고장 난 기차를 상정해 보자. 그 기차는 선로에서 작업하고 있는 인부 5명을 향해 맹렬히 달리고 있다. 그대로 달릴 경우 인부 5명을 해치게 되지만 스위치를 눌러 선로를 변경할 수 있다. 그 대신 다른 선로에 있는 인부 1명을 해치게 된다. 만약 당신이 기관사라면 선로 변경 스위치를 누를 것인가? 이 질문에 대한 설문조사에서 89%의 사람들이 스위치를 누르겠다고 대답했다.

이번엔 질문을 바꿔 보았다. 당신은 기관사가 아니라 그 상황을 지켜보고 있는 구경꾼이다. 마침 당신 앞에는 덩치 큰 사람이 있는데 이 사람을 선로에 떠밀면 기차를 멈출 수가 있고 인부 5명을 살릴 수가 있다. 대신 그 덩치 큰 사람은 죽게 된다. 당신이라면 덩치 큰 사람을 밀겠는가?

보행자 우선 말하면서 차 구입은 꺼려

이 질문을 받은 사람들은 앞선 질문과 달리 고민에 빠진다. 무슨 차이일까? 스위치를 누르는 행위와 사람을 떠미는 행위 사이에서 인간의 감수성은 달라진다. 두 질문은 『정의란 무엇인가』의 저자 마이클 샌델이 자주 인용하여 널리 알려진 일명 ‘트롤리 딜레마’다. 결론적으로 말하자면 두 번째 질문에 대다수의 사람들(78%)은 밀지 않겠다고 대답했다.

‘최대 다수의 최대 행복’이라는 공리주의적 관점에서 보자면 두 질문에 대한 사람들의 반응은 모순이다. 우리는 다수를 위해 소수가 희생해야 한다고 생각하지만 동시에 다수를 위한 명분 때문에 소수를 희생시켜서는 안 된다고 생각하는 이율배반적인 존재가 된다.

만약 인부 5명이 나의 가족이라면 어떻게 될까? 그래도 덩치 큰 사람을 밀지 않을까? 그때는 누군가를 밀어서 가족을 살리는 게 오히려 정서적 판단이 되지 않을까? 그렇다면 정서적 판단의 개입이 무조건 옳다고 볼 수 있을까?

그동안 트롤리 딜레마는 대학교의 정치 철학 강의나 시민들을 위한 교양서적에서만 볼 수 있는 지적 유희에 해당했다. 그런데 코딩과 알고리즘의 발달이 모든 것을 현실로 바꿔 버렸다. 이제 우리는 그런 철학적 딜레마를 프로그래밍할 수 있어야 한다. 바로 자율주행차의 등장 때문이다.

① 자율주행차가 무단횡단하는 보행자를 인식해 멈추는 모습. [연합뉴스] ② 현대차가 개발한 ‘스마트 크루즈 컨트롤’ 시연. [사진 현대차]

① 자율주행차가 무단횡단하는 보행자를 인식해 멈추는 모습. [연합뉴스] ② 현대차가 개발한 ‘스마트 크루즈 컨트롤’ 시연. [사진 현대차]

주행 중 브레이크가 고장 난 자율주행차를 생각해 보자. 그대로 달릴 경우 보행자 5명을 치게 되고 핸들을 꺾으면 보행자 1명을 치게 된다. 이럴 경우 자율주행차에는 어떤 알고리즘이 코딩돼 있어야 할까? 당연히 핸들을 꺾는 판단을 하는 알고리즘이 다수의 공감을 얻을 것이다. 그런데 핸들을 꺾어서 다치게 되는 사람이 보행자가 아닌 자동차 탑승자라면? 자율주행차는 보행자와 탑승자 사이에서 누구를 보호해야 할까?

이 질문은 2016년 6월 과학학술지인 ‘사이언스’에 실린 논문에서 등장했다. ‘자율주행차의 사회적 딜레마’라는 제목의 이 논문은 사람들에게 위와 같은 질문으로 설문조사를 진행했다. 이 설문조사에서 대다수의 사람들(78%)이 다수의 보행자를 보호하는 것이 훨씬 더 윤리적이라고 답했다. 그런데 흥미로운 것은 그다음 질문이었다.

‘그렇다면 자동차 탑승자보다 보행자의 안전을 우선시하는 자율주행차를 구입하시겠습니까?’

예상했겠지만, 대다수는 그런 차를 구입하지 않겠다고 대답했다. 이성적 판단으로는 대다수의 보행자가 우선이지만, 그 자동차 탑승자가 자신이거나 혹은 가족인 경우에는 어김없이 딜레마에 빠지고 말았다.

그렇다면 자동차 제조사의 판단은 어떨까? 얼마 전 메르세데스 벤츠의 한 고위 임원은 보행자보다 자동차 탑승자의 안전을 우선시할 것이라는 발언을 했다가 언론의 뭇매를 맞아야 했다. 제조사 입장에선 당연한 결론이겠지만 그런 발언은 사회적 논란을 일으키기 십상이다. 당시 영국 데일리메일에서도 이런 기사를 내보냈다. “벤츠는 자율주행차가 방향을 바꾸어 탑승자가 다칠 위험을 감수하기보다는 보행자를 칠 것이라고 인정했다.”

하지만 비판은 있어도 대책이 없다는 것이 문제다. 독일 교통부는 사고를 피할 수 없는 상황에서 자율주행차가 어떤 선택을 해야 옳은지 결정할 수 없다는 공식 입장을 표명한 상태다. 다만 심증은 분명해 보인다. 자율주행차의 알고리즘을 연구하는 MIT의 라환 교수가 했던 말이 그 심증을 대변한다. “사람들은 자신을 희생시키는 자동차를 사지는 않겠지만, 다른 사람들이 그런 차를 샀으면 좋겠다고 생각한다.”

아마도 자율주행차는 공리주의를 표방할 것이다. ‘최대 다수의 최대 행복’이라는 공리주의는 모든 판단에 대해 계산 가능성을 전제로 한다. 그 계산이란 손해보다 이익이 많은가를 측정하는 것이다. 그것은 논리적이어야 하는 코딩 알고리즘에도 매우 적합하다. 이러한 이유로 공리주의는 도덕 철학이라기보다는 ‘도덕 과학’임을 자임한다.

법규 모호, 소비자·제조사 분쟁 소지

윤리적인 판단 근거를 이익과 손해의 관점으로만 코딩할 수 있다면 너무나 쉽다. 자율주행차뿐만 아니라 4차 산업혁명의 다양한 첨단 기술에 심어야 할 도덕적 알고리즘을 적용하기에도 용이하다. 모든 사물을 통해 광범위한 데이터를 수집할 수 있는 빅데이터 기술은 이러한 공리주의적 판단에 수치화된 근거를 제시해 줄 수 있기 때문이다.

보행자와 탑승자 중 누구를 살리는 게 이익일까를 판단할 것이며, 장애인과 비장애인 중 누구를 살리는 게 이익일까를 판단할 것이다. 어쩌면 아랍인인지 미국인인지 인종을 구분하는 데이터 값이 있을지도 모르겠고, 유명 인사와 일반 시민 중 어느 쪽을 살리는 게 이익인지 수치화된 데이터를 제시할 수도 있겠다.

2017년 8월 23일 독일은 세계 최초로 자율주행차에 대한 윤리 지침을 발표했다. 독일 교통부 그리고 14명의 과학자와 법률 전문가로 구성된 ‘디지털 인프라 담당 윤리위원회’는 자율주행 기술이 지켜야 할 20가지 지침을 만들었다.

이 지침에서 주목해야 할 점은 인권에 대해 표준화된 지침이 불가능하다는 내용이었다. 그것은 연령, 성별, 인종, 장애에 대해 우선순위를 판단해서는 안 된다는 것을 의미한다. 다시 말해, 아이를 살리기 위해 노인을 죽이는 것은 옳은 판단이 될 수 없다. 이러한 독일의 가이드라인은 인간의 존엄성에 대해 공리주의적 판단을 차단했다는 점에서 의의가 있다.

한 가지 아쉬운 점은 트롤리 딜레마에 대해서는 판단을 유보했다는 점이다. 결국 이 위원회가 고심 끝에 내놓은 결론은 다음과 같다. ‘차량 시스템은 인간의 결정을 따라야 한다.’

인간의 결정을 대신해야 할 자율주행차에게 인간의 결정을 따르라고 말하는 다소 어이없는 결론이긴 하지만, 어쨌든 인간의 존엄성과 가치 판단이라는 철학적 난제를 아직은 기계에 양보할 수 없다는 의지의 표명처럼 보인다.

최근 독일은 2022년에 일반도로에서 자율주행차가 운행되는 것을 목표로 자율주행차 상용화를 결정했다. 지난 2월 10일에는 자율주행차에 필요한 법 초안을 세계 최초로 상정했다. 한국은 2027년 상용화가 목표다.

다만, ‘자율주행이 가능한 정해진 조건’에 대한 법규가 구체적이지 않다는 점이 문제다. 이로 인해 자율주행차가 사고를 일으켰을 경우 소비자와 제조업체 간 분쟁이 발생할 소지가 여전히 존재하는 상황이다.

공리주의는 손쉽게 계산할 수 있다는 이점이 있다. 수치화된 데이터로 무장한 공리주의는 4차 산업혁명에 깊숙이 관여할지도 모르겠다. 하지만 우리는 이익과 손해를 계산하는 것만으로 존재의 가치와 존엄성을 따질 수 없다는 진실을 알고 있다. 알고는 있지만 자율주행차의 알고리즘에 입력할 수 있을 만큼 증명하지는 못했다. 결국 자율주행차의 딜레마는 기술적 딜레마가 아니라 철학적 딜레마다.

철학이라고 하면 마치 19세기나 20세기 정도에 머물러 있는 느낌을 받게 된다. 그만큼 철학이 멀리 있는 것은 아닐까? 자율주행, 인공지능, 빅데이터가 펼쳐지는 세상인데 아직도 우리는 아리스토텔레스나 벤담, 칸트, 롤스 같은 고전 읽기 수준의 철학을 말한다. 그러한 철학자들은 드론이 뭔지도 모른다.

이제는 그들이 남기고 간 철학적 유산들을 4차 산업혁명에 맞게 고도화시켜야 한다. 가상현실과 증강현실이 인간 사회에 미치는 영향을 탐구해야 하고, 사물인터넷과 빅데이터가 인권을 침해하는 것이 아니라 인권을 보호할 수 있게 만들어야 하며, 로봇과 인공지능이 인간을 대체하는 것이 아니라 인간을 풍요롭게 만들어야 한다.

우리가 철학적 난제들을 회피할수록, 또는 윤리적 딜레마를 계산하기 쉬운 공리주의에 양보할수록, 자율주행차와 4차 산업혁명은 인간에게 재앙이 될 것이다.

ADVERTISEMENT
ADVERTISEMENT
ADVERTISEMENT
ADVERTISEMENT

Innovation Lab

ADVERTISEMENT