판결의 확률 게임

서구에는 배심원 제도가 있다. 국민 중에서 무작위로 뽑은 12명의 배심원이 법정에서 피고인의 유.무죄를 판결하는 제도다. 배심원들이 유죄를 판결하면 판사는 형량을 결정한다.

프랑스에는 원래 배심원제가 없었다. 1789년 혁명 직후에 프랑스 계몽사상가들은 영국의 배심원제가 권력에 의한 마구잡이식의 재판을 막을 수 있다고 생각해 이를 도입했다. '인간 정신의 진보에 관한 역사적 개요'를 저술한 대표적 계몽사상가 콩도르세(Condorcet)가 배심원제의 열렬한 지지자였다.

영국의 배심원제는 12명 만장일치로 판결을 했다. 피고인을 처벌하기 위해서는 12명의 배심원 전원이 유죄판결을 내야 했던 것이다. 그렇지만 콩도르세는 이것을 '영국식의 위선'이라고 비판했다. "대체 12명 만장일치라니, 이것이 현실적으로 가능하단 말인가!" 대신 그는 10대2, 즉 12명 중에 10명 이상의 다수가 유죄라고 판결하면 그것으로 충분히 합리적이라고 생각했다. 1790년 프랑스에 처음 도입된 배심원제는 콩도르세의 제안을 받아들여 12명의 배심원 중에 10명 이상의 다수결 판결을 원칙으로 채택했다.

1808년에 프랑스 배심원제는 7대5로 바뀌었다. 12명 중에 7명의 다수가 유죄라고 최종 판단하면 유죄판결을 내려 처벌해도 좋다는 의미였다. 10대2의 판결이 너무 까다롭기 때문에 유죄판결의 비율이 적고, 결과적으로 범죄가 늘어났다는 것이 그 변경 사유였다.

7대5의 다수결을 채택하면 유죄판결의 비율이 높아지지만 동시에 오판의 가능성도 늘어나지 않을까. 당시 프랑스를 대표하던 수리물리학자 라플라스(Laplace)는 그렇다고 믿었다. 그는 몇 가지 가정에 근거해 7대5의 판결의 경우에 오판 확률이 대략 3분의 1 가까이 된다고 주장했다. 8대4의 경우에는 오판 확률이 8분의 1로 줄며, 12대0의 만장일치를 받아들일 경우에는 오판 확률이 대략 1만분의 1로 떨어진다는 것이 라플라스의 계산결과였다. 다른 말로 하자면 당시 프랑스 제도는 3명 중에 한명꼴로 죄 없는 사람에게 유죄판결을 내린다는 것이었다. 이런 비판 속에 프랑스 배심원제는 1830년에 다시 8대4로 바뀌었다.

라플라스를 비판했던 사람은 프랑스 수리물리학자 포아송(Poisson)이었다. 포아송은 배심원제가 도입된 이후의 재판기록의 데이터를 놓고 라플라스와는 다른 통계적 방법과 가정을 사용해 7대5의 다수결 원칙을 사용한 경우와 8대4의 경우에 오판 확률에서 거의 차이가 없다고 주장했다. 포아송이 이 연구를 하고 있을 무렵인 1835년에 프랑스 배심원제는 다시 7대5의 다수결로 회귀했는데, 그의 해석은 이와 같은 보수적인 정책을 정당화했다. 배심원제도는 이렇게 복잡한 역사적 과정을 거쳐 정착됐다.

배심원제 자체는 우리에게 생소하지만, 다수결 판결은 낯설지 않다. 헌법재판소의 재판관 9명 중 6명 이상이 탄핵을 정당하다고 판단하면 탄핵심판이 가결되는 6대3 다수결의 방식을 최근 언론매체를 통해 자주 접했기 때문이다.

콩도르세.라플라스.포아송이 지금 한국에 태어난다면 아마 헌법재판소의 오판 확률을 놓고 격론을 벌일지도 모른다. 사실 6대3의 다수결 방식의 타당성을 수학적으로 확증하는 것은 가능하지 않다. 그렇지만 다른 계산은 하나 해볼 수 있다. 국민의 70~80%가 탄핵에 반대하는 상황에서 국민 중 9명을 임의로 뽑아서 배심원을 구성한 뒤에 이들에게 찬.반 의견을 묻는다면 어떻게 될까. 이 중 6명 이상이 탄핵에 찬성하는 확률은 0.3~2.5%다. 어떤 사람들은 헌법 재판관의 성향을 볼 때 헌법재판소에서 탄핵이 가결될 확률이 거의 50%에 육박한다고 보는데, 0.3~2.5%의 확률과 50%의 확률의 차이는 어떻게 보아야 할까. 이것이 '국민의 함성'과 현실적.정치적 지형의 괴리를 보여주는 것은 아닐는지.

홍성욱 서울대 교수.과학기술사