선거를 통한 민주주의는 수학적으로 불가능한가?

선거를 통한 민주주의는 수학적으로 불가능한가?

과학이나 교육에 관한 다양한 화제를 동영상으로 해설하는 YouTube 채널·Veritasium이, 「왜 민주주의는 수학적으로 불가능한가」라고 제목을 붙여, 선거에 있어서의 투표 시스템에 대해 동영상으로 설명하고 있습니다.

Why Democracy Is Mathematically Impossible - YouTube
https://youtu.be/qf7ws2DF-zk?si=yp1RAhQisJl-a_HK

 

 
민주주의에서 가장 단순한 선거방법으로 유권자에게 투표용지로 한 명의 후보자를 뽑게 하는 방식이 있습니다. 이 방식은 '단순 소선거구제'로 알려져 있으며, 단순히 최다 득표 후보자가 승리합니다. 이 방법은 고대까지 거슬러 올라가 14세기부터 영국 하원의원 선출에 사용되었고, 현재도 세계 44개국에서 지도자 선출에 사용되고 있습니다.

그러나 단순 소선거구제에는 문제가 있습니다. 의회 대표자를 뽑을 경우 국가 대다수가 권력을 쥔 정당에 투표하지 않는 상황이 자주 발생합니다. 지난 100년간 영국 의회에서 단일 정당이 의석의 과반수를 차지한 사례는 21번 있었지만, 그 정당에 실제로 과반수 유권자가 투표한 것은 단 2번뿐이었습니다. 즉, 소수파의 지지밖에 없는 정당이 권력을 잡게 됩니다.

또 단순 소선거구제에서는 '유사한 후보자가 서로 표를 뺏는' 현상도 일어납니다. 2000년 미국 대통령 선거는 본질적으로는 민주당의 앨 고어와 공화당의 조지 W. 부시 사이의 선거였습니다. 당시 미국 전역의 전체 州가 단순 소선거구제를 채택하고 있었습니다.
 
부시는 플로리다주에서 매우 근소한 차이로 승리했지만, 또 다른 후보자로 랄프 네이더가 있었습니다. 네이더는 녹색당의 후보자로, 고어나 부시보다 분명 좌파였습니다. 네이더는 "시민의 우려, 사람들의 우려, 가난한 사람, 부유층, 중산층의 고조가 특별이익의 권력에 대항하기 위해 필요하다"고 주장해 플로리다주에서 거의 10만 표를 얻었습니다. 「부시나 고어에 양심적으로 투표할 수 있을지 모르겠다. 랄프 네이더에게 투표한다」라고 말하는 유권자도 있었습니다.

그러나 네이더에게 투표한 대다수의 유권자는 고어가 아닌 부시가 당선된 것에 깜짝 놀랐습니다. 이것은 「스포일러 효과(Spoiler Effect)」라고 부릅니다. 대부분의 네이더 지지자들은 부시보다 고어를 선호했지만, 이 투표방식으로는 한 후보자에게만 투표할 수 있기 때문에, 그 경향을 표현할 방법이 없었습니다. 따라서 단순 소선거구제는 유권자에게 전략적인 투표가 요구됩니다
*스포일러 효과(Spoiler Effect). 이는 결말(결과)을 알고 있음에도 불구하고 이야기를 충분히 즐길 수 있거나, 심지어 더 깊이 감상하게 되는 현상

단순 소선거구제는 승자독식 투표시스템으로 더 큰 정당에 권력 집중으로 이어져 결국 양당제를 이끌어 내게 됩니다. 이처럼 선거에서 후보자 수가 수렴해 가는 현상은 '뒤베르제의 법칙(Duverger의 法則)'이라고 명명되고 있습니다.
*프랑스의 정치학자 뒤베르제(Duverger, M.)가 그의 저서 <정당론>에서 각국의 선거제도와 정당 수 간의 관계에 대해 제안한 가설이다. 이는 소선거구제는 양당 체제를 초래한다. 비례대표제는 다수정당 체제를 초래한다는 것이다.

단순소선거구제에는 문제가 있다면 다른 어떤 방법이 있을까? 
후보자가 선거에서 이기기 위해서는 과반수, 즉 50% 플러스(+) 1표 이상을 획득해야 한다고 정하는 것은 하나의 해결법으로, 선거에서 아무도 과반수를 얻지 못한 경우에는, 가장 적은 표를 얻은 후보자에게 투표한 사람들에게 다른 후보자에게 투표하도록 요구하고 한 후보자가 과반수에 이를 때까지 이 과정을 반복합니다. 하지만 여러 번 선거를 치르는 것은 엄청난 수고입니다.

그래서 유권자가 원하는 순서대로 후보자의 순위를 매겨, 좋아하는 후보자가 낙선할 경우 다음 선택지로 넘어간다는 '우선순위부 투표제'가 있습니다. 투표가 마감되면 유권자의 첫 번째 선택을 집계합니다. 과반수의 표를 얻은 후보자가 있으면 그 후보자가 승자가 됩니다. 그러나 과반수를 얻은 후보자가 없는 경우에는 가장 적은 표를 얻은 후보자가 제외되며, 그 표는 유권자의 두 번째 선택지로 배분됩니다. 이것을 한 후보자가 과반수를 얻을 때까지 계속합니다. 수학적으로는 반복적으로 선거를 실시하는 것과 같지만, 시간과 수고를 줄이는 것이 가능합니다.

우선순위 투표제는 유권자뿐만 아니라 후보자의 서로에 대한 행동에도 영향을 미칩니다. 2013년 미국 미니애폴리스 시장 선거에서는 이 순위 선택 투표가 사용되었습니다. 당시 현직 시장이 퇴임했을 때 많은 사람들이 시장이 되고 싶다고 입후보했고, 후보자는 35명이었습니다.

35명의 후보자가 있으면 서로를 공격하거나 주목을 받으려고 할 것 같지만, 실제로는 그렇지 않아 35명의 후보자 모두가 서로 매우 예의바르고 정중하게 대했고 최종 시장 토론회 끝에는 모두가 모여 노래를 함께 부를 정도였다고 합니다.

그러나 우선순위 투표제에도 문제가 있습니다. 후보자가 나쁜 결과를 냄으로써 실제로 당선으로 이어지는 경우가 있습니다. 예를 들어 아인슈타인, 퀴리, 보어라는 3명의 후보자가 있다고 합시다. 아인슈타인과 보어는 매우 대립하는 견해를 가지고 있고, 퀴리는 이데올로기적으로 중간에 있습니다.

그리고 투표 결과 아인슈타인이 25%, 퀴리가 30%, 보어가 45%의 표를 얻었다고 합시다. 아무도 과반수를 획득하지 않았기 때문에 2라운드에 가서 아인슈타인이 탈락합니다. 아인슈타인에게 투표한 사람들이 두 번째 선택으로 퀴리를 선택했기 때문에 최종적으로 퀴리가 당선됩니다.

그런데 보어가 심한 선거 연설을 하거나 매우 인기 없는 정책을 제안해서 그의 지지자 중 일부가 아인슈타인 쪽으로 옮겨 갔다고 해 봅니다. 그러면 이번에는 퀴리가 탈락하게 됩니다. 그녀는 온건파이기 때문에 그녀의 지지자의 절반이 아인슈타인, 다른 절반이 보어를 2라운드에서 선택합니다. 이로써 보어가 승리합니다. 즉, 보어가 1라운드에서 나쁜 결과를 낸 것이, 실제로 그의 당선으로 이어진다는 것입니다. 이것은 투표 시스템으로서 바람직하지 않습니다.

이것은 프랑스의 수학자 니콜라 드 콩도르세(Marie Jean Antoine Nicolas de Caritat, marquis de Condorcet, 1743년 - 1794년)도 생각하고 있던 것입니다. 콩도르세는 논리와 수학을 엄밀히 투표시스템 연구에 적용한 최초의 인물 중 한 명이자 사회선택이론이라 불리는 수학의 한 분야 창시자 중 한 명입니다. 그는 프랑스 혁명 시대에 활동했기 때문에 사람들의 의사를 공평하게 결정하는 것은 그 당시의 문화적 관심사였습니다.

1784년 프랑스 왕립과학협회의 장 샤를 드 보르다가 어떤 투표 방법을 제안했습니다. 유권자에게 후보자 순위를 매깁니다. 5명의 후보자가 있을 경우 누군가를 1등으로 하면 그 후보자에게 4포인트가 주어집니다. 2등이면 3포인트, 이렇게 꼴찌는 0포인트가 됩니다. 그러나 볼다 방식에는 '각 후보자에게 주어지는 포인트의 수는 후보자의 총수에 의존한다'는 문제가 있었습니다. 이길 가능성이 없는 여분의 사람을 더하는 것은 승자에게 영향을 미칠 수 있습니다.

그래서 1785년 콩도르세는 새로운 투표시스템을 제안한 에세이를 발표했습니다. 이 투표 시스템은 '콩도르세 방식'이라고 불립니다.

콩도르세 방식에서는 승자는 일체 하나의 선거에서 다른 모든 후보자를 이길 필요가 있습니다. 그러나 실제로는 다수의 후보자가 있는 경우에 많은 일대일 선거를 따로 할 필요는 없습니다. 대신 유권자에게 후보자의 선호 순위를 매겨 각 후보자가 다른 후보자보다 더 높게 평가된 투표 수를 집계합니다.

예를 들어 3명이 식사를 할 때 햄버거, 피자, 초밥의 3가지 선택지가 있다고 합니다. 
첫 번째는 햄버거>피자>초밥, 
두 번째는 피자>초밥>햄버거, 
세 번째는 초밥>햄버거>피자로 취향 순서를 정했다고 합니다.

여기서 햄버거를 선택할 경우, 두 번째와 세 번째는 '초밥이 대신 선택되었어야 했다'고 주장할 수 있습니다. 3명 중 1명만 1명만 햄버거 > 초밥이고 나머지 2명은 초밥 > 햄버거라는 서열이기 때문입니다. 그러나 같은 논의에서 피자는 초밥보다 선호되고 버거는 피자보다 선호됩니다. 이렇게 되면 논란이 버젓이 돌아가 버립니다.

이 상황은 '콩도르세의 역설'로 알려져 있습니다. 그러나 콩도르세 본인은 이 문제를 해결하기 전에 프랑스 신정부의 새 헌법을 비판한 일로 투옥되어 옥고를 치렀습니다.

그 후 150년 동안 많은 수학자들이 독자적인 투표 시스템과 콩도르세와 볼다의 아이디어 수정을 제안했습니다. 동화 '이상한 나라의 앨리스'의 저자인 루이스 캐럴도 본명인 찰스 도지슨 명의로 이 문제를 해결하려 했지만 해결하지는 못했습니다.

1951년 미국의 경제학자인 케네스 애로우는 '사회적 선택과 개인적 가치'라는 제목의 논문을 발표하면서 공정한 선거제도에서는 다음과 같은 5가지 조건을 충족하는 것이 필요하다고 주장했습니다.



• 조건 1: 전체적 일치(만장일치)
만약 그룹의 전원이 어떤 선택지를 다른 선택지보다 선호한다면 그룹 전체적으로도 그 선택지를 선호해야 합니다. 예를 들어, 만약 모두가 초밥을 피자보다 선호한다면 집단적인 의사결정으로도 초밥을 피자보다 선호해야 한다는 것입니다.

• 조건 2 : 비독재체제
한 사람의 취향만이 전체 결정을 좌우해서는 안 됩니다. 즉, 만약 전원이 피자에 투표하고 한 사람만 초밥에 투표할 경우 그룹은 피자를 선택해야 합니다. 결정권이 한 사람에게만 있다면 그것은 민주주의가 아니라 독재입니다.

• 조건 3: 개념 영역의 비한정성
투표 시스템은 어떤 투표 패턴이든 처리할 수 있어야 합니다. 유권자는 자유롭게 원하는 순위를 매길 수 있으며, 투표시스템은 문제가 있는 투표를 건너뛰거나 무작위로 결과를 내지 않고 같은 투표 세트에 대해 항상 같은 결과를 내야 합니다.

• 조건 4 : 추이성
집단적 선호는 논리적으로 정합성이 있어야 합니다. 만약 그룹이 버거를 피자보다 선호하고 피자를 초밥보다 선호한다면 버거를 초밥보다 선호해야 합니다. 이것은 모순이 없는 순서를 보장합니다.

• 조건 5: 무관한 선택지로부터의 독립성
두 가지 선택지 간의 집단적 선호는 다른 선택지의 존재나 부재에 따라 달라져서는 안 됩니다. 예를 들어, 초밥과 피자 사이의 선호 순위는 버거라는 세 번째 선택지가 도입되어도 변하지 않아야 합니다.

그러나 애로우는 이 다섯 가지 조건 모두를 충족시키는 투표시스템이 존재하지 않는다는 것을 증명했습니다. 이것이 애로우의 '불가능성 정리( Arrow's impossibility theorem)'이며, 이 공적이 인정되어 애로우는 1972년에 노벨 경제학상을 수상했습니다.
* Arrow's impossibility theorem. 개별인의 선호 순위를 공동체 전체의 (완비하고 추이적인) 순위로 변환할 때에, 특정의 평가기준(정의(개념)의 비제한성, 비독재성, 파레토 효율성 , 무관계한 선택지로부터의 독립성)을 동시에 만족할 수 없다.

그렇다면 민주주의는 수학적으로 불가능한 구조인 것일까요? 
"선택하는 후보자가 3명 이상 있을 경우 유권자의 선호를 합리적으로 집약하기 위한 방법은 존재하지 않는다"고 논하는 애로우의 불가능성 정리(Arrow's impossibility theorem)는 그렇게 말하고 있는 것처럼 보입니다. 그러나 1948년 수학자 던컨 블랙은 '위원회 결정과 선호의 합리성'이라는 논문을 발표했고, 그 중 중위 투표자 정리를 발표했습니다. 이 중위 투표자 정리는 '애로우의 불가능성 정리'보다 낙관적인 견해를 제공합니다.

블랙이 주장한 중위투표자 정리는 유권자의 선호가 좌파에서 우파와 같은 단일한 정치적 차원에 따라 분포하고, 각 유권자의 선호가 특정 위치를 벗어날수록 선호가 떨어지는 '단봉형'일 경우 정치적 스펙트럼의 한가운데 위치한 '중위투표자'의 선호가 다수결 투표에서 승리한다는 것입니다.

중위 투표자 정리는 왜 많은 민주주의 국가의 정당이 중앙으로 수렴하는 경향이 있는지를 설명하고 애로우의 불가능성 정리가 보여준 엄격한 제약이 특정 조건 하에서는 회피 가능함을 보여주면서 민주주의적 의사결정 시스템이 완전히 기능 부전이 아니라 현실 세계에서 합리적인 결과를 가져올 수 있음을 시사했습니다.

애로우의 불가능성 정리는 유권자가 후보자를 다른 것보다 상위에 올려놓는 '서수적 투표 시스템'에만 적용됩니다. 그러나 유권자가 후보자에 대해 순위를 매기는 것이 아니라 지지하는 정도를 표명하는 '평가투표 시스템'은 애로우의 불가능성 정리의 제약을 받지 않습니다.

평가 투표시스템에서 가장 간단한 방법이 '승인 투표'로, 유권자는 지지하는 후보자 전원에게 체크를 해, 가장 많은 승인을 얻은 후보자가 승리합니다. 연구에 따르면 승인 투표는 투표율을 높이고 부정적 선거운동을 줄여 제3의 후보자나 소정당의 후보자가 이데올로기적으로 가까운 주요 후보의 당선을 방해하는 스포일러 효과를 막는 것으로 나타났습니다.

유권자는 투표하는 당의 규모를 걱정하지 않고 후보자에 대한 승인을 표명할 수 있습니다. 또한 집계도 간단하여 각 후보자를 승인하는 투표자의 비율을 세어 가장 승인율이 높은 후보자가 이깁니다. 애로우는 처음에는 평가 투표시스템에 회의적이었지만, 만년에는 평가 투표시스템이 아마도 가장 좋은 방법임을 인정하고 있습니다.

사실 이 승인 투표는 1294년부터 1621년까지 바티칸 사제가 교황을 선출하는 데 사용되었습니다. 또한 유엔 사무총장 선출에도 사용되고 있지만, 대규모 선거에서는 널리 사용되지 않습니다.

윈스턴 처칠은 "민주주의는 지금까지 시도된 다른 모든 형태를 제외하면 최악의 정부 형태다"라는 말을 남겼습니다. 베리타시움은 "확실히 민주주의는 완벽하지는 않지만 우리가 가진 최선의 것입니다"라고 말했습니다.

*재미있거나 도움이 되셨다면 '구독' 꾹 눌러 주시기를 부탁드립니다. 늘 행복하세요.