몬티 홀 문제가 직관을 배신하는 방식

문 세 개가 있고 그중 하나 뒤에 자동차가 있다. 참가자가 문 하나를 고르면, 어디에 차가 있는지 아는 사회자가 남은 두 문 가운데 꽝인 문 하나를 열어 보여 준다. 그리고 묻는다. 선택을 바꾸겠느냐고. 답은 바꾸는 쪽이 유리하다는 것이다. 처음 고른 문에 차가 있을 확률은 3분의 1이고, 바꿨을 때 차를 얻을 확률은 3분의 2다. 이 문제를 몬티 홀 문제라 부른다.

왜 반반이라고 느끼나

문이 두 개 남았으니 각각 반반이라고 느끼는 것이 자연스럽다. 이 직관이 틀린 이유는 사회자의 행동이 아무렇게나 일어난 일이 아니기 때문이다. 사회자는 차가 어디 있는지 알고, 반드시 꽝인 문만 연다. 참가자가 고른 문은 절대 열지 않는다. 이 규칙 때문에 남은 두 문은 대등하지 않다.

처음 고를 때 참가자의 문에 차가 있을 확률은 3분의 1이다. 사회자가 무엇을 하든 이 확률은 바뀌지 않는다. 사회자는 참가자의 문에 대해 아무런 새 정보도 주지 않기 때문이다. 그렇다면 나머지 3분의 2는 어디로 갔을까. 처음에는 남은 두 문에 나뉘어 있었는데, 사회자가 그중 꽝인 하나를 지워 버리면서 3분의 2가 고스란히 남은 문 하나에 모인다.

경우를 하나씩 세어 보면 어떻게 되나

직관이 받아들이지 못할 때는 모든 경우를 적어 보는 것이 가장 확실하다. 참가자가 늘 1번 문을 고른다고 하자. 차의 위치는 세 가지 가운데 하나다.

차의 위치	사회자가 여는 문	그대로 두면	바꾸면
1번	2번 또는 3번	당첨	꽝
2번	3번	꽝	당첨
3번	2번	꽝	당첨

세 경우 가운데 그대로 두어 이기는 것은 한 번, 바꿔서 이기는 것은 두 번이다. 바꾸는 전략이 이기는 경우는 처음 고른 문이 꽝이었던 모든 경우다. 처음에 꽝을 고를 확률이 3분의 2이니, 바꿔서 이길 확률도 3분의 2가 된다. 표 하나로 정리하면 분명하지만, 이 결론을 처음 들은 사람 대부분은 쉽게 납득하지 못한다.

문이 100개라면 어떻게 보일까

직관을 돕는 좋은 방법은 숫자를 키우는 것이다. 문이 100개이고 참가자가 하나를 고른다. 사회자가 차가 없는 문 98개를 모두 열고, 참가자의 문과 다른 문 하나만 남긴다. 이때 처음 고른 문에 차가 있을 확률은 여전히 100분의 1이다. 사회자가 98개를 지우고 일부러 남겨 둔 그 문에 차가 있을 확률은 100분의 99다. 이렇게 보면 바꾸는 것이 당연해 보인다. 문 세 개일 때도 구조는 똑같다. 다만 숫자가 작아서 차이가 덜 극적으로 느껴질 뿐이다.

조건이 바뀌면 답도 바뀌나

몬티 홀 문제의 답은 사회자의 규칙에 달려 있다. 사회자가 차의 위치를 모르고 남은 문 가운데 아무거나 열었는데 우연히 꽝이었다면, 이때는 남은 두 문의 확률이 정말로 반반이 된다. 사회자가 열 수도 있었던 문에 차가 있었을 가능성이 이미 걸러졌기 때문이다.

이 차이가 몬티 홀 문제의 핵심이다. 같은 장면을 보더라도, 그 장면이 어떤 과정으로 만들어졌느냐에 따라 확률이 달라진다. 확률을 계산할 때는 결과만 보지 말고 정보가 어떤 규칙으로 드러났는지를 함께 따져야 한다는 교훈이다. 이것이 조건부 확률의 출발점이다.

직접 확인할 수 있나

카드 세 장으로 쉽게 확인할 수 있다. 한 사람이 사회자 역할을 맡아 당첨 카드의 위치를 알고, 다른 사람이 고른다. 수십 번 반복하며 바꿨을 때와 그대로 두었을 때의 당첨 횟수를 따로 적으면, 바꾸는 쪽이 대략 두 배 가까이 자주 이긴다는 것을 볼 수 있다. 컴퓨터로 수만 번 흉내 내면 비율은 3분의 2에 더욱 가깝게 수렴한다. 몬티 홀 문제가 유명해진 뒤 실제로 많은 사람이 이런 실험으로 결론을 받아들였다.

남는 질문

수학적으로는 이미 깔끔하게 풀린 문제지만, 사람의 직관이 왜 이토록 끈질기게 반반을 고집하는지는 여전히 흥미로운 연구 주제다. 남은 선택지를 대등하게 보려는 경향, 처음 고른 것을 쉽게 버리지 못하는 심리, 바꿨다가 틀렸을 때 더 크게 후회하리라는 예상이 함께 작용한다는 해석이 있다. 확률의 계산과 사람의 판단 사이에 놓인 이 간격은 의료 진단이나 재판처럼 불확실한 정보를 다루는 자리에서 실제 문제가 된다.