여러분은 스스로의 ‘직관’을 얼마나 믿으시나요? 특히 확률이나 숫자가 얽힌 문제에서 우리는 종종 첫 느낌에 강하게 의존하곤 합니다. 그런데 만약, 그 굳건한 직관이 사실은 뇌가 만들어낸 완벽한 착각이라면 어떨까요?

역사상 가장 위대한 천재 수학자 중 한 명으로 꼽히는 폴 에어디시(Paul Erdős)조차 처음에는 이 문제의 정답을 듣고 “그럴 리가 없다”며 화를 냈다고 해요. 두 개의 문만 남은 상황에서 우리의 뇌는 본능적으로 ‘당첨 확률은 50:50 반반이지!’라고 외치지만, 수학적 진실은 전혀 다른 곳을 가리키고 있거든요.

이 글에서는 선택을 바꾸는 것이 당첨 확률을 정확히 2배로 끌어올리는 진짜 이유를, 시각적인 사고 실험과 명쾌한 사실들을 통해 아주 쉽고 직관적으로 증명해 드릴게요. 자, 그럼 당신의 직관을 배신할 준비가 되셨나요? 이 흥미로운 딜레마의 세계로 함께 빠져보시죠!

몬티 홀 문제란 무엇인가?

세 개의 문과 하나의 딜레마

‘몬티 홀 문제(Monty Hall Problem)’는 과거 미국의 유명한 TV 게임 쇼였던 ‘거래를 합시다(Let’s Make a Deal)’의 명 진행자 몬티 홀의 이름에서 유래한 아주 유명한 확률 딜레마예요.

이 문제가 전 세계적으로 엄청난 화제가 된 것은 1990년으로 거슬러 올라갑니다. 당시 미국 잡지 ‘퍼레이드(Parade)’에는 ‘사반트에게 물어보세요(Ask Marilyn)’라는 인기 칼럼이 있었어요. 기네스북에 세계 최고 IQ 보유자로 등재되어 있던 마릴린 보스 사반트(Marilyn vos Savant)가 독자들의 질문에 답해주는 코너였죠.

어느 날 한 독자가 이 몬티 홀 문제를 질문했고, 사반트는 망설임 없이 “선택을 바꾸는 것이 무조건 유리하다”고 답변했어요. 그러자 수많은 수학자와 통계학 박사들을 포함해 무려 1만 통이 넘는 비판 편지가 쏟아졌죠. 하지만 결국 컴퓨터 시뮬레이션과 수학적 증명을 통해 그녀의 말이 100% 옳았음이 밝혀졌답니다.

• 초기 조건: 참가자인 여러분 앞에는 굳게 닫힌 3개의 문이 있습니다. 하나의 문 뒤에는 최고급 자동차(당첨)가 있고, 나머지 두 개의 문 뒤에는 염소(꽝)가 서 있어요.
• 게임의 룰: 여러분이 3개의 문 중 하나를 선택하면, 문 뒤의 상황을 모두 꿰뚫고 있는 진행자(몬티 홀)가 남은 두 개의 문 중 ‘반드시 염소가 있는 문’ 하나를 열어서 보여줍니다.
• 딜레마의 시작: 진행자는 묻습니다. “자, 닫혀있는 문이 두 개 남았습니다. 원하신다면 지금 다른 문으로 선택을 바꾸시겠습니까?”

50:50이라는 치명적인 착각

진행자가 염소가 있는 문 하나를 열어준 직후, 대다수의 사람들은 남은 문이 딱 두 개뿐이므로 어느 쪽을 선택하든 당첨 확률은 1/2(50%)로 완전히 동일하다고 판단해요. 하지만 이것은 우리의 뇌가 새로운 시각적 정보에 압도되어 과거의 중요한 조건들을 백지화해 버리는 대표적인 ‘인지 편향’ 사례랍니다.

• 진행자의 통제된 행동: 진행자가 문을 여는 행위는 무작위가 아니에요. ‘참가자가 고르지 않은 문’ 중에서 ‘반드시 염소가 있는 문을 피해서 열어야 한다’는 강력한 제약 조건을 가집니다.
• 확률의 고정성: 처음에 3개의 문 중 자동차를 고를 확률은 33.3%(1/3)이고, 염소를 고를 확률은 66.7%(2/3)입니다. 이 초기 확률은 변하지 않습니다.

왜 ‘선택을 바꾸는 것’이 정답일까?

모든 경우의 수를 펼쳐보기

참가자가 처음에 ‘1번 문’을 골랐다고 가정하고 자동차가 1, 2, 3번에 있을 세 가지 시나리오를 나열해 보면 이점이 명확하게 드러납니다.

• 선택을 유지할 경우 (당첨 확률 1/3): 처음에 1/3의 좁은 확률을 뚫고 ‘정확히 자동차’를 골랐을 때만 당첨됩니다.
• 선택을 바꿀 경우 (당첨 확률 2/3): 처음에 2/3의 높은 확률로 ‘염소’를 골랐다면, 진행자가 강제로 남은 염소 한 마리를 치워줍니다. 남은 문에는 무조건 자동차가 있겠죠! 즉, ‘선택을 바꾸는 전략’은 ‘처음에 염소를 고르는 행동’과 완전히 동일한 승률을 가집니다.

100개의 문: 가장 직관적인 사고 실험

3개의 문으로는 크게 피부에 와닿지 않으신다면, 변수를 100개로 늘려서 사고 실험을 해볼까요?

100개의 문 중 여러분이 1번 문을 고릅니다. 1번 문에 자동차가 있을 확률은 1%, 나머지 99개의 문 어딘가에 자동차가 있을 확률은 99%입니다.

이때 정답을 아는 진행자가 여러분이 고르지 않은 99개의 문 중, 자동차가 숨겨진 단 하나의 문(예: 77번)만 남겨두고 98개의 염소 문을 전부 열어버립니다.

이제 1번과 77번 두 개만 남았습니다. 여전히 1번 문이 정답일 확률은 1%지만, 나머지 99%의 거대한 확률은 살아남은 77번 문 단 하나로 온전히 응축됩니다. 여기서 선택을 바꾸지 않는 것은 여전히 1%의 기적에 내 모든 것을 거는 무모한 행동과 같습니다.

뇌의 오류를 인정하면 보이는 것들

우리의 뇌는 눈앞에 새롭게 주어진 시각적 단서를 바탕으로 즉각적인 결정을 내리도록 프로그래밍되어 있습니다. 남은 문이 두 개라는 상황이 주어지면, ‘진행자가 정답을 알고 의도적으로 개입했다’는 숨겨진 조건을 귀찮아하며 생략해 버리죠. 오직 현재의 상태(문 2개)만으로 확률을 1/2로 단순하게 재계산하는 뇌의 ‘에너지 절약 모드’입니다.

몬티 홀 문제는 우리가 주식 투자나 일상적인 의사결정의 순간에 얼마나 ‘제한된 정보’와 ‘잘못된 직관’에 의존하여 치명적인 오류를 범할 수 있는지를 경고하는 완벽한 심리학적 거울입니다.

직관을 넘어 논리의 세계로 온 당신에게

이 글을 처음 읽으시면서 “무조건 반반이지!”라고 외쳤더라도 전혀 좌절하실 필요가 없습니다. 인류 역사상 가장 똑똑하다는 지성인들조차 속수무책으로 빠졌던 함정이니까요. 여기서 우리가 얻어가야 할 진짜 가치는, 압도적인 데이터와 논리적 증명 앞에서는 기꺼이 자신의 직관을 의심하고 사고의 궤도를 수정할 수 있는 유연함입니다.

오늘 배운 핵심만 딱 하나 기억해 주세요. 처음에 꽝(염소)을 고를 확률은 66.7%로 압도적으로 높습니다. 그리고 진행자는 게임의 룰에 따라 남은 오답을 치워주는 친절한 도우미입니다. 그러므로 ‘선택을 바꾼다’는 것은 “내가 처음에는 틀렸을 확률이 높으니, 상황이 변한 지금 더 나은 확률에 올라타겠다”는 지극히 이성적인 승리 전략입니다.

오늘 저녁, 당장 주변 사람들에게 종이컵 3개로 이 게임을 제안해 보세요. 상대방의 확신에 찬 50:50의 직관이 수학적 진실 앞에서 어떻게 유쾌하게 무너지는지 관찰하는 것은 정말 즐거운 경험이 될 것입니다.