본문 바로가기

인지심리 관련서적

[책리뷰] 인지과학혁명


글: 인지심리 매니아


몬티홀 딜레마

다음 문제를 풀어보자.

3개의 문이 있는데 하나의 문 뒤에는 고급 스포츠카가, 나머지 2개의 문 뒤에는 염소가 숨겨져 있다. 참가자는 이 사실을 모르며, 사회자는 이 사실을 알고 있다. 참가자가 이 3개의 문 중에서 하나를 선택하면 사회자는 나머지 2개의 문 중에서 염소가 있는 문 하나를 열어 보여준다. 그리고 사회자는 참가자에게 열리지 않은 2개의 문 중에서 다시 한 번 문을 선택할 기회를 준다.


만약 두번째로 고른 문에서 스포츠카가 나온다면 참가자는 차를 가질 수 있다.
그렇다면 참가자는 처음에 선택한 문을 바꾸는 것이 좋은가 아니면 바꾸지 않는 것이 좋은가?


정답은 아래 동영상을 보면 알 수 있다.



영화 '21'중에서



이 동영상을 보고 당황했을 거라 짐작한다. 첫번째는 문을 바꾸는 게 정답이라는 점, 두번째는 영화 속 MIT 학생처럼 수학적 사고를 하는 게 반드시 합리적일까 하는 점이다.

먼저 문을 바꾸는 게 정답이라는 사실을 이해해보자. 사회자가 열어본 문에 염소가 있었다면, 내가 고른 문 뒤에 스포츠카가 존재할 확률은 증가하는 게 아닐까? 따라서 그냥 가만히 있으면 되는 거 아닐까?

처음에 3개의 문이 주어졌을 때 자동차가 당첨될 확률은 각각 1/3이다. 하지만 사회자가 꽝인 문 하나를 열어 주었고, 다시 한 번 선택을 할 수 있는 상황에서 자신의 선택을 바꾼다면 당첨 확률이 2/3로 처음의 1/3보다 2배 상승하게 된다.



위 그림은 참가자가 1번 문을 골랐다가, 나중에 문을 바꾸는 경우 나올 수 있는 모든 결과를 보여준다. 스포츠카가 2번 문에 있었을 경우, 진행자는 3번 문을 열어줄 것이다(사회자는 2번 문에 스포츠카가 있다는 것을 알고 있으므로). 따라서 참가자가 문을 바꾸려 한다면 2번 문을 선택하게 될 것이고, 확률은 여전히 1/3이다. 차가 3번 문에 있을 경우도 마찬가지다.

하지만 차가 1번 문에 있을 경우, 참가자가 후에 문을 바꾸면 차를 얻을 수 없다. 따라서 이 때의 확률은 손실(차를 놓칠 확률)이 된다. 이 때 사회자가 열어줄 수 있는 문은 2번과 3번 문이므로, 참가자가 나중에 문을 3번이나 2번으로 바꿀 확률은 1/2이다. 결국, 차를 고를 확률인 1/3에 2번 혹은 3번 문을 고를 확률(1/2)를 곱하면 차를 놓칠 확률은 각각 1/6이 된다. 둘을 더하면 1/3이 된다.



결론적으로, 문을 바꾸면 차를 잃을 확률이 1/3, 차를 얻을 확률이 2/3이 된다. 반면, 문을 바꾸지 않으면 확률은 여전히 1/3이다. 문을 바꿀 때 확률이 증가하는 것이다.

(이 문제를 ‘몬티홀 딜레마'라고 부른다).


수학적=합리적?

첫 번째 의문은 해소된 것 같다. 그러나 두번째 의문은 여전히 풀리지 않는다. 영화 속 학생은 조건부 확률을 사용하여 사후 확률을 계산했고, 일반인은 어림짐작을 사용해서 문제를 해결하려 했다. 결국 저 학생의 정답이 옳았다. 하지만 저 학생처럼 사고하는 사람이 과연 몇이나 될까? 또 저 학생처럼 사고하는 게 과연 합리적일까?

카네만과 트베르스키는 인간의 의사결정이 수학적 합리성과 동떨어져 있다는 사실을 발견했다. 우리는 몬티홀의 딜레마를 해결할 때 조건부 확률을 사용하지 않는다. 그냥 직관적으로 문을 바꾸지 않는 게 좋을 거라고 생각한다. 카네만과 트베르스키는 인간이 수학적 추론 대신 '휴리스틱'을 사용해서 의사결정을 한다고 결론지었다. 놀랍게도, 각 분야의 전문가라는 사람들조차 조건부 확률에 약하다. 심지어 수학자들마저 몬티홀 딜레마를 제대로 풀지 못했다. 따라서 MIT 학생처럼 생각하는 사람은 거의 없다고 보면 된다.

카네만과 트베르스키는 '수학적 사고가 합리적이다'라는 전제를 바탕으로 하고 있으며, 인간은 이 기준과 동떨어져 있기 때문에 비합리적이라는 오명을 쓰게 되었다. 근데, 수학적 사고를 '합리적 사고'라고 규정하는 것이 과연 옳은가? 수학적 사고는 상황과 관계없이 항상 합리적일까? 다음 글은 수학적 사고가 모든 상황에서 반드시 합리적이지는 않음을 보여준다.

5지선다형 객관식 문제를 풀 때, 대개의 경우 답이 아니라고 생각되는 번호를 버린 나머지 2개 또는 3개의 번호 중에서 어느 것을 선택할 것인지 갈등을 한다. 만약, 3개의 번호 중에서 하나의 번호를 선택한 상태에서 다른 번호가 답이 아니라는 것을 뒤늦게 깨닫게 되었다면 이때 처음에 선택한 번호를 바꾸는 것이 좋은가, 아니면 바꾸지 않는 것이 좋은가? 이 문제를 몬티홀 문제와 같이 생각하면 번호를 바꾸어서 답을 결정하는 것이 그 문제를 맞힐 확률을 더 높이는 일이라 생각할 수 있다. 왜냐하면, 3개의 번호 중에서 정답인 번호는 하나이므로 오답을 선택했을 확률이 2/3로 정답을 선택했을 확률 1/3보다 크기 때문이다.
그러나, 여러 사람의 경험을 통하여 알 수 있듯이, 선택한 번호를 바꾸면 대부분 틀리는 경우가 많다. 그렇다면 왜 몬티홀의 문제와 다른 결과를 얻게 되는 것인가? 그것은 확률은 “무작위로”로 선택하는 것을 전제로 하지만 우리가 시험볼 때는 무작위로 번호를 선택하는 것이 아니라 공부했던 것을 바탕으로 최선을 다하여 번호를 선택하므로 처음에 답이라고 생각했던 번호가 답이 되는 경우가 많기 때문이다.

출처 - 수학개념서 수학교과서의 새로운 접근


시험 문제를 풀 때는 확률보다 직관에 의존해야 한다. 시험 문제를 풀 때 직관은 우리로 하여금 이전에 봤던 내용을 무의식중에 고르게 한다. 만약 이 답에 수정을 가하면 틀리기 쉽다. 이전 포스트에서 소개했던 숨막힘 현상(choke)이 이와 관련있다. 자동적으로 이루어지는 행동에 너무 많은 생각을 하기 시작하면 오히려 수행이 저조해질 수 있다. 직관적으로 튀어나온 답은 정답일 확률이 높으므로 너무 많은 생각을 하지 말고 그냥 놔두는 게 낫다.

이 상황에서 조건부 확률을 고려하는 건 ‘합리적'이지 않다. 영화 속 MIT 학생이 오지선다형 문제를 풀 때 저런 논리를 사용한다면 낭패를 볼 것이다. 결국 합리성은 ‘생태적 합리성'이어야 한다. 인간은 베이지안 추론에 무지하지만, 일상생활을 하는 데 아무 지장이 없다. 그것은 우리가 일상생활에 적합한 합리성을 이미 가지고 있기 때문일 수 있다. 이 합리성은 수학적 합리성과는 다소 거리가 멀지만, 여전히 우리를 ‘합리적'으로 인도하는 것이다.

‘인지과학 혁명’에서 사에키 유타카는 ‘생태적 합리성'을 자신의 메타이론으로 삼으려 한다. 그는 심리학 연구들을 생태적 합리성이라는 기준으로 재평가한다.  기존의 심리학 연구는 인위적인 환경, 전문가들이 정한 인위적인 합리 안에서 실험을 진행했으며, 이로 인해 인간의 합리성을 제대로 파악하지 못했다는 것이다. 따라서 생태적 합리성을 발견하기 위한 새로운 시도가 필요하다고 주장한다.

조건부 추론을 잘 모른다고 해서 사는 데 지장은 없다. 그냥 내 직관이 잘 들어맞었다는 경험을 믿으면 된다. 시험 문제를 풀 때는 그렇게 생각하는 게 가장 ‘합리적'이다.