인지심리 매니아

인간의 사고과정은 신비하다. 인간이 언어를 배우고, 인과관계를 파악하고, 의사결정을 하는 과정은 매우 복잡하며 베일에 가려져 있다. 도대체 인간이 사고를 할 때 뇌에서는 어떤 일이 일어날까? 우리가 그 과정을 상세히 기술할 수는 없을까?

그런데 인간의 사고과정을 수학 공식으로 설명하는 관점이 있다. 바로 ‘베이지안 접근법’이다. 이 관점은 인간의 사고과정을 베이즈 정리로 설명한다.

P(h|d) = P(d|h) / P(d)
(h: 가설 d: 증거 )

이 간단한 공식으로 어떻게 복잡한 인간의 사고방식을 설명할 수 있을까? Perfors et al(2011)^[각주:1]은 어린아이의 귀납적 일반화 과정을 베이지안 추론으로 설명하고 있다.

범주이름 학습
 

출처: http://www.clublabrador.com

아이의 머리 속은 폭발 직전일 것이다. 아이는 어쨌든 자기 앞에 있는 이 동물이 ‘래브라도’라는 사실을 배웠다. 하지만 아이는 며칠 전 공원에서 비슷한 동물(진돗개)을 본 적이 있다. 그럼, ‘래브라도’라는 단어는 며칠 전 본 동물을 부를 때도 사용하는가? 아니면 ‘네 발로 걸어다니는 모든 동물’을 일컫는 것일까?

다행히 아이의 머리 속에는 이 문제를 해결할 규칙이 있다. 그 규칙은 바로 ‘가장 좁은’ 범주를 선택하는 것이다. 즉, 아이는 자기 눈앞에 있는 이 동물만 ‘래브라도’이며, 지난 번에 본 동물(진돗개)은 래브라도가 아니라고 생각한다. 만약 아빠가 이 신기한 동물과 똑같이 생긴 동물이 나타날때마다 ‘래브라도’라고 부른다면, 이 가정은 더욱 견고해진다. 반면, 아빠가 며칠 전 봤던 동물(진돗개)도 ‘래브라도’라고 부른다면 이 단어가 특정 동물(개)을 지칭한다고 가정할 것이다. 하지만, 그 때도 역시 최소 범위(개)를 가정한다. ‘래브라도’가 동물 전체를 지칭한다고 생각하지는 않는 것이다.

베이지안 관점은 이 현상을 ‘우도’로 설명한다. 앞에서 살펴봤듯이 우도란 P(d|h), 즉 가설이 참일 때 증거가 출현할 확률이다. 만약 이 동물(A)의 이름이 래브라도라고 가정하면, 이 가정이 맞을 때 실제로 이를 뒷받침하는 증거가 출현할 확률은 P(래브라도라고 부름|A)가 될 것이다. 반면, 모든 개(B)를 지칭하는 단어가 래브라도라면 우도는 P(래브라도라고 부름|B)이 된다. 둘 중 어느 확률이 가장 높은가? 당연히 첫번째다. A는 B보다 발생빈도가 훨씬 적기 때문이다 (Fig.3 i에서 가장 작은 사각형이 A에 해당한다). 아이는 이렇게 증거가 참일 확률이 높은 가설을 선택한다(그림을 보면 검은 점은 가장 작은 사각형에서 나왔을 확률이 높아 보인다).

또 이 가정은 증거가 축적되면서 강화되는데, 이것 역시 우도와 관련있다.. 만약 아빠가 이 개랑 똑같이 생긴 개(A)가 출현할 때마다 ‘래브라도’라고 한다면, P(래브라도라고 부름|A)는 더욱 증가하기 때문이다(Fig 3. ii). 따라서 가장 진한 사각형(래브라도)이 지지를 받게 되는 것이다.

제약 
 

그 외에도 어린아이는 복잡한 귀납화 과정에서 사용하는 몇 가지 규칙(제약, Constraint)을 가지고 있다. 예를 들어, 단어를 배울 때 그 단어가 사물의 일부분보다 전체를 지칭할 것이라는 가정, 주체는 객체와 달라서 스스로 움직일 수 있다는 가정 등이다.

어린아이의 머리 속에 있는 제약은 선천적으로 타고나는가? 베이지안 관점은 제약이 학습된다고 설명한다. 예를 들어 보자. 이제 ‘개’라는 개념을 이해하기 시작한 아이가 돼지와 골든 리트리버을 봤다고 가정해보자. 아이의 머리는 또 다시 복잡해진다. 이 이상한 동물들도 ‘개’일까? 아이에게는 이 복잡한 문제를 정리해줄 제약이 필요하다.

그림4는 제약이 학습되는 과정을 잘 설명해준다. A가 래브라도, b가 골드 리트리버, c가 돼지라고 가정해보자. 학습자는 먼저 기존 경험을 바탕으로 가설(개)의 범위를 설정한다. 즉, 개는 몸통 길이가 다양하지만(w)  몸무게(l)가 크게 차이 나지 않는다. 따라서 가설공간은 l x w 의 긴 직사각형 모양이라는 제약이 형성된다. 그렇다면 b는 a와 같은 범주에 속할 확률이 높고, c와 a는 확률이 낮을 것이다. 학습자는 소수의 사례만으로도 재빠르게 제약을 만들어낸다.
 

베이지안 통계학을 배운 사람은, 이쯤에서 무언가가 번득 떠오를 것이다. 베이지안 관점은 가설에 대한 가설(l과 w, hyperparameters)을 ‘베이지안 계층적 모형’으로 설명한다. 계층적 모형을 사용하면 제약 뿐만 아니라 인간이 어떻게 개념을 추상화하고, 그 개념을 또 추상화하는지 추적할 수 있다. 정말 신기하다. 수학적 모형으로 인간의 개념 구조를 설명할 수 있다니 말이다.

결론

인간의 사고과정은 신비하게 보이지만, 설명 가능한 과정임이 점점 드러나고 있다. 특히 베이지안 관점에 의하면 인간의 사고방식은 합리적인 수학적 판단과 다를 바가 없다. 물론 베이지안 관점에 대해서 비판이 없는 것은 아니지만 비교적 다양한 사고과정을 수학적으로 무리없이 설명해 내고 있다. 카네만과 트버스키의 비판에도 불구하고, 인간은 어쩌면 정말 직관적인 수학자일지도 모른다.

며칠 전 Bing API를 통해 웹 검색 결과 수를 토대로 조건부 확률을 계산하는 application을 만들어봤다. 다들 알겠지만, 구글이나 Bing의 경우 검색결과와 결과 수를 함께 제시한다. 검색 결과 수를 이용하면 특정 단어가 출현했을 때 다른 단어가 동시에 출현할 확률을 구할 수 있다. 예를 들어, 오렌지라는 단어가 출현했을 때 과일이라는 단어가 함께 출현할 확률, 즉 P(과일|오렌지)는 ‘과일 & 오렌지’ 검색 결과 수를 ‘오렌지’ 검색 결과 수로 나누면 된다. 

Application을 완성하고 이 단어 저 단어를 검색하던 중, 문득 다음과 같은 생각을 해 봤다. ‘혹 웹 문서가 인간의 개념 구조를 그대로 반영하고 있지 않을까?’

웹 문서는 인간이 작성했다는 점에서 인간의 사고방식을 그대로 반영하고 있을 것이다. 누군가 웹마이닝 등을 통해 웹에 산재한 데이터들을 관찰할 수 있다면, 인간의 개념 지식, 휴리스틱, 판단 과정을 고스란히 살펴볼 수 있을 것이다.

필자는 그 중 ‘전형성’ 효과가 웹 문서에서도 동일하게 나타나는지 궁금했다. 인간의 개념 구조를 설명하는 이론 중 ‘원형모형’은 개념이 원형으로 표상된다고 주장한다. 원형은 그 범주에 속하는 사례들이 가장 평균적으로 가진 속성의 집합체를 말한다. 또, 그 범주에 속한 사례들은 원형과 유사한 정도에 있어서 다르다. 이를 ‘전형성’이라고 한다.

예를 들어보자. ‘새’라는 단어를 들으면 어떤 이미지가 떠오르는가? 아마 전형적인 ‘새’라고 생각되는 이미지(날개가 달리고 몸이 가벼우며 하늘을 나는)가 떠오를 것이다. 이것이 새라는 범주의 ‘원형’이다. 하지만 새라는 범주에 속하지만 원형과 다소 동떨어진 사례도 있다. 가령, 펭귄은 새라고 할 수 있는가? 물론 펭귄은 새가 맞지만 원형과 동떨어졌다는 점에서 ‘전형성’이 낮다. 반면 까치는 전형성이 높다. 

웹 문서가 인간의 개념 지식을 그대로 반영한다면, 전형성 효과도 동일하게 나타날 것이라고 예상할 수 있다. 즉, 펭귄보다 까치라는 단어가 출현했을 때 '새'라는 단어가 함께 출현할 확률이 높을 것이다. P(새|펭귄) < P(새|까치) 간단한 실험을 통해 이를 검증해 볼 수는 없을까? 한번 해 보기로 마음먹었다.^[각주:1]

실험

.

 

그 다음, 필자가 만든 조건부 확률 검색 엔진을 통해 각 사례의 조건부 확률을 계산했다. 즉, 웹페이지에서 Chair라는 단어가 출현했을 때 Furniture라는 단어가 함께 출현할 확률 P(Furniture|Chair)을 계산했다.

이런 식으로 모든 사례의 조건부 확률을 구한 다음(결합 단어나 다의어는 자료에서 제외했다), 확률을 토대로 전형성의 순위를 매겼다. 그 다음, 이 순위를 Rosch 등이 보고한 순위와 비교해봤다. 두 데이터 모두 서열 척도이므로 Spearman 상관 분석을 사용했다.
 

그 결과, Fruit와 Clothing을 제외한 모든 범주에서 유의미한 상관이 발견되었다. 결과에 영향을 주는 수많은 요인이 웹 상에 존재함에도 불구하고 유의미한 상관이 발견되었다는 사실은 좀 놀랍다.
 

만약, 웹에서 전형성 효과가 관찰된다면 그 응용적 가치는 무엇일까? 어쩌면 우리는 웹 문서를 통해 인간의 개념 지도를 완성할 수 있을지 모른다. 웹 마이닝 등에서 검색 결과의 조건부 확률을 이용한다면 (전형성 효과가 시사하듯)퍼지하게 구성된 인간의 개념 구조를 파악해 낼 수 있을 것이다. 또, 인공지능이 ‘웹’을 통해 인간과 유사한 추론을 하게끔 만들 수도 있다. 인공지능이 웹 검색결과를 통해 ‘펭귄보다는 까치가 새에 가깝다’라는 추론을 하는 모습이 상상되는가?’

하버드 대학의 Paul Harris는 어린이가 다른 분야의 지식을 각각 어떻게 구분하는지 궁금했다. 그는 최근 연구에서 카톨릭 문화권의 어린이들을 대상으로 이 질문의 답을 구하고자 했다.

실험에 참가한 어린이들은 대게 10-12세 정도였으며, 한결같이 신과 영혼의 존재를 믿고 있었다. 이들은 또 눈에 보이지 않는 과학적 존재들(공기나 병균)을 믿고 있었다. 연구자들은 어린이들이 신을 믿는 이유와 공기를 믿는 이유가 같은 이유에 근원하는지 알아보고 싶었다.

연구자들은 이들에게 어떻게 그런 존재가 있다고 아는지 물어봤다. 어린이들의 대답은 다음과 같았다.

아이들이 말한 이유는 다음과 같이 4가지 종류로 구분된다.

• 대상을 직접 관찰하거나 만났다.
  
• 문헌에 씌여져 있거나 다른 권위가 그 존재를 인정하기 때문이다.
  
• 대상의 몇몇 속성이 일반적 차원에서 대상의 존재를 설명하기 때문이다(예를 들어 '누구나 자기 자아를 지니고 있기 때문에 영혼이 존재한다', 또는 '병균은 더러운 곳에 산다)
  
• 대상이 필요하기 때문에 존재한다('신은 우리에게 진리를 말하기 때문에 존재한다')
  

종교적 대상의 경우 그 존재를 믿는 이유가 다양했다. 하지만 과학적 대상의 경우 대상의 일반적 속성 때문에 존재를 믿는다고 답한 경우가 많았다.

흥미로운 사실이 또 하나 있다. 연구자들은 대상의 특성들을 조금 더 세분화시켜봤다. 이들은 어린이들이 인과적인 설명을 기준으로 대상의 존재를 판단하는지도 관심 있었다. -- '병균은 병을 유발한다', '신은 인간을 창조했다'

종교적 대상의 경우 인과적 이유를 고려하는 비율은 17%에 불과했지만, 과학적 대상의 경우 100%에 가까웠다.

결국 스페인 어린이들은 과학적 대상의 존재를 믿는 이유를 인과적 관계로 설명한다는 뜻이다. 그러나 종교의 경우 이런 인과적 관계로 신이나 영혼의 존재를 믿는다고 하지는 않았다.