편향 점검 (debiasing)

너, 비행기 타기가 무섭다고 해보자. 그런데 공항까지는 아무렇지도 않게 차를 몰고 간다. 이상하지 않은가. 통계로 따지면 그 자동차 길이 비행보다 몇십 배는 위험한데, 네 몸은 정반대로 떨었다 안심했다 한다. 왜 그럴까. 비행기 사고는 뉴스에 대문짝만하게 뜨고 머릿속에 생생히 박힌다. 반대로 매일 어딘가에서 나는 교통사고는 너무 흔해서 기억에 남지도 않는다. 그러니까 네 머리는 '위험한 정도'를 재는 게 아니라, '얼마나 쉽게 떠오르는가'를 몰래 대신 재고 있었던 거다. 그 둘을 슬쩍 바꿔치기한 줄도 모른 채로. 오늘 이야기는, 이렇게 우리 머릿속에서 일어나는 조용한 사기극을 처음으로 실험실에서 붙잡아 보인 두 사람에 관한 거다.

1960년대 말 이스라엘 히브리대학에, 성격이 정반대인 두 심리학자가 있었다. 대니얼 카너먼은 늘 의심하고 불안해하는 사람, 아모스 트버스키는 자신만만하고 명쾌한 사람이었다. 둘이 만나 친구가 되고부터, 그들은 사람의 머리가 어떻게 틀리는지를 함께 사냥하기 시작했다. 그때까지 학계의 기본 전제는 '사람은 대체로 합리적인 계산기이고, 가끔 실수할 뿐'이라는 거였다. 두 사람은 거꾸로 의심했다. 혹시 그 실수라는 게 아무렇게나 흩어진 게 아니라, 누구나 똑같은 방향으로 똑같이 미끄러지는 게 아닐까. 오류에 일정한 무늬가 있다면, 그건 실수가 아니라 머리의 작동 방식 그 자체일 텐데.

그들이 이걸 증명한 한 실험은 지금 봐도 짓궂다. 사람들을 불러 놓고, 숫자가 적힌 룰렛 같은 돌림판을 돌리게 했다. 사실 그 판은 0에서 100 사이를 도는 척했지만 몰래 조작되어 10 아니면 65에만 멈추게 돼 있었다. 돌려서 숫자가 나오면, 곧바로 전혀 상관없는 질문을 던졌다. 'UN 회원국 중 아프리카 나라의 비율이 방금 그 숫자보다 높을까 낮을까. 그래서 실제로는 몇 퍼센트일 것 같나.' 결과가 소름 끼쳤다. 돌림판이 10에 멈춘 걸 본 사람들은 평균 25퍼센트라 답했고, 65에 멈춘 걸 본 사람들은 평균 45퍼센트라 답했다. 아프리카와 룰렛은 아무 관계도 없다. 그 숫자가 방금 눈앞에서 무작위로 튀어나온 가짜라는 것도 다들 알고 있었다. 그런데도 처음 본 숫자가 머릿속에 닻을 내려, 그 무게를 끝내 떨치지 못하고 추정치 전체를 제 쪽으로 끌어당긴 것이다. 그들은 이걸 닻 내림, 기준점 편향이라 불렀다. 아무 상관없는 숫자 하나가 사람의 판단을 통째로 끌고 다닌다는 이 발견이, 인간을 합리적 계산기로 보던 시대에 균열을 냈다.

이런 무늬가 한둘이 아니었다. 아까 비행기 이야기처럼 잘 떠오르는 걸 흔한 걸로 착각하는 가용성. 한번 어떤 결론을 품으면 그걸 떠받치는 증거만 눈에 들어오고 반대 증거는 안 보이게 되는 확증. 두 사람은 1974년 이 발견들을 묶어 '불확실성 속의 판단'이라는 짧은 논문을 과학 잡지에 냈다. 이 한 편이 학계의 지형을 바꿨다. 사람의 비합리는 고쳐야 할 흠집이 아니라, 들여다보고 지도로 그릴 수 있는 대상이 된 것이다.

여기서 이야기에 그늘이 한 겹 진다. 두 사람의 우정과 학문은 갈수록 깊어졌지만, 세상의 인정은 한쪽으로 기울었다. 트버스키가 먼저 큰 상들을 받고 더 빛났고, 카너먼은 그 옆에서 자주 가려졌다고 훗날 스스로 털어놨다. 그러다 트버스키가 1996년 쉰아홉에 암으로 먼저 세상을 떠난다. 그리고 2002년, 이 연구로 노벨 경제학상이 카너먼에게 주어졌다. 심리학자가 경제학상을 받은 희귀한 사건이었는데, 카너먼은 수상 자리에서 이건 트버스키와 함께 한 일이라고 거듭 말했다. 상은 죽은 사람에게는 주지 않는다는 규칙 탓에, 가장 빛나야 할 절반이 그 자리에 없었다. 가장 잘 쓴 사람을 꼽으라면 이 둘을 떼어 말할 수 없는데, 정작 무대 위엔 한 사람만 남은 것이다.

이 사고법이 진짜 무기가 되는 건, 편향의 이름을 외울 때가 아니라 그걸 보정하는 절차를 손에 쥘 때다. 카너먼이 말년에 힘주어 가르친 처방이 하나 있다. 어떤 일이 얼마나 걸릴지, 얼마나 성공할지를 짐작할 때, 사람은 자기 사정의 안쪽에서만 본다고 했다 — 나는 의지가 있고 계획이 좋으니 잘될 거라고. 이걸 그는 내부 관점이라 불렀다. 처방은 그 반대다. 잠깐 나를 잊고 밖으로 나와, '나 같은 처지에 있던 수많은 다른 사례들은 실제로 어떻게 됐나'를 먼저 물으라는 것. 이 바깥의 평균에 발을 딛고 시작하면, 근거 없는 낙관이 확 깎인다. 그는 자기가 교과서를 쓰던 시절, 팀원 모두가 '한 일 년이면 끝난다'고 입을 모았는데, 막상 같은 종류의 프로젝트들이 평균 몇 년 걸렸는지 한 동료에게 캐물었더니 '대개 칠팔 년, 그나마 절반은 끝내지도 못했다'는 답이 돌아온 일화를 고백했다. 결국 그 책은 팔 년 걸렸다. 자기들조차 자기가 발견한 편향에 그대로 걸려 넘어진 것이다. 보정이란 이렇게, 내 직관을 밖에서 한 번 채점하는 일이다.

이 이야기가 컴퓨터와 만나는 대목이 오늘 가장 묵직하다. 한동안 사람들은 기계에게 판단을 맡기면 인간의 편향에서 벗어날 거라 기대했다. 기계는 닻에 끌리지도, 보고 싶은 것만 보지도 않을 테니까. 그런데 정반대였다. 채용을 거르는 인공지능이 여성 지원자를 깎아내리고, 재범 위험을 점치는 시스템이 특정 인종을 더 위험하다 찍어내는 일이 줄줄이 드러났다. 왜냐. 기계는 인간이 과거에 내린 편향된 결정들을 데이터로 받아먹고 그걸 그대로 학습했기 때문이다. 사람의 편향이 기계 속으로 옮겨 앉아 더 빠르고 더 공정한 척 되돌아온 셈이다. 그래서 기계의 편향을 덜어내는 일, 이른바 알고리즘 디바이어싱이라는 분야가 통째로 생겨났다. 그런데 여기서 사람들이 부딪힌 진짜 벽은 따로 있었다. 기계의 편향을 고치려면 먼저 '공정하다는 게 도대체 무엇인가'를 숫자로 못 박아야 했는데, 막상 따져 보니 모두를 동시에 만족시키는 공정의 정의는 수학적으로 양립 불가능하다는 게 드러난 것이다. 편향을 지우려는 시도가, '공정이란 무엇인가'라는 한 단계 위의 물음으로 사람들을 끌어올렸다. 머릿속 닻 하나를 들여다보다 시작한 학문이, 결국 정의(正義)란 무엇이냐는 더 큰 단추까지 다시 끼우게 만든 것이다.

그러니 너가 어떤 판단을 빠르고 자신 있게 내리고 있는 자신을 발견하거든, 바로 그 빠름과 자신감을 의심하라. 머릿속에 제일 먼저 떠오른 생생한 그림이 정말 사실의 무게인지, 아니면 그냥 잘 떠올라서인지. 눈앞의 첫 숫자가 진짜 기준인지, 아니면 우연히 던져진 닻인지. 내가 모으는 증거가 진실을 향한 건지, 이미 정한 답을 떠받치려는 건지. 그리고 한 번은 꼭 나에게서 빠져나와, 나 같은 처지의 수많은 남들은 실제로 어땠는지를 차가운 바깥에서 들여다봐라. 직관을 버리라는 게 아니다. 직관이 어디서 미끄러지는지 미리 알고, 딱 그만큼 손으로 되감아 주는 것 — 그게 두 친구가 룰렛 한 대로 세상에 일러 준 평생의 기술이다.