거짓은 어떻게 확산되는가 -진실을 압도하는 거짓 신념의 작동 원리- (2021.4 개정1판)

“팩트만으로는 가짜 뉴스를 이길 수 없다”
정보가 무기가 되어버린 시대에 꼭 필요한 책!

- 거짓 정보는 어떻게 퍼져나갈까?
- 누군가에게는 말도 안 되는 루머가, 왜 어떤 이에게는 신념이 되는 걸까?
- 우리는 거짓 신념을 옳은 신념으로 바꾸기 위해 무엇을 할 수 있을까?

거짓 정보는 우리의 신념을
어떻게 오염시키는가

14세기 중반, ‘타타르의 식물성 양’이라는 나무가 중세 사람들의 상상력을 자극했다. 여행기에 기록된 것 말고는 아무런 증거도 없었음에도 유수의 학자들이 이 나무가 실제로 있다고 주장했다. 직접 나무를 연구하고, 열매 속 양털까지 확인했다는 이들도 있었다. 17세기까지 이런 주장이 이어졌지만, 사실 그런 나무는 존재하지 않았다. 믿을 만한 사람들의 거짓 정보에 대중의 판단력이 흐려진 결과였다.
이러한 상황은 지금도 마찬가지다. 우리는 상업광고의 만들어진 이미지를 보고 물건을 구매한다. 선거 때만 되면 출처 없는 가짜 뉴스가 모든 이슈를 장악한다. 지구가 평평하다거나, 혈액형으로 성격을 구분하는 식의 유사 과학도 여전히 성행 중이다. 대기업의 횡포는 또 어떠한가. 담배, 지구, 온난화, 살균제 등을 둘러싼 기업들의 교묘한 선전 전략은 지금껏 막대한 피해를 감춰왔다. 우리는 언론 플레이, 마케팅, 새빨간 거짓말이 판치는 오정보(misinformation)의 시대에 살고 있다고 해도 과언이 아니 것이다.

《거짓은 어떻게 확산되는가》는 거짓 정보가 우리 인간의 신념을 어떤 방식으로 조작하는지 적나라하게 파고드는 책이다. 저자 케일린 오코너와 제임스 웨더럴은 ‘당신이 무엇을 믿는가는 당신이 누구와 알고 지내는가에 달려있다’는 사실을 과학적 근거를 바탕으로 설득력 있게 풀어낸다. 이들은 거짓 신념이 퍼지는 이유를 이해하기 위해 개인의 심리보다는 사회적 요인들에 주목한다. 이들은 게임이론가이자 물리학자, 수리행동과학연구소 연구원으로 수학적 모형을 통해 사회적 관계망 속에서 우리가 신념을 어떻게 형성하고 갱신하는지 드러낸다. 생각을 공유하는 집단 속에서 사람들의 학습에 영향을 미치는 요인을 분석해 거짓 정보가 우리의 신념을 얼마나 쉽게 오염시킬 수 있는지를 보여준다.

저자들의 진단에 따르면 ‘인간의 합리성’이라는 그림은 위험할 만큼 왜곡돼 있다. 자신이 속한 집단에서 주변인들에게 들은 정보를 아무리 합리적으로 해석해도 올바른 신념을 형성하는 데 실패할 수 있다. 아무리 합리적인 개인이 모여도 전혀 합리적이지 않은 집단을 형성할 수 있는 것이다. 담배 산업계의 선전 전략, 트럼프와 힐러리의 대선을 앞두고 쏟아졌던 가짜 뉴스들과 러시아의 개입, 기후변화를 둘러싼 양극화된 대립을 따라가다 보면 가짜 뉴스가 우리 사회를 오염시키는 상황이 현재진행형임이 여실히 드러난다.

누군가에게는 말도 안 되는 이야기가,
왜 어떤 이에게는 신념이 되는 걸까?

우리는 ‘내일도 태양은 뜬다’라고 말할 수 있을까? 데이비드 흄은 ‘아니오’라고 단호하게 대답한다. 매일 뜨는 태양도 언젠가는 팽창해 지구를 집어삼킬 것이다. 우리가 알고자 하는 대상의 모든 것을 경험해볼 수 없기에 모든 추론은 틀릴 가능성이 있다. 이를 ‘귀납의 문제’라 부른다. 그럼에도 우리가 확보할 수 있는 최선의 증거를 바탕으로 신념을 갖는 것이 게 무의미한 것은 아니다. 우리가 진실이라 믿는 것들은 지금까지 세상이 진보하는 데 확실한 공을 세워왔기 때문이다. 확실성에 대한 요구들은 무시하고 중심을 잡는 것이다. 흄이 말했듯 ‘현명한 사람은 자신의 신념을 증거에 조화시킨다’.

이러한 전제를 바탕으로 저자는 증거와 신념의 관계를 나타내는 베이즈 정리 모형을 제시한다. 베이즈 정리에 따르면 조건에 따른 확률을 고려해 신념을 갱신할 수 있다. 예컨대 증거로 인해 A라는 결과가 나타날 확률이 50% 이상이라면 우리는 A가 참이라 믿을 수 있는 것이다. 이 모형을 바탕으로 삼은 다양한 모형들과 변수를 들면서 저자는 우리 신념이 변할 수 있는 다양한 가능성을 증명한다.

그 가능성 중 하나가 동조 편향이다. 예시를 들어보자. 첫 백악관 기자회견에서 당시 트럼프 행정부의 대변인은 “트럼프 대통령이 취임식에서 사상 최대 규모의 청중을 맞았다”고 발표했다. 그러나 지하철 승객 수와 상공에서 찍은 사진들로 추정한 청중 수는 사상 최대가 아니었다. 이를 두고 연구한 한 학자는 약 14,000명의 미국 성인들에게 도널드 트럼프와 버락 오바마의 취임식에 참석한 군중의 사진을 나란히 보여주고 어느 쪽 사진에 사람이 더 많냐고 물었다. 놀랍게도 트럼프의 지지자들 가운데 15%는 한눈에 보기에도 확연히 적은 트럼프 쪽 사진을 선택했다. 그들은 눈앞에 있는 뚜렷한 증거를 무시하고 트럼프 정부 대변인의 의견에 동의했던 것이다.

동조 편향 때문에 잘못된 신념을 형성한 사례다. 우리는 증거를 기반으로 신념을 형성한다. 하지만 눈앞에 너무도 명확한 증거가 있음에도 불구하고, 여기에 눈앞에 증거를 보고 있는 자신보다 자신이 신뢰하는 사람들의 판단을 신뢰하는 경향이 나타나면 순식간에 모든 사회적 연결망에 거짓인 신념이 확산될 수 있다.

신념을 조작하는 선전가의
교활한 도구들

1952년 12월, 미국 월간지 <리더스 다이제스트>에 ‘한 갑씩의 암’이라는 제목의 글이 실렸다. 여기엔 흡연과 폐암의 연관성에 대한 증거를 담겨 있었다. 논조는 거침이 없었다. 1920년부터 1948년까지 폐암으로 인한 사망이 10배 증가했으며, 45세 이상의 흡연자 집단에서는 폐암의 발병 위험성이 피운 담배 개비 수와 비례해 증가한다고 주장했다. 흡연율이 ‘엄청 나게 증가’하고 있기 때문에 폐암은 곧 인류가 걸리는 암 가운데 가장 흔한 암이 될 것이라는 의학 연구자의 말도 인용했다. 이 기사는 담배 업계에는 사형 선고와 마찬가지였다. 그들은 이러한 증거를 뒤집거나 논점을 바꾸는 전략에 착수했다. 담배와 폐암의 연관성을 연구하는 과학자들에게 담배 업계의 선전가들이 접근하기 시작했다.

담배연구소라는 단체가 뉴스레터 <담배와 건강>을 정기적으로 발간하면서 흡연과 폐암 사이에는 아무런 연관이 없음을 보여주는 연구 내용을 퍼뜨리기 시작했다. 흡연의 위험성에 관한 과학적 증거에 흠집을 내는 것이 목적이었다. 담배의 타르 성분이 쥐의 몸에 피부암을 유발했다는 연구에 대응해 <담배와 건강>은 같은 팀이 진행한, 암 발병률이 더 낮게 나타난 연구들을 지적했다. 이 뉴스레터는 실제로 담배 성분의 암 유발 사례를 보고한 연구가 몇 건이나 있었는지는 언급하지 않은 채 ‘5건의 담배-동물 연구에서 암 유발 사례가 없었음’ 같은 헤드라인을 내걸었다.

이러한 전략에서 선전가는 과학적 과정에 전혀 개입하지 않는다. 과학자들을 매수하지도 않고 과학적 연구에 기금을 대지도 않는다. 다만 우연히 오답을 낸, 연구 결과들만 취해 대중과 정책 입안자들에게 보낼 뿐이다. 과학이 작동하는 방식에서 대중이 오해하고 있는 면을 활용한 전략이었다. 우리는 대개 개별적인 과학 연구들이 하나의 가설에 대한 증거 또는 확증을 제시한다고 생각한다. 그러나 과학은 이런 이상과는 거리가 멀며, 어떤 연구든 잘못된 결과를 동반한다. 거대 담배 업계는 이 사실을 자신들의 입맛에 맞게 이용한 것이다. 이것이 선전가의 ‘선택적 공유’ 전략이다. 선전가는 과학계에서 산출해낸 결과들을 뒤져 본 뒤 자신들의 의제를 지지하는 결과들만 널리 알려 결국 정책 입안자들이 잘못된 신념을 갖도록 유도한다.

가짜 뉴스의 시대에
우리는 어떻게 대처해야 하는가

저자는 이제 ‘사상의 시장(marketplace of ideas)’이 거짓 정보를 효과적으로 골라낼 수 있다는 생각을 버려야 한다고 말한다. 중요한 것은 권력을 가진 이들이 언론에 의도적인 영향력을 행사해 대중에게 실질적인 해를 가할 수 있다는 사실을 깨닫는 것이다. 근거 없는 견해를 옹호하는 것은 단지 이상적인 ‘시장’에 무해한 무엇인가를 더하는 일이 아니라 시장 전체를 망가뜨릴 수 있는 잘못된 일로 여겨져야 한다.

그 방법 중 하나로 저자는 과학계가 위조된 연구 결과가 나올 가능성을 줄이는 공표(publication) 규범을 제안한다. 과학자들은 연구 결과를 공표할 때 그 안에 내재된 위험성도 고려해야 하며 자신이 수행한 연구의 사회적 결과와 이를 공표함으로써 얻는 이득을 저울질해보아야 하는 것이다. 과학자의 임무는 단지 과학을 하는 것이 아니다. 사회적으로 민감한 연구일 경우 최소한 그 결과의 공표를 선택하기 전에 특별히 높은 기준에 결과를 맞출 책임이 있다. 특히 산업계의 선전가들이 활동하는 분야에서 연구 결과를 공표한다면 사회에 미칠 위험성이 높기 때문에 과학자들은 의사결정을 할 때 반드시 그 결과를 고려해야만 한다.

《거짓은 어떻게 확산되는가》는 우리가 올바른 신념을 갖고 견지하기에는 너무나도 취약하다는 사실을 일깨워준다. 이는 자연스레 어떤 정보로 누가 이득을 보는지, 우리가 더 예민해져야함을 방증한다. 자신도 모르게 누군가의 이익에 기여하는 선전가가 되고 싶은 사람은 없다. 복잡한 정보망에 숨어있는 각종 가짜 뉴스와 음모, 유언비어와 괴담에 어떤 의도가 숨어있는지 한 번 더 의심해야만 한다. 수많은 정보의 진위를 파악하기에 인간의 한계는 명확하다. 그럼에도 이 책이 말하고 있는 신념의 작동방식, 조작의 도구들을 이해할 때 우리는 거짓된 믿음을 거부할 첫걸음을 내딛을 수 있을 것이다.

지은이 : 케일린 오코너
사회적 상호작용 모델을 연구하는 행동과학자이자 진화 게임이론가. 캘리포니아대학교 어바인 캠퍼스의 논리·철학부 부교수이자 수리행동과학연구소(Institute for Mathematical Behavioral Science) 연구원이다. 2019년 《불공정함의 기원(The Origins of Unfairness)》을 출간했고 《생물철학 게임(Games in the Philosophy of Biology)》을 케임브리지대학교 출판부에서 출간할 예정이다. 제임스 오언 웨더럴과 결혼해 쌍둥이 딸을 두고 있다.

지은이 : 제임스 오언 웨더럴
물리학자이자 철학자. 캘리포니아대학교 어바인 캠퍼스의 논리·철학부 교수이자 수리행동과학연구소 연구원이다. 과학철학과 금융 모델을 구축하는 것에 관심이 많으며, 과학철학협회의 공식 학술지인 〈과학 철학(Philosophy of Science)〉의 편집 주간을 맡기도 했다. 2013년, 물리학의 아이디어가 어떻게 금융모델에 적용되었는지 탐구하는 《월스트리트의 물리학(The Physics of Wall Street)》을 출간해 베스트셀러가 되었고 이듬해에는 《돈의 물리학(The Physics of Finance)》을, 2016년에는 무 無에 관한 물리학의 역사와 개념을 탐구하는 책, 《보이드(Void)》를 출간했다.

옮긴이 : 박경선
서울여자대학교에서 영어영문학을 공부했으며, 이화여자대학교 통역번역대학원 한영번역학과를 졸업했다. 《악의 해부》, 《레드 로자》, 《갈망에 대하여》, 《예루살렘 광기》, 《전쟁 유전자》, 《슬픔 뒤에 오는 것들》 등을 우리말로 옮겼다. 

서문. 타타르의 식물성 양
 제1장. 진실이란 무엇인가?
제2장. 양극화와 동조
 제3장. 인류의 복음화
 제4장. 사회적 연결망
 미주
 참고문헌
 찾아보기