데이터 민주주의를 조작하다

소셜 미디어 플랫폼을 통해 수집되는 데이터가 민주주의를 조작한다?
인간의 인지적 한계가 알고리즘 기술과 만났을 때 벌어지는 일들

인터넷은 한때 국경과 인종, 성별과 연령을 넘어 누구나 모두 자유롭게 의견을 올리고 나눌 수 있는 ‘열린 공론장’이라 칭송받았다. 하지만 지금 우리는 온라인 공간에서 차별과 혐오를 만나고, 각종 음모론과 극단주의를 마주하고 있다. 열린 공론장이었던 공간이 왜 이렇게 변해 버린 걸까? 감정을 자극하는 것을 먼저 인지하고 기억하는 인간의 본성, 그리고 당신이 더욱 자주, 깊이 참여하기를 원하는 온라인 플랫폼의 설계가 만나서 이런 일이 일어났다면? 소셜 미디어 플랫폼은 소비자가 될수록 오랫동안 자신들의 공간에 머무르도록 하기 위해 그곳에서의 모든 활동을 지켜보고 데이터를 기록한다. 그리고 이런 데이터들은 플랫폼 안팎에서 ‘의도’를 가지고 사람들을 조종하고 싶은 사람들에게 좋은 먹잇감이 되었다.

돈을 내지 않는다면 당신이 상품이다. 우리의 주의력은 상품, 우리의 관심과 참여는 화폐다
우리가 사용하는 소셜 미디어 플랫폼은 사실상 프로파간다를 위해 고안되었다

오늘날에는 인간의 주의력을 끌어낸 쪽이 돈을 번다. 좋아요와 구독이 돈이 되는 세상이다. 이를 ‘주의력 경제’(attention economy)라고 한다. 이제 우리의 주의력은 모든 형태의 미디어에서 거래되는 주요한 재화이자 상품이다. 소셜 미디어 플랫폼은 사람들이 플랫폼에 더 자주 오래 머무르게 하려고 발전된 빅데이터 알고리즘을 사용한다. 빅데이터 알고리즘은 사용자가 작성한 프로필 데이터, 좋아요와 구독에 대한 데이터, 그리고 사용자의 주변 인물들에 대한 데이터를 활용하게 사용자에게 개인화된 콘텐츠를 제공한다.

문제는 이 알고리즘이 나와 비슷한 취미를 가진 사람을 만나거나 필요한 물건을 구매하는 데 그치지 않고 나와 비슷한 정치적 의견만 보여주는 메아리 방을 만든다는 데 있다. 이렇게 만들어진 메아리 방 속에서 사람들은 자주 보는 것을 사실이라 믿는다. 인간의 편향이 검색 알고리즘이 영향을 미치고, 편향된 알고리즘은 다시 인간의 인지에 영향을 미친다.

새로운 의미의 프로파간다는 “누군가의 마음이나 행동을 바꾸기 위해 하나 이상의 미디어를 사용하여 합리적인 담론보다는 '심리적인 조종'을 통해 메시지를 전달”하는 것이다. 소셜 미디어 플랫폼 사용자들은 클릭, 댓글, 좋아요, 리트윗한 것만으로 자신도 모르게 프로파간다에 참여하게 된다. 유권자의 데이터를 활용해 여기에 영향을 미치고 행동을 조종하려는 새로운 맞춤형 광고 회사도 등장했다. 이들은 정치 세력과 결탁하여 여론 공작을 주도한다.

블랙 라이브즈 매터와 아랍의 봄에서는 민주주의 확산에 기여했던 SNS,
이제는 민주주의를 위협하는 미디어가 되어가고 있다

2020년 5월, 경찰관 데릭 쇼빈이 조지 플로이드의 목을 눌러 사망에 이르게 한 장면은 소셜 미디어 플랫폼을 통해 확산되어 블랙 라이브즈 매터 운동에 다시 불을 지폈다. 저자는 2014년 퍼거슨 시위가 블랙 라이브즈 매터 운동을 확산시킨 방식을 통해 소셜 미디어 플랫폼이 어떻게 기성 언론이 보도하지 않은 뉴스를 확산시켜 운동에 기여했는지 설명한다. 2011년 아랍의 봄도 비슷한 사례다. 개인적이고 자유로운 소셜 미디어 플랫폼은 언론과 대중매체를 통제하는 정부를 피해 자신과 비슷한 생각을 하는 사람들을 발견하고 조직할 수 있도록 도왔다.

그러나 정반대의 일도 벌어졌다. 모두의 인권과 평등을 중요하게 생각하는 사람들이 모일 수도 있지만, 반대로 누군가의 인권을 침해하고 공격하기 위한 사람들도 모일 수 있다. 2014년에 미국에서 발생한 게이머게이트에서 인디게임 제작자인 조 퀸을 공격한 백인 남성들은 소셜 미디어 플랫폼에서 프로파간다를 확산하기 위해 꼭두각시 계정과 트윗봇을 사용했다. 이들은 조 퀸에 대한 각종 허위정보를 조작하고 집단적으로 괴롭혔으며 현실에서의 폭력 위협도 서슴지 않았다.

2020년 미국 대선을 앞두고 다시 살펴보는 2016년 미국 대선,
도널드 트럼프는 어떻게 힐러리 클린턴을 제치고 당선됐는가?

트럼프 선거운동을 도와 화제가 되었던 케임브리지 애널리티카는 물론, 러시아의 여론 공작 기업인 IRA(Internet Research Agency)는 소셜 미디어 플랫폼 등을 활용하여 수집한 사용자의 데이터로 경합주에서의 판세를 뒤집을 효과적인 선거운동과 허위조작정보 전략을 수행했다. 그들은 민주당 지지자들이 클린턴 대신에 제3의 후보자를 지지하거나 기권하도록 교묘하게 여론을 조작했다. 러시아의 해커팀은 클린턴 선거 본부에 피싱 메일을 보냈고, 이를 통해 획득한 정보로 클린턴에게 타격을 입힐 수 있는 정보를 찾아내어 소셜 미디어 플랫폼을 통해 확산시켰다. 이는 비단 미국의 문제가 아니다. 저자는 2011년 이집트 혁명, 2014년 브라질 호세프 대통령 탄핵, 2016년 필리핀 두레트레 대통령 당선, 미얀마에서의 로힝야족 학살을 통해 세계 곳곳에서 정치적 목적으로 데이터를 이용하여 여론을 선동하고 조직하는 사례를 보여준다.

민주주의는 사실을 바탕으로 깊이 생각하고 서로 설득하는 시민들에 의해 작동된다. 그러므로 민주주의 체제에서는 자유로운 정보의 흐름과 정보의 온전함이 중요하다. 정보의 온전함을 신뢰할 수 없다면 민주적 과정 역시도 신뢰할 수 없을 것이다. 허위조작정보는 정보의 온전함을 오염시킴으로써, 민주주의 체제를 고장 내고 있다.

소셜 미디어 플랫폼은 민주주의에 기여할 것인가, 아니면 민주주의를 조작할 것인가
변화는 우리 손에 달렸다

우리는 디지털 기술이 만들어낸 새로운 시대에 살고 있다. 디지털 기술은 사회적 양극화를 증가시키고 여론 공작을 가능케 한 도구들이 동시에 저항의 도구가 되기도 한다. 기술은 그 자체로 선하지도, 악하지도 않다. 기술을 사용하는 인간이 곧 문제이자, 해결방안이어야 한다. 빅데이터 알고리즘이 만들어내는 문제를 제대로 파악한다면 현대 민주사회에 닥친 이 문제를 해결할 수 있는 방향이 보일 것이다.  

지은이 : 크리스 샤퍼
데이터 분석가이자 온라인 허위조작정보 분석 기업 욘더(Yonder)에서 수석연구원으로 활동했다. 미국 상원 정보위원회에 제출된 2016년 미국 대통령 선거에 러시아가 끼친 영향을 다룬 보고서인 <IRA의 전략과 전법(The Tactics and Tropes of the Internet Research Agency> 저술에 참여했다. 지금도 온라인 허위조작정보와 데이터 윤리, 디지털 페다고지에 관하여 미국 정부 및 비영리단체, 대학 등에서 자문하고 있다.
예일대학교에서 박사학위를 받았으며, 예일대학교, 메리워싱턴대학교 등에서 음악 이론과 인지 과학, 컴퓨터 과학을 가르쳤다. 학부 수준의 음악 이론을 오픈 소스로 제공하는 사이트 ‘열린 음악 이론(Open Music Theory)’의 제작자이기도 하다.

옮긴이 : 김선
서울대학교 외교학과에서 현재의 문제를 해결하고 미래를 준비하려면 과거를 알아야 하고, 복잡한 것은 복잡하게 이해해야 한다는 것을 배웠습니다. 당연하다고 여겨지는 것들에 대해 의심하고 질문하는 것을 좋아합니다. 좋은 질문들이 언어의 벽을 넘어 널리 공유되는데 도움이 되고자 합니다.

추천사
 한국어판 서문
 감사의 말

 들어가며 | 결핍에서 풍요로

1부 프로파간다 문제

1장 주의력을 기울여라
 정보가 넘쳐나면 미디어를 소비하는 방식이 어떻게 변하는가

2장 시스템이라는 바퀴의 작은 톱니
 우리는 어떻게 인지적 해킹에 취약해지는가

3장 물살을 거슬러 헤엄치기
 콘텐츠 추천 엔진이 어떻게 우리의 주의력을 조종하는가

2부 해킹당한 민주주의

4장 퍼거슨 시위와 게이머게이트, 미국 대안 우파의 부상

5장 러시아의 개입과 신냉전

6장 글로벌 사우스에서의 루머와 봇, 제노사이드

 나가며 | 이제 어디로 가야 하는가

 옮긴이 후기
 주석