블랙박스 사회 -돈과 빅데이터를 통제하는 정보 제국주의의 비밀-

▣ 출판사서평

왜 블랙박스 사회인가?
그들은 알고 우리는 모르는 감춰진 전략들

실리콘밸리의 스타트업 기업들은 이제 새로운 구글이나 아마존이 되는 게 목표가 아니다.
그들의 목표는 구글에 얼마에 팔릴 것인가이다. 새로운 기술을 가진 신생업체가 구글을 대체할 가능성보다는 구글에 먹힐 가능성이 훨씬, 아주 훨씬 더 높았다. 창고에서 PC 한 대를 앞에 둔 천재의 성공 이야기는 더 이상 현실이 되지 못한다.
왜 그럴까?

저자는 “불가사의한 방식으로 작동하는 시스템”, 즉 블랙박스 시스템 때문이라고 말한다. 이는 “인풋과 아웃풋은 확인할 수 있어도 인풋이 어떻게 아웃풋으로 바뀌는지는 알 수 없는 시스템”이라고 한다. 또한 “우리는 매일같이 이러한 블랙박스에 직면하고 있으며, 기업과 정부로부터 갈수록 더 면밀히 추적당하면서도, 그와 같은 정보가 얼마나 광범위하게 유통되고 활용되는지, 그리고 그 결과가 어떠한지는 명확히 알지 못한다”고 한다.
그리고 이러한 블랙박스 시스템이 우리 삶에서 가장 중대한 영향을 미치는 분야로 평판, 검색, 금융을 언급하면서, 블랙박스에 갇힌 이들 알고리즘을 알지 못하면 지금의 세계를 정확히 알 수 없을 뿐만 아니라 투명한 사회, 알기 쉬운 사회로 나아갈 수 없다고 한다.

만약 어떤 서비스가 잠재적인 인수 대상이라면, 구글은 그 사이트의 트래픽을 억제해야 할 또 다른 이해관계가 생기는 셈이다. 독자적으로 사업을 일으키려는 희망을 애초에 꺾어버리기 위해서다. 아기 모세를 죽이려 했던 파라오처럼, 구글도 경쟁사에 싸워볼 기회조차 용납하지 않는다. 구글은 자신들의 잠재적 고객 집단에 대한 인수 타깃 기업의 접근을 원천적으로 봉쇄하여, 그 기업이 인수 제안을 뿌리칠 수 없게 만든다.
공개되지 않기를 바라는 콘텐츠를 숨기는 것쯤은 이제 구글에게는 너무도 쉬운 일이 되었다. 나아가 ‘일반 목적 검색’에서의 지배력을 바탕으로 구글이 다른 분야에까지 과도한 권한을 행사하는 게 아니냐는 의구심까지 제기되고 있다.

하지만 우리가 알지 못하는 블랙박스 사회의 내부는 훨씬 더 광범위하다. 그리고 그 민낯은 추악하고 탐욕적이다. 비밀스런 알고리즘을 통해 돈과 정보를 통제하고, 검색 결과의 순위를 임의로 정하고(때론 악의적으로 왜곡하고), 빅데이터라는 이름으로 우리의 마음을 조작한다. 또한 불법행위를 위한 난독화와 복잡성으로 인한 불투명성에 숨은 금융업계 내부자들은 투자자와 납세자가 인지하지 못하는 방식으로 그들에게 위험을 전가하는 계약을 체결하면서 자신들 몫으로 막대한 수수료와 보너스를 챙겼다.
뿐만 아니라 대출자들은 신용 등급이 떨어지면 수십만 달러의 이자를 더 물어야하지만, 정작 자신의 신용 등급이 어떻게 산정되는지는 제대로 알지 못한다. 그것이 어떻게 유통되고 이용되는지도 알지 못한다.

이처럼 우리가 알지 못하는, 블랙박스 사회의 비밀 알고리즘에 의해 작동하는 사례는 많다.
- 할인 광고를 클릭하면 우리의 위치, 컴퓨터 사용 기종, 심지어 법정 기록 등을 기반으로 우리에게 얼마를 더 판매할 수 있을지를 계산하는 프로그램이 숨어있다는 걸 알지 못한다.
- 데이터 중개상이 결혼, 이혼, 주택 구입, 투표 및 기타 수천 가지의 사적·공적 기록을 이용해 마음대로 우리의 평판을 결정하고 유통하는지도 알지 못한다.
- 커밍아웃을 하지 않은 동성애자가 동성 결혼 관련 기사에 긍정적인 댓글을 남기면, 자신이 무지개색 속옷으로 장식된 ‘커밍아웃 코치’ 광고의 타깃이 된다는 걸 알지 못한다.
- 대형 할인점의 여성 고객은 할인점이 자신의 임신 기간을 추적·관리하고 있다는 걸 알지 못한다.
- 어떤 부인은 보험사들이 보험 가입을 거부하는 이유가 과거 처방 내역, 즉 불면증 때문에 가끔 항우울제를 복용하고 발목의 부기 때문에 혈압약을 복용했기 때문이라는 걸 알지 못한다.
- 부부 문제 상담을 받은 부부는 그런 상담을 받은 부부가 통계적으로 이혼할 가능성이 높다는 이유로, 신용카드 회사들이 부부간의 불화가 곧 경제적 고통으로 번질지 모른다는 신호로 인식한다는 걸 알지 못한다.
- 카지노의 딜러와 웨이터 들은 회사로부터 미소 짓는 횟수까지 추적당하고 있다는 걸 알지 못한다.
- 흑인들은 구글에서 전형적인 흑인 이름을 검색하면 신원 조사 사이트와 같은 부정적인 광고가 뜨는 반면, 전형적인 백인 이름을 검색하면 중립적인 광고가 나온다는 것을 알지 못한다.

알고리즘에 새겨진 디지털 주홍글씨

평점은 그 자체로 법이 되었다.
검색은 21세기의 빅브라더가 되었다.
금융은 가장 복잡하고 가장 탐욕적인 정보 제국주의의 월스트리트가 되었다.

점수는 우리에게 특정한 기준을 내면화하고, 실패를 처벌하도록 권장했다. 평판·검색·금융 기업들은 우리를 무지한 상태로 유지함으로써 이익을 얻는다. 그래서 그들은 거대한 비밀주의 문화를 조성해 다른 모든 산업을 감염시켰다.
디지털 연금술이 새로운 유사 현실을 창조하면서, 통제 불가능한 데이터는 이곳저곳으로 퍼져나가 연속적인 불이익을 초래했다. 어느 소프트웨어가 어떤 사람을 신용위험도가 높거나, 태만한 직장인이거나, 돈이 안 되는 소비자라고 일단 판단하게 되면, 그것이 경제 전반에 걸친 다른 시스템의 의사 결정에서도 영향력을 발휘했다. 일종의 주홍글씨가 새겨지는 셈이다. 그러나 개인이 그것을 되돌리기는 현실적으로 거의 불가능했다.

특정 검색 결과를 포함하거나 배제하거나 순위를 매기는 권한은 곧 대중에게 어떤 인상은 남겨두고 어떤 인상은 증발시킬지를 정하는 권한이다. 검색 서비스가 사용자뿐 아니라 광고주에게도 ‘필수적인’ 이유가 바로 여기에 있다. 검색은 한때 TV 방송, 라디오 방송 및 신문이 지배적 영향력을 발휘했던 문화·경제·정치 영역을 아주 깊숙이 잠식했다. 그렇지만 완벽한 우월적 지배와 복잡한 관련 기술로 인해 전통적인 매체들이 대중에게 보장해야 했던 투명성과 책임성의 압박을 피해갔다.

왜 구글의 비디오 검색 결과에서는 (구글이 소유한) 유튜브가 항상 다른 비디오 사이트보다 상위에 랭크될까? 왜 인터넷 소매점은 동일 제품인데도 구매자에 따라 다른 가격을 매기는 것일까? 왜 어떤 대출자들은 상환이 늦어져도 용인되고, 어떤 대출자들은 그렇지 않을까? 왜 애플은 특정 앱들의 등록을 거부하는가? 왜 어떤 기업은 지원자의 소셜 네트워크를 검색하는가? 왜 금융 상품들은 그토록 복잡하게 설계되는가?
우리는 그 뒷단에 숨어 있는 알고리즘을 알지 못한다.

대한민국도 ≪블랙박스 사회≫에 갇혔다.
비밀이 많은 정부와 [테러방지법]이 만나면……

누구나 테러범이 될 수 있다.
정보가 돈과 권력을 가진 기업과 정부에 의해 통제되고 왜곡된다면 누구도 잠재적 테러리스트가 되는 것으로부터 자유로울 수 없다. 스노든의 폭로가 미국만의 일이 아니라는 것은 자명한 일이다.
국가가 평판 게임에 참여하게 되면 위험성은 훨씬 더 급격히 증가한다. 단순히 민간 기업이 의사 결정을 위해 체포 이력 같은 정부 기록을 이용한다는 말이 아니다. 경찰과 정보기관은 공공 데이터베이스와 민간 기록을 이용하여 자신들의 사회적 역할을 근본적으로 바꾸었다.

지난 6월 4일 [테러방지법]이 시행되었다. 이 법을 발의한 새누리당 의원은 “정보기관은 누구한테 달려 있느냐, 사용자한테 달려 있습니다. 사용자가 무엇을 요구하느냐에 따라서 달라지는 게 정보기관인데, 지금 사용자는 대통령입니다”라는 말을 서슴없이 하고 있었다.
이제 누구라도 [의심할 만한 상당한 이유가 있는 자]가 되어 신상이 모두 털릴 수밖에 없는 세상이 된 것이다. 당연한 말이지만, 당사자는 알지도 못한다.
미국에서는 한 여성이 회사 컴퓨터를 이용해 ‘압력솥’을 검색했고, 같은 시간에 그녀의 남편은 ‘백팩’을 검색했다(둘 다 2013년 보스턴마라톤 테러 사건에서 사용된 테러 물품이다). 결국 지역의 정부합동테러대책팀 대원 2명을 포함한 6명의 요원이 그녀의 집으로 출동했다.

사람들은 직장과 가정에서 점점 더 비밀주의로 일관하는 정부와 기업들로부터 영향을 받고, 혹자의 말로는 괴롭힘을 당하고 있었다. 그들은 잘못되거나 편향되거나 파괴적일 수도 있는 자동화된 판단에 의존했다. 평판·검색·금융의 블랙박스는 우리 모두를 위험으로 몰아갔다. 잘못된 데이터, 근거 없는 가정, 결함 있는 모델은 공개되지 않는 한 바로 잡을 수도 없다.
우리는 굳이 감춰진 평점이 한 사람의 운명을 좌우하거나 주식시장의 인위적 조작이 ‘보이지 않는 손’만큼이나 이해하기 힘든 세상에서 살아가야 할 이유가 없다. 또한 개인, 기업, 심지어 금융 시스템의 앞날이 비밀 데이터베이스, 미심쩍은 평점, 은밀한 베팅에 휘둘릴 것을 걱정하며 살아가야 할 이유도 없다. 지금껏 개인의 프라이버시를 송두리째 빼앗아온 기술적·법적 혁명은 한편으론 프라이버시를 보호하고 사회에 대한 이해와 자유를 확대하는 방향으로 이용될 수도 있다. 데이터마이닝Data Minning과 도처에 만연한 감시가 올바른 목표를 추구했다면, 경제를 파탄 낸 금융 위기와 극도로 비효율적인 자원 배분도 막을 수 있었을 것이다.

이 책은 이런 문제를 폭로하고 해결책을 제안하고 있다.
플라톤의 동굴의 비유에서 돌벽을 향하도록 사슬에 묶여있는 죄수들은 등 뒤의 불빛이 벽면에 비추는 그림자를 바라보았다. 죄수들은 그림자를 만드는 사람들의 의도는 물론이고 행동도 이해하지 못한다. 그저 눈앞에 보이는 이미지만이 그들이 아는 현실의 전부였다. 블랙박스 기술을 이해하지 못한 채 사용하는 데만 만족하는 사람들도 이런 죄수들처럼 매혹적인 결과를 바라볼 수는 있어도, 조작이나 착취로부터 스스로를 보호할 방법은 없다.
블랙박스는 언뜻 경탄스러워 보이지만, 우리의 블랙박스 사회는 위험을 초래할 만큼 불안정하고 불공정하며 비생산적이다. 어떤 퀀트나 공학자도 건전한 경제나 안전한 사회를 보장하지는 못한다. 그것은 시민들이 담당해야 할 몫이고, 시민들은 위험을 이해할 수 있을 때에만 제 역할을 수행할 수 있다. 그래야만 우리는 투명하고 알기 쉬운 사회로 출발할 수 있다.

▣ 작가 소개

저 : 프랭크 파스콸레
Frank Pasquale
메릴랜드 대학의 법학 교수로, 예일 대학 로스쿨 정보사회프로젝트(Information Society Project)의 제휴 연구원이며, 빅데이터ㆍ윤리ㆍ사회 협의회(Council for Big Data, Ethics, and Society)의 회원이다.
저자는 지난 10년 동안 법을 이용해 블랙박스 사회를 더 투명하게 만들 방법을 모색하며 많은 시간을 보냈다. 또한 데이터마이너(Data miner)가 사람들에 관해 하는 이야기를 당사자들에게 알려주기 위해 ‘공정한 평판 보고’를 제안해왔다. 검색엔진이 개인과 기업을 평가하고 순위를 매기는 방식을 감독하기 위해 ‘연방검색위원회’의 신설을 권하기도 했다. 뿐만 아니라 금융 투명성을 제고하기 위한 몇몇 모임에 아이디어를 제공해왔다.
하버드 대학 출판부에서 출간된 이 책을 통해 저자는 열정적으로 ‘블랙박스 사회’의 뚜껑을 열고 그 내부-금융의 비밀주의부터 신용 평점까지, 검색엔진부터 자동화된 의사 결정까지, 제도상의 투명성부터 정부와 대기업의 유착까지-와 그로 인한 폐해를 폭넓은 이슈들을 아우르면서 파헤칠 뿐만 아니라, 앞으로 우리 사회가 나아가야 할 방향을 제시하고 있다.

역 : 이시은
서울대학교 서양사학과와 KAIST 경영대학원 MBA를 졸업했다. 대기업과 컨설팅사 등을 거쳐 현재는 번역가들의 모임 ‘바른번역’의 전문 번역가 겸 자유 기고가로 활동 중이다. 옮긴 책으로는 『심리의 책』, 『위대한 예술』,『위대한 세계사』,『철학의 책』,『큐레이션 : 정보 과잉시대의 돌파구』,『써먹는 서양 철학』등이 있다.

▣ 주요 목차

서문 - 알아야 할 것들

1 평판 블랙박스 : 데이터 폭주 시대의 디지털 평판
2 검색 블랙박스 : 감춰진 로직
3 금융 블랙박스 : 황제의 새 코드
4 감시자 감시하기
5 알기 쉬운 사회를 향하여

감사의 말