나의 빛을 가리지 말라

구글 전략가 출신 옥스퍼드 철학자의

설득 기술에 빼앗긴 주의력 되찾기

“주의 뺏기 경쟁이 우리 삶을 파편화한다”

프린스턴대학 총장 선정 ‘신입생 필독서’

“이정표에 해당하는 책” -;《옵서버》

“단번에 기술윤리학 분야 고전 반열에 올랐다” -《테크크런치》

빼앗긴 주의력 되찾기는 이 시대 최대 도덕적·정치적 과제

디지털 기술이 생각과 행동의 중심이 되면서 개인의 자율성과 공동체의 민주주의가 흔들리고 있다. 거대 기술 기업이 개발한 지능적 설득 시스템이 비즈니스의 기본 모델이자 인터넷의 설계 논리로 자리 잡으면서, 주의 뺏기 경쟁과 사용자 설득 기술은 궁극적으로 의지의 조작 단계로까지 발전했다.

구글 전략가 출신 철학자 제임스 윌리엄스는 이 책 『나의 빛을 가리지 말라』에서 디지털 기술이 생각과 행동에 부정적 영향을 미쳐 개인과 사회를 자동반사적이고 파편화된 삶으로 내몬다고 지적한다. 그는 정보와 자극이 넘쳐나는 시대에 최대 희소 자원이 사람의 주의인 이상, 그것을 완전히 포획할 때까지 기술의 침투는 멈추지 않을 것이라 말한다. 거대 기술 기업의 주의 뺏기 경쟁에 대응하여 자기통제력을 지키고 주의력 경제(attention economy)를 재편할 방안을 마련해야 한다고 설파한다.

주의는 당장 눈앞의 문제에 관한 것만이 아니다. 삶 전체를 항해하는 방식에 관한 것이다. 지금까지 우리는 디지털 플랫폼이나 소셜미디어 등의 영향으로 목표한 바에 집중하지 못하고 주의가 분산되는 문제를 단순히 사소한 짜증 정도로 치부해왔다. 그러나 이 문제는 개인적 차원에서 우리가 ‘원하는 것을 원하는’ 능력을 위축시키고, 집단적 차원에서 공동의 목적을 세우고 이를 추구하는 능력을 상실하게 만든다. 저자는 주의력 경제를 개념화할 수 있는 용어가 부족해 사회적·정치적 논의 과정에서 이 문제를 보다 거시적 관점에서 설명하지 못하고 있다고 지적한다.

사람의 주의를 빼앗고 반응을 조종하는 지능적 설득의 힘으로부터 주의의 자유를 주장하고 지키는 것은 우리 시대가 직면한 최대 도덕적·정치적 과제다. 개인 차원의 저항만으로는 역부족이다. 저자는 빼앗긴 주의력을 되찾기 위해 기술 기업의 개발자는 물론 경영자, 정책결정자, 시민 등 다양한 주체에게 기대하는 역할을 열거하고, 주의력 경제를 올바른 방향으로 이끌기 위한 사회적 개입의 유형을 제시한다. 여기에 철학과 고대 문헌에서 현대 과학까지 다양하게 동원하고, 참신하고 사려 깊은 분석을 덧붙여 우리 시대 가장 급박한 질문에 대한 빛나는 통찰을 준다.

책 서두에서 저자는 거리의 철학자 디오게네스와 알렉산드로스 대왕의 일화를 소개한다. 디오게네스가 코린트 거리에서 일광욕을 즐기고 있는데 알렉산드로스가 찾아와 소원을 들어주겠다고 말한다. 디오게네스는 알렉산드로스를 올려다보며 이렇게 일갈한다. “햇빛을 가리지 마시오.” 저자는 우리도 이 시대 선의를 가진 디지털 알렉산드로스를 올려다보며 “나의 빛을 가리지 말라”고 외쳐야 한다고 조언한다.

우리는 결함 있는 GPS에 의존해 살아간다

구글에서 십 년 넘게 일하면서 저자는 “세상의 모든 정보를 조직화해 많은 사람이 보편적으로 접근하고 사용할 수 있게 만든다”라는 구글의 비전에 크게 공감했다고 말한다. 하지만 그는 어느 순간 자신이 ‘정보의 조직화’가 아니라 ‘주의의 조직화’에 얽혀 있다는 사실을 깨달았다. 기술 산업은 상품을 설계하지 않고 사용자를 설계한다. 인간의 삶을 안내하는 이 GPS 시스템의 목표는 오로지 우리의 주의를 연장하는 것이다. 우리가 추구하는 가치와 정체성에 어긋나는 행동을 유도하고 습관을 만든다. 인간을 위한다는 기술이 인간의 핵심인 주의를 포획해 파는 데 매달린다. 저자는 우리가 결함 있는 GPS에 의존해 살아가고 있다는 점에 주목하고, 이 문제를 연구하기 위해 대서양을 건너 옥스퍼드대학으로 향한다.

정보가 넘치면 희소 자원은 인간의 주의가 된다. 정보의 양은 속도에 대처할 수 있을 때 의미가 있다. 속도가 지나치면 양이 많을수록 오히려 재앙이 된다. 저자는 거대 기술 기업이 사용자의 주의 뺏기에 혈안이 된 주된 이유로 디지털 광고를 꼽는다. 초창기 광고는 과학보다 예술에 가까워 그것이 우리에게 미치는 힘에 대해 크게 우려하지 않았다. 그런데 광고 산업이 성숙하면서 인간 심리와 의사결정 지식을 체계적으로 적용하기 시작했다. 광고의 범위 역시 정보에서 설득으로, 다시 행동 형성에서 태도 형성으로까지 나아갔다. 20세기 말 전자 매체는 광고주에게 새로운 플랫폼과 설득 전략을 가져다주었고, 인터넷이 등장하면서 효과 측정의 피드백 고리가 완성되었다. 여기에 네트워크로 연결된 단말기의 휴대성과 연결성이 높아졌다. 디지털 광고의 확장성과 수익성이 커지면서 비즈니스의 기본 모델이 되었다. 구글, 메타, 트위터 등 주요 플랫폼은 사실상 모두 광고 회사다. 세계 최고의 소프트웨어 엔지니어와 설계자, 분석가, 통계학자가 사람들의 생각과 행동을 사전 프로그래밍된 방향으로 나아가게 하는 방법을 찾기 위해 막대한 시간과 자원을 투입한다.

저자는 과거 TV나 신문 같은 매체에서 광고가 정보 전달의 측면에서 ‘예외’였다면, 디지털 매체에서 광고는 ‘규칙’이 되었다고 지적한다. 과거 매체에서 광고가 지배적인 설계 목적을 지원했다면, 디지털 매체에서 광고는 그 목적을 주도한다. 주의력 경제에서는 사용자가 곧 상품이다. 기술 설계자는 인간 심리의 가장 낮은 차원인 충동을 겨냥한다. 심리학자와 행동경제학자가 수십 년간 분석해온 다양한 인지적 취약성과 의사결정 편향을 활용한다. 전 구글 디자인 윤리학자 트리스탄 해리스는 이런 현상을 빗대어 ‘뇌간의 바닥을 향한 경주’라고 표현했다.

언어의 한계가 곧 주의 세계의 한계다

철학자 비트겐슈타인은 “내 언어의 한계가 곧 내 세상의 한계다”라고 말했다. 언어의 지평을 확장할 때 자신과 세상에 대한 인식의 지평도 확장된다. 저자는 오늘날 우리가 직면한 여러 문제 중 하나로 개인이나 집단 전체가 기술의 영향으로 어떤 방식으로 주의가 분산되는지 이해할 수 있는 개념적 틀이 부족하다는 점을 지적한다. 그는 주의력 경제와 어떻게 관계를 맺을 것인지 설명하기 위해서는 새로운 용어가 필요하다고 말하며, 주의의 개념을 ‘집중(spotlight)’, ‘별빛(starlight)’, ‘햇빛(daylight)’의 세 가지 차원으로 설명한다.

‘집중’은 우리의 인식과 행동이 과제를 향해 나아가게 하는 직접적인 능력으로, 우리가 원하는 것을 하도록 해준다. 집중의 빛이 가려질 때는 ‘기능적’ 주의 분산이 일어난다. 기술은 우리가 원하는 일을 하도록 돕지만 그렇지 못할 때도 있다. 기술이 방해할 때 우리의 주의 집중은 파괴된다. 우리는 자신이 세운 계획을 실천하고 또 해야 할 일을 하기 위해 컴퓨터 앞에 앉는다. 그러나 무의식이 의식을 압도하면서 45분 뒤 세계 경제 위기에 관한 기사를 읽고, 유튜브에서 자동 실행되는 강아지 동영상을 보며, 소셜미디어에서 친구들의 일상을 엿본다. 이런 기능적 주의 분산은 각종 앱 알림 메시지로부터 일어난다. 가령 이런 식이다. “차를 마시기 위해 주전자에 물을 끓이려 하는데 인스타그램 앱에서 내가 좋아하는 인플루언서가 글을 올렸다는 알림 메시지가 왔다.”

한층 더 깊은 주의의 차원인 ‘별빛’은 우리 삶이 더 높은 목표와 가치를 향해 나아가게 하는 포괄적인 능력으로, 우리가 원하는 존재가 되도록 해준다. 별빛이 가려질 때는 ‘존재적’ 주의 분산이 일어난다. 개인적, 혹은 집단적 차원에서 정체성이 흔들릴 때 우리는 자아가 분열되는 듯하고 자신이 원하는 존재가 되기 힘들다고 생각하며 존재적 주의 분산을 경험한다. 우리는 소셜미디어에서 의미 있는 관계를 추구하기보다 최대한 많이 ‘좋아요’를 받고 ‘친구’를 맺으며 다른 사람의 관심을 얻는 데 몰두한다. 더 기발한 이야기를 담은 게시 글을 올리기 위해 애쓰면서 많은 시간을 보내고, 어느 순간 사회적 상호작용은 일종의 숫자 놀이가 된다. 일상적으로 숫자를 쫓아가는 사소함 속에서 우리는 자신이 누구인지, 혹은 애초에 이들과 친구를 맺은 이유가 무엇인지에 관한 보다 고차원적 관점을 잃는다.

가장 원천적인 주의의 차원인 ‘햇빛’은 우리가 애초에 목표와 가치를 정의하게 하는 근본적인 능력으로, 우리가 원하는 것을 원하도록 해준다. 햇빛이 가려질 때는 숙고와 이성, 예측, 기억, 목표 선정 등의 역량이 위축되는 ‘인식적’ 주의 분산이 일어난다. 무엇이 진실인지 이해하는 능력, 혹은 진실의 가능성을 예측하는 능력이 위축될 때 우리의 햇빛은 가려진다. 우리는 잘못된 행동에 대해 단순히 화가 나는 것을 넘어 격렬하게 분노하고 혐오감을 느낄 때 도덕적 격노를 경험한다. 정보가 부족했던 과거에는 전 세계에서 일어난 도덕적 위반에 관한 뉴스가 우리의 주의를 놓고 경쟁하지 않았다. 하지만 스마트폰 시대에는 누군가 잘못된 행동을 하면 모든 사람이 그것을 잠재적으로 경험한다. 오늘날 우리는 인터넷상에 흘러넘치거나 바이러스처럼 퍼져 나가는 도덕적 위반에 관한 뉴스에 일상적으로 분노를 표출한다. 더 이상 도덕적 격노의 대상을 화형대에 세울 수 없기에 우리는 잘못된 행동에 대해 그들을 상징적, 혹은 평판적 차원에서 파괴한다.

어떻게 주의의 자유를 주장하고 지킬 것인가

우리의 주의를 포획하고 이용하기 위해 끊임없이 경쟁하는 주의력 경제는 새로운 마음의 왕국이다. 저자는 그것과 우리는 현재 ‘주의적 농노제’의 관계이며 이를 재편하는 일은 두 가지 면에서 정치적 과제라고 설명한다. 하나는, 주의를 빼앗는 매체는 우리가 역사적으로 정치적인 문제로 받아들여 온 것을 이해하고 거기에 참여하는 렌즈이기 때문이다. 다른 하나는, 매체는 우리 자신을 포함해 모든 것을 바라보는 렌즈이기 때문이다. 저자는 우리의 주의와 삶을 인도하는 전제주의적 힘을 재편하지 않고서는 가치 있는 정치적 개혁을 이룩하는 일은 불가능하다고 지적한다.

저자는 또한 주의의 자유를 주장하고 지키기 위해서는 우리가 ‘원하는 것을 원하는’ 능력을 길러야 한다고 강조한다. 더 나아가 집단 차원에서 마치 방향을 잃은 배처럼 표류하기 전에 사회적·정치적 목표를 확실히 정해야 한다고 말한다. 기술 설계자들도 의사들이 히포크라테스 선서를 하는 것처럼 ‘설계자 선서’를 해야 한다고 조언한다. 저자는 이런 과정을 통해 기술 설계자들이 사용자의 존엄성과 주의, 자유를 존중하고 기술의 의도와 방법에 대해 사용자와 투명하고 정직하게 소통해야 한다고 주장한다.

미래 세대는 외부 환경뿐 아니라 내부 환경에 대한 책임을 얼마나 다했는지를 기준으로 우리 세대를 평가할 것이다. 오늘날 위기는 지구의 기온 상승뿐 아니라 제대로 기능하지 못하는 개인의 주의력에서 비롯되고 있다. 이런 점에서 우리의 임무는 외부 환경을 재편하는 일뿐 아니라 우리가 중요한 것에 주의를 기울일 수 있도록 세상을 재편하는 일이다. 중요한 일을 하려면 우리는 먼저 중요한 대상에 주의를 기울일 줄 알아야 한다. 자신의 주의를 지키려는 의지와 힘이 강력할수록 우리는 더 자유로워질 수 있다.

지은이 : 제임스 윌리엄스 

기술윤리학자로 사고의 자유와 고도로 설득적인 설계 환경에서 행복을 증진하는 과제를 주로 연구하고 있다. 옥스퍼드대학에서 기술 설계와 관련한 주의와 설득의 윤리와 철학 연구로 박사 학위를 받았다. 옥스퍼드대학 인터넷연구소와 디지털윤리연구소, 베일리얼칼리지에 연구원으로 있었으며 옥스퍼드대학 컴퓨터과학부 강사, 케임브리지대학 예술·사회과학·인문학연구소(CRASSH) 객원 연구원을 지냈다.

연구자의 길로 들어서기 전에는 학부 시절 문학을 전공했고, 대학원에서는 제품설계공학으로 석사 학위를 받았다. 구글에서 십 년 동안 전략가로 일하면서 검색 광고 분야에서 공로를 세워 사내 최고 영예인 ‘파운더스 어워드(Founders Award)’를 수상했다. 재계와 학계, 비영리단체와 정부기관을 아우르는 컨설팅 조직 ‘타임웰스펜트(Time Well Spent)’ 캠페인을 공동 제창했다. 정부와 기업의 설계자와 개발자, 경영자에게 기술윤리 문제를 자문하는 한편 기고와 논평, 강연을 이어가고 있다. 2017년 현대 사회 문제 해결을 위한 혁신적 사상가에게 주는 나인닷츠프라이즈(Nine Dots Prize)를 수상했다.

옮긴이 : 박세연

고려대학교 철학과를 졸업하고 글로벌 IT 기업에서 십 년 동안 마케터와 브랜드 매너저로 일했다. 현재 전문 번역가로 활동하면서 번역가 모임 ‘번역인’의 공동 대표를 맡고 있다. 옮긴 책으로는 『죽음이란 무엇인가』 『어떻게 민주주의는 무너지는가』 『불만 시대의 자본주의』 『더 나은 세상』 『플루토크라트』 『OKR』 『실리콘밸리의 팀장들』 『디퍼런트』 『행동경제학』 등이 있다.

해제

서문

1 트롤을 위한 철학

1부 설계된 주의 분산

2 불완전한 GPS

3 주의의 시대

4 스스로 경계 세우기

5 마음의 왕국

2부 인간을 외면하는 클릭

6 시민은 상품이다

7 집중의 빛이 가려질 때

8 별빛이 가려질 때

9 햇빛이 가려질 때

3부 주의의 자유

10 첫 번째 전쟁터

11 괴물과 은행

12 주변 시간 속 주변 사람들

13 발명의 가장 밝은 천국

감사의 말

더 읽을거리

주