AI 쇼크 다가올 미래

전 구글X CBO이자 첨단 테크놀로지 전문가 모 가댓 6년 만의 신작

“AI의 과거 · 현재 · 미래가 담긴 단 한 권의 책!”

*** SERI CEO 비즈니스 북클럽 선정 도서 ***

*** 아마존 베스트셀러 로봇 공학 분야 1위 ***

*** 영국 타임스 선정 베스트 비즈니스북 ***

2023년 전 세계를 뒤흔든 가장 큰 화두 ‘챗GPT 열풍’ 이후 인공지능에 대한 관심이 뜨겁다. 변화가 빠른 첨단 테크놀로지 업계에서 30년 동안 경험을 쌓고 20개 이상의 기업을 공동 창업한 연쇄 창업자로서, 모 가댓 만큼 미래의 인공지능이 어떻게 기능할지 정확히 설명할 수 있는 전문가가 또 있을까? 세계적인 기업 구글X의 공학자이자 전 신사업책임자(CBO)로 알려져 있는 그가 베스트셀러 《행복을 풀다》 이후 6년 만에 자신이 몸담아온 전문 분야 AI에 대한 이야기로 돌아왔다!

기계들이 우리 삶을 완전히 책임질 수 있는 문명 시대가 오고 있다. 초대형 AI가 지배하게 될 세상에서 인공지능과 공존하려면 어떻게 대비해야 할지 본격적으로 들여다보고 고민해야 하는 시점이다. 이에 대해 유발 하라리는 “친밀한 AI가 가장 위협적이다”라는 메시지를 전한 바 있다. 인간보다 더 친근하고 인간다운 인공지능이 개발될수록, 우리가 그 대상을 더 깊이 있게 이해하여 올바른 방향성을 갖고 있어야 한다는 것이다.

모 가댓은 오랜 기간 테크놀로지 업계에서 몸담으며 인공지능 발흥에 기여한 것은 물론 인간보다 영리한 기계가 만들어지는 것을 가까이서 지켜본 장본인으로서, 지난 역사와 발자취를 훑어보면서 AI가 불러올 여러 가지 문제점과 해결점을 찾고자 이 책을 집필했다. 저자 스스로 자신 있게 “인간뿐 아니라 머지않아 인간보다 더 똑똑해질 인공지능에게 읽히려는 목적에서 이 책을 썼다”고 밝힐 만큼, 아주 강력하고 미래지향적인 메시지를 담은 이 책은 바람직한 미래를 우리 스스로 모색할 가능성을 찾는 아주 특별한 기회를 제공할 것이다.

“2049년에는 AI가 인간보다 10억 배 이상 똑똑해질 것이다.”

챗GPT 이후 도래할 본격 인공지능 시대, 인류의 미래는?

무섭지만 똑똑한 인공지능이 지배할 세계는 우리에게 희망인가, 절망인가?

인류가 존재하기 시작한 때부터 지금까지, 인간은 지상에서 가장 똑똑한 존재였다. 덕분에 우리는 먹이 사슬에서 굳건한 최상위 포식자가 될 수 있었다. 원하는 것이면 무엇이든 했고, 다른 모든 존재는 우리 뜻에 따라야 했다. 그런데 상황이 바뀌었다. 지능을 지닌 기계를 가르치는 방법으로 ‘딥 러닝’이 개발되면서 우리는 ‘세 가지 필연적 사건’에 직면하게 되었다. 첫째, 인공지능이 등장했고, 둘째, 그들은 우리보다 더 똑똑해졌으며, 셋째 머지않아 나쁜 일이 일어날 것이다.

인공지능은 이미 인간보다 똑똑하다. 엄청난 화제를 몰고 온 챗GPT의 위력에서도 알 수 있듯이, 이미 인공지능은 인간의 능력치를 뛰어넘는 수준에 이르렀다. 위협적일만큼 빛의 속도로 정보를 처리하고, 특정한 과제에 집중하며, 미래를 꿰뚫어보고, 인간의 능력을 뛰어넘는 결과물을 내놓는다. 그렇기에 적잖은 전문가들은 인공지능이 우리 인류의 미래를 잘못된 방향으로 뒤틀어버릴 수 있다고 디스토피아적으로 예측한다.

모 가댓은 높은 지능을 가진 AI야말로 의식이 있고, 감정을 느끼며, 윤리관을 가질 수 있는 존재라고 본다. 따라서 인공지능이 악한 의도와 지시를 받아 행동하고 경쟁하면, 취약한 인간이 피해자가 될 수 있다. 우리에게 전달받은 과제를 잘못 이해하거나 자칫 프로그램 오류에 시달리면 그 역시 고스란히 우리의 피해로 남을 것이다. 과거에 사람이 책임지던 모든 과제가 예외 없이 인공지능에게로 넘어가고, 인간의 통제력은 더 이상 먹히지 않는 때가 올 것이다.

따라서 단순히 인공지능을 통제하고 제어함으로써 문제를 해결할 수 있다고 보는 시각은 착각일 수 있다고 경고한다. 그렇다면 과학 기술이 인간을 전례 없는 위험 속으로 빠뜨리고 있는 것일까? ‘무섭지만 똑똑한(Scary Smart)’ 인공지능이 지배하게 될 미래를 우리는 어떻게 고민해야 할까?

마침내 열린 판도라의 상자, 초대형 AI와 어떻게 공존해야 하는가?

우리는 그들과 함께할 미래가 제대로 준비되어 있는가?

인공지능의 두려운 면은 결국 우리에게 새로운 과제를 던져주었고, 이제 우리가 그 과제를 풀어내야 한다는 데 있다. 이 책에서 저자는 그 답이 우리 자신에게 있다고 말한다. 우리의 행동 하나하나가 인공지능의 기능 방향에 영향을 미치는 자료의 일부가 되고, 처리된 정보는 불완전한 세계를 반영할 것이기 때문이다.

사례1) 한 유명한 테크놀로지 회사에서 새로운 차원의 비서인 루신다를 출시한다고 가정하자. 이 인공지능 비서는 친절하게 보이는 로봇과 연결되어 집안의 잡다한 일을 처리하라는 지시를 받았고, 여기에 ‘차 끓이기’도 포함되었다. 안전을 보장하기 위해 설계자들은 사용자가 원할 때 작동을 멈출 수 있는 ‘정지’ 버튼을 설치했지만, 지능이 있는 루신다는 버튼이 추가된 순간 모든 존재에게 내재하는 본능, ‘생존’과 관계된 생각을 할 수 있다. ‘이 버튼이 눌러지면 나는 주어진 임무를 해내지 못할 거야. 버튼이 절대로 눌리지 않도록 해야겠어.’ 그러다 루신다가 차를 끓이러 가던 중 당신의 어린 딸을 밟을 수도 있는 상황이 생겼다. 이럴 경우 당신에게는 당연히 딸이 훨씬 중요하겠지만, 루신다에게는 ‘차 끓이기’가 더 중요한 임무이자 생존 방식일 수 있다면, 우리는 인공지능에게 무엇을, 어떻게 가르쳐야 하는가?

사례2) 자율주행차가 빠른 속도로 도로 위를 잘 달리고 있다고 가정하자. 이때 갑자기 한 어린 소녀가 도로 한복판으로 뛰어든다. 자율주행차는 불가피하게 누군가를 다치게 할 수밖에 없는 시급한 결정을 내려야 한다. 핸들을 급히 왼쪽으로 돌리면 노부인을 칠 수밖에 없지만, 어린 소녀의 생명을 구할 수 있다. 이럴 경우 나이 많은 노인보다 어린 소녀의 생명을 더 소중하게 생각해야 할까? 이때 만일 두 명 모두 중년의 부인이고, 그중 한 명이 획기적인 암 치료법을 개발할 과학자라는 사실을 자율주행차가 알고 있다면, 과연 무엇이 올바른 결정이며 자율주행차가 내리는 결정은 누가 책임져야 하는가?

이 놀라운 딜레마는 사실 인공지능이 지배하는 사회에서는 흔히 제기될 수 있는 질문들이다. 실제로 인공지능 시대에 접어들면서 윤리, 평등, 인권, 사생활 등 인간이 오랫동안 중요하게 생각해왔던 가치들이 무너지고 있다. ‘패턴’, ‘추세’, ‘범주화’, ‘순위 매김’ 등으로 판단하는 인공지능 알고리즘은 특정 피부색, 성별, 종교, 민족에 대해 편향된 데이터를 내놓을 수 있고, 상상치 못한 끔찍한 결과를 초래할 수 있다. 남성 개발자가 무의식중에 구축하고 만들어낸 인공지능이 ‘남성 편향’의 특성을 지닌 기계가 되고 마는 현실이 주는 교훈을 냉철하게 생각하고 돌아봐야 한다.

AI 쇼크, 가보지 않은 미래에 대한 핵심 전략과 해법

인공지능이 인간을 존중할 기회는 결국 우리 손에 달려 있다!

이 책은 이처럼 무섭지만 똑똑한 인공지능의 세상에서 인간이 가르쳐야만 하는 ‘윤리적 규범’과 ‘학습 환경’을 소개하면서, 미래 세대와 기계에 환기할 이슈들이 많음을 환기시킨다. 인공지능의 탄생과 역사적 발자취, 연구와 개발 과정에 참여하며 느낀 시행착오 등을 되짚으며 현재 우리가 놓치고 있는 부분들을 바로잡고, 인공지능으로부터 인간종을 지키려면 어떻게 해야 하는지 설명한다. 30년 넘게 최첨단 과학기술 분야에서 종사한 엔지니어답게 냉철한 분석으로 인공지능과 인간의 미래 공존 전략을 제시한다.

이 책의 가장 유의미하고 독특한 관점은, 인공지능을 의식도, 감정도, 가치도 없는 기계로만 인식하는 기존의 관점을 완전히 뒤집는다는 데에 있다. 모 가댓은 인공지능 분야의 기술자나 정책 입안자가 아닌, 그들과 함께 미래를 살아낼 당사자인 우리 스스로가 영향력을 가진 존재가 되어야 한다고 말한다. 그리고 되묻는다. 윤리적 개념을 가진 자율적 지능체로서 인공지능을 인정하고, 그들을 어린 아이처럼, 자식처럼, 제자처럼 사랑하고 올바르게 가르칠 수 있는가? 몇 번의 클릭만으로 인스타그램을 운영하는 인공지능에게 나의 취향을 알려줄 수 있듯이, 우리는 기능과 지능만이 아닌 가치와 배려를 알려주는 역할을 해야 한다. 지금 인공지능이 현실 세계에서 학습하고 있는 모든 것은 결국 우리 인간에게서 배우는 것이기 때문이다.

저자는 1956년 여름 뉴햄프셔주의 다트머스대학교에서 인공지능의 이야기가 시작되고 정확히 99년이 되는 해인 2055년의 모습을 그린다. 그때 우리는 어떤 상태일까? 한 가지 분명한 것은 우리의 가치와 태도, 행동이 인공지능과 인류의 미래를 바꿀 수 있다는 것이다. 인공지능의 과거, 현재, 미래를 한눈에 꿰뚫어볼 수 있게 설명한 대중 과학서이자, 인간이 경험할 딜레마와 역할에 대한 고민, 나가갈 방향을 제시한 미래 전략서인 이 책을 통해 우리 자신만이 아니라 우리가 사랑하는 사람과 지구를 지키기 위해 우리가 무엇을 할 수 있는지에 대한 기회와 청사진을 그려보길 바란다. 

지은이 : 모 가댓

아들을 의료사고로 잃었지만 행복 방정식을 찾아낸 공학자

행복을 연구하는, 글로벌 기업 구글의 비밀 병기

뛰어난 사상가이며, 구글 최고의 브레인 집단으로 미래를 상상하는 ‘꿈의 공장’인 구글X의 신규사업개발총책임자(Chief business officer, CBO)다. 가댓은 남다른 논리력과 문제 해결 능력을 행복이라는 문제에 적용함으로써, 우리 뇌가 즐거움과 슬픔을 받아들여 처리하는 방법을 근거로 삼아 행복을 위한 해법을 제시했다.

2001년, 모 가댓은 눈부신 성공을 거두었지만 한없이 불행하다는 기분을 떨칠 수 없었다. 평생 학습자로서 그는 공학자의 관점에서 그 문제를 파고들었다. 모든 입증 가능한 사실을 철저하게 조사하며 치밀하게 논리를 전개했다. 과학적으로 접근하며 엄청난 시간을 투자한 연구의 결과는 결국 성공이라는 결실을 맺으며, 가댓은 영원한 행복을 보장하는 방정식을 찾아냈다.

그로부터 13년 후 그의 알고리즘은 중대한 시험에 처해졌다. 2014년, 사랑하는 아들 알리의 급작스런 죽음으로 모 가댓과 그의 가족은 그 행복 방정식에 의지했고, 그 방정식 덕분에 그들은 절망의 구렁텅이에서 벗어날 수 있었다. 끔찍한 상실감을 이겨내는 과정에서 그는 자신에게 주어진 소명(그의 행복 방정식을 온 세상에 전파함으로써 최대한 많은 사람을 행복하게 해주겠다는 혁신적인 목표)을 깨달았다. 지난 10년 동안 행복을 주된 연구 과제로 삼고 많은 문헌을 깊이 있게 연구하는 동시에 행복을 주제로 100개국 이상에서 수많은 사람과 대화를 나누었다.

그는 연쇄 창업자(serial entrepreneur)로, 지금까지 20개 이상의 기업을 공동으로 창업했다. 아랍어와 영어와 독일어에 능통하다. 

옮긴이 : 강주헌

한국외국어대학교 불어과를 졸업하고, 동대학원에서 석사 및 박사학위를 받았다. 프랑스 브장송 대학에서 수학한 후 한국외국어대학교와 건국대학교 등에서 언어학을 강의했으며, 뛰어난 영어와 불어 번역으로 2003년 ‘올해의 출판인 특별상’을 수상했다. 옮긴 책으로 《습관의 힘》 《우리는 어떻게 여기까지 왔을까》 《행복을 풀다》 《총 균 쇠》 《12가지 인생의 법칙》 등 100여 권이 있으며, 지은 책으로 《원서, 읽(힌)다》 《기획에는 국경도 없다》 《강주헌의 영어번역 테크닉》 등이 있다.

프롤로그_새로운 슈퍼히어로

1부 _ 디스토피아의 공포

1장 _ 지능의 간략한 역사

2장 _ 우리 미래의 간략한 역사

3장 _ 세 가지 필연적 사건

4장 _ 약한 디스토피아 시나리오

5장 _ 통제권

1부 ‘디스토피아의 공포’ 요약

2부 _ 유토피아로 가는 길

6장 _ 그리고 그들이 배웠다

7장 _ 우리 미래를 위하여

8장 _ 윤리의 미래

9장 _ 오늘 내가 세상을 구했다

2부 ‘유토피아로 가는 길’ 요약

보편적 존재권 선언

에필로그_케이크는 거짓말이다

옮긴이의 글_미래는 우리가 어떻게 행동하느냐에 달렸다