지능 전쟁

인간을 뛰어넘은 인공지능이
스스로 인공지능을 만드는
지능 폭발은 일어날 것인가?

미래와의 공존을 꿈꾸는
EBS 과학 교양 시리즈
<비욘드>의 두 번째 책!

인간을 뛰어넘은 인공지능이 스스로 인공지능을 만드는 지능 폭발
인공지능과의 경쟁에서 도태되고 싶지 않은 사람들을 위한 안내서

이미테이션 게임, 기계 학습과 딥러닝, 지능 폭발, 네트워크 이론 사물인터넷, 디지털 쌍둥이, 스마트시티

인간이 환경의 지배를 받듯 인공지능도 데이터 환경에 영향을 받는다. 우리가 만들어낸 정보를 학습해서 인간을 모방하는 인공지능은 태생적으로 우리의 가치관에 영향을 받을 수밖에 없다. 물론 아직까지 인공지능의 수준은 인간의 개념과 의식을 이해하지 못한다. 그러나 우리는 챗봇 이루다와 챗봇 테이의 서비스 중단 사태를 통해 인공지능이 이 시대를 살아가는 사람들의 속마음까지 학습해 뜻밖의 방식으로 드러낼 수 있다는 것을 지켜보았다.
디지털과 현실 세계가 통합된 초연결 사회에서 사물인터넷은 무제한의 데이터를 수집, 공급하며 스마트시티는 인공지능이 기량을 마음껏 펼칠 수 있는 무대를 제공한다. 그 열린 무대에서 인간에 대한 내밀하고 사적인, 그리고 방대한 양의 데이터를 학습한 인공지능은 우리가 오래전부터 갖고 있던 문제들을 어느 순간 적나라하게 펼쳐 보일 것이다. 그때서야 우리가 스스로에게 되물어야 할 것을 묻는다면 너무 늦지 않을까?

디지털 공간과 현실 세계의 구분이 사라지는 초연결 사회에서
인간의 지능을 뛰어넘는 인공지능의 지능 폭발은 일어날까?
디지털 세상과 현실 세계가 네트워크로 연결되면서 세상은 데이터의 측정과 수집, 처리가 대규모로 신속하게 이루어지는 초연결 사회로 나아가고 있다. 초연결 사회는 가상공간과 현실을 하나의 무대로 만들어 산업, 경제, 교육, 생활 전반에 커다란 변화를 일으킨다. 우리는 이미 스마트폰이 인간의 삶을 이전과 비교할 수 없을 만큼 바꿔놓은 것을 경험했다. 손에 들고 다니는 도구가 똘똘해진 것이 스마트폰이라면 우리 앞에 다가온 다음 혁신 주자는 도시 전체가 똑똑해진 스마트시티다.
스마트시티는 사람의 말을 알아듣고 대화하고 글과 그림을 창작하는 기계가 도시 곳곳에 스며들고, 운전대가 필요 없는 자율주행 자동차가 사람들을 실어 나르고, 강력 사건이 발생하면 누군가의 신고를 기다리지 않아도 구급차와 경찰이 출동하는 공간이다. 그 도시에 사는 사람들은 특별히 사용법을 익히지 않아도 전보다 훨씬 편리하고 효율적인 시스템의 혜택을 누리며 스마트폰이 가져온 편의 이상의 만족감을 느끼게 될 것이다.
그 도시를 유지하고 떠받치는 네트워크는 인간이 미처 다 파악할 수 없는 복잡하고 빠른 정보 시스템으로 이루어져 있다. 이곳에서 엄청난 양의 정보가 지속적으로 취득되고 전송되고 처리되고 보관되는 시스템을 관리하는 역할은 인간보다 인공지능에게 더 적합하다. 현재 인공지능은 데이터를 토대로 스스로 학습해서 인간이 지시한 역할을 수행하는 단계에 와 있다. 아직까지는 인공지능의 발전 수준이 사람의 손에서 이루어지지만 여러 전문가들은 수십 년 이내에 인간의 지능을 뛰어넘는 인공지능이 스스로 더 발전된 형태의 인공지능(초지능)을 만드는 지능 폭발이 일어날 것이라 입을 모은다.
갈색 개미는 개별 개체의 능력이 미약함에도 불구하고 집단의 소통과 실행력을 통해 기막히게 효과적이면서도 복잡한 구조의 집을 설계하고 시공한다. 정교하게 연결된 집단을 이루고 하나의 목적을 위해 움직이는 갈색 개미 무리는 개체의 역량과 상관없이 놀라운 창발성을 보여준다. 연구자들은 이와 같은 창발성이 초연결된 네트워크 세계에서 인공지능의 지능 폭발을 일으킬 수 있다고 여긴다. 만약 이런 식으로 초지능이 출현한다면 코드를 빼버리는 방식 따위로 상황을 되돌리기란 불가능하다.

우리는 이제까지 작동원리를 알고 있는 도구를 사용해왔다.
지금 우리는 인공지능이 만들어내는 결과물을 이해할 수 없다.
이 간단한 차이가 인류의 미래를 황금시대로 만들 수도 파국으로 이끌 수도 있다.
우리는 어떻게 인공지능과 공존할 수 있을까?

초지능으로 무장한 채 사람처럼 행동하고 말하는 로봇형 인공지능에 불편한 시선이 꽂혀 있는 사이, 인공지능은 우리 일상의 수많은 장치 속으로 슬그머니 파고들고 있다. 기계 장치와 다를 바 없는 컴퓨터에 프로그램 형태로 설치되어 그림을 그리고 작곡을 하고 글을 쓰고 대화하는 인공지능은 이미 존재한다. 2020년 공개된 GTP-3는 기존의 인공지능과 달리 인터넷에 올라오는 텍스트를 학습해 순식간에 놀라운 결과물을 내놓는다. 물론 아직은 약한 인공지능, 특정한 기능을 구현하는 수준에 머물고 있지만 최근 화제가 된 챗봇 이루다의 서비스 중단 사태는 인공지능에 대한 경각심을 일깨워주었다.
편향적인 데이터로 기계학습을 한 챗봇 이루다가 소수자에 대한 혐오 표현을 가감 없이 노출하면서 논란이 되었고 학습한 데이터의 수집 절차상 문제가 도마에 오르면서 서비스는 중단되었다. 2016년에도 마이크로소프트에서 개발한 챗봇 테이가 단시간에 사용자들이 퍼붓는 인종, 성 차별 발언을 학습하고 이를 다시 쏟아내면서 16시간 만에 운영을 중단한 적이 있다. 지금까지는 개발사에서 마음만 먹으면 인공지능 서비스를 중단할 수 있었지만 과연 도시 전체를 관리하고 운영하는 인공지능이 일부 부적절하게 작동했다고 해서 곧바로 꺼버릴 수 있을까?
이 상황을 우울하게만 바라볼 필요는 없다. 인공지능의 윤리나 사회적 책임, 초지능을 둘러싼 논란은 결국 이를 만들고 사용하는 우리의 의식과 신념이 중요하다는 것을 반증한다. 인공지능이 얼마나 사람과 비슷한지를 테스트하려는 사람들의 관심은 반대로 인간에게 ‘인간다움’과 ‘지능’이 무엇인지 고민하게 만드는 철학적 질문을 던진다. 우리가 이 질문에 제대로 답을 갖고 있다면 모두가 바라는 대로 인간에게 도움이 되는 인공지능을 만들어내고 활용할 수 있다. 그러기 위해서는 인간과 인공지능이 공존하는 세계의 구조와 우리의 위치를 바로 알아야 한다.
이 책은 현재 인공지능이 어떤 수준에 이르고 있는지, 인공지능이 활약하는 네트워크의 구조는 어떠하며, 앞으로 우리가 마주하게 될 스마트시티는 어떤 모습일지 가늠할 수 있는 초연결 사회의 설계도이자 안내서다.
먼저 인간과 비슷한 인공지능을 꿈꿔온 인류의 노정을 살펴보며 인공지능의 실체를 파악해보자. 앨런 튜링이 만든 ‘이미테이션 게임(튜링 테스트)’과 존 설의 ‘중국어 방’ 실험을 통해 우리는 인간의 지능과 인공지능이 어떻게 다른지 알 수 있다. 막상 그 실체를 파악하고 나면 자못 불안감이 가라앉을 것이다. 하지만 갈색 개미 무리가 지어놓은 개미집을 본 순간 닉 보스트롬이 말한 초지능 클립 제조기가 온 우주를 클립으로 채우는 상상은 오싹함을 자아낸다. 그것보다 두려운 건 인류 역사에서 어떤 기술이나 제도의 혜택이 모두에게 골고루 돌아간 적이 없다는 사실이다.
아무것도 모른 채 그저 세상이 변화하는 대로 휩쓸려가거나 손쓸 새도 없이 불이익을 당하지 않으려면 우리가 살아가게 될 초연결 사회의 구조와 속성을 알아야 한다. 네트워크가 갖는 고유한 성질과 네트워크로 표현되는 존재들이 갖는 특성을 찾아내 복잡한 네트워크상에서 나의 위치와 나의 연결을 파악하는 것은 무엇보다 중요하다. 그런 다음에 사물인터넷과 사회관계망에 적용되는 규모의 경제 원리를 이해하고 지속가능성을 유지하며 더 나은 세상, 살 만한 스마트시티로 가는 길을 살펴볼 수 있다. 일자리 문제나 개인정보 보안에 대한 경각심을 늦추지 않고 전자 쓰레기를 줄이고 제로에너지시티를 구축하려는 노력은 예측 불가능한 미래에 대한 두려움보다 호기심이 앞설 때 가능하다.
인공지능이 바꿔놓을 미래가 막연하게 불안했던 독자들은 이 책을 통해 불확실성 너머의 세계로 향하는 21세기의 파우스트들이 혹독한 대가를 치른다 해도 본성에 내재된 지적 욕구와 실행력을 토대로 현명하게 살아가는 모습을 똑똑히 그리게 될 것이다.

구슬이 서 말이라도 꿰어야 보배
네트워크 사회, 인공지능, 사물인터넷, 스마트시티에 대한 복잡한 개념들을
명쾌한 통찰로 꿰어주는 공학자 김일선의 인공지능 이야기

공학자의 눈으로 바라본 세상은 디지털 공간과 현실 세계가 복잡하고 정밀하게 연결된 네트워크 사회다. 그곳은 무수한 정보가 빛의 속도로 오가고 데이터를 학습한 인공지능이 인간에게 설명해주지 않는 방식으로 기능을 수행하는 곳이다. 저자는 마치 누구나 따라해볼 수 있는 도구의 잘 만들어진 매뉴얼처럼 그 시스템의 구조와 작동원리를 단계적으로 차분하게 소개한다.
그의 안내를 찬찬히 따라가다 보면 어느새 인공지능, 딥러닝, 네트워크 사회, 사물인터넷, 스마트시티 등 들어는 봤지만 구체적으로 무엇인지 파악하지 못했던 개념들이 하나씩 머릿속에 자리 잡는다. 부정확한 정보와 오해가 만든 인공지능에 대한 불안과 두려움의 장막이 걷히면 마침내 불확실했던 미래상을 통찰하게 된다. 모르는 길은 멀고 힘들게 느껴지지만 아는 길은 힘들어도 두렵지는 않다. 저자의 바람대로 두려움을 이겨낸 우리의 호기심은 앞으로 살아가게 될 미래를 어떻게 가꾸어야 하는지에 대한 열망으로 바뀌어 있다. 

김일선
서울대학교 공과대학 제어계측공학과를 졸업하고 같은 학교 대학원에서 석사와 박사 학위를 받았다. 삼성전자, Nokia, Irdeto, Synaptics 등 IT 분야 기업에서 개발과 기획 일을 했으며, 현재는 IT 분야의 컨설팅과 전문 번역 그리고 저작 활동을 하고 있다. 지은 책으로 『단위로 읽는 세상』,『지구는 어떻게 생명의 터전이 되었을까?』,『산업혁명이 가져온 변화는 무엇일까?』 옮긴 책으로 『법정에 선 수학』,『인공지능』,『미래의 도시』,『힉스』,『시간의 미궁』,『사이버 해킹』,『코끼리가 숨어 있다』,『물리학 오디세이』 등이 있다.

-프롤로그 × 21세기 파우스트의 미래

CHAPTER 1. 진짜 가짜, 가짜 진짜
-너는 누구냐
× 넷플릭스 × 이미테이션 게임 × 화려한 데뷔 × 똘똘한 비서 × 스마트한 감시 사회
-구분할 수 없다면
× 비슷하려면 아주 비슷하거나 × 인공지능이 사용되려면

CHAPTER 2. 지능 만들기
-인간을 만들고 싶다
× 육신에서 정신까지 × 열심히 외운 딥블루, 열심히 공부한 알파고 × 자기주도학습파, 알파고 제로
-지능이란 무엇일까?
× 나무를 구분하는 아이 × 지능과 중국어 방
-딥러닝, 학습으로 완성되는 소프트웨어
× 답만 찾으면 돼 × 원리를 알아야지 × 기계 학습과 딥러닝 × 저 공부 끝났어요 × 단, 조건이 있어! × 100미터 달리기 선수와 10종 경기 선수 × 세상을 글로 배웠어요

CHAPTER 3. 지능 폭발
-초지능 출현의 공포
× 초지능 클립 제조기 × 개미 대 아인슈타인 × 특이점 너머로 가는 탑승권
-과연 그럴까?
× 예쁜꼬마선충 × 라이프 3.0 × 스스로 해결하는 존재 × 블랙 스완
-시간은 한방향으로 흐른다
× 지배하지 않지만 군림한다 × 누가 소수인가 ×21세기의 네드 러드 × 낯선 도깨비

CHAPTER 4. 초연결 사회
-네트워크, 연결되어 있습니까?
× 인터넷이 바꿔놓은 세상 × 그곳에 종은 없었다 × 점과 선으로 표현하기 × 네트워크의 종류 × 멱함수 법칙이 나타나는 네트워크 × 척도 없는 네트워크
-복잡하지만 엉키지 않은 곳
× 빅데이터가 인공지능을 만났을 때 × 센서로 둘러싸인 도시, 사물인터넷
× 현실 세계와 온라인의 경계를 허문 디지털 쌍둥이 × 디지털 쌍둥이 도시 버추얼 싱가포르 × 우리 곁으로 온 4차 산업혁명

CHAPTER 5. 스마트시티로 가는 길
-더 나은 도시를 꿈꾸다
× 모든 것이 질서 정연합니까? × 모두 도시로! × 뭉쳐야 산다 × 크기와 연결이 중요하다 × 옵션 추가하기 × 선이 없는 그물 안에서
-스마트시티의 생존 전략
× 캐치 미 이프 유 캔 × 음료수 한 잔을 사면 공짜 점심을 드립니다
× 덜 쓰고 더 만들어내기 × 스마트 쓰레기는 어디에 × 뛰는 놈 위에 나는 놈

CHAPTER 6. 불확실성 너머
-호기심 대 두려움
× 한 치 앞도 모른다 × 막막하지만 피할 수 없는 × 빨라지는 발걸음
× 피할 수 없으면 즐기자

-에필로그 × 스마트 ‘폰’에서 스마트 ‘시티’로