기계 속의 유령-AI 인류 운명을 좌우할 양날의 칼-

“AI 혁명, 특이점은 오는가!”

AI는 이제 인간의 개입 없이 자체적으로 학습하고 발전하는 단계에까지 이르렀다. 최신 AI들이 보여주는 성과는 경탄을 자아내는 것을 넘어 가히 경악스러운 수준이다. AI는 그야말로 무소불위의 전지전능한 존재로 나아가고 있다. AI를 둘러싼 담론이 넘쳐나는 가운데 기대와 설렘, 불안과 두려움이 혼재하는 상황이다.

인간이 노동으로부터 자유로워지리라는 장밋빛 낙관도 있지만, 대다수 노동자가 AI에 대체되어 ‘잉여’로 전락할지 모른다는 공포가 더 우세해 보인다. 실제로 전문가들은 AI의 너무 빠른 발전에 우려를 표하며 위험성을 경고하고 있다. 기술이 가속화되면서 AI가 이미 인간 지능 수준의 범용인공지능(AGI)에 근접했다는 평가도 있다. AI가 언젠가 AGI보다도 강력한 초지능(ASI)으로 진화하여 특이점을 넘어서게 된다면 어떻게 될까. 세상은 낙원이 될 것인가, 지옥이 될 것인가.

AI는 점점 인간을 닮아가고 있다. 인간은 원하든 원치 않든 AI와 상호작용하며 전진해야 한다. 이미 인간 세계의 ‘상수’로 자리 잡은 AI를 잘 관리하고 활용하기 위해, 저자는 AI의 이점과 장점은 최대화하고 위험성은 최소화하는 방향으로 대비해야 한다고 말한다. 아울러 과학기술과 인문사회를 아우르는 통합적인 접근을 주문하고 있다.

원종우

경희대 철학과에서 공부했고 영국에서 음악을 전공했으며 2천년대 초 인터넷 《딴지일보》 창립 멤버로 논설위원과 편집장을 거쳤다. 어려서부터 과학에 관심이 많았고 특히 과학기술을 인문사회적으로 바라보며 의미를 해석하는 것을 중요하게 여겨, 1990년대의 철학과에서 드물게 관련 작업을 진행한 바 있다.

이후 과학 전문 팟캐스트와 유튜브 채널인 〈과학하고 앉아있네〉를 11년째 만들고 있으며, 〈김어준의 뉴스공장〉에서 과학 코너를 진행했고 한국과학창의재단 이사를 역임했다. 2016년의 알파고 충격 이후부터 AI의 현실과 발전상, 사회와 인간에 끼칠 영향에 대해 기업과 공무원, 교원, 학생 등을 대상으로 많은 강연을 진행해 왔으며 관련된 기고와 다양한 SF 창작물을 발표하고 있다.

저서로 《조금은 삐딱한 세계사》, 《파토의 호모 사이언티피쿠스》, 《파토 원종우의 태양계 연대기》, 《나는 슈뢰딩거의 고양이로소이다》 등이 있고 공저로 《엉뚱하지만 과학입니다》 1~10권, 《호모 사피엔스 씨의 위험한 고민》, 《과학하고 앉아있네》 1~10권 등이 있다.

머리말

추천의 글

1장 시작

창조의 염원

연금술적 욕망

오토마타의 등장

현대적 AI 개념의 시작

2장 도약

디지털 혁명의 시작

계산기, 컴퓨터 그리고 AI

현실 속의 AI

기계 학습

강화학습

AI의 핵심, 추론 능력

체스와 제퍼디!의 충격

알파고와 직관

알파고의 후손들

이미 활약 중인 다양한 AI들

AI와 사물인터넷

인간의 일상을 돕는 AI

3장 혁명

GPT-3의 조용한 등장

챗GPT, 세상을 뒤흔들다

챗GPT의 정서적 활용

유저의 역할 부여에 따른 정체성의 변경

환각과 신뢰의 문제

모든 영역으로 확장 중인 AI

사람의 생각을 들여다보는 AI

4장 우려

인종적 편견과 AI

스카이넷과 할9000을 닮은 AI의 행동

우려를 표명하는 AI의 선구자들

‘블랙박스 문제’와 XAI

5장 사회

로봇 하드웨어와 결합될 AI

인간의 노동 기회는 실제로 없어진다

경제 구조는 어떻게 변해야 하는가

AI 관련법의 현재

예측 불가능한 미래

6장 정치

빅데이터와 선거

AI와 선거

대의민주주의와 AI

새로운 권력 형태의 출현

민주주의와 메타버스 그리고 AI

AI 오버로드의 현실 지배

7장 기계 속의 유령

AI와 지능, 생각, 의식, 감정

람다의 호소

AI의 마음에 대한 인간의 마음

맺음말