인공지능에 도덕엔진을 탑재하는 법 - 인공지능에 살해당하지 않기 위해 -

도쿄대학교 공학부와 의학부 교수를 겸임하고 있는
 세계적 석학 정웅일 교수가 들려주는 인공지능 도덕의 메커니즘!

-인공지능 로봇에게 어떻게 선악 판단을 가르칠 것인가?

인공지능에 도덕엔진을 탑재하기. 이 책은 인공지능 로봇에게 어떻게 선악 판단, 즉 도덕엔진을 탑재할 것인가 하는 주제를 다루고 있다. 도쿄대 공학부와 의학부 교수를 겸임하고 있는 세계적 석학이자 재일교포 3세인 정웅일 교수가 여섯 번의 강의를 통해 고대에서 근현대 사상까지 고금동서의 도덕사상이 어떠한 구조로 이루어져 있는지를 평면적으로 분석하고 분류하여 도덕 시스템의 공통된 원리를 추출한다. 그리고 로봇에게 어떻게 도덕엔진을 탑재할지를 다루고 있다. 그동안 이과의 영역이라고만 여겨왔던 인공지능과 문과의 영역인 철학, 도덕, 사회성을 접목시켜 독특하고 새로운 시각으로 그 문제를 바라보고 생각하게 한다.
그런데 왜? 인공지능이나 로봇에 도덕이 필요할까? 인공지능은 그냥 지적 능력만 뛰어나면 되는 것이 아닌가? 이 책에서 저자는 인공지능이 무인 판매기와 같은 단순 업무에서 시작해서 바둑, 통역, 글쓰기 등의 다양한 활동을 하는 데서 더 나아가 ‘선악 판단’까지 해야 한다고 주장한다. 실제 최근 디지털 혁명으로 불리는 4차 산업혁명 시대가 밀려오면서 인공지능과 로봇에 관한 관심이 뜨겁다. 미래 산업의 가장 중요한 핵심으로 여겨지고 앞다투어 인공지능과 로봇 산업에 뛰어들고 있다. 그런데 그 인공지능이나 로봇에게 능력만큼이나 중요한 것이 도덕이다. 만약 SF 영화에 나오는 단골 주제처럼 인공지능이나 로봇이 인간을 살해하게 된다면? 인간이 로봇을 만들었는데 점점 더 강력해진 로봇이 결국 인간을 멸종시키고 만다는 것 말이다. 그런 일은 공상일 뿐이고 절대 일어날 리 없으리라고 단언할 수가 없다. 이제 우리 인류는 인공지능이나 로봇과의 공생을 고민해야 하는 시점이 이른 것이다.
이 책에서 저자는 인공지능이나 로봇에 인간보다도 더 우월한 도덕엔진을 탑재해야만 한다고 주장한다. 그리고 로봇에게 탑재하는 선악을 구분하는 시스템을 ‘도덕엔진’이라 부르고 있다. 이 ‘도덕엔진’을 로봇에게 입력할 때는 여러 가지 문제(공통의 규칙과 개별의 규칙의 이중성 식별 문제, 사람을 죽이면 안 되지만 전쟁과 사형 같은 특수상황에서의 모순성 등)들을 충분히 검토하여 탑재해야 이상적인 구조가 될 것이라 말하고 있다. 인공지능에 대해 다루고 있지만 난해한 전문 용어와 이론만 늘어놓은 어려운 책이 아니라 과학을 모르는 일반 독자들이 입문서처럼 쉽게 이해할 수 있는 예를 들어 설명하고 있다.

지금까지 인공지능을 다루는 책들은 쏟아져나오고 있다. 하지만 대부분 인공지능을 각 업무 분야에서 어떻게 활용할 것인지를 다루는 데 비해 사람만이 생각할 수 있으리라 여겨져 온 ‘도덕’적인 부분을 AI와 묶어서 다루고 있다는 점에서 다른 책들과 굉장히 차별화되어 있다.

지은이 : 정웅일
도쿄대 공학부 의학부 교수이자 도덕철학자
1964년 도쿄에서 태어난 재일교포 3세이자 의학박사다. 실학을 중시하고 사회에 도움이 되는 의사가 되라는 부모님의 권유로 어릴 때 꿈인 화가의 길을 포기하고 도쿄대학교 의과대에 최우수 성적으로 입학하고 졸업했다. 동 대학원에서 의학박사를 취득했다. 그 후 인체의 모습을 결정하는 뼈 칼슘대사의 내분비계에 매료되어 연구심화를 위해 하버드대학교 의학부에 유학 가서 헨리 크로넨버그 교수에게 배우며 세포의 기능을 조절하고 뼈의 성장을 촉진하는 시그널 인자 연구에 몰두했다. 지금은 일본에서 인공 뼈로 재생에 도전하는 최고권위의 뼈 박사로 인정받고 있다.
그는 의학 분야뿐 아니라 물리학, 건축학, 공학, 철학까지 그 영역을 활발하게 넓혀가는 바이오 엔지니어이자 철학자이다. 독일 괴테 연구소 특별장학생으로 선발됐고 미국 매사추세츠 종합병원 의학공로상, 정형학회상, 의료재단상, 미국 국립보건원NIH상, 일본 인공장기학회 논문상, 일본 바이오메트리얼 학회상 등을 수상했다.
주요 저서로는 『왜 사람을 죽이면 안 될까?』와 『(동경대 한국인 뼈 박사가 알려주는) 장수혁명』 등이 있다.

옮긴이 : 이시훈
가천대 의과대학 내분비대사내과학·유전체의과학 교수
1973년 대구에서 태어나 1998년 연세대 의대를 졸업했고 내과 수련 후 의사로 근무했다. 도쿄대학교교 대학원 의학계 연구과를 거쳐 연세대 대학원에서 박사학위를 받았다. 이후 미국 국립보건원NIH에서 박사후연구원으로 유학했다. 2008년 한국으로 돌아와 가천대 의대에서 근무 중이다. 2016년부터 도쿄대학교 대학원 공학계 연구과와 하버드 대학교 의과대학 및 매사추세츠 종합병원 초빙부교수를 역임했다.
전문 분야는 분자 및 임상내분비학이며 주로 희귀질환의 유전체 변이에 의한 병인 규명에 대해 연구하고 있다. 의학, 과학, 공학의 융합 가치를 높이 여기고 이를 실천하기 위해 동분서주하고 있다. 이 모든 것들의 시작과 끝에는 사람에 관한 관심과 사랑이 있음을 깊이 깨닫는 중이다.

추천사 미래 인공지능의 세계에 도덕이 필요하다 (윤성로, 서울대학교 전기정보공학부 교수)
추천사 인공지능에게 어떻게 도덕을 가르칠 것인가 (이일학, 연세대학교 의과대학 의료법윤리학과 교수)

저자 한국어판 서문

 역자 서문 곧 도덕적 판단이 가능한 인공지능이 출현할 것이다

프롤로그

 첫 번째 강의: ‘사람을 죽여서는 안 된다’는 도덕은 보편적인가?
로봇에게 ‘선악 판단’을 가르치려면 어떻게 해야 하는가?
사회가 살인을 권장하는 경우도 있다?
 *첫 번째 강의 정리와 연습문제

두 번째 강의: 지금까지의 도덕사상을 분류해보자
 과거의 도덕사상을 둘로 분류하자
 사회 중심 사고에는 무엇이 있는가?
사회 중심 사고를 좀 더 조시화해보자
 개인 중심 사고에는 무엇이 있는가?
개인 중심 사고를 좀 더 조시화해보자
 그 밖의 개인 중심의 도덕사상에는 무엇이 있을까?
더욱 복잡해지는 근현대사상
 사회 중심 사고와 개인 중심 사고의 한계
*두 번째 강의 정리와 연습문제

세 번째 강의: 대체 ‘사람을 죽여서는 안 된다’에서 ‘사람’이란 누구인가?
도덕의 구조는 어떻게 되어 있는가
 대체 ‘사람’이 의미하는 것은 무엇일까?
그럼 ‘자기편’이란 무엇일까?
인간에게도 동물에게도 공통된 ‘진짜’ 자기편
 인간 고유의 ‘가상 자기편’
가상 자기편을 가능케 하는 ‘언어’
인간 언어의 기본적인 특징
‘말의 사용’과 사회성
*세 번째 강의 정리와 연습문제

네 번째 강의: 도덕을 모델화해보자
 도덕은 공통 규율과 개별 규율로 이루어져 있다
‘공통 규율’과 ‘개별 규율’을 하나로 묶는 ‘도덕의 기본 원리’는 없을까?
로봇에 탑재해야 할 도덕엔진이란?
 *네 번째 강의 정리와 연습문제

다섯 번째 강의: 도덕의 계층을 분류해보자
‘도덕’과 ‘욕망’은 대립하는 것인가?
매슬로의 ‘욕구 5단계설’과 그 한계
 새로운 욕망 분류 체계를 생각해보자
 우리의 도덕적 차원은 어느 정도인가?
도덕적 차원은 장치로 측정할 수 있다
*다섯 번째 강의 정리와 연습문제

여섯 번째 강의: 로봇에 도덕엔진을 탑재해보자
 도덕 알고리즘의 기본적 구성
 도덕 알고리즘의 현실적 구성
 도덕 알고리즘의 이상적 구성
*여섯 번째 강의 정리와 연습문제

에필로그

 연습문제 힌트