인공지능 윤리하다

로봇이나 자율주행자동차 그리고 데이터에 적용되는

인공지능, 윤리를 말한다

인공지능(AI)은 우리 생활에 이미 친숙하게 다가와서 쓰이고 있다. 이미 실생활에서 쓰이는 AI에 대해서 우리가 알아야 할 부분은 AI 윤리이다. AI는 특수한 속성을 지니는 인공물로서 도덕적·법적 책임을 질 수 있는 독립된 자율적 주체는 아니다. 그러나 인간의 설계와 제작에 의해서 생성된 산물인 인공지능은 행위주체성 내지 자율성(agency or autonomy)을 지닌 것처럼 지각될 수 있다. AI가 자율성을 지닌 듯이 지각될 수 있기에 우리는 인공지능을 윤리적으로 접근해야 한다.

AI 윤리는 과학기술이 발달함에 따라 현대사회에서 로봇이나 자율주행자동차 그리고 데이터에 적용되며 윤리학의 새로운 지평을 열었다. 윤리학의 새로운 연구과제인 AI 윤리는 실천윤리학에 속하지만 실천윤리와는 달리, 사태를 미리 짐작하여 발생 가능한 문제들에 관심을 두고 헤아려야 한다. 또한 인공지능은 인공물이지만 현상적 차원에서 자율적 주체인 것처럼 행위할 수 있기에 ‘위임된 자율성’ 혹은 ‘준 자율성’이라는 개념이 도출된다. 인공지능은 더욱 활용가능성이 높아질 것이며 그로 인한 문제들에 직면하게 될 것이다.

이 책은 AI 윤리에 대한 내용을 알기 쉽게 독자에게 설명한다. 제1장에서 AI와 AI 윤리의 의미로 기본개념을 잡고 제2장에서 SF 희곡인 차페크(K. ?apek)의 RUR을 해석한다. 제3장에서 AI 도덕성의 유형에 대해 짚으며 제4장에서 제7장에 걸쳐 AI의 윤리원칙, AI 윤리가이드라인의 경향, AI 윤리 인증제와 AI의 윤리인증 이원화 프로그램을 다룬다. 제8장에서 제16장에 걸쳐서 AI가 적용되는 사항들에 관하여 세부적으로 살펴본다. 우리의 삶에 밀접하게 다가서는 인공지능윤리는 미래를 준비하는 우리가 반드시 생각하고 대비해야 하는 과제 중 하나이다. 

1장 AI와 AI 윤리의 의미

1. 인공지능이란 무엇인가 - 13

2. 인공지능의 종류 - 15

3. 로봇의 의미 - 16

4. 인공지능과 로봇 - 19

2장 AI 인문학: 차페크(K. ?apek)의 RUR 해석

1. 차페크와 ‘로봇’의 탄생 - 21

2. 호모 파베르(Homo Faber)와 로봇 - 24

3. 인간-로봇 관계 변화의 중심, 인공지능 기술의 발전 - 27

4. 인공지능 시대를 어떻게 맞이해야 할까? - 30

3장 AI 도덕성의 유형: 모럴 튜링테스트

1. 튜링테스트란 무엇인가 - 33

2. 튜링테스트의 의의 - 36

3. 모럴 튜링테스트(MTT)의 가능성 - 41

4. 결론: 모럴 튜링테스트에 대한 비판과 대응의 선순환 - 61

4장 AI의 윤리원칙

1. 인공지능로봇의 윤리적 지위 - 65

2. 인공지능로봇을 위한 윤리원칙의 사례 - 67

3. 인공지능로봇의 윤리 원칙의 체계화 제안 - 76

4. 인공지능로봇윤리원칙의 응용, 조정 그리고 상세화를 위하여 - 81

5장 AI 윤리가이드라인의 경향

1. AI 윤리가이드라인의 필요성 - 83

2. 최신 AI 윤리가이드라인 사례 - 84

6장 AI 윤리 인증: 그 준거에 대한 논의

1. 윤리적 인공지능로봇을 위한 윤리인증제와 그 필요성 - 99

2. 각국의 윤리인증 준거와 내용 분석 - 103

3. 우리나라의 윤리인증제 도입을 위한 준거 - 114

4. 정리: 인공지능로봇의 윤리인증제 마련과 정착을 위하여 - 118

7장 AI의 윤리인증 이원화 프로그램

1. 들어가는 말 - 121

2. 윤리인증의 3가지 기준 - 122

3. 인공지능로봇의 도덕성 유형 - 125

4. 인공지능로봇에 대한 모럴 튜링테스트를 위한 설문분석 - 129

5. 나오는 말 - 135

8장 AI와 데이터: 편향성과 공정성의 문제

1. 편향과 편견 - 137

2. 데이터의 편향성 그리고 객관성과 공정성 - 141

3. 데이터 편향성 최소화를 위한 노력: 윤리인증프로그램 만들기 - 150

4. 데이터 윤리의 확립을 위하여 - 155

9장 AI와 저작권

1. 창작하는 인공지능 - 159

2. 창작하는 인공지능의 저작권 문제 - 161

3. 창작하는 인공지능의 대체 가능성 문제 - 163

4. 창작하는 인공지능과 우리의 미래 - 168

10장 영화에서 제기되는 AI의 문제

1. 영화와 로봇 공학의 관련성 - 171

2. 인간은 로봇과 어떻게 다른가? - 172

3. 윤리적인 로봇은 가능한가? - 175

4. 인간은 인공지능과 사랑에 빠질 수 있을까? - 179

5. 로봇은 인간과 공존할 수 있을까? - 182

11장 자율주행차의 AI가 내리는 결정의 기준을 어떻게 만들어야 할까?

1. 자율주행자동차의 발전 - 187

2. 자율주행자동차가 초래하는 윤리적 문제 - 190

3. 공리주의적 자동차 - 196

4. 의무론적 자동차 - 199

5. 윤리적인 자율주행자동차의 탄생을 기대하며 - 202

12장 자율주행자동차의 한국형 윤리가이드라인을 어떻게 만들어야 할까?

1. 들어가는 말 - 203

2. 자율주행자동차 윤리가이드라인 제정의 필요성 - 206

3. 자율주행자동차 윤리 문제 해소 방안 - 213

4. 한국적 자율주행자동차 윤리가이드라인의 기본틀과 핵심요소 - 217

5. 나오는 말: 자율주행자동차 윤리가이드라인 초안 - 222

13장 AI가 진단하고 수술한다면 의료사고가 안 일어날까?

1. 의료 수술 로봇의 의미와 발전 현황 - 227

2. 의료 수술 로봇을 둘러싼 윤리적 쟁점들 - 230

3. 의료 수술 로봇의 미래 - 242

14장 사람이 AI를 사랑할 수 있을까?

1. 섹스로봇이란 무엇인가 - 245

2. 섹스로봇을 둘러싼 찬반 논쟁 - 249

3. 섹스로봇이 초래하는 윤리적 문제 - 255

4. 섹스로봇과 우리의 미래 - 261

15장 사람 대신에 AI 간의 전쟁이 바람직할까?

1. 킬러로봇이란 무엇인가 - 263

2. 킬러로봇 개발을 둘러 싼 찬반 논쟁 - 266

3. 현실적인 수준에서 고려해볼 수 있는 킬러로봇의 윤리적 문제 - 270

4. 킬러로봇과 우리의 미래 - 275

16장 현대인의 외로움을 AI가 채워줄 수 있을까?

1. 소셜로봇이란 무엇인가 - 277

2. 의료용 케어로봇으로 활약하는 소셜로봇 - 280

3. 의료용 케어로봇이 제기하는 윤리적 문제들 - 282

4. 소셜로봇과 우리의 미래 - 287