윤리적 AI로봇 프로젝트

인공지능 로봇이 제기하는 윤리적인 이슈들에 대한
 그 동안의 연구 성과를 모아 놓은 저서!

AI로봇의 윤리와 AI로봇에 대한 윤리, 윤리적 AI로봇을 위한 윤리를 다루며 윤리적인 문제들에 대한 다양한 연구 성과를 통해 앞으로 AI의 윤리적인 문제를 고려하는 중요한 기초를 마련하다.

알파고의 등장으로 앞으로 사라지게 될 직업군과 각광받을 직업군에 대한 예측이 제시되면서 인공지능 시대로 우리의 불안한 심정이 드러난다. 우리는 자율주행자동차의 운행으로 인해 새로운 변화에 대한 호기심을 드러내면서도 교통사고에 대한 의문을 제기한다. 이러한 의문은, 자율적인 인간이 차량 운행 상황에서 판단하는 사고 구조를 분석하고 이것을 형식화하여 판단을 내릴 수 있는 사고 모듈을 개발하여 자동차에 탑재한다면 자율주행자동차는 자동성이라고 판단하기 어려워지기 때문이다. 운전자의 운전 습관에 대한 정보를 학습하여 자율주행 운행에 반영한다면 단순한 자동화로 보기 힘들어질 것이다.
그러나 자동성과 자율성을 동일한 범주에서 이해하는 것에 대한 적절성보다 AI로봇 기술이 복잡한 자동화 과정을 거치면서 자율성의 외양을 갖추는 데에 주목한다면 인간이 허용한 범위 내에서 로봇은 위임된 자율성을 가질 것이다. 위임된 자율성을 가진 로봇은 ‘행위자’로서 행위자의 자격(person as agent)으로 어떤 권리를 부여받으며 행위와 관련된 책임을 어떻게 부담할 수 있을까.
AI로봇의 도덕적 권리 문제는 도덕적 행위능력(자율성)과 도덕과 관련된 이해 관심이라는 주제로 논의해 볼 수 있다. 앞으로 AI로봇이 개발하고 변화하면서 도덕적 ‘행위능력’자에서 ‘도덕적 행위’ 능력자로 변할 수도 있다.
최근 IEEE에서는 인공지능이나 로봇이라는 용어 대신에 자율적/지능적 시스템(autonomous/intelligent system, A/I S)이라는 표현을 채택하고 있는데, AI로봇윤리는 AI로봇의 인공성(Artificiality), 즉 인간의 설계와 제작에 의해 생성되고 속성이 결정된 산물이라는 것과 그럼에도 불구하고 AI로봇이 현상적으로는 행위주체성 내지 자율성(agency or autonomy)을 가지고 있는 것처럼 보인다는 이중성의 인식에서부터 시작된다. 인공지능 시대에 우리는 AI로봇의 윤리적 문제를 고려해보지 않을 수 없다.
이 책의 1부에서는 AI로봇의 인식, 결정, 실행의 기준과 관련된 초기에 아시모프류의 윤리 원칙의 형태로 제시되었다가 최근에 제기되는 AI로봇에 대한 윤리, 즉 AI로봇의 설계나 제작, 사용을 위한 윤리적 가이드라인의 형태로 제시되는 경향을 다룬다.
2부에서는 AI로봇을 위한 윤리 모듈을 개발하기 위해 AI로봇의 도덕성 유형을 구분한다. AI로봇의 도덕성 유형을 구분하고 앞으로 제기될 윤리 인증제를 대비하기 위해 모럴튜링테스트(Moral Turing Test) 작업을 위한 이론적 토대를 마련한다.
끝으로 3부에서는 자율주행자동차, 수술로봇, 의료용 케어로봇 등과 관련된 다양한 문제들을 다룬다.

지은이 소개

◆ 변순용
 서울교육대학교 교수

◆ 김은수
 동서울대학교 강사

◆ 김형주
 중앙대학교 교수

◆ 박보람
 교원대학교 강사

◆ 송선영
 경상대학교 교수

◆ 임상수
 경인교육대학교 교수

◆ 정진규
 한국외국어대학교 강사

◆ 최현철
 중앙대학교 교수  

서문

1부 AI로봇의 윤리와 AI로봇에 대한 윤리

 제1장 ◊ 로봇윤리의 이론적 기초
 제2장 ◊ 로봇윤리헌장의 필요성과 내용
 제3장 ◊ 인공지능로봇윤리의 4원칙에 대한 연구
 제4장 ◊ 인공지능 로봇과 인간의 관계에 대한 윤리적 성찰과 전망

2부 윤리적 AI로봇을 위한 시도

 제5장 ◊ 인공적 도덕 행위자(AMA) 개발을 위한 윤리적 원칙 개발
-하향식 접근(공리주의와 의무론)을 중심으로
 제6장 ◊ 10세 아동 수준의 도덕적 인공지능개발을 위한 예비 연구
-인공지능 발달 과정을 중심으로
 제7장 ◊ 인공적 도덕 행위자(AMA) 프로그래밍을 위한 논리 연구
 제8장 ◊ 모럴튜링테스트(Moral Turing Test) 개발의 이론적 토대
 제9장 ◊ 10세 수준 인공지능의 도덕성 판단 적용 기준에 관한 연구
 제10장 ◊ 10세 아동 수준의 도덕적 인공지능의 도덕성 판단 적용 기준에 관한 기초연구

3부 AI로봇의 현실적인 윤리적 쟁점

 제11장 ◊ 자율주행자동차의 윤리적 가이드라인에 대한 시론
 제12장 ◊ 자율주행자동차에 대한 한국형 윤리적 가이드라인
 제13장 ◊ 인간, 기술 그리고 건축 : AI로봇기술의 변화와 건축서비스산업
 제14장 ◊ 로봇과 인공지능 시대의 시민윤리와 도덕교육적 함의
-인공지능형 로봇의 활용을 중심으로-
제15장 ◊ 수술 로봇의 윤리적 쟁점
 제16장 ◊ 의료용 케어로봇과 환자 간의 서사와 공감 관계의 가능성
 제17장 ◊ 소비자 관점에서 본 AI로봇의 윤리문제