도덕적인 AI

기계가 인간의 도덕을 이해할 수 있을까?

컴퓨터가 프라이버시를 존중할 수 있을까?

인공지능을 안전하고 공정하게 만들려면 어떻게 해야 할까?

세계적인 철학자, 신경과학자, 컴퓨터과학자가

함께 쓴 독창적이고 균형 잡힌 ‘AI 윤리’ 입문서

독창적이고 균형 잡힌 ‘AI 윤리’ 입문서

“수 세기에 걸친 노력에도 불구하고 인간은 도덕적 실수를 막을 방법을 찾지 못했다. 어쩌면 이상화된 도덕적인 AI는 그 실수를 피할 수 있을지 모른다.” ≪도덕적인 AI≫는 ‘AI 윤리’ 분야에서 세계적으로 손꼽히는 철학자, 신경과학자, 컴퓨터과학자 셋이 함께 쓴 책이다. 인공지능에 대한 지나친 낙관론과 두려움 사이에서 균형을 잡아주는 책이자, 윤리적인 AI 개발과 사용을 고민하는 사람들을 위한 최신 안내서다. 딥페이크, 자율주행차, 자율무기, 의료 로봇 등 격변하고 있는 AI 기술의 최신 연구를 망라하면서 알고리듬의 편향, 프라이버시 침해, 사고의 책임 문제 등 인공지능을 둘러싼 새로운 윤리 문제를 흥미로운 사례와 함께 제시한다. 특히 인간의 ‘도덕성’을 탑재한 인공지능의 개발이라는 독창적인 아이디어를 제안하면서, 그동안 사람의 생명과 신체의 안전 및 기본권 보호에 중점을 두고 논의됐던 ‘AI 윤리’ 담론을 인간의 도덕적 실수를 예방하는 기술 도구의 개발과 활용으로까지 범위를 확장한다.

AI 기술의 사용에 대한 저자들의 입장은 명확하다. “목욕물을 버리다가 ‘AI 아기’까지 버려서는” 곤란하다는 것. 이미 혜택이 증명된 AI의 개발을 중단하는 것은 오히려 ‘부도덕’할 수 있다는 생각이다. 지금은 AI 기술을 쓸지 말지 논쟁할 때가 아니라, AI가 초래할 잠재적 편익과 위험을 면밀하게 파악하고, AI 기술과 맞물린 도덕적 가치의 문제들(안정성, 공정성, 프라이버시, 투명성, 자유, 기만)을 어떻게 해결해나갈지 지혜를 모을 때라고 주장한다.

총 7장으로 구성된 이 책은, 전반부에서 주로 인공지능의 개념과 작동 원리, 그 기술의 적용 사례와 윤리적 쟁점을 검토하고 있으며, 후반부에서는 주로 ‘도덕적인 AI’의 기술을 어떻게 구현할 수 있는지 소개하고, 한편 AI 제품을 윤리적으로 만들기 위한 구체적인 실천 방안을 제시한다. AI 기술의 새로운 트렌드와 윤리적 논쟁에 관심 있는 독자, ‘AI 윤리’를 제품 개발에 적용하기 위해 치열하게 고민 중인 IT업계 종사자, 그리고 우리 사회를 더 공정하고 민주적으로 이끌 수 있는 도구로서 AI를 어떻게 활용할 수 있을지 고민하는 시민들 모두에게 요긴한 안내서가 될 것이다.

지은이 : 월터 시넛암스트롱 Walter Sinnott-Armstrong

철학자, 윤리학자. 듀크대학교 철학과 실천윤리학 교수. 같은 대학교에서 로스쿨과 심리학 및 신경과학과의 겸임교수를 맡고 있으며, 인지신경과학센터와 뇌과학연구소 등에서도 일한다. ‘사회적·문화적·신경과학적·생물학적 요인이 우리의 도덕적 태도·결정·판단을 형성하는 방식’을 주제로 학제 간 연구를 실행하는 ‘도덕적 태도와 결정 연구소MAD LAB’를 함께 이끌고 있다. 도덕심리학 및 뇌과학이 주요 연구 분야이며, 윤리학의 광범위한 주제들에 관해 글을 썼다. 대표작으로 《씽크 어게인》(해냄, 2020) 《신이 없는 도덕?》 《도덕심리학》 《도덕적 회의론》 등이 있다.

지은이 : 재나 셰익 보그 Jana Schaich Borg

신경과학자, 데이터과학자. 듀크대학교 사회과학연구소 조교수. ‘도덕적 태도와 결정 연구소’의 공동 소장이다. 학제 간 연구를 통해 신경 영상, 뇌피질전도, 비디오 상호작용에 대한 컴퓨터 분석과 같은 고차원 다중모드 데이터를 분석하는 새로운 통계적 접근법을 개발하여, 어떻게 뇌가 복잡한 사회적 정보를 내부적 신호와 통합하여 사회적 행동에 동기를 부여하는지 탐구한다.

지은이 : 빈센트 코니처 Vincent Conitzer

컴퓨터과학자, 게임이론가. 미국 카네기멜론대학교의 컴퓨터과학 교수이자 ‘협력적 AI 연구소FOCAL’ 소장. 옥스퍼드대학교에서 AI윤리연구소의 AI 기술책임자와 컴퓨터과학 및 철학 교수로도 일한다.

옮긴이 : 박초월

과학 도서 번역가. 인하대학교 물리학과를 졸업하고 서울대학교 과학학과에서 서양과학사를 전공해 석사 학위를 받았다. 출판 편집자로 일하며 책을 만들다가 글을 옮기기 시작했다. 옮긴 책으로 《무한한 가능성의 우주들》 《블랙홀에서 살아남는 법》 《무엇이 우주를 삼키고 있는가》 《나와 퓨마의 나날들》 등이 있다.

들어가며

서론 | 무엇이 문제인가?

1장 인공지능은 무엇인가?

‘좁은 AI’, ‘범용 AI’, ‘강한 AI’ - 도전 과제를 선택하라 ｜ 퀴즈쇼를 준비할 때 알아둘 만한 단어: GOFAI ｜ 기계가 학습하도록 가르치기 ｜ 심층학습과 신경망은 어떨까? ｜ 어느 AI가 지능적인가? ｜ 오늘날 AI가 부족한 점 ｜ AI가 하지 못하는 일을 알아내는 것이 갈수록 어려워지고 있다 ｜ 오늘날 AI는 누가 만들고 있을까?

2장 인공지능은 안전할 수 있을까?

AI와 함께 사는 삶은 과연 과학소설에 나올 법한 끔찍한 공상일까? ｜ 오늘날 AI를 둘러싼 안전 문제 ｜ 몇 가지 사례 연구 ｜ 예측 가능한 예측 불가능성

3장 인공지능은 프라이버시를 존중할 수 있을까?

프라이버시는 무엇인가? ｜ 프라이버시에 신경을 써야 하는 이유는 무엇인가? ｜ AI는 어떻게 프라이버시를 침해하는가? ｜ AI 생태계는 개인 데이터의 비축과 판매를 조장한다 ｜ AI 위협으로부터 프라이버시를 보호하려면 어떻게 해야 할까? ｜ 우리는 프라이버시를 소중히 여기는가?

4장 인공지능은 공정할 수 있을까? … 157

정의란 무엇인가? ｜ 누가 재판 전에 감옥에 가는가? ｜ 인간 판사 대 AI: 누가 더 정확한가? ｜ 공정성을 명시하기 ｜ 인간 판사 대 AI: 누구의 편향이 더 심한가? ｜ 절차적 정의는 어떨까? ｜ 해석 가능성이 문제를 해결해줄까? ｜ 공정한 AI

5장 인공지능에 (혹은 AI 제작자와 사용자에게) 책임을 물을 수 있을까?

책임이란 무엇인가? ｜ 인간 운전자에게 책임이 있을까? ｜ 보행자에게 책임이 있을까? ｜ AI 관여자들에게 책임이 있을까? ｜ 우버에 책임이 있을까? ｜ 애리조나주 정부에 책임이 있을까? ｜ 인공지능에 책임이 있을까? ｜ 책임 공백

6장 인공지능에 인간의 도덕성을 탑재할 수 있을까?

하향식 도덕성은 어떨까? ｜ 상향식 도덕성은 어떨까? ｜ 두 방법의 장점을 취합하기 ｜ 누가 신장을 받을 것인가? ｜ 신장 분배 AI에 도덕성을 탑재하는 방법 ｜ 인공적으로 개선된 민주주의

7장 우리는 무엇을 할 수 있을까?

AI 제작 과정의 복잡 미묘한 상황 ｜ 도덕적인 AI에서 원칙과 실천 사이의 간극이 발생하는 이유는? ｜ 도덕적인 AI의 원칙과 실천 사이의 간극을 좁히려면 무엇을 해야 할까? ｜ 첫 번째 행동 촉구 제언 ｜ 두 번째 행동 촉구 제언 ｜ 세 번째 행동 촉구 제언 ｜ 네 번째 행동 촉구 제언 ｜ 다섯 번째 행동 촉구 제언 ｜ 큰 그림

결론 | 우리에게 달려 있다

주

찾아보기