AI 윤리에 대한 모든 것

세계적인 기술철학자 마크 코켈버그가 안내하는

AI 윤리에 대한 모든 것

AI와 관련한 윤리적 쟁점을 포괄적이고 체계적으로 망라한 최고의 길잡이

MIT 출판부의 ‘필수 지식 시리즈’ 중 하나인 AI Ethics(2020)를 옮긴 『AI 윤리에 대한 모든 것』은 현대판 '프로메테우스의 불'로 일컬어지는 인공지능 기술과 관련한 윤리적 쟁점을 포괄적이고 체계적으로 망라하는 가운데 그에 대한 실천적 대응 방향을 제시한 책이다. 18세기 산업혁명의 뒤를 이어 AI 기술의 눈부신 혁신과 함께 도래한 ‘제2의 기계 시대’는 AI에 대한 깊은 감탄과 실존적 두려움이라는 상반된 감정을 동시에 불러일으키고 있다. 오늘날 AI는 이미 운송, 마케팅, 건강관리, 금융과 보험, 보안, 군사, 과학, 교육, 사무, 엔터테인먼트, 예술, 농업, 제조업 등 많은 영역에서 활용되고 있으며, 심지어 법원의 의사 결정이나 치안에도 사용되고 있다. 바야흐로 기계가 인간을 ‘보완’하는 수준을 넘어 ‘대체’하는 수준으로까지 진화하면서 공상과학소설에서나 묘사된 장면은 이제 현실 세계로 들어오게 되었다.

이러한 전례 없는 기술적 도약은 인류의 자기 이해에 심대한 도전을 제기했을 뿐만 아니라, 여러 가지 윤리적, 사회적, 정치적 이슈를 야기했다. 이를테면 기계가 인간의 지능을 능가할 것이라는 발상이 담긴 ‘초지능’이나 ‘기술적 특이점’ 같은 개념은 인간 예외주의 혹은 인본주의에 대한 우리의 오래된 믿음을 그 뿌리부터 뒤흔들고 있으며, 그로 인해 AI가 인간의 삶을 장악하고 위협할 수 있다는 공포를 불러일으키는가 하면, 자율 주행 자동차나 자율 살상 무기에는 도덕적 책임을 어떻게 부여해야 하는지, 무엇인가 일이 잘못되면 누가 책임져야 하는지 같은 질문을 던지게 한다. 또한 AI로 인한 개인 정보 침해나 전체주의의 위험성, 사회적 불평등이나 편견 강화에 대한 우려 또한 꾸준히 제기되고 있다. 이와 같이 새로운 기술로 인해 의도하지 않은 결과가 초래될 수도 있다는 점에서 AI는 ‘오펜하이머의 원자탄’에 비견되기도 한다.

이 책은 AI를 둘러싼 수많은 과장된 서사를 넘어 AI 윤리와 관련한 거의 모든 문제와 쟁점을 다양한 각도에서 입체적으로 다룬다는 점에서 우리가 직면한 새로운 기술 세상을 한층 폭넓은 시선으로 조망하게 한다. AI 열풍과 함께 AI 윤리를 다룬 책들이 국내에도 이미 여럿 나와 있지만, 특정한 문제만을 다루거나 교양 차원에서 가볍게 읽을 만한 것들이 대부분이다. 주제의 범위나 문제를 다루는 방식에서 상당히 종합적이고 체계적이며 정확하여 다른 책들과 뚜렷이 차별되는 이 책은 인간과 기계의 조화로운 공존을 위한 성찰적 화두를 던져 준다는 점에서 어느 때보다도 지금 여기의 우리에게 긴요하게 다가올 것이다.

현재 오스트리아 빈대학교에서 미디어 기술 철학을 가르치고 있으며, 철학과기술학회Society for Philosophy and Technology 전 대표이기도 한 저자 마크 코켈버그Mark Coeckelbergh는 인공지능을 비롯한 과학기술 관련 담론을 주도적으로 이끌고 있는 벨기에 출신의 세계적인 학자로, 우리 시대 기술철학 분야에서 가장 다재다능하고 깊이가 있으며 독창적인 사상가로 손꼽힌다. 유네스코 세계과학기술윤리위원으로 임명되어 정책 자문에도 참여하고 있는 그는 인간의 본성과 미래에 대한 깊이 있는 철학적 이해를 보여 주는 한편으로, 기술로 인해 야기되는 당면 문제들에 대해 정책적으로 어떻게 대응해야 할지를 제시하는 등 이론가이자 실천가로서의 면모를 이 책에서 두루 유감없이 보여 준다.

지은이 : 마크 코켈버그 Mark Coeckelbergh

인공지능을 비롯한 과학기술과 관련한 담론을 이끌고 있는 벨기에 출신의 세계적인 학자로, 오늘날 기술철학 분야에서 가장 다재다능하고 깊이가 있으며 독창적인 사상가 중 한 명으로 꼽힌다. 2007년에 네덜란드 생명윤리학회상을 받았고, 2014년에 기술철학 석사 프로그램 최우수 강사로 임명되는 등 전 세계적으로 명성을 쌓아 가고 있다. 영국 드몽포트대학교에서 기술과 사회적 책임에 대해 가르쳤으며, 현재는 오스트리아 빈대학교에서 미디어와 기술 철학 교수로 재직 중이다. 저서로 『성장하는 도덕적 관계』, 『인간 존재@위험』, 『환경 기술』, 『돈 기계』, 『뉴 로맨틱 사이보그』, 『무브드 바이 머신』, 『기술철학 입문』 등이 있다.

지은이 : 마크 코켈버그 Mark Coeckelbergh

인공지능을 비롯한 과학기술과 관련한 담론을 이끌고 있는 벨기에 출신의 세계적인 학자로, 오늘날 기술철학 분야에서 가장 다재다능하고 깊이가 있으며 독창적인 사상가 중 한 명으로 꼽힌다. 2007년에 네덜란드 생명윤리학회상을 받았고, 2014년에 기술철학 석사 프로그램 최우수 강사로 임명되는 등 전 세계적으로 명성을 쌓아 가고 있다. 영국 드몽포트대학교에서 기술과 사회적 책임에 대해 가르쳤으며, 현재는 오스트리아 빈대학교에서 미디어와 기술 철학 교수로 재직 중이다. 저서로 『성장하는 도덕적 관계』, 『인간 존재@위험』, 『환경 기술』, 『돈 기계』, 『뉴 로맨틱 사이보그』, 『무브드 바이 머신』, 『기술철학 입문』 등이 있다.

옮긴이 : 석기용

성신여자대학교 교양학부 교수로 재직 중이며, 저서로 『비판적 사고와 토론』(공저)이 있고, 역서로는 『정보철학 입문』, 『낭만주의의 뿌리』, 『편견』, 『좌절의 기술』, 『비트겐슈타인과 세기말 빈』, 『난파된 정신』, 『그리고 나는 스토아주의자가 되었다』, 『삶의 품격에 대하여』, 『사이보그 시티즌』 등이 있다.

1장 거울아 거울아

인공지능에 대한 과장과 두려움: 거울아, 거울아, 우리 중 누가 가장 똑똑할까?|AI의 영향력|윤리적, 사회적 문제에 대한 논의를 위하여

2장 초지능, 괴물, 인공지능 묵시록

초지능과 트랜스휴머니즘|프랑켄슈타인의 새로운 괴물|초월과 인공지능 묵시록|경쟁 서사와 과장된 이야기를 넘어

3장 인간에 관한 모든 것

일반 인공지능은 가능한가?|근대성, (포스트)휴머니즘, 포스트현상학

4장 단지 기계?

AI의 도덕적 지위|도덕 행위주체성|도덕적 피동성|더 실천적인 윤리적 문제를 향하여

5장 기술

인공지능이란 무엇인가?|다양한 접근 방식과 하위 분야|적용과 영향

6장 데이터 (과학)을 잊지 말자

기계 학습|데이터 과학|응용

7장 프라이버시와 기타 유력 용의자들

프라이버시와 데이터 보호|조작, 착취, 취약한 사용자|가짜 뉴스, 전체주의의 위험성, 그리고 개인 관계에 미치는 영향|안전과 보안

8장 책임 없는 기계와 설명할 수 없는 결정

우리는 도덕적 책임을 어떻게 부여할 수 있을까?|투명성과 설명 가능성

9장 편향과 삶의 의미

편향|일의 미래와 삶의 의미

10장 정책 제안

해야 할 일과, 정책 입안자들이 답해야 할 질문들|윤리적 원칙과 정당성|기술적 해결책 및 방법과 운영의 문제

11장 정책 입안자들의 과제

선제적 윤리|실천 지향과 상향식|긍정적 윤리를 향해|간학문적 연구와 학제 초월성|AI 겨울의 위험과 무분별한 AI 사용의 위험성

12장 문제는 기후야, 바보야!

AI 윤리는 인간 중심적이어야 할까?|우선순위 올바르게 정하기|AI, 기후 변화, 인류세|새로운 우주 열풍과 플라톤적 유혹|지구로의 귀환|지성과 지혜를 찾아서

감사의 말

주석

옮긴이의 말

용어 해설

참고 문헌

추천 자료