무책임한 AI - 사소한 오류부터 치명적 위협까지 -

인간을 대신하여 결정할 권한을 넘겨 받은 AI

무책임한 AI ‘때문에’

무고한 시민이 체포되거나, 유죄 판결을 받거나,

심지어 목숨까지 잃고 있다

정말 AI 때문일까?

눈도 코도 입도, 심지어 마음도 없는 AI. 하지만 인간은 왜 이토록 AI를 신뢰하고, AI의 결정이라면 아무런 반박도 하지 않고 따르려고만 하는가? AI를 창조해낸 것이 바로 인간이라는 점을 고려해봤을 때 이런 AI 맹종 현상은 설명이 불가할 정도로 신기한 부분이 있다.

AI 맹종이라는 말에 동의하기 어려운가? 그렇다면 현재 AI가 처리하고 있는 일의 범주를 살펴보자. 거의 ‘전능하다’라고 할 정도다! 취업 서류심사, 채용 면접, 은행 대출 심사, 법원 판결 보조, 범죄 리스트 등재, 테러리스트 색출, 자율주행차 운행... 인간들이 하고 있는 일을 몽땅 AI에게 던져버렸나 싶을 정도로 일의 종류도 다양하지만, 심지어 인간의 목숨을 좌지우지하는 일까지 AI가 맡고 있다는 점은 놀라울 정도다.

AI 때문에 사라지거나 사라질 인간의 직업 리스트는 지금도 계속 업데이트 중이며, 사람과 AI와의 ‘경쟁’에서 사람이 패배하는 것은 불을 보듯 뻔하다는 서사가 계속해서 확산하고 있다. 이것은 마치 ‘인간이 AI보다 더 열등하고 더 부정확하며 오류가 잦다’라는 전제가 참이라는 것처럼 들린다. 하지만 과연 그럴까?

이 책은 현재 지구촌에 무차별적으로 확산되는 AI 맹신 현상을 구체적인 사례들을 통해 ‘역시 AI는 기계에 불과하며 인간의 철저한 관리 감독을 통해서만 제 기능을 발휘할 수 있다’라며 바로잡아 주는 역할을 한다. 뿐만 아니라, 우리가 ‘내 탓이 아니에요, AI가 그랬어요’라고 요리조리 책임을 회피하며 방패막이로 이용하던 AI에서 방패의 지위를 빼앗고, ‘모든 무거운 책임은 인간에게 있다’라는 아프지만 진실인 명제를 마주하게 한다.

저자인 카트리나 츠바이크는 오류를 저지르는 AI와 그것을 맹신하는 인간의 마음속 현상을 직접 다루지는 않는다. 하지만 구체적이고 능수능란한 단계적인 사례 제시를 통하여, 인간의 심연에서 어떤 일이 벌어지고 있을지를 마치 추리소설을 읽으면서 범인을 예상할 때처럼 독자가 스스로 유추해 나가도록 이끈다.

지은이 : 카타리나 츠바이크 Katharina Zweig

독일 RPTU 카이저슬라우테른-란다우 대학교 컴퓨터과학 교수이자 사회정보과학 연구소장을 맡고 있다. 컴퓨터과학, 생명정보학, 철학을 두루 공부한 그는 알고리즘과 사회적 맥락의 상호작용을 연구하며, 독일 의회·EU 집행위의 기술 자문을 맡아왔다. 저명한 과학 커뮤니케이터이자, 학문과 사회를 연결하는 정보과학자다. 독일연구재단(DFG) 커뮤니케이터상을 비롯한 여러 상을 수상했고, 라인란트팔츠 주 인공지능 홍보대사이자 AI 자문 스타트업 “Trusted AI GmbH”의 공동 설립자이다. 이외 여러 연방 부처에서 전문가로 활동하고 있으며, 2018년부터 2020년까지 독일 연방하원의 ‘인공지능’ 조사위원회 위원으로 참여했다. 여러 매체에서 강연을 하는 등 대중을 상대로도 활발한 활동을 펼치고 있다. 2019년 출간한 《무자비한 알고리즘》은 장기간 슈피겔지 베스트셀러 목록에 올랐다.

옮긴이 : 유영미

연세대학교 독문과와 동 대학원을 졸업한 뒤 전문 번역가로 활동하고 있다. 《부분과 전체》 《왜 세계의 절반은 굶주리는가?》 《무자비한 알고리즘》 《제정신이라는 착각》 《가문비나무의 노래》 《바이올린과 순례자》 《인간은 유전자를 어떻게 조종할 수 있을까?》 《우리에겐 과학이 필요하다》 등 다수의 베스트셀러를 우리 말로 옮겼다. 2001년 《스파게티에서 발견한 수학의 세계》로 과학기술부 인증 우수과학도서 번역상을 수상했다.

1장 인공지능이 판단하는 세상

1부 기계는 어떻게 결정을 내리는가

2장 알고리즘의 성차별

3장 정보과학의 작은 ABC

4장 기계는 신용도를 평가하는 법을 어떻게 배울까?

알고리즘, 휴리스틱, 그리고 모델

5장 1부 요약

2부 인공지능이 만들어낸 문제들

6장 얼굴을 인식할 수 없습니다

7장 억울하게 체포된 남자

8장 왜 나는 집을 찾을 수 없을까?

9장 내 돈은 어디 갔지?

10장 인스타그램에서 우울증을 감지하는 법

11장 챗지피티는 왜 나를 히틀러의 오른팔로 만들까?

12장 일레인 허츠버그는 왜 죽어야 했을까?

13장 2부 요약

3부 왜 이렇게 되었는지 알아야 할 때

14장 검증 가능한 결정과 검증 불가능한 결정

15장 언어행위는 언제 성공하는가?

16장 컴퓨터가 내 글에 점수를 매길 수 있을까?

17장 계정이 갑자기 정지된 이유

18장 내가 테러리스트라고?

19장 인공지능과 ‘일반적인 절차’의 학습

20장 가치판단이 자동화될 수 있을까?

21장 3부 요약

4부 우리는 앞으로 어떻게 결정을 내릴 것인가?

22장 자동화된 의사결정 시스템을 활용하면 어떤 점이 더 나을까?

23장 나의 알고리즘을 언제 사용할 수 있을까?

24장 영리한 한스, 어떻게 그렇게 할 수 있니?

25장 이의 제기는 가치가 있다

26장 4부 요약

주