인간적 AI를 위하여

“AI 채용관이 당신을 불합격시킨다면 인정하겠는가?”

“AI가 인간의 결정을 바꾸는 것은 긍정적인가?”

AI에 관한 모든 의문에 명쾌한 해답을 줄 최고의 책!

우리의 기술은 행동을 명시적으로 지정하는 소프트웨어에서 예시를 학습하는 머신 러닝으로 이동하고 있습니다. 그들이 올바른 예시를 올바르게 학습하고, 우리가 원하는 방식으로 행동할 것이라 어떻게 확신할 수 있을까요? - 저자가 언론사 인터뷰에서 남긴 말.

AI와 인간의 관계가 어떻게 흘러갈지에 대한 궁금증이 최고조인 지금, 《인간적 AI를 위하여》는 그 궁금증에 꼭 필요한 지식과 해답을 제공한다. AI 시대를 맞아 우리가 진정으로 주목해야 할 점이 무엇인지, 실제로 어떤 행동을 해야 하는지를 과학과 철학까지의 관점을 정리해 제시하기 때문이다. 과학과 철학의 관점을 쉽게 전달하기 위해, 저자는 가장 원초적인 질문을 과학자와 철학자에게 던지는 방식으로 책을 진행한다. “AI 채용관이 당신을 불합격시킨다면 인정하겠는가?”, “AI가 인간의 결정을 바꾸는 것은 긍정적인가?” 우리가 가장 궁금해할 질문들 아닌가? 그 답이 이 책에 있다. 그 답을 내놓는 과정에 대한 생생한 사례도 담았다.

‘단어 임베딩’ 툴을 불러내 아무 단어나 입력하기 시작했어요. 나는 내 랩톱으로 했고, 애덤도 따라 했죠.” 그때 일이 벌어졌다. 그들은 이렇게 입력했다. “의사-남자+여자” 답은 이랬다. “간호사” 칼라이는 말했다. “우리는 충격을 받았고, 문제가 있음을 깨달았어요. 더 깊이 파고들자 문제가 더욱 심각하다는 것이 드러났어요.” 다시 시도해 봤다. “상점 주인-남자+여자” 돌아온 답은 이랬다. “가정주부”(“서문” 중에서)

《인간적 AI를 위하여》는 총 3부로 진행된다. 1부에서는 인간의 의도와 설계를 벗어난 AI의 사례를 들면서, AI 설계의 ‘복잡성’에 얽힌 어려움과 해결 시도를 소개한다.

2부에서는 AI의 학습을 이야기한다. 우리가 익히 아는 ChatGPT 등의 AI가 어떻게 학습하는지, 더욱 효과적인 학습을 위해 인간이 어떠한 시도를 하는지 소개한다. 그 시도는 진화, 인간의 동기까지 고려해야 하는 섬세한 작업이므로, 철학에 대한 논의와 이해가 필요하다.

3부에서는 AI가 낸 결과와 학습이 ‘공정하고 도덕적’이기 위해 노력하는 인간의 이야기를 담는다. 글과 말로 모두 열거할 수 없는, 인간의 온갖 규범과 가치를 AI에 심는 인간의 모든 도전을 담았다.

“AI, 인간보다 똑똑하되 능가하지 않아야 한다!”

지금 우리에게 가장 필요한 AI 전망서

그렇다면 궁금할 수 있다. AI가 가져오는 미래는 유토피아인지, 디스토피아인지 말이다. 미리 공개하자면 “AI를 둘러싼 과학과 철학은 우리 생각보다 더 치열하게 고민하고, 섬세하게 작업한다”는 것이다. AI 개발과 실행에서 생기는 온갖 문제를 돌아보고 저자가 내린 결론이다. “AI가 인간보다 똑똑하되 능가하지 않기” 위한 도전은 진행 중이고, 멈추지만 않는다면 유토피아가 될 것이라는 이야기다.

그럼 우리가 할 일은 무엇일까? 더 높은 인간성과 도덕성을 효과적으로 AI에 학습시키는 능력을 어떻게 키울 것인지를 고민해야 한다. 인간의 가치를 학습하고 구현하는 ‘인간적인 AI’ 개발은 결국 우리에게 달렸기 때문이다. AI가 써 나갈 미래에서 인간의 자리가 어디인지, 어디까지 앉을 수 있는지에 대한 노력을 읽는다면, 인간의 미래는 밝다. 그 노력을 어떻게 해야 하는지가 바로 이 책에 있다.

지은이 : 브라이언 크리스천

브라운대에서 컴퓨터과학과 철학을 공부하고 워싱턴대에서 문학 석사 학위를 받았다. 기술과 사회, 문화, 인공지능 및 심리 분야의 저술가로 촉망받고 있다. 구글, 마이크로소프트, 런던정치경제대 등에서 강의한 바 있으며 〈월스트리트저널〉, 〈가디언〉, 〈와이어드〉 등의 대중매체와 〈인지과학〉, 〈파리 리뷰〉를 비롯한 전문 저널에도 기고 중이다. 우리나라에 번역된 저서로는 《알고리즘, 인생을 계산하다》가 있다.

옮긴이 : 이한음

서울대에서 생물학을 공부했다. 우리나라를 대표하는 과학 전문 번역가이자 과학 전문 저술가로 활동하고 있다. 전문적 과학 지식과 인문적 사유를 바탕으로 케빈 켈리, 리처드 도킨스, 에드워드 윌슨, 리처드 포티, 제임스 왓슨 등 저명한 과학자의 대표작을 번역했다. 지은 책으로는 《바스커빌가의 개와 추리 좀 하는 친구들》, 《생명의 마법사 유전자》, 《청소년을 위한 지구 온난화 논쟁》 등이 있으며, 옮긴 책으로는 《우리는 왜 잠을 자야 할까》, 《노화의 종말》, 《생명이란 무엇인가》, 《어떻게 인간과 공존하는 인공지능을 만들 것인가》 등이 있다.

프롤로그 / 서문

1부_예언들(“인간은 AI가 학습하는 세계를 잘 표본화하는가?”)

1장_표현

2장_공정

3장_투명성

2부_행위자(“현실 세계와 AI 세계를 정렬하기 위해 인간은 어떤 노력을 하는가?”)

4장_강화

5장_조형

6장_호기심

3부_규범성(“AI의 발전을 위해 인간에게 필요한 자격은 무엇인가?”)

7장_모방

8장_추론

9장_불확실성

결론 / 고마움의 말 / 주 / 참고문헌