AI의 함정과 이기적인 뇌

이 책을 쓰게 된 것은 대학 신입생 때인 1985년 전공분야인 심리학부의 ‘인공지능 실험실’에서 첫 호기심이 발동한 이래 언론사 기자로, 대학의 정책 집행자와 연구자로서 경험해온 일상의 AI(인공지능) 문제와 그에 대한 나의 생각을 총정리하기 위해서이다.
1985년 처음 보았던 AI 실험실의 풍경은 요란한 소리를 내며 끊임없이 데이터를 찍어내던 프린터, 그와 연결된 PC 몇 대가 전부였다. 그 데이터들이 무슨 내용인지는 학부 4년을 거치면서 점차 알게 되었다. 그리고 ‘뇌의 생리학’이란 과목 시험을 위해 뇌 구조도를 통째로 외워 그리기도 했다. 1976년 미국의 리처드 도킨스가 “인간은 유전자의 복제 욕구를 수행하는 이기적 생존 기계이며, 뇌의 기능은 데이터 처리, 패턴인식, 장·단기 데이터 축적, 작업 조정 등 내장 컴퓨터와 같다”라는 요지의 <이기적 유전자>를 발표한 지 9년째 되던 해로 국내 몇몇 대학이 AI 연구에 막 착수한 시점이었다.
출간 17년째인 1993년 국내에 처음 소개된 <이기적 유전자>는 인간은 ‘생존 로봇’, 뇌는 ‘프로그램이 내장된 ‘컴퓨터’, 유전자는 ‘컴퓨터 프로그래머’라고 규정하며 AI가 인간의 지능을 뛰어넘는 시대가 곧 도래할 것을 예언한다. 21년째인 1997년 IBM의 슈퍼컴퓨터가 ‘인간 체스 챔피언’ 개리 카스파로프를 이겼고, 40년째인 016년 구글이 개발한 AI ‘알파고’가 이세돌 9단을 꺾어 예언은 적중했다.
도킨스는 1976년 책 출간 시 “철학과 인문학들은 다윈이 존재하지도 않았던 것처럼 가르친다”며 이런 상황은 틀림없이 언젠가 달라질 것이라고 단언했다. 오늘날 현실화된 AI 주도의 4차 산업혁명에 대한 선구자적 확신이었다. 다윈의 ‘재림’이라고 불리는 과학자 도킨스의 통찰력에 감탄하는 것은 단지 예언적중 때문만은 아니다.
도킨스는 과학자답게 진화론이 초래한 결과물로서 이기주의와 이타주의의 생물학을 탐구하고자 했다. 인문학자들과 달리 인간의 정신작용과 정서기능도 과학 안에서 구조, 원인, 결과에 대한 고찰·분석이 가능하다고 보았으며, 그래서 유전자의 진화역사에 주목했다. 그는 우리가 이기적으로 태어났음을 강조한다. 하지만 평생 유전자에 복종해야 하는 것도, 유전형질이 고정적이어서 변경 불가능한 것도 아니라고 얘기한다. 인간은 생존 기계임에도 동물과 달리 후천적 학습으로 이타주의를 수용하는데, 이는 원래 이타적으로 프로그램되는 경우보다 이타주의 수용을 어렵게 하는 요인이라고 설명했다.
인간의 이타·이기주의는 누군가의 생명이 걸려있는 상황에서 가장 적나라하게 드러난다. 2018년 발표된 MIT대학 미디어랩의 ‘자율주행차 윤리성(트롤리 딜레마)’의 연구 결과가 이를 잘 나타내 준다.
AI 자율주행차의 돌발적 위기에서 탑승자와 보행자 중 AI 알고리즘이 누구를 우선 살릴 것인가. 이를 비롯해 다양한 위기 시나리오에서 우선 구명순위에 대한 의견을 세계 233개국 400만 명으로 부터 접수한 결과는 대체로 도킨스의 주장에 힘을 실어주는 것이었다.
10~15년쯤 후 우리 일상에 익숙한 모드로 다가올 자율주행차로부터 향후 급속히 쌓여갈 AI 문명에 이 같은 문제들은 수없이 쏟아질 것이다. 아직 걸음마 단계인 ‘스트롱 AI’, 즉 감정과 이성적 사고 능력, 창조능력을 갖는 AI들이 언젠가 개발될 것이고, 이들의 생각과 감정이 창조자인 인간을 위협하지 않는다는 보장이 없는 상황이다.
도킨스의 말대로 인간 유전자와 뇌가 원래 이기적인데, AI가 이를 그대로 모방해 초래된 일인지 아닌지는 단정적으로 말하기 어렵다. 하지만 수십 년 앞서 인간 유전자 및 뇌의 속성과 기능을 바탕으로 AI를 개념화하고 AI 시대의 도래를 예측한 것만으로 이 문제의 해답을 구하는 데 도킨스를 소환할 이유는 충분하다고 판단된다.
내가 작금에 드러나고 있는 AI의 여러 문제에 대한 답을 그 진본·원판이나 다름없는 인간 지능에서 구해야 한다고 생각하는 이유는 또 있다. 2018년 C의과대학 대학원 박사과정에 입학해 임상 심리학과 정신의학을 배우면서 인간 뇌기능의 대표적 산물인 기억에 대해 연구한 적이 있는데, 연구의 초점은 “인간 기억의 변형이 과연 가능한가”의 문제였다. 인간 뇌가 생존에 유리한 방향으로 이기적인 작동을 하는가 아닌가의 문제로, 도킨스의 탐구 의제와 본질적으로 같았다.
나는 이 실험 결과를 보고 “인간 뇌기능이 생득적으로 이기적 작동원리를 갖고 있다”고 확신하게 되었다. 이 실험으로 알게 된 사실은 뇌가 생존을 증진하는 긍정적 방향으로 과거의 괴로운 기억들을 통합해가는 궁극적 회로를 갖고 있다는 것이었다. 이는 선천적으로 이기적 속성을 지닌 뇌가 반복 학습을 통해 이타주의를 수용하는 것이 (선천적으로 이타적인 경우보다)어렵긴 하지만 가능은 하다고 말한 도킨스의 진화생물학적인 유전자 통찰에 부합하는 결과였다.
오늘날 AI의 부작용과 역기능들은 그것이 기술적 문제이든, 윤리적 문제이든 인간 뇌의 특징과 속성을 정확히 이해하는 데서 해결책이 나올 수 있다고 본다. 따라서 향후 AI를 인간에 필적하는 수준으로 더욱 발전시키고 그 도상에 노정되는 문제들을 개선하려면 인간 뇌에 대한 연구는 필수적으로 수반될 수밖에 없을 것이다.
AI를 매개로 한 인간지성의 무한한 전진, 그 결과로 우뚝 설 문명의 거탑에 작은 돌멩이 하나를 얹는 심정으로 이 책을 썼다.  

송채수
학적사항
•1982. 3.~1985. 2. 충암고등학교(서울)
•1985. 3.~1992. 2. 고려대학교 문과대학(문학사)
•2011. 3.~2013. 2. 가천대학교 교육대학원(교육학 석사)
•2017. 9.~2020. 2. 차의과학대학교 일반대학원 의학과(임상·상담심리학 박사)

경력사항
•1992. 3.~1995. 4. 스포츠조선 편집국(취재기자)
•1995. 5.~1997. 9. 경향신문 편집국(취재기자)
•1997. 9.~2002. 8. 경인방송(OBS) 보도국(메인 앵커, 정치부기자)
•2002. 9.~2004.10. 스포츠조선 DMB방송 준비팀(실무팀장)
•2004.11.~2010.12. 경원대학교(가천대 전신) 홍보실장
•2011. 1.~2020. 4. 가천대학교(성남·인천 4개교 통합) 건설(시설)본부장/총무부처장
•2013.~2016. 성남시 결혼이주여성 검정고시 주말반 강사
•2014.~현재 성남시 외국인주민복지지원센터 운영위원 및 운영위원회 부위원장
•2020. 5.~현재 가천대학교 인권센터 센터장

수상경력
•2002. 3. 경인방송(OBS) 사장 표창(앵커요원 뉴스보도 공로)
•2007.12. 세계물리학회 물리경연대회 IYPT 한국(경원대학교) 개최 홍보 공로
•2009. 9. 경원대학교 총장 특별상(홍보 공로)
•2012. 5. 가천대학교 이사장 표창(모범사원)
•2013. 2. 가천대학교 이사장 표창(석사과정 전체 수석졸업)
•2016.12. 성남시장 표창(다문화 복지증진 공로)
•2020. 3. 성남시장 표창(외국인 및 다문화 소통)

국내 등재지 논문게재(최근 3년 이내)
•2019.12. “결혼이주여성의 부정적인 한국경험을 긍정적으로 바꾸어 말하기(retelling)에 의한 감정기억의 변화: 분노 감정을 중심으로”(박사학위 논문)
•2018.12. “이중언어사회화가 다문화가정 아동청소년의 자기존중감에 미치는 영향: 동남아 출신 결혼이주여성과 한국인 아버지의 자녀를 중심으로”, 아시아문화연구
•2018.12. “고통감내력, 충동성이 알코올 사용장애에 미치는 영향: 미래결과고려성향의 조절효과”, 알코올과 건강행동
•2018.11. 대학생의 성별, 학년별 음주문화와 태도에 관한 연구”, 한국컴퓨터정보학회논문지
•2018.11. “중장년근로자의 직무열의에 과소직무, 직무자율성, 나이차별인식의 상호작용 효과”, 인적자원관리연구학회 논문지

 

화려한 후광의 AI, 짙게 드리운 그림자 속 함정들!
예상치 못한 AI의 위협, 현실로 드러난 구체적 사례들!
 #1. 기존 시장의 고용시스템을 허무는 ‘괴물’ AI
 #2. AI가 만든 가상인간들이 설치는 범죄 사이버 도시
#3. 홀로코스트 ‘살인 기계’ AI 첨단무기
#4. 섹스 로봇, AI 함정에서 출현한 ‘뜨거운 감자’
AI의 두 얼굴, 꿈의 기술인가? 또 하나의 괴물인가?
 #1. AI가 핵무기보다 더 위협적이고 파괴적일 수 있다
#2. AI의 위험 요인은 알고리즘의 편향성
#3. 윤리 없는 AI의 ‘윤리적 딜레마’가 인간과 공존 방해
#4. 목숨이 걸린 윤리적 딜레마, 자율자동차의 트롤리 문제
AI 차량 ‘트롤리 문제’에 대한 유럽·미국의 한발 앞선 대처
#1. 유럽 국가들의 선제적 가이드라인 제시
#2. 여론 탐지에 과감하게 투입된 MIT의 ‘모럴 머신’
‘인공지능(AI)’의 문제들은 ‘인간 지능’에서 답을 구하라!
AI는 인간 지능의 짝퉁이지만 인간 수준의 AI는 아직 요원
 인간, 이기적 유전자 보존을 위해 프로그램을 짜넣은 생존 기계
 생존경쟁에 유리한 생물학점 이점과 모럴 머신의 딜레마
#1. 뇌의 이기적인 속성이란 구체적으로 무엇을 말하는가
#2. 모럴 머신 트롤리 딜레마 문제의 역설은 정말로 역설인가
이기적 뇌 작동! 검증 위해 모럴 머신처럼 실험에 뛰어들다
#1. 무의식에 잠복해 있는 악성기억, 변경 가능할까
#2. 긍정적으로 바꾸어 말하면 과연 기억이 변형될까
#3. 심리학 실험에서 기억 변형이 검증된 외국 사례들
#4. 기억의 변형! 차이나타운과 골목시장에서 검증하다
#5. ‘이기적인 뇌’로 기억 변형을 설명하는 건 선문답!
 #6. 이기적인 뇌의 코드대로 재생 아닌 재구성되는 기억!
밈과 다른 ESS, 동물의 성적 선전행위가 광고의 기원이다!
 #1. 첫인상! 이기적인 뇌는 다소의 자기기만도 허용한다
#2. 첫인상효과는 100점, 선택적 지각효과는 글쎄!
 #3. ESS의 키워드, “정직하게 보여줄게” “전적으로 믿을게”
#4. 이기적인 뇌로부터 퇴짜 “전적으로 무시할 거야”
#5. 똑똑한 소비자 “광고 내용과 반대로 생각할 수밖에 없어”
#6. ‘극혐’ 광고가 성공한 광고의 역설! 성선택의 역설!