4차 산업혁명 아직 말하지 않은 것들

4차 산업혁명에 감춰진 한계와 문제점은 무엇인가?
한국사회의 4차 산업혁명 담론에는
수용자인 시민의 관점이 배제되어 있다!

한국사회의 4차 산업혁명 대응 전략에는 암묵적으로 산업진흥, 기술개발 중심적 담론이 자리하고 있는데, 그 속에는 기술발전의 수용자인 시민의 관점이 배제되어 있다. 급속한 변화의 부작용을 완화하기 위한 윤리적·사회적 논의는 상대적으로 지체되어 있다. 이는 결국 사회전반의 수용성 제고와 적극적인 대응에 커다란 난제로 작용할 가능성이 높다. 따라서 난무하는 미래 전망 속에서 허상의 늪에 빠지지 않으려면 냉철하게 현실을 직시해야 한다. 우리는 4차 산업혁명을 외치기 전에 우리 사회가 답해야 할 본질적인 질문들에 대해 심도있게 성찰할 필요가 있다. 이제 4차 산업혁명에 감춰진 한계와 문제점이 무엇인지 자문해봐야?한다.?그리고 우리 사회가 그 질문에 어떻게 답할지 심도 있게 성찰해야 한다.

4차 산업혁명 기술은 과연 안전한가? 그것은 정말 혁신적인가?
4차 산업혁명의 길을 우리는 과연 제대로 가고 있는가?
4차 산업혁명을 대하는 우리의 자세는 이대로 괜찮을까?

『4차 산업혁명, 아직 말 하지 않은 것들』은 ‘4차 산업혁명’ 현상이 주는 기회와 위협을 제대로 이해하고, 새로운 혁신의 지혜를 모으기 위해 과학기술정책연구원을 비롯한 인문·사회·경제 각 분야의 전문가들이 펼쳐 낸 학제간 논의를 담았다.

4차 산업혁명의 길, 우리는 과연 제대로 가고 있는가?
우리 사회는 지금 어디로 가고 있고,
어디로 가고 싶어 하는가?

과연 4차 산업혁명의 핵심기술이 확보되면, 우리 사회는 현재 안고 있는 여러 문제점을 곧바로 해결할 수 있는 미래로 나아가게 되는 걸까? 이제는 누구나 4차 산업혁명이 이전과는 다른 사회를 만들어낼 것이라는 데 동의한다. 그러나 지금 논의되는 4차 산업혁명은 인간 자체의 변화에 대해서는 그 어떤 고려도 없이 그저 인간을 둘러싼 환경 변화에 대한 분석에만 머물러 있다.

『4차 산업혁명 아직 말 하지 않은 것들』에서는 “혁명적 기술 덕분에 인류가 500년을 산다면 당신은 현재 어떤 계획을 포기하고 어떤 계획을 새로 세우겠는가?”를 묻는다. 물론 당장 실현되는 기술은 아니고, 또 그것이 가능하다 해도 그 기술로 내가 혜택을 볼 수 있을지는 미지수지만 이 질문은 중요한 것은 우리 사회가 지금 어디로 가고 있는지 어디로 가고 싶어 하는 지의 가늠자가 되기 때문이다.

또한, 4차 산업혁명의 선두주자인 인공지능이 가지지 못할 것이라 여겨지는 인간의 정신, 마음, 또는 의지 등이 과연 인간만의 것일 것인지 의문이다. 인공지능이 가져올 ‘초지능’이 약간의 편차만으로도 인류를 불필요한 존재 정도로 인지하게 되고, 그 결과 인류라는 생물종이 종래에는 종말을 맞이하는 것은 아닌가 하는 지극히 실존적인 문제를 생각지 않을 수 없다.

4차 산업혁명을 대하는 우리의 자세, 이대로 괜찮을까?
4차 산업혁명 기술은 과연 안전한가,
정말 혁신적인가?

인류의 삶의 변화에 막대한 영향을 준 증기기관. 그런데 와트는 과연 자신이 발명한 증기기관이 미래에 사회적 갈등, 자원 고갈, 환경오염 같은 문제를 야기하리라고 생각이나 했을까.

인공지능이 마치 인간처럼 진화하는 듯 보이는 한편, 현실과 가상현실의 구분의 경계선이 전례 없이 희미해지고 있다. 이러한 가운데 인간은 실제로 가상적 인간들과 관계를 맺게 될 것이다. 가상적 인간은 실재의 인간관계에서 빈번히 발생하는 갈등과 오해를 사전에 차단해 인간이 ‘기대한 그대로’의 언어·몸짓·말투를 제공하며 관계를 유지할 것이다. 감정적 안정을 위해 친구관계와 가족관계를 형성해오던 인류가 가상적 인간과의 관계 맺기로 이를 대체하게 되면 인간에게 현실 부적응이란 새로운 위험을 가져올 수 있다. 갈등과 오해 같은 반응은 이전보다 더 받아들이기가 어려워지고 상대방의 감정과 의도를 이해하려는 행위가 익숙하지 않은 인간을 더 많이 만들어낼 것이다. 현실에서 도피하려는 사람들이 집안에 틀어박혀서 ‘써로게이트’만으로 사회생활을 영위하는 세상이 단순히 영화적 상상만이 아닐 수도 있을 것이다. 『4차 산업혁명 아직 말 하지 않은 것들』에서는 “가상현실이 새로운 고립을 가져오는 ‘위험문화(risk culture)’가 될 수도 있지 않을까?”를 자문하고 이에 대한 대응방향을 고민하려 한다.

그런가 하면, 모든 사물이 서로 연결되는 ‘초연결사회’에서 오류나 공격이 어디서 진행되고 있는지, 어떤 경로로 전이되고 있는지 용이하게 파악할 수 있을까? 신경과학자 카할이 신경세포의 구조를 그려낸 이후 100년이 지났지만, 신경세포의 거대 집합체인 두뇌가 기억과 사고를 어떻게 하는지 아직 파악해내지 못하고 있다. 과연 막대한 수의 사물과 사물 간 연결이 급속히 확장되면 그 형태나 기제를 어떻게 알 수 있을까? 특히, 보안 영역에서는 새로운 공격이나 여러 기술을 조합한 공격에 대해서 인공지능은 기존의 대응 기법보다 우수한 성능을 보일 것으로 기대되는데, 『4차 산업혁명 아직 말 하지 않은 것들』에서는 인공지능의 역할이 수비에서 공격으로 교체될 때 인공지능은 더욱 무서운 존재로 변모할 것을 경고한다. 분명한 것은 앞으로는 인간보다 인공지능이 시스템의 취약점을 보다 더 빠르게 찾아낼 가능성이 높고, 인간이 개입할 기회는 점차 줄어들 것이라는 점이다.

‘위험’과 ‘규제’를 넘어 ‘거버넌스 패러다임’의 전환으로!
기술의 진화에 맞추어 반드시 해결해야할 과제, 위험 거버넌스

향후 도로를 달리는 자율주행자동차의 데이터에 승인되지 않는 노출과 조작이 일어나면 랜섬웨어 같은 악성 소프트웨어 바이러스의 공격과 사이버 테러가 자율주행자동차에서도 일어날 수 있다. 또, 인공지능의 네트워크성과 자율성의 중첩적 상호작용으로 복잡성이 증가되면 인공지능은 인간의 사전예측을 벗어난 의도치 않은 결과를 생성해낼 수 있으며, 이는 위험 거버넌스에 더 큰 도전이 될 것이다. 인공지능에 대한 전통적 규제 정책은 과연 인공지능을 잘 관리할 수 있을까? 인공지능의 위험을 어떻게 정의하고 회피할 것인가의 문제 즉, 위험 거버넌스는 기술의 진화에 맞추어 반드시 해결해야할 과제가 되고 있다.

한편, 이 책에서는 4차 산업혁명 기술이 우리의 정치제도와 권력의 변화를 가져올 수도 있다는 것을 지적한다. 사회 곳곳에서 인간의 지능을 넘어서는 복잡하고 불안한 쟁점이 돌출하면서 사회구성원 모두의 합의를 이루어내기란 사실상 불가능한 일이 되어가고 있기 때문에 인간의 인지·판단 능력을 향상시키는 지능기술에 대한 의존이 불가피해질 것이다. 주관과 감정이 개입된 사람의 판단보다 데이터에 근거하는 인공지능의 판단이 더 합리적일 수 있다. 이언 피어슨(Ian Person) 퓨처라이즌(Futurizon) 소장은 미래 대의민주주의에서는 국회의원이 아닌 인공지능과 빅데이터가 시민들의 대표가 되어 협상하고 사회적 합의를 할 것이라 주장한다. 인공지능과 빅데이터는 인간의 판단을 지원하는 보조적 역할에 머물러 있지만, 앞으로는 향후에는 복잡한 사회의 어려운 합의, 미래에 대한 불예측성을 지능기술에 의존하는 ‘알고리즘 민주주의’가 대두할 가능성 또한 배제할 수 없다. 그럴 경우 알고리즘 민주주의가 제대로 작동하려면 지능기술의 발달에 못지않게 사람 간의 교감기술, 감정기술, 배려기술, 판단기술, 리더십기술 등 인간기술에 대한 교육과 학습이 더 중요해질 것이다.

편저 : 과학기술정책연구원

박병원 과학기술정책연구원 연구위원
손수정 과학기술정책연구원 연구위원
윤정현 과학기술정책연구원 선임연구원
이제영 과학기술정책연구원 부연구위원
정일영 과학기술정책연구원 부연구위원

김은성 경희대학교 사회학과 부교수
김정태 한국전자통신연구원 미래기술연구본부
김평호 단국대학교 커뮤니케이션학부 교수
김헌식 박경리 토지문학관 외래교수
박상욱 서울대학교 과학사 및 과학철학 협동과정 교수
박성원 국회미래연구원 연구위원
심우민 경인교육대학교 사회과교육과 조교수
윤성이 경희대학교 정치외교학과 교수
윤 주 한국지역문화생태연구소장
이승협 대구대학교 사회학과 교수
이유수 에너지경제연구원 에너지정보·국제협력본부장
이종관 성균관대학교 철학과 교수, 미래인문학 연계 전공 주임교수
최지선 로앤사이언스(LAW & SCIENCE) 변호사
최항섭 국민대학교 사회학과 교수

프롤로그│4차 산업혁명을 외치기 전에 먼저 이해해야 할 것들

1부 ‘4차 산업혁명’의 길, 우리는 과연 제대로 가고 있는가?

1. 4차 산업혁명을 넘어 트랜스휴먼의 시대로
‘인간 2.0’ 시대와 500세 인류
 산업화 시대의 종말과 트랜스휴먼 시대의 도래
‘스마트 팩토리’보다는 ‘스마트 피플’을 생각해야 할 때

2. 인공지능에 관해 말할 때 우리가 정말로 해야 할 이야기
 인공지능 담론의 세 가지 갈래
 담론 지형도의 비판적 조망
 인공지능과 우리 사회의 과제

2부 4차 산업혁명을 대하는 우리의 자세, 이대로 괜찮을까?

3. ‘4차 산업혁명’에 관한 상상, 그 상상이 현실이 된다면?
제1막 어제의 꿈과 상상, 그리고 오늘
 제2막 오늘 꿈꾸는 내일
 제3막 꿈 너머의 현실
 막을 내리며_ 준비된 일상으로의 초대

4. 클라우스 슈밥도 몰랐던 4차 산업혁명의 본질
3차 산업혁명의 좌절: 디지털 자본 축적체제의 위기와 붕괴
 위기의 탈출: ‘4차 산업혁명 선언’
헬조선과 4차 산업혁명
 평균수명 증가율과 자살률이 말해주는 것
 협력적 창의성을 통한 삶의 질 고양

5. 가상현실, 현실보다 더 현실 같은, 현실보다 더 매력적인
 점점 더 발전하는 가상현실 기술
 초현실 이론과 가상현실
 현실 같은 가상세계
 실재하는 사람보다 더 좋은 ‘가상적 인간’
새로운 위험들의 등장

6. 4차 산업혁명 담론에 필요한 문화적 프레임
‘4차 산업혁명’이라는 담론
 인간과 문화를 먼저 생각해야 한다
4차 산업혁명은 문화적 혁명이 되어야 한다

7. 4차 산업혁명이 노동의 미래에 미치는 영향
 기술혁신 전략이기 전에 산업혁신 전략
 노동과정 재조직화와 새로운 위험
4차 산업혁명이 노동의 종말을 가져올까?
4차 산업혁명은 장기적으로 달성해야 할 혁명

8. 개인의 권리 강화로 열어가는 데이터 산업의 미래
 미국의 헬스케어 데이터 구축 정책
EU의 혁신적인 개인정보보호법
10년 후의 데이터산업, 어떤 양상으로 펼쳐질까

3부 4차 산업혁명 기술은 과연 안전한가, 정말 혁신적인가?

9. 4차 산업혁명이 몰고 올 위험천만한 보안 이슈
 초연결사회와 위험요소들의 응축
 인공지능이 더욱 무서운 존재로 변모하는 보안 영역
 인공지능을 품은 로봇, 이전과는 차원이 다른 위협
 집 안에 이미 도둑이 들어와 있는 형국
 만약 인공지능이 인간을 공격한다면

10. 4차 산업혁명과 에너지 패러다임의 전환
 에너지시스템의 변화와 4차 산업혁명 기술
 에너지시스템 스마트화를 촉진
4차 산업혁명 시대를 맞이하기 위한 제도개선 방향

11. 4차 산업혁명 시대 한국의 R&D 혁신환경 조성
 위기론이 위험한 이유
R&D 혁신환경 조성을 위한 과제

12. 블록체인 3.0시대: 비트코인 이후의 블록체인
《도둑맞은 편지》와 블록체인
 가상화폐를 넘어 새로운 거버넌스 체계로
 블록체인의 진화, 어디까지 왔나
 블록체인이 만들어갈 새로운 경제 시스템, 토큰 이코노미

4부 ‘위험’과 ‘규제’를 넘어 ‘거버넌스 패러다임’의 전환으로!

13. 4차 산업혁명과 포스트 민주주의
 지능기술이 정치를 바꾼다
 참여민주주의를 넘어 알고리즘 민주주의로
 알고리즘 민주주의가 제대로 작동하려면

14. 복잡 시스템 사회의 위험 거버넌스
 인공지능의 위험을 어떻게 통제할 것인가
 인공지능에 대한 경성법적 위험 거버넌스
 인공지능에 대한 연성법적 규제: ‘인공지능 윤리’와 ‘자발적 보고 제도’
인공지능의 ‘복잡성’에 대비할 방법은
 놀라운 기술이 만드는 디스토피아

15. 로봇과 인공지능이 초래할 위험과 법적 규제
 새로운 법규범을 만드는 것의 어려움
EU와 미국의 로봇법 및 인공지능 대응
 접근방식의 혁신 필요성: 상시적 영향평가와 이해관계 조율

16. 4차 산업혁명 시대에 걸맞은 기술규제 합리화 방향
 혁신 비즈니스모델에 친화적이지 않은 한국의 규제 현실
 규제 합리화를 위한 4가지 제안
 그 규제가 왜 만들어졌는지 기억하라

17. 4차 산업혁명과 지식재산권, 그리고 쟁점들
 디지털 전환기의 혁신과 지식재산권
 혁신환경 변화와 지식재산: 소유와 공유

 에필로그│ 한국형 4차 산업혁명 전략을 위한 제언