수학자가 들려주는 진짜 논리 이야기

지적문화, 그리고 제논의 패러독스와 러셀의 패러독스

책의 제1부에서는 논리가 중시되지 않는 우리나라의 문화에 대해 이야기한다. 저자는 상대방의 잘못을 지적하는 ‘지적문화’의 예를 든다. 미국, 영국, 일본 등은 우리나라보다 지적문화가 훨씬 강하다. 저자는 미국 유학 당시 사람들이 줄을 서는 모습을 보고 문화 수준의 차이를 실감했다. 그때 맥도날드에서는 누군가 줄을 서지 않고 그냥 계산대로 다가가면 주문받는 종업원이 당장 눈을 부라리며 줄을 서라고 소리를 질렀다. 이처럼 지적문화가 일상화되어 있기 때문에 줄을 서지 않을 수 없었던 것이다. 영국에서도 비슷한 경험이 있었다. 영국에서 장기 체류할 때 대중교통이 불편하여 자전거 가게에서 자전거를 산 적이 있었다. 그리고 가게에서 나와 새 자전거를 타고 찻길까지 넓은 인도를 대각선으로 약 20미터 정도 가로질러 가는데, 갑자기 어떤 신사가 소리를 지르며 뛰어왔다. 불과 몇 초라고 할지라도 자전거는 찻길로 다녀야 하는데 왜 인도로 다니느냐며 저자의 행동을 지적한 것이었다. 이처럼 지적하는 문화가 강한 나라에서 자란 사람들은 평소 정확성을 추구할 수밖에 없는데 우리는 이런 부분이 부족하다는 것이다.

제2부에서는 고대 그리스와 아라비아로부터 이어져 오는 수학과 논리학의 역사를 소개하는 한편, 논리적 사고법의 아주 기초적인 부분에 관해 이야기한다. 또한 논리에서 역사적으로 중요하고 유명한 다섯 가지 패러독스도 소개한다. 그 패러독스들 중 2개만 예를 들어보자. 먼저 제논의 페러독스다. 이 패러독스에서는 제논이 ‘어떤 물질이 운동하는 것은 우리의 환상일 뿐 실은 (매 순간) 멈춰 있는 것이다’라고 주장하며 제시했는데, 달리기 이야기로 그 패러독스를 설명해보자.

올림피우스가 달리기할 때, 그는 결승점까지 거리의 중간 지점을 지나야 하고, 그 다음에는 나머지 거리의 중간 지점을 지나야 하고, 또 그 다음에는 그 나머지 거리의 중간 지점을 지나야 하는 과정을 계속해서 반복해야 한다. 따라서 올림피우스는 결승점에 가까워지긴 하지만 결승점에 이르지는 못한다.

이 패러독스는 결승점까지 남은 거리의 중간 지점까지 도달하는 과정을 ‘무한히’ 반복해야 결승점에 도달할 수 있는데 ‘유한한’ 횟수의 과정만 살펴보고는 결국 도달할 수 없다는 결론을 지은 것이다. 결국 ‘유한적 사고로 무한적 현상을 설명하려고 한 것’ 때문에 생긴 오류다.

다음은 러셀의 패러독스다. 러셀의 패러독스를 설명하고자 드는 예 가운데 가장 유명한 예는 ‘이발사의 패러독스’이다.

어느 마을에 이발사가 있다. 그 이발사가 “나는 스스로 수염을 깎지 않는 모든 마을 사람의 수염을 깎는다”라고 말했다. 그럼 그 이발사 자신의 수염은 누가 깎을까?

(ⅰ) 스스로 깎는다면, 스스로 깎지 않는 사람만을 깎는다는 사실에 모순이 되고,

(ⅱ) 스스로 깍지 않는다면, 스스로 깎지 않는 모든 사람을 깎아준다는 말에 모순이 된다.

러셀의 패러독스처럼 자기 자신에 대한 부정적 언급으로부터 모순이 발생하는 예로는 ‘거짓말쟁이 패러독스’가 있다. 고대 그리스의 철학자이자 시인인 에피메니데스는 다음과 같이 말했다고 한다. “모든 크레타섬 사람은 거짓말쟁이다.” 그런데 문제는 이 말을 한 에피메니데스 자신이 크레타섬 사람이라는 것이다. 그러면 에피메니데스가 한 이 말이 맞는 말일까, 아니면 틀린 말일까? 우선 이 단순한 문장을 다음과 같이 좀 더 분명하게 다듬는 과정이 필요하다. 그러니까 이 말을 “모든 크레타섬 사람이 하는 말은 모두 틀린 말이다”라고 바꾸어 생각해보자. 그러면 이 말은 맞는 말일 수가 없게 된다. 왜냐하면 만일 이 말이 맞는 말이라면, 이 말은 크레타섬 사람인 에피메니데스가 한 말이므로 틀린 말이 되기 때문이다.

칸토어에서 타르스키까지 현대논리학을 만든 거인들

제3부에서는 19세기 말부터 20세기 초까지 칸토어, 힐베르트, 프레게, 러셀, 화이트헤드, 비트겐슈타인, 괴델, 타르스키 등 당대 최고의 천재들이 이룬 현대논리학과 분석철학의 발달 과정과 그 의미에 관해 설명한다. 2000년이 넘는 시간 동안 모든 학문의 기초적 바탕을 이루어온 논리학이 19세기 후반부터는 독일의 수학자들을 중심으로 그전보다 더 독립적이고 체계적인 학문 분야로 거듭나게 된다. 프레게는 수학적 개념들, 심지어는 수數조차도 완전하고 구체적인 논리에 따라 정의해야 한다고 주장했다. 또한 논리적 서술에 필요한 형식적(주로 기호화된) 언어를 만들고자 했으며, 산술의 체계를 논리학에서 유도하려고 노력했다. 집합론의 창시자 칸토어는 오랫동안 수학과 논리학에서 금기시해온 ‘무한’이라는 개념을 논리적으로 다룰 수 있다는 것을 보여주며 자연스럽게 집합이 논리학에서 얼마나 중요한 개념인가를 알려주었다.

체계적이고 엄밀한 현대논리학은 수리논리학 또는 기호논리학이라고도 부른다. 이는 철학자와 수학자가 공유하던 고전논리학과 구별하기 위함이다. 수리논리학은 집합, 연산, 함수, 무한 등과 같은 수학적 개념을 포함한 집합론을 근간으로 하므로 그러한 배경지식이 없는 사람들은 그 내용을 이해하기 어려운 학문이다. 그래서 논리학은 자연스럽게 수학자가 연구하는 수리논리학과 철학자가 연구하는 논리학으로 양분되었다. 논리학은 철학이나 언어학을 연구하는 데 중요한 배경지식이므로 철학자와 언어학자가 필수적으로 공부하는 학문이긴 하지만, 현대논리학을 그 자체로 하나의 독립된 학문 분야로서 연구하는 것은 결국 수학자의 몫이 되었다. 그것은 통계학이 경제학과 같은 사회과학 연구에 꼭 필요한 지식이어서 사회과학자가 되려면 통계학이라는 과목을 필수로 이수해야 하지만, 통계학 자체를 전문적으로 연구하는 것은 통계학자의 몫인 것과 유사하다고 하겠다.

수학 내에서는 논리학을 ‘수학기초론’이라고도 부른다. 논리학은 지난 100년간 힐베르트의 형식주의 철학에 입각하여 수학의 가장 좋은 기초를 세우는 것을 목표로 발전해왔기 때문이다. 그런데 수학기초론에는 중요한 결점이 있다. 논리적으로 완벽한 산술 체계는 존재하지 않는다는 점이다.

1931년 오스트리아의 젊은 수학자 괴델은 ‘불완전성정리’를 발표하여 세상을 깜짝 놀라게 하며 아인슈타인만큼이나 유명한 사람이 되었다. 당시 현대논리학을 개척한 최고의 수학자들인 힐베르트, 페아노, 러셀 등은 완벽한 논리 체계를 구성하고자 했다. 그런데 괴델은 그것이 불가능함을 보여준 것이다.

이 불완전성정리가 발표되었을 때는 물리학에서 양자역학이라는 새로운 패러다임이 주류로 자리 잡기 시작하고, 이미 하이젠베르크의 불확정성원리가 알려진 시기여서 당시의 지식인들은 “세상에는 완전하고 확실한 진리는 존재하지 않는다”라는 새로운 세계관을 갖게 되었다. 이것은 자연과학뿐만 아니라 철학이나 경제학과 같은 학문에도 커다란 영향을 미치게 된다.

완벽함과 엄밀함을 추구하는 논리학이 수학의 좋은 기초를 세우고자 발전해왔지만, 논리적으로 완벽한 수학의 기초 자체가 존재할 수 없다는 것을 논리를 통해 증명한 것은 참으로 아이러니하다. 논리의 세계가 완벽하지도 않고 수학자가 논리에만 의존하지도 않지만, 수학의 좋은 기초를 찾아내려고 지금도 전 세계적으로 많은 논리학자가 활발하게 연구하고 있다. 대다수 수학자는 의식적이든 무의식적이든 힐베르트가 추구하던 수학의 형식주의의 방향을 따르고 있다. 그 길의 끝에 수학자들이 찾는 최종 목표가 존재하지 않는다는 것을 알지만, 그 방향이 옳은 방향이라고 믿고 가고 있는 것이다.

제4부에서는 합집합, 교집합, 함수, 수열 등과 같은 수학에서 사용하는 기초적인 개념과 기호 그리고 수학적 귀납법 등을 설명하고 그러한 개념들이 명제와 논증에 어떻게 활용되는지를 소개한다. 또한 칸토어의 집합론을 통해 구체적으로 무한이라는 개념을 어떻게 논리적으로 다룰 수 있는지도 설명한다. 여기서 무한은 무한집합을 의미하며 ‘무한히 원소가 많은 집합’이라는 뜻이다. 무한에는 큰 무한과 작은 무한이 있다. 왜 실수 중에 무리수가 유리수보다 더 많은지, 큰 무한은 작은 무한보다 얼마나 더 큰지, 어느 집합 안에 원소가 너무 많으면 어떤 문제가 생기는지 등에 대해서도 설명한다.

우리 삶의 균형을 위한 논리 수업

흔히 논리라고 하면 논쟁을 벌일 때 쓰이는 도구 정도로만 인식하는 경향이 있다. 그러나 진짜 논리는 자신의 생각을 가다듬기 위한 것이다. 자칫 감정에 치우쳐 일을 그르칠 수 있는 경우에도 평소 이성을 통한 논리적 훈련이 잘 되어 있다면 문제를 풀 수 있는 실마리와 훌륭한 균형점을 찾을 수 있다. 특히나 감성 문화는 발달해 있지만 논리 문화는 취약한 우리 사회에 꼭 필요한 책이다. 독자들의 일독을 권한다.

송용진

서울대 수학과에서 이학사를 받고, 오하이오 주립대에서 위상수학 분야 이학박사를 받았다. 1991년부터 인하대 수학과 교수로 재직 중이다. 20여 년간 국제수학올림피아드 한국대표단 단장 또는 부단장을 맡으며 대한민국이 두 차례 1등을 거머쥐는 데 기여했다. 현재 국제수학올림피아드 선출직 위원IMO Board Member이다. 30여 년간 풀리지 않던 해러의 추측 문제를 해결한 연구 성과와 수학 영재교육에 헌신한 공로 등을 인정받아 과학기술훈장 혁신장, 서울시 문화상을 받았다. 국제적인 위상수학자이면서 한편으로 최고의 수학 영재들을 가르치며 우리나라 수학 발전에 기여해왔다. 지은 책으로 《수학은 우주로 흐른다》, 《조합론》 등이 있다.

시작하며

1부 왜 논리인가

01 논리와 친해지기

논리는 머리가 아니라 몸으로 익히는 것 / 논리적 사고의 시작, 인정할 것은 인정하기 / 현대인의 필수 능력, 판단력과 분별력 / 학생들은 미래에 대해 조급해 할 필요가 없다

02 정확함이라는 미덕

가르친다는 사람, 가르킨다는 사람 / 우리말의 어려움 / 한자어로 인한 어려움

03 따지기와 지적하기

따지는 것과 친해지기 / 지적문화 / 주변에서 마주하는 사소한 불합리들

제2부 논리적 사고

04 논리학의 기본

그리스와 아라비아의 수학과 논리학 / 명제와 논증 / 논리의 시작은 ‘모든’과 ‘어떤’

05 학교에서 배우는 논리와 수학

학교에서 집합을 안 배워요 / 수학은 원래 어렵다 / 새로운 개념 받아들이기 / 토론을 잘 하려면

06 논리학과 수학

논리학, 집합론, 수학기초론 / 기호의 힘 / 논리적 사고의 예

07 패러독스 이야기

제논의 패러독스 / 러셀의 패러독스 / 베리의 패러독스 / 상트페테르부르크 패러독스 / 바나흐·타르스키 패러독스

08 여섯 가지 유형의 오류

성급한 일반화의 오류 / 이분법적 논리의 오류 / 필요조건, 충분조건의 혼동에 의한 오류 / 잘못된 가정에 의한 오류 / 확증편향의 오류 / 과학적 소양 부족에 의한 오류

제3부 현대논리학의 발전

09 새로운 논리학의 시작

19세기 독일의 발전 / 고틀로프 프레게 / 주세페 페아노 / 버트런드 러셀

10 수리논리학의 발전

새로운 논리학의 네 가지 특징 / 칸토어, 무한에 대해 말하다 / 논리주의, 형식주의, 직관주의 / 괴델의 불완전성정리와 형식주의의 붕괴

11 현대의 논리학

위대한 논리학자 타르스키 / ZF 공리계와 선택공리 / 튜링머신과 계산가능성

제4부 수학 품은 논리학

12 원소들의 모임, 집합

집합을 알려면 기호부터 알아야 한다 / 모든 부분집합의 집합, 멱집합

13 무한의 이해

무한을 이해하려면 함수부터 알아야 한다 / 무한집합에도 크고 작은 것이 따로 있다 / 무한집합론의 핵심 칸토어의 정리 / 무리수는 유리수보다 더 많다 / 합집합 논법

찾아보기