수학자가 들려주는 진짜 논리 이야기

송용진 지음

다산초당 2023년 06월 14일 출간 종이책 : 2023년 06월 01일 출간

작품소개

책소개

이 책의 저자 송용진 인하대 교수는 20여 년간 국제수학올림피아드 한국대표단 단장 또는 부단장을 맡으며 대한민국이 두 차례 1등을 거머쥐는 데 기여한 인물이다. 저자는 오랫동안 대학교에서 수리 논리 및 논술, 집합론 등의 과목을 가르치면서 학생들이 논리적 사고에 유난히 약하다는 사실을 실감했고 학생들이 논리만 만나면 갑자기 머리의 회전을 멈춘다는 것을 알게 됐다. 그리고 그 이유가 학생들이 머리가 나빠서가 아니라 논리와 친숙해질 기회가 없어서라는 사실도 알게 되었다. 이 책은 논리에 조금이라도 관심이 있는 사람들이라면 그리 어렵지 않게 ‘논리와 관련된 이런저런 유익한 지식’을 얻어 논리와 친해질 수 있도록 내용이 구성되었다. 우리가 지금까지 보아온 논리에 대한 책은 대부분 어린 학생들을 위한 국어교육 차원의 책이거나 철학을 전공하는 대학생들을 위한 어렵고 형식적인 논리학 교재들이다. 하지만 이 책은 수학자의 장점을 살려 진짜 논리학에 대해 쓴 색다른 대중적인 논리책이다.

목차

시작하며

1부 왜 논리인가
01 논리와 친해지기
논리는 머리가 아니라 몸으로 익히는 것 / 논리적 사고의 시작, 인정할 것은 인정하기 / 현대인의 필수 능력, 판단력과 분별력 / 학생들은 미래에 대해 조급해 할 필요가 없다
02 정확함이라는 미덕
가르친다는 사람, 가르킨다는 사람 / 우리말의 어려움 / 한자어로 인한 어려움
03 따지기와 지적하기
따지는 것과 친해지기 / 지적문화 / 주변에서 마주하는 사소한 불합리들

제2부 논리적 사고
04 논리학의 기본
그리스와 아라비아의 수학과 논리학 / 명제와 논증 / 논리의 시작은 ‘모든’과 ‘어떤’
05 학교에서 배우는 논리와 수학
학교에서 집합을 안 배워요 / 수학은 원래 어렵다 / 새로운 개념 받아들이기 / 토론을 잘 하려면
06 논리학과 수학
논리학, 집합론, 수학기초론 / 기호의 힘 / 논리적 사고의 예
07 패러독스 이야기
제논의 패러독스 / 러셀의 패러독스 / 베리의 패러독스 / 상트페테르부르크 패러독스 / 바나흐·타르스키 패러독스
08 여섯 가지 유형의 오류
성급한 일반화의 오류 / 이분법적 논리의 오류 / 필요조건, 충분조건의 혼동에 의한 오류 / 잘못된 가정에 의한 오류 / 확증편향의 오류 / 과학적 소양 부족에 의한 오류

제3부 현대논리학의 발전
09 새로운 논리학의 시작
19세기 독일의 발전 / 고틀로프 프레게 / 주세페 페아노 / 버트런드 러셀
10 수리논리학의 발전
새로운 논리학의 네 가지 특징 / 칸토어, 무한에 대해 말하다 / 논리주의, 형식주의, 직관주의 / 괴델의 불완전성정리와 형식주의의 붕괴
11 현대의 논리학
위대한 논리학자 타르스키 / ZF 공리계와 선택공리 / 튜링머신과 계산가능성

제4부 수학 품은 논리학
12 원소들의 모임, 집합
집합을 알려면 기호부터 알아야 한다 / 모든 부분집합의 집합, 멱집합
13 무한의 이해
무한을 이해하려면 함수부터 알아야 한다 / 무한집합에도 크고 작은 것이 따로 있다 / 무한집합론의 핵심 칸토어의 정리 / 무리수는 유리수보다 더 많다 / 합집합 논법

찾아보기

책 속으로

논리와 합리는 ‘인정할 것은 인정하는 것’에서 출발한다. 사실을 사실로 받아들이는 태도, 누군가가 맞는 말을 하면 그것을 인정하는 태도가 필요하다. 눈앞에 벌어진 상황이 자기에게 불리하더라도 인정할 것은 인정하는 태도와 자신의 과오가 있을 때 그것을 변명하지 않고 시인하는 태도가 필요하다. 불합리한 판단이나 언행은 주로 이런 기본이 잘 지켜지지 않을 때 발생한다. 논리적 사고력이 수학처럼 반복연습으로 향상하는 것과 마찬가지로 옳은 것을 인정하고 수용하는 태도도 습관화와 연습의 결과로 길러질 수 있다. 토론할 때 상대방의 말이 맞고 반박할 여지가 없는데도 그 말을 인정하지 않는 사람이 많다. 그러나 자신이 토론에서 좋은 평가를 받고 싶다면 인정할 것은 인정하는 태도를 보여야 한다. 어떤 사람이 맞는 말을 하더라도 결론적인 의견이 자기 의견과 다르면 “그 사람이 말은 잘해”라고 하면서 그 사람의 의견을 인정하지 않으려고 하는 경우가 많다. 우리나라에는 말을 잘하는 사람을 별로 좋아하지 않는 경향이 있다. 미국에서는 말을 잘하는 사람을 높이 평가하지만, 우리나라에서는 그다지 높이 평가하지 않는다. 이런 점에서 두 나라의 문화는 제법 차이가 큰 편이다.
-제1부 〈왜 논리인가?〉 24~25p 중에서

논리학은 추론과 논증의 과정과 방법론을 연구하는 학문이다. 논증이란 어떤 것이 참인지 거짓인지를 기존의 지식에 의거하여 판정하는 과정이다. 명제란 참과 거짓을 판정할 수 있는 ‘객관성을 갖는’ 문장을 말한다. 추론이란 어떠한 명제나 판단을 근거로 삼아 다른 명제나 판단을 이끌어 내는 것을 말한다. 논리학에서는 논증이라는 과정을 통해 명제 또는 추론이 참인지 거짓인지를 판정한다. 명제의 참, 거짓을 따지는 고전적인 명제논리학(혹은 문장논리학)을 기호의 사용과 더불어 프레게 등이 개척했고, 이를 술어논리학predicate logic이라고 부른다.
어떤 문장을 서술하거나 그 문장 내용의 진실 여부를 판정할 때 ‘논리기호’를 사용하면 편리하므로 현대논리학에서는 기호를 본격적으로 사용한다. 그래서 그런 새로운 술어논리학을 기호논리학이라고 부르기도 한다. 기호논리학의 기호 사용법을 모두 소개하기에는 과다할 수 있으니 여기서는 핵심적인 기호 몇 개만 소개하고자 한다. 이 기호들은 순수한 수학적 문장에서도 자주 등장하는데, 이것들을 사용할 때는 영어(유럽어) 문법으로 표현하는 것이 한국어 문법으로 표현하는 것보다 더 편할 때가 많다.
-제2부 〈논리적 사고〉 82~83p 중에서

수학에서 언어적인 의미를 잘 이해하지 못해 오해가 생기는 예도 하나 들어보자. ‘각의 삼등분 작도 문제’라는 유명한 문제가 있다. 이 문제는 프랑스의 피에르 방첼Pierre Wantzel이 1837년에 작도할 방법이 없음을 보여 이미 끝난 문제인데, 아직도 이 문제를 풀겠다는 사람이 많다. 의외로 많은 사람이 자와 컴퍼스만으로 임의의 각을 삼등분하는 방법을 찾아 나서거나 자신이 이미 찾았다고 주장하는 것이다. 이는 그들이 “삼등분하는 방법이 존재하지 않는다”라는 말과 “삼등분하는 방법을 찾지 못한다”라는 말의 의미에 어떤 차이가 있는지를 이해하지 못해서 발생하는 해프닝이다. 나는 지금까지 두 명의 이공계 대학교수에게서 자신이 삼등분 작도 문제를 풀었으니 검토해달라는 이메일을 받은 적이 있다. 외국에도 그런 사람이 많아 그들을 트라이섹터trisector라고 부른다.
예전에 한 사람이 원주율 𝜋의 작도법을 자신이 찾았다고 주장하면서 서울대 수학과 교수들을 쫓아다니며 괴롭히다가 교수들이 응대해주지 않자 스스로 거금의 광고비를 들여 주요 일간지에 자신의 증명을 실었던 적이 있었다. 𝜋의 초월성은 1882년에 독일의 린데만Ferdinand von Lindemann(1852~1939)이 이미 증명했고, 따라서 𝜋는 초월수이므로 작도할 수 없으니(작도할 수 있다는 말은 그것이 다항식의 근이 되는 수, 즉 대수적 수라는 뜻이다), 수학과 교수들은 그가 제시한 작도법을 쳐다보려고도 하지 않았을 것이다. 실은 𝜋의 작도법을 찾았다고 주장한 사람은 𝜋의 진짜 값이 아니라 그것의 근삿값을 작도한 것이었다.
-제2부 〈논리적 사고〉 131~132p 중에서

논리학의 새로운 발전은 19세기 말에 주로 독일의 수학자들에 의해 시작되었다. 이 새로운 논리학은 그대로 현대논리학이라고 불러도 좋다. 아리스토텔레스의 논리학이 대변하는 고전논리학은 오랫동안 유럽과 아라비아에서 수사학에 가까운 형태로 여러 학문의 기초를 이뤘다. 유럽에서는 오랜 세월 동안 종교의 절대적인 권위에 압도되는 상황 속에서 논리학은 다른 학문들과 마찬가지로 별다른 진전을 이루지 못하다가 유럽에 새로운 각성의 시대가 열리면서 획기적인 발전을 이루게 된다.
데카르트는 17세기에 수학에서 좌표평면과 문자 계산을 고안해 냄으로써 혁신적인 발전을 이끌기도 했지만, 나는 데카르트가 수학과 과학에 진정으로 공헌한 것은 인간의 순수한 이성을 통해 (교회에 의존하지 않고) 진리를 탐구한다는 새로운 과학철학을 제시한 점이라고 생각한다. 그래서 수학사史 강의 시간에 학생들에게 데카르트를 역사상 수학 발전에 가장 큰 공헌을 한 사람으로 소개한다. 수학적 내용과 관련한 업적만 본다면 데카르트보다는 오일러, 가우스 등이 더 많겠지만, 당시 유럽은 학문을 어떤 철학을 바탕으로 연구해야 하는가가 그보다 더 중요했다고 생각한다.
논리학은 18세기에 스코틀랜드의 흄, 리드Thomas Reid(1710~1796)와 독일의 칸트 등에 의해 새로운 발전을 시작한다. 인간의 순수한 이성을 통해 이 세상의 진리와 인간이 추구하는 삶의 가치를 탐구하는 새로운 철학 정신이 성숙함에 따라 자연스럽게 논리학은 새로운 발전을 시작할 발판을 마련하였다.
-제3부 〈현대논리학의 발전〉 195~~296p 중에서

하지만 힐베르트의 형식주의 수학 건설의 꿈은 오스트리아의 젊은 수학자 쿠르트 괴델이 1931년에 불완전성정리를 발표함으로써 깨지고 만다. 괴델의 불완전성정리는 두 가지 정리로 이루어져 있다.

제1정리 어떤 산술 공리계라도 그것이 일관적(무모순)이라면, 그것은 참이면서도 증명할 수 없는 명제가 있다. 즉, 완전하지 않다.
제2정리 어떤 산술 공리계라도 그것이 일관적(무모순)이라면, 그 공리계로부터 그 공리계 자신이 일관적임을 도출할 수 없다.

‘완전성’과 ‘일관성’의 의미는 앞에서 힐베르트의 형식주의에 관해 이야기할 때 설명한 바 있다. 괴델의 불완전성정리를 증명한 내용을 일반 대중이 이해하기는 쉽지 않다. 독자들은 그냥 ‘완벽한 산술의 체계는 존재하지 않는다’라는 정도로만 이해해도 괜찮다.
하지만 불완전성정리 때문에 수학에서 논리 체계의 완전성이 무너진 것이지 논리가 덜 중요해진 것은 아니다. 오히려 논리의 신비로움에 대해 세상의 관심이 집중되는 효과를 불러왔다.
-제3부 〈현대논리학의 발전〉 243~244p 중에서

출판사 서평

지적문화, 그리고 제논의 패러독스와 러셀의 패러독스
책의 제1부에서는 논리가 중시되지 않는 우리나라의 문화에 대해 이야기한다. 저자는 상대방의 잘못을 지적하는 ‘지적문화’의 예를 든다. 미국, 영국, 일본 등은 우리나라보다 지적문화가 훨씬 강하다. 저자는 미국 유학 당시 사람들이 줄을 서는 모습을 보고 문화 수준의 차이를 실감했다. 그때 맥도날드에서는 누군가 줄을 서지 않고 그냥 계산대로 다가가면 주문받는 종업원이 당장 눈을 부라리며 줄을 서라고 소리를 질렀다. 이처럼 지적문화가 일상화되어 있기 때문에 줄을 서지 않을 수 없었던 것이다. 영국에서도 비슷한 경험이 있었다. 영국에서 장기 체류할 때 대중교통이 불편하여 자전거 가게에서 자전거를 산 적이 있었다. 그리고 가게에서 나와 새 자전거를 타고 찻길까지 넓은 인도를 대각선으로 약 20미터 정도 가로질러 가는데, 갑자기 어떤 신사가 소리를 지르며 뛰어왔다. 불과 몇 초라고 할지라도 자전거는 찻길로 다녀야 하는데 왜 인도로 다니느냐며 저자의 행동을 지적한 것이었다. 이처럼 지적하는 문화가 강한 나라에서 자란 사람들은 평소 정확성을 추구할 수밖에 없는데 우리는 이런 부분이 부족하다는 것이다.
제2부에서는 고대 그리스와 아라비아로부터 이어져 오는 수학과 논리학의 역사를 소개하는 한편, 논리적 사고법의 아주 기초적인 부분에 관해 이야기한다. 또한 논리에서 역사적으로 중요하고 유명한 다섯 가지 패러독스도 소개한다. 그 패러독스들 중 2개만 예를 들어보자. 먼저 제논의 페러독스다. 이 패러독스에서는 제논이 ‘어떤 물질이 운동하는 것은 우리의 환상일 뿐 실은 (매 순간) 멈춰 있는 것이다’라고 주장하며 제시했는데, 달리기 이야기로 그 패러독스를 설명해보자.

올림피우스가 달리기할 때, 그는 결승점까지 거리의 중간 지점을 지나야 하고, 그 다음에는 나머지 거리의 중간 지점을 지나야 하고, 또 그 다음에는 그 나머지 거리의 중간 지점을 지나야 하는 과정을 계속해서 반복해야 한다. 따라서 올림피우스는 결승점에 가까워지긴 하지만 결승점에 이르지는 못한다.

이 패러독스는 결승점까지 남은 거리의 중간 지점까지 도달하는 과정을 ‘무한히’ 반복해야 결승점에 도달할 수 있는데 ‘유한한’ 횟수의 과정만 살펴보고는 결국 도달할 수 없다는 결론을 지은 것이다. 결국 ‘유한적 사고로 무한적 현상을 설명하려고 한 것’ 때문에 생긴 오류다.
다음은 러셀의 패러독스다. 러셀의 패러독스를 설명하고자 드는 예 가운데 가장 유명한 예는 ‘이발사의 패러독스’이다.

어느 마을에 이발사가 있다. 그 이발사가 “나는 스스로 수염을 깎지 않는 모든 마을 사람의 수염을 깎는다”라고 말했다. 그럼 그 이발사 자신의 수염은 누가 깎을까?
(ⅰ) 스스로 깎는다면, 스스로 깎지 않는 사람만을 깎는다는 사실에 모순이 되고,
(ⅱ) 스스로 깍지 않는다면, 스스로 깎지 않는 모든 사람을 깎아준다는 말에 모순이 된다.

러셀의 패러독스처럼 자기 자신에 대한 부정적 언급으로부터 모순이 발생하는 예로는 ‘거짓말쟁이 패러독스’가 있다. 고대 그리스의 철학자이자 시인인 에피메니데스는 다음과 같이 말했다고 한다. “모든 크레타섬 사람은 거짓말쟁이다.” 그런데 문제는 이 말을 한 에피메니데스 자신이 크레타섬 사람이라는 것이다. 그러면 에피메니데스가 한 이 말이 맞는 말일까, 아니면 틀린 말일까? 우선 이 단순한 문장을 다음과 같이 좀 더 분명하게 다듬는 과정이 필요하다. 그러니까 이 말을 “모든 크레타섬 사람이 하는 말은 모두 틀린 말이다”라고 바꾸어 생각해보자. 그러면 이 말은 맞는 말일 수가 없게 된다. 왜냐하면 만일 이 말이 맞는 말이라면, 이 말은 크레타섬 사람인 에피메니데스가 한 말이므로 틀린 말이 되기 때문이다.

칸토어에서 타르스키까지 현대논리학을 만든 거인들
제3부에서는 19세기 말부터 20세기 초까지 칸토어, 힐베르트, 프레게, 러셀, 화이트헤드, 비트겐슈타인, 괴델, 타르스키 등 당대 최고의 천재들이 이룬 현대논리학과 분석철학의 발달 과정과 그 의미에 관해 설명한다. 2000년이 넘는 시간 동안 모든 학문의 기초적 바탕을 이루어온 논리학이 19세기 후반부터는 독일의 수학자들을 중심으로 그전보다 더 독립적이고 체계적인 학문 분야로 거듭나게 된다. 프레게는 수학적 개념들, 심지어는 수數조차도 완전하고 구체적인 논리에 따라 정의해야 한다고 주장했다. 또한 논리적 서술에 필요한 형식적(주로 기호화된) 언어를 만들고자 했으며, 산술의 체계를 논리학에서 유도하려고 노력했다. 집합론의 창시자 칸토어는 오랫동안 수학과 논리학에서 금기시해온 ‘무한’이라는 개념을 논리적으로 다룰 수 있다는 것을 보여주며 자연스럽게 집합이 논리학에서 얼마나 중요한 개념인가를 알려주었다.
체계적이고 엄밀한 현대논리학은 수리논리학 또는 기호논리학이라고도 부른다. 이는 철학자와 수학자가 공유하던 고전논리학과 구별하기 위함이다. 수리논리학은 집합, 연산, 함수, 무한 등과 같은 수학적 개념을 포함한 집합론을 근간으로 하므로 그러한 배경지식이 없는 사람들은 그 내용을 이해하기 어려운 학문이다. 그래서 논리학은 자연스럽게 수학자가 연구하는 수리논리학과 철학자가 연구하는 논리학으로 양분되었다. 논리학은 철학이나 언어학을 연구하는 데 중요한 배경지식이므로 철학자와 언어학자가 필수적으로 공부하는 학문이긴 하지만, 현대논리학을 그 자체로 하나의 독립된 학문 분야로서 연구하는 것은 결국 수학자의 몫이 되었다. 그것은 통계학이 경제학과 같은 사회과학 연구에 꼭 필요한 지식이어서 사회과학자가 되려면 통계학이라는 과목을 필수로 이수해야 하지만, 통계학 자체를 전문적으로 연구하는 것은 통계학자의 몫인 것과 유사하다고 하겠다.
수학 내에서는 논리학을 ‘수학기초론’이라고도 부른다. 논리학은 지난 100년간 힐베르트의 형식주의 철학에 입각하여 수학의 가장 좋은 기초를 세우는 것을 목표로 발전해왔기 때문이다. 그런데 수학기초론에는 중요한 결점이 있다. 논리적으로 완벽한 산술 체계는 존재하지 않는다는 점이다.
1931년 오스트리아의 젊은 수학자 괴델은 ‘불완전성정리’를 발표하여 세상을 깜짝 놀라게 하며 아인슈타인만큼이나 유명한 사람이 되었다. 당시 현대논리학을 개척한 최고의 수학자들인 힐베르트, 페아노, 러셀 등은 완벽한 논리 체계를 구성하고자 했다. 그런데 괴델은 그것이 불가능함을 보여준 것이다.
이 불완전성정리가 발표되었을 때는 물리학에서 양자역학이라는 새로운 패러다임이 주류로 자리 잡기 시작하고, 이미 하이젠베르크의 불확정성원리가 알려진 시기여서 당시의 지식인들은 “세상에는 완전하고 확실한 진리는 존재하지 않는다”라는 새로운 세계관을 갖게 되었다. 이것은 자연과학뿐만 아니라 철학이나 경제학과 같은 학문에도 커다란 영향을 미치게 된다.
완벽함과 엄밀함을 추구하는 논리학이 수학의 좋은 기초를 세우고자 발전해왔지만, 논리적으로 완벽한 수학의 기초 자체가 존재할 수 없다는 것을 논리를 통해 증명한 것은 참으로 아이러니하다. 논리의 세계가 완벽하지도 않고 수학자가 논리에만 의존하지도 않지만, 수학의 좋은 기초를 찾아내려고 지금도 전 세계적으로 많은 논리학자가 활발하게 연구하고 있다. 대다수 수학자는 의식적이든 무의식적이든 힐베르트가 추구하던 수학의 형식주의의 방향을 따르고 있다. 그 길의 끝에 수학자들이 찾는 최종 목표가 존재하지 않는다는 것을 알지만, 그 방향이 옳은 방향이라고 믿고 가고 있는 것이다.
제4부에서는 합집합, 교집합, 함수, 수열 등과 같은 수학에서 사용하는 기초적인 개념과 기호 그리고 수학적 귀납법 등을 설명하고 그러한 개념들이 명제와 논증에 어떻게 활용되는지를 소개한다. 또한 칸토어의 집합론을 통해 구체적으로 무한이라는 개념을 어떻게 논리적으로 다룰 수 있는지도 설명한다. 여기서 무한은 무한집합을 의미하며 ‘무한히 원소가 많은 집합’이라는 뜻이다. 무한에는 큰 무한과 작은 무한이 있다. 왜 실수 중에 무리수가 유리수보다 더 많은지, 큰 무한은 작은 무한보다 얼마나 더 큰지, 어느 집합 안에 원소가 너무 많으면 어떤 문제가 생기는지 등에 대해서도 설명한다.

우리 삶의 균형을 위한 논리 수업
흔히 논리라고 하면 논쟁을 벌일 때 쓰이는 도구 정도로만 인식하는 경향이 있다. 그러나 진짜 논리는 자신의 생각을 가다듬기 위한 것이다. 자칫 감정에 치우쳐 일을 그르칠 수 있는 경우에도 평소 이성을 통한 논리적 훈련이 잘 되어 있다면 문제를 풀 수 있는 실마리와 훌륭한 균형점을 찾을 수 있다. 특히나 감성 문화는 발달해 있지만 논리 문화는 취약한 우리 사회에 꼭 필요한 책이다. 독자들의 일독을 권한다.

작가정보

저자(글) 송용진

서울대 수학과에서 이학사를 받고, 오하이오 주립대에서 위상수학 분야 이학박사를 받았다. 1991년부터 인하대 수학과 교수로 재직 중이다. 20여 년간 국제수학올림피아드 한국대표단 단장 또는 부단장을 맡으며 대한민국이 두 차례 1등을 거머쥐는 데 기여했다. 현재 국제수학올림피아드 선출직 위원IMO Board Member이다. 30여 년간 풀리지 않던 해러의 추측 문제를 해결한 연구 성과와 수학 영재교육에 헌신한 공로 등을 인정받아 과학기술훈장 혁신장, 서울시 문화상을 받았다. 국제적인 위상수학자이면서 한편으로 최고의 수학 영재들을 가르치며 우리나라 수학 발전에 기여해왔다. 지은 책으로 《수학은 우주로 흐른다》, 《조합론》 등이 있다.