[읽은 척 하기] "수학의 몽상(2000)" 피타고라스에서 괴델까지 롤러코스터 워우워

표지 그림은 데카르트(펜 들고 있음), 에셔(노란 옷), 메피스토텔레스(악마), 칸토어(상자 들고 있음)인 것 같다.

개인적으로 이거 말고 개정 전 표지가 더 맘에 든다.

책을 한 마디로 표현한다면

피타고라스에서 괴델까지 롤러코스터 워우워

수학사, 그리고 수학자들에 관한 책이다. 고대 수학에서 근대 수학까지 다루고 있다. 롤러코스터인 이유는? 일반적인 역사 관련 책은 시대를 나눈 후 각 카테고리를 종횡으로 통일성 있게 구성한다. 그런데 이 책은 형식에 얽매이기 보다는 롤러코스터처럼 다이내믹한 흐름으로 미끄러지는 방식을 택하고 있다. 책의 구성은 의식의 흐름, 즉 몽상의 롤러코스터이다. 뭔소리냐. 

책의 핵심 키워드: 수학사의 위기 네 가지

이 책을 읽은 척 하고 싶다면 다음 네 가지는 무조건 반드시 꼭 외워두어야 한다.

비유클리드 기하학

무한의 역설

칸토어의 역설

괴델의 불완전성 정리

저 네 가지 키워드는 수학사에서 손 꼽을 만한 '위기'들이다. 책은 네 가지 위기가 나타난 배경과 수학자들이 이 위기를 어떻게 극복하려고 했는지 이야기하고 있다. 네 가지 키워드를 이해하는데 수학에 ㅅ도 몰라도 상관없다. 일단 책에 복잡한 수식이 거의 나오지 않을 뿐더러 나오는 공식들을 꼭 이해해야만 책이 재미있는 것도 아니다. 

그런데, 전쟁사도 아니고 경제사도 아니고 수학사에 위기가 있을 수 있을까?

서구에서는 매우 오랫동안 수학은 거의 절대적인 의미에서 진리라고 여겨왔다. (생략) 그러나 실제로 수학의 역사를 풍요롭게 하고, 밑바탕에서 이끌어온 것은 창의적인 상상력과 자유로운 비판의 정신이었다. 그것은 많은 경우 엄격함의 그물에 사로잡히곤 하지만, 어느새 그것을 뚫고 나가는 탈주의 선을 그린다. 

한마디로 수학계에 오래 내려오던 '수학이 최고 진리, 수학이 킹왕짱임!'이 위협 받는 사건들이다. 이진경 선생님은 이것을 '탈주의 선'이라고 표현하고 있으며 이 사건들 덕분에 수학이 더 풍요로워질 수 있었다고 말한다.

아니 이진경 쌤! 수학은 진리잖아요. 1+1=2가 진리가 아니면 무엇인가여...

우리는 학교에서 '수학'은 과정이 확실하고 답이 확실하고 점수도 확실한 순수이성 그 자체라고 배운다. 

그럼에도 불구하고 결론부터 얘기하면, 수학은 진리가 아니다. 

정확히 말하자면 '진리임을 증명할 수 없다'. 

더 정확히 말하자면 '모순이 없다는 것을 증명할 수 없다.'

또 뭔소리냐. 잘난 척하기 위해서는 배경지식이 좀 필요하다.

배경지식: 수학의 영역

책에 따르면 17-18세기 수학은 크게 네 가지 영역으로 발달했다.

1) 기하학

피타고라스 정리, 삼각함수, 원주율 등을 생각하면 된다. 기하학은 도형을 통해 세상을 바라본다.

2) 대수학

사칙연산과 방정식을 생각하면 된다. 대수학은 그림을 그리지 않는다. 오직 숫자와 기호로 이야기할 뿐이다.

3) 해석학

미적분학을 생각하면 된다. 해석학은 도형 혹은 함수를 작게 조각 내고 다시 합치는 것을 좋아한다. 

4) 보편 수학

좌표 평면과 집합론을 생각하자. 보편 수학은 위의 기하학, 대수학, 해석학이 따로 놀지 않도록 하나로 통합하려는 움직임이다. 수학자들은 이 보편 수학을 통해 변하지 않는 수학적 진리를 세우고자 했다. 

보편 수학의 태동에는 데카르트&라이프니츠의 좌표 평면이 큰 중간 다리 역할을 했다. 좌표 평면을 매개 하면 기하학과 대수학, 해석학을 자유롭게 넘나들 수 있다!

예시1 도형인 원을 좌표에 그리고 이것을 원의 공식으로 표현할 수 있다. (기하학 -> 대수학)

예시2 구름 모양 도형의 면적을 구하고 싶으면 구름을 좌표 평면에 그리고 구름에 대한 함수를 구한 다음 적분을 하면 된다. (기하학 -> 대수학 -> 해석학) 

또한 집합론은 19-20세기 수학을 이해하는데 가장 기초가 된다. 집합론은 현대 수학의 거의 모든 영역에서 '증명'에 사용되고 있다. 1+1=2 역시 집합론으로 증명된다. 자세한 설명은 생략한다.

이제, 수학사의 위기에 대해 아는 척을 해보자!

수학사의 위기는 위에서 이야기한 기하학, 해석학, 보편 수학의 영역에서 발생했다.

1) 비유클리드 기하학: 유클리드 기하학의 위엄을 깨부수다

우리가 초, 중, 고에서 배우는 기하학은 유클리드 기하학 뿐이다. 우리는 유클리드 기하학의 공리를 초등학교 때부터 배운다. 기억하는가? 현기증 나면 굳이 읽지 말고 넘어가자.

제1공리 '임의의 서로 다른 두 점을 지나는 직선은 유일하다.'

제2공리 '직선은 무한히 연장할 수 있다.'

제3공리 '임의의 점을 중심으로 임의의 길이를 반지름으로 하는 원을 그릴 수 있다.'

제4공리 '모든 직각은 같다.'

제5공리 '평면 위의 한 직선이 다른 두 직선과 만날 때, 같은 쪽에 있는 내각의 합이 180도보다 작으면 이 두 직선을 연장할 때 180보다 작은 내각을 이루는 쪽에서 반드시 만난다.

우리는 이 공리가 진리라고 알고 있다. 수학자들도 몇 백 년 간 그래왔다. 유클리드 기하학은 위엄 of 위엄 자체였고 그 누구도 반박할 수 없는 진리였다.

그런데 어느 날! 문제는 제5공리에서 발생했다. 제5공리는 '평행선 공리'라고도 하는데, 한 마디로 말해서, 평행인 두 직선은 만나지 않고 반면 평행이 아닌 두 직선은 만난다는 말이다.

뭐 당연한 소리를 하냐 싶겠지만 이것은 당연하지 않다. 다음의 예시를 기억하고 아는 척 할 때 써먹자.

우리가 살고 있는 지구를 생각해보자. 지구본을 빙 둘러서 가로선 적도를 그어보자. 그리고 적도와는 수직으로 세로선 경도를 두 개 그어보자. 그 경도 두 개는 서로 평행하다. 유클리드 기하학에 따르면 평행한 두 직선은 만나지 않는다. 그러니 두 경도는 만나지 않아야 한다. 그런데 두 경도는 만난다. 북극과 남극에서. 

띠용

이 모순은 천년만년 바이블이 될 것 같았던 유클리드 기하학의 위엄을 그렇게 깨부쉈다. 이 모순은 결국 해결되지 못했다. 결국 수학자들은 유클리드 기하학의 제5공리가 긍정되는 공간을 '유클리드 평면'이라고 이름을 붙였다. 반면 제5공리가 부정되는 공간에서의 기하학을 '비유클리드 기하학'이라고 명명하며 새로운 분야를 개척하게 되었다. 즉, 비유클리드 기하학은 곡면, 구면 등 다양하게 구부러지고 변형된 공간에서 성립되는 것으로 인정받게 된다.

2) 무한의 역설: 아니 그래서 그게 0이라는 거야, 0이 아니라는 거야?

일반적인 대한민국 고등학교 공교육을 극복한 사람이라면, 극한(lim)가 무엇인지 어렴풋이 알 것이다. 

거칠게 말해서, lim는 좌표 평면 위에 함수가 있을 경우  x축의 값을 원하는 방향으로 날려 y축이 어느 값으로 '수렴'하는지 결정하라는 기호다.

무한의 역설은 '수렴'에서 발생한다. y값이 0에 수렴할 경우, 이것은 0인가 0이 아닌가? 우리는 극한 값을 0로 보아도 되는걸까?

왜 문제냐면, 미적분 기법에서 극한의 특성으로 인해 모순이 발생해버리기 때문이다. 미적분 과정을 알고 있는 사람이라면 생각해보도록 하고 미적분 과정을 모르거나 기억나지 않는 사람은 다음과 같이 아는 척을 시전 하자.

미적분을 할 때, 극한 값 f(x)를 '0'으로 생각하고 무시하는 과정이 있다. 그러나 이 f(x)를 완벽하게 '0'으로 보지 않고 사칙연산에 포함 시켜버리는 과정이 있다.

어떤 때는 0이라고 하고 어떤 때는 0이 아니라고 하고 완벽한 모순이다. 이 모순으로 인해 수학자들은 미적분학, 해석학을 수학에서 몰아내고 싶어했지만 미적분학이 주는 이득이 너무 많아 머리만 쥐어 뜯었다고 한다.

결국 극한 값을 하나로 고정해서 이야기하는 것이 아니라 범위로 지정함으로써 모순을 해결하기는 했지만 뭔가 분위기가 싸늘하다. 다음은 역설의 해결 방법인데, 이해 안되면 그냥 건너뛰자.

a-d < x < a+d 일 때 (x가 a근처에 있을 때)

c-e < f(x) < c+e 이다. (y는 c근처에 있다)

3) 칸토어의 역설: 집합론을 '참'이라고 증명할 수가 없다.

집합론에 대해 아는 바가 전혀 없다면 이 부분을 '간단하게' 설명하기는 힘들다. 이 리뷰는 책은 보고 싶은데 골치 아픈 것은 싫은 사람들을 위해 쓰는 것이므로 자세한 것은 생략한다. 이 부분을 꼼수 없이 이해하고 싶다면 책을 읽는 것을 추천한다. 

간단히 아는 척은 다음 한마디로 충분하다.

쉽게 말하자면, '수학의 진리화'를 위해 집합론을 사용하고 있는데 집합론 자체가 진리가 아니어서 망한 것이다. 

진리가 아닌 것으로 수학이 진리임을 증명하려고 하다니, 말이 안된다. 그런데 집합론만 망한 것이 아니었다. 수학의 진정한 진혼곡은 괴델이 연주했다.

4) 괴델의 불완전성 정리: 그 무엇도 '참'이라고 증명할 수가 없다.

칸토어의 역설을 이해하지 못했다면 이 부분도 설명하기가 힘들다. 책을 보거나 위키피디아를 검색하자. 

하지만 아는 척하기 위한 한마디는 남기겠다.

이것도 결론만 말하면, 집합론 뿐만 아니라 어떠한 체계에서도 그 체계 자신이 진리임을 증명할 수가 없다는 의미다.

논리적으로 볼 때 괴델의 불완전성 정리는 아름답고 명쾌하다. 이것에 따르면 수학은 스스로를 진리로 증명할 수가 없다. 그리고 수학자들은 이 문제를 아직도 해결하지 못했다!

뻘소리 & 진심이 느껴지는 감상평 tip

나는 이 책을 읽고 나서 수학 공부가 너무 하고 싶었다. 책의 논리를 따라가는 게 정말 롤러코스터 타듯이 짜릿했고 수학뽕 제대로 맞았다. 그래서 쌩문과인데 짬짬이 이과 수학 독학하고 토마스 미적분학 사서 짠내 나게 공부했다. 그리고 바로 다음 학기에 수학과 수업을 들으러 갔다. 과목명은 무려 해석학과 선형대수학(재앙의 시작). 

과제: 이 책을 메소드로 읽은 척하려면 이 정도 수준의 구라를 생각해보자.

비판적인 척 하기: 한국 수학 교육과 스토리텔링

기본적으로 수학사에 대한 이야기지만, 책은 우리 한국의 수학 교육에 대해서도 고민하게 한다. 

일단, 나는 학창 시절에 수학을 잘 하는 편이었다. 아니, '수학을 잘 한다'고 생각했다. 이 책을 읽기 전까지는. 대학교 1학년 때 이 책을 접하고 수학과에 가서 수업을 들으며 나는 한국 수학 교육에 대한 회의를 느꼈다. 다들 느끼고 있겠지만, 한국 수학 교육은 '답 맞추기' 혹은 '훈련' 그 이상도 그 이하도 아니다. 내가 잘 했던 것은 수학이 아니라 '암기'였다. 정확히 말하면, 기출 패턴을 잘 암기한 후, 새로운 문제를 보고 어떤 패턴에 들어 맞는지 생각한 다음 공식을 알맞게 적용하는 것을 잘했다. 그리고 나는 수학이 싫었다. 수학에는 나를 두근거리게 만드는 구석이 전혀 없었다. 왜?

아무 스토리 없이 파밍만 죽어라 해야 하는 RPG를 누가 하고 싶을까? 우리 수학 교육의 현실이다.

현재 공교육에서 수학은 맥락과 의미 대신 피상적인 숫자놀음만 가득하다. 문제해결능력을 배워가는 과정이라고 하지만, 모순적으로 교과서에는 증명보다는 공식만 강조되며 시험 역시 마찬가지다. 미적분학이 어떤 맥락에서 나왔는지 그것이 갖는 가치가 무엇인지 우리는 모른다. 그저 미적분 공식만 달달 외워서 수능 문제 패턴에 맞게 기계적으로 적용하고 있을 뿐이다.

나는 이 책을 읽고 나서 가슴이 두근거렸다. 이 책을 읽고 나서 비로소 나의 수학에 스토리가 생겼고 사람이 나타났고 철학이 생겼고 질문이 생겼기 때문이다. 

스토리니 맥락이니 그게 뭐가 중요하냐고 물어본다면 고개를 들어 세상을 보자. 어떤 영역이던 결국 사람들의 마음을 끄는 것은 '스토리텔링'이다. 세계적으로 유명한 게임도, 캐릭터도, 놀이공원도, 심지어 서바이벌 음악 방송도 스토리가 있어야 사랑을 받는다. 그 자체의 목적과 본질 만으로는 사람의 마음을 잡을 수 없기 때문이다. 

우리의 수학 교육도 그렇지 말아야 한다는 법이 있나? 수학을 '수학'답게 만드는 것이 과연 숫자놀음 뿐일까? 문제 풀이에 집착하는 대신 미적분이 탄생하게 된 역사와 계기, 공식을 유도하게 된 그 논리, 그리고 그 사람들에 대해 이야기할 수는 없을까? 누가누가 빨리 계산하나, 누가누가 실수 안 하나, 누가누가 기출 패턴을 잘 암기했나를 평가하는 대신 수학적 논리 과정을 교육하고 학생들이 질문하고 토론할 수 있도록 내용의 흐름을 바꾸었으면 좋겠다.

물론, 수능 수학 시험이 변하기 전까지는 교육이 아무리 변해도 소용없다는 것도 모두가 알고 있다. 그런데 수능 수학 시험이 어떻게 변화되어야 할지는 교육 전문가들도 모르는 것 같다. 그렇지만 적어도 우리는 문제가 무엇인지 알고 있다. 해결 방안을 생각하는 것은 다른 차원의 문제지만. 따라서 수학 교육의 문제점을 인식한 우리 세대가 나름의 대안을 생각해보고 사회에 나가 제안하고 변화를 이끌어나갈 필요가 있을 것 같다.

추가로 언급할 만한 책

더글러스 호프스테터(1979) "괴델, 에셔, 바흐"

"수학의 몽상"은 형식적, 내용적 측면에서 "괴델, 에셔, 바흐" 를 떠올리게 한다. 두 책 모두 설명문, 소설, 시나리오를 넘나들며 책을 다채롭게 구성하고 있다. 또한 제목에서 드러나는 것처럼 "괴델, 에셔, 바흐"는 괴델의 불완전성 정리, 에셔 그림의 논리적 모순성, 바흐의 무한히 상승하는 카논을 다양한 틀로 분석하고 통합하고 있다. "수학의 몽상"에 에셔가 자주 등장한 것은 우연이 아니다.

아, 미리 말하는데 이 책은 읽지 마라. 절대로 시작하지 마라. 나중에 포스팅할테니 기다렸다가 주워 먹자.

진중권(1994) "미학 오디세이"

"미학 오디세이" 역시 "괴델, 에셔, 바흐"에서 형식과 내용을 다수 차용하고 있다. 참고로 "수학의 몽상"은 2000년에 처음 나왔다. "괴델, 에셔, 바흐"를 좀 더 말랑말랑하게 레퍼런스로 삼고 있다는 점에서 공통점이 있다. 

루이스 캐럴(1865) "이상한 나라의 앨리스 & 거울 나라의 앨리스"

불멸의 고전. 불멸의 오마주. 레전설. 말이 필요없다. 루이스 캐럴이 수학자임을 알고 있는가? "수학의 몽상"은 물론 "괴델, 에셔, 바흐" 역시 이 책을 떼 놓고 말할 수 없다. 이것도 곧 포스팅 예정!