|
우리는 흔히 수학이 현실을 가장 완벽하게 설명하는 도구라는 관점을 넘어서서 현실이 수학적이라는 주장까지 듣곤 한다. 이에 개인적으로 수학과 실재의 문제를 한번 생각해 보고자 한다. 수학이 무엇인가? 라는 문제는 결코 쉽지 않은 문제이다. 그리고 그 수학과 얽혀 있는 '공리', '논리', '정리' 등등의 문제, 그리고 수리논리학의 문제는 만만한 문제가 아니다. 개인적으로 정신과 자연의 의미에 대한 논의에서 점,선,면이라는 기하학적 요소에 대한 분석은 말미에 최종적으로 검토해야 할 핵심적 논의가 된다.
이렇게 복잡한 국면을 끌고 들어오는 수학의 문제를 철학적으로 반성하는 프로젝트 자체는 현재의 나의 역량에서도 버거운 문제이다. 이러한 문제를 향후 과제로 남기면서, 동시에 아주 간략한 개요 속에서, 그리고 거친 철학적 반성 속에서 수학과 실재의 문제를 접근하고자 한다. 혹여라도 수학적 사고와 수학 자체에 대한 고민을 하는 동료가 있으면 같이 이러한 난공불락의 지점을 검토하는 과정에서 많은 도움을 주고 받을 수 있으면 좋겠다.
빨강 사과 셋과 노란 오렌지 둘을 셀 수 있는 가능성이 우리에게 주어진 지는 별로 오래되지 않아 보인다. 원시인에게 있어서 사과 셋과 오렌지 둘의 합이 다섯임을 알 수 있는 추상적 이성의 완성은 대단히 어려웠을 것이기 때문이다. 수학의 업적은 바로 이러한 물리적인 빨강과 노랑, 형태적인 차이를 넘어서서 순수한 추상적 단위인 수를 발견했다는 점에 있다. 즉 수학은 이런 의미에서 우리의 모든 물리적 대상과 자연의 궁극적 관계와 패턴을 극단적으로 추상화시키는 행위이다. 다시 말해서 수는 궁극적 추상화, 일반화의 언어라고 할 수 있다. 이렇게 우리의 경험세계에는 대상이 존재하며 이 대상의 패턴을 연구하면서 개념을 추출해내는 것이 바로 수학이다.
그러나 이러한 수학에 대한 이해는 상당히 근대적인 의미를 담고 있다. 근대 수학의 만개가 오기 전에도 많은 경우 수학의 수는 이 세계에 원초적으로 혹은 선험적으로 존재하는 것으로 이해되었으며 이 세계는 기하학적 질서에 의해 정립이 된 것으로까지도 이해되었다. 즉 세계가 먼저 존재하는 것이 아니라 기하학이 먼저 존재했다는 것이다. 물론 이 기하학적 세계관이 함의하는 바는 결코 가벼운 문제가 아니다. 나에게는 이러한 점을 구성주의, 규약주의, 선험주의라고하는 층위의 스펙트럼 속에서 접근하고 있다. 전자에서 후자로 갈 수록 수학은 세계의 원천이 되는 것이며, 후자에서 전자로 갈 수록 수학은 이 경험세계에서의 상호환계 패턴을 추출하는 산물이 되는 것이다. 이러한 경향은 힐버트의 형식주의, 화이트헤드와 러셀의 논리주의 그리고 괴델의 발견, 그리고 그를 바탕으로 한 수학기초론의 흐름에서 발견될 수 있다.
힐베트의 형식주의
힐버트는 기하학의 기초를 형식화 하는데 성공한 후에 수학 전체에 대한 정리들 (theorems) 과 공리들 (axioms) 의 형식화를 시도한 프로젝트이다. 힐버트는 이러한 형식체계 자체의 무모순성과 완전성을 증명함으로써 수학의 기초를 확립하고자 하였다. 더 나아가 수학과 물리학을 비롯한 과학의 전 분야에 대한 확고한 공리적 기초를 마련하려고 노력 하였다.
화이트헤드와 러셀의 논리주의
화이트헤드와 러셀은 힐버트의 형식주의에 대한 더욱 폭넓은 해석을 개진한다. 이 둘이 탈고하였던 Principia Mathematica는 수학이 논리학의 일부에 불과하다는 입장을 강하게 개진하였다. 즉 그들에게는 논리학이나 산술을 포함한 수학을 기술하는 포괄적인 기호체계를 발전시키려는 야심찬 열망이 있었다. 사실 이 작업을 통해서 수학 증명에 쓰이는 형식적 추론규칙의 많은 부분을 명확한 형태로 제시 하기도 하였다. 러셀은 이러한 검토의 과정에서 '집합론'이라는 역설을 지적하였다. 그러나 집합론의 역설에도 불구하고 수학은 완전하며 모든 수학적 정리는 체계 내에서 증명 가능하다는 주장을 전개하였다. (이후 화이트헤드와 러셀의 집합론은 Zermelo와 Frankel이 제안한 ZF 공리체계에 선택공리(Axiom of Choice)로 확대되었다.)
괴델의 불완전성 정리
위에서 말한 논리주의는 괴델의 불완전성 정리라는 기획의 출발점이었다. 그러나 역설적으로 괴델의 정리는 화이트헤드와 러셀의 논리주의의 신념을 좌절시킨 결과를 잉태하였다. 그리고 괴델은 수학적 문제의 해결가능성을 위한 공리를 찾았던 힐버트의 노력을 무산시키기도 하였다. 괴델은 연속체가설의 무모순성, 완전성정리, 불완전성정리를 주장하였다. 그 가운데에서도 불완전성의 정리는 우리의 논지에 중요한 점을 제시한다.
괴델의 불완전성 정리는, 한 공리계가 산술을 포함하고 무모순하면, 참이면서도 증명할수 없는 명제가 존재함을 말하고 있다. 이는 다른 말로 하면 공리계가 무모순하다는 것을 그 공리계 안에서는 증명할 수 없음을 의미한다.
이러한 흐름은 바로 수학의 환원주의에 대한 신념의 균열, 그리고 새로운 노선으로의 방향전환을 알리는 신호가 되었다. 특히 괴델의 발견으로, 수학의 보다 본질적인 문제는 진리가 아니라 증명가능성의 개념이라는 이해가 중요하게 부각되었다. 이는 순수한 수들간에 참인 관계들이 존재할지라도 연역논리의 방법들은 너무 취약해 그러한 모든 사실들을 증명 할 수 없음을 말해주고 있다. 이는 다른 말로 하면 우리가 살아가는 세계, 혹은 이 세계의 근거가 되는 진리의 세계가 증명의 세계보다 크다는 것이며, 형식적 증명을 통해 진리의 세계에 도달할 수 없음을 알리는 중요한 기점이 되었다.
*
수학의 공리는 그 자체의 증명가능성과 진위치를 담고 있지 않다. 그리고 그 공리의 증명과 해석은 실재와의 정합적 관계에서 정당성을 얻는다는 것이다. 더 나아가서 점선면이라고 하는 기하학적 요소는 일종의 무정의 용어이며, 이것은 그것 자체로 그대로 받아들여야 하며 그것을 어떻게 해석하는가 하는 문제가 남는다. 이렇게 공리와 무정의 용어에 대한 새로운 이해는 수학과 실재가 비매개적이고 직접적인 지위를 얻어왔었던 과거의 전통적 관념으로부터 분명하게 선을 긋는 출발점이 된다.
이러한 흐름을 개인적으로 다음과 같이 이해하고 있다.
첫째, 수학은 순수한 추상과 일반화를 지향하는 학문이다. 수학이 아닌 어떠한 학문도 이 실재가 함의하고 있는 상호관계의 패턴의 배후를 일반화와 추상화를 통해 추적하는 학문은 존재하지 않아 보인다. 그러나 수학의 질서는 실재의 질서와 동치되지 않는다. 수학은 실재에서 어떠한 패턴을 자신의 관점에서 추출해내는 하나의 방법이다. 그리고 그러한 패턴의 정당성은 전적으로 수학적 공리 내부에서 원천적으로 주어지는 것이 아니다.
둘째, 전통적인 정의에 의거한 기하학의 점선면은 20세기에 들어서면서부터 시공간의 새로운 이해와 더불어 새롭게 정의되고 있다. 이는 기하학이 우리의 물리적 시공간의 경험 배후에 존재하는 원천적 황금률이라는 선입견을 수정하게 한다. 오히려 기하학의 선, 점, 면에 대한 정의의 근거는 물리적 실재이며 물리적 실재에서 추출된 기하학들은 그 정당성을 기하학 내부에서 부여하지 않게 됨을 지시한다. 이러한 경험을 바탕으로 한 기하학의 구상은 특히 물리적 경험세계의 직선성에 대한 재해석을 강력하게 요구한다. 우리는 저 별을 직선성에 의거해서 인식한다. 그러나 우리의 별의 인식의 경로는 굴곡이 있을 수 있다. 이러한 굴곡되었지만 직선성에 의거한 별의 인식은 전통적인 점,선,면의 도식으로는 정합적으로 설명되지 않는다. (직선성에 대한 정의와 시공간 경험에 대한 설명은 개인적으로 대단히 중요한 화두로 남아있다.)
우리는 위에서 다음과 같이 거칠게 수학과 실재의 문제를 접근하였다. 전통적으로 수학과 실재의 관계는 직접적이라는 인식을 암암리에 가져왔었다. 이 전통에서 세계의 기초는 기하학과 수학이었다. 물론 수학은 그 안에서 완벽할 수 있다. 그러나 수학은 실재와의 관계에서 그 정당성과 정합성을 부여받으며, 수학과 실재의 관계에 대한 새로운 논점이 제시되었다. 우리가 말할 수 있는 것은 이정도가 될 것 같다. 수학은 물리적 세계에서 물리적 세계의 순수한 내적 관계를 추구하고자 하는 추상화와 일반화의 도구이다. 그러나 어떠한 순수한 추상화라 할 찌라도 그것이 물리적 세계와 실재의 경험으로부터 완벽하게 독립되어 있음이 아니라는 내적 발견과 자각이다.
|
