수학사 數學史
history of mathematics
수학의 발전에 대해 고대문명의 뿌리까지 추적하는 연구.
기호(記號)와 기본적인 계산과정에서부터 오늘날의 추상적 형식주의까지 복잡한 경로로 발전한 수학적 방법의 체계화는 놀랄 만한 이야기인데, 2개의 주요분야, 즉 대수학(代數學)과 기하학(幾何學)을 포함하는 비확률적 수학과 확률적 수학으로 나누어진다.
이집트와 로마 문명에서 수학이 초등 실용산술 이상으로 발전하지 못한 것은 수학이 어려운 분야였기 때문이다. 최초의 실제적인 진보는 바빌로니아와 그리스에서 유래했다. 고대의 수치적·대수적·기하학적 방법은 BC 1700년 바빌로니아의 함무라비 왕조까지 거슬러 올라가며, 이러한 방법은 기원전 수세기 동안 그리스가 바빌로니아를 지배하는 동안에도 계속 존속되었다. 바빌로니아의 수학적 체계의 힘은 BC 3000년 동안 서서히 출현한 자리값 기수법을 바탕으로 하고 있다. 바빌로니아의 자리값 수치는 오늘날 2.40과 40.2가 구별되는 것처럼 숫자들의 배열로 결정되었다. 그러나 바빌로니아의 자리값 체계는 1부터 10까지 사용하는 오늘날의 10진법과 달리 1부터 60까지 사용하는 60진법이었다. 오늘날 학생들이 9×9까지 정수들의 모든 곱에 대한 표를 배우는 것처럼, 바빌로니아인들은 59×59의 모든 곱을 표로 작성했다. 15세기에 이러한 방식으로 모든 산술연산, 즉 덧셈·뺄셈·곱셈·나눗셈·제곱·제곱근이 메소포타미아·그리스·인도·이슬람 사회의 천문학자들에 의해 수행되었다.
그리스 수학의 독자적인 발전은 BC 5세기 후반과 BC 4세기 초반에 시작된 것으로 보인다. 철학이 과학적인 수학의 기원에 매우 중요했지만 플라톤은 수학의 발전에 중요한 역할을 하지 않은 것으로 보인다. 고대 수학에서 중요한 인물은 분명히 에우클레이데스(BC 300)이다. 그의 명저인 〈기하학 원본 Stoicheia〉에서 그는 정의(定義)·공준(公準)·공리(公理)로 시작하여 기하학과 관련된 여러 정리들을 연역했다. 고대 그리스인들의 또다른 업적은 오늘날 무리수(無理數)라고 하는 것에 대한 기하학적 이론의 개발이었다. 파이(π=3.1415926……)와 같은 무리수는 두 정수의 분수꼴로 표현할 수 없다. 3가지 주요관심 분야로는 원뿔곡선(원뿔의 단면에 의해 만들어지는 곡선들), 기계적 방법에 의한 곡선의 자취에 대한 연구, 선의 무한분할성에 대한 의미를 다루는 철학적 문제들에 대한 탐구 등이었다.
이론수학은 고대에 아르키메데스와 아폴로니오스의 연구로 그 정점에 달했다. 아르키메데스는 원뿔곡선에 대한 이론을 매우 완벽하게 이끌었으며, 아폴로니오스는 이 곡선에 대한 기본적인 성질을 체계화시켰다. 그 이후로 계속된 발전의 방향은 천문학적 문제들에 의해 결정되었다. AD 4세기까지 이러한 과학은 알렉산드리아의 파포스, 알렉산드리아의 테온, 히파티아의 업적이 증명하듯이 강의와 해설의 주제가 되었다.
이슬람 과학이 시작된 9세기까지 고대 과학이 존재했었는지에 관해서는 자세하게 알려져 있지 않다. 인도가 중요한 역할을 한 것처럼 보이는데, 특히 3각법(三角法)에 대한 공헌은 크다. 인도 수학자들은 단위원(單位圓 : 반지름이 1인 원)에서 측정되는 각의 사인(sine)과 같은 기본 개념을 도입했다. 또한 6세기 인도에서는 디오판토스의 방정식(2개 또는 그 이상의 변수를 갖는 방정식으로 그 해는 반드시 정수값을 가짐)에 관한 이론이 발전했다. 이러한 방정식에 대한 관심은 아마도 행성궤도의 주기성을 이해하기 위한 시도에서 발생했을 것이다. 불행하게도 이러한 기법 중 많은 것이 서양으로 전파되지 않았기 때문에 결과적으로 이것들은 17세기 들어 수학에 대한 관심이 고조되기 시작했을 때 다시 연구되었다. 이슬람의 수학자와 천문학자가 이룬 대부분의 진보는 계산을 위한 수단을 완성한 것이었다. 사인이나 탄젠트와 같은 3각함수표들이 편집되었으며, 행성궤도 중심에 대한 방정식을 표로 작성하기 위해 여러 방법이 고안되었다. 한 수의 제n제곱근을 반복 과정으로 구하는 방법이 개발되었다. π는 80억 개 이상의 변을 가진 내접(內接) 및 외접(外接)하는 정다각형(正多角形)을 비교함으로써 60진법으로는 소수점 아래 9자리까지, 10진법으로는 16자리까지 계산되었다. 그러나 이러한 두드러진 업적에도 불구하고, 일반적으로 BC 300~AD 200년 고대 그리스 과학의 수학사조가 900~1400년 이슬람 과학의 수학사조보다 더 번영했던 것으로 생각된다.
근대 수학의 기원은 몇몇 이탈리아의 대수학자들이 3차 방정식(한 변수가 3차인 방정식)의 해를 발견한 16세기까지 거슬러 올라간다. 1차방정식과 2차방정식(한 변수가 각각 1차와 2차인 방정식)의 해는 수천 년 동안 알려져왔지만, 3차방정식에 대한 모든 시도는 실패했다. '위대한 기술'인 대수학에 대한 갈망은 다른 나라로 빠르게 전파되었다. 프랑스의 앙리 4세 궁정에서 프랑수아 비에트는 미지량(未知量)을 모음으로, 기지량(旣知量)은 자음으로 표시함으로써 사실상 변수(여러 가지 값이 가능한 수)와 매개변수(주어진 상황에 대해 고정값을 갖는 변수)에 대한 개념을 도입했다.
17세기에는 창조와 성취가 급증했다. 스코틀랜드의 존 네이피어는 1614년에 로그의 발견을 발표했다. 로그는 주어진 수를 만드는 이른바 밑(base)이라고 하는 고정된 수에 대한 누승을 나타내는 지수이다. 예를 들면 10을 밑으로 하는 100의 로그는 100=102이기 때문에 2이다. 요하네스 케플러는 타원과 같은 기하도형의 면적을 계산할 수 있는 무한소산법(無限小算法)을 고안했다. 그뒤 1637년 프랑스의 철학자이자 수학자인 르네 데카르트는 "한 점은 축(軸)이라고 하는 두 직선으로부터 그 점까지의 거리를 나타내는 1쌍의 수로 표현될 수 있다"는 해석기하학에 대한 이론을 발표했다. 그의 천재적인 통찰력은 2개의 미지량을 갖는 방정식이 한 곡선을 나타낸다는 것을 인식했다는 것이다. 이 새로운 기하학으로 인해 연구의 대상이 되는 곡선의 종류가 엄청나게 증가했다. 곡선을 점점 더 많이 연구하여 이루어진 발전 중의 하나는 접선에 대한 더욱 정확한 정의였다. 이전까지 접선은 오직 한 점에서 곡선과 접하는 직선으로 생각되었는데, 프랑스의 변호사이자 아마추어 수학자 피에르 드 페르마는 이 정의를 더욱 확고한 토대 위에 놓았다. 그는 주어진 한 점에서 기울기를 구하기 위해 곡선 위에 두 점을 잡고 이들을 연결한 선의 기울기를 구한 뒤 구하고자 하는 점과 일치할 때까지 두 점을 함께 움직였다. 물론 서로 겹쳐지는 두 점에서의 기울기가 구하고자 하는 기울기이다. 이러한 방법은 그를 한 함수의 변화율을 결정하는 미분학의 고안자로서 알려지게 했다. 그는 확률·곡선의 구적(求積)에 대한 이해, 귀납론· 정수론에도 중요한 공헌을 했다. 흥미롭게도 그는 '2보다 큰 정수 n과 0이 아닌 x, y, z에 대해 방정식 xn＋yn=zn의 해는 존재하지 않는다'는 이른바 최후정리를 발견한 것으로 잘 알려져 있다. 그는 책의 여백에 이 정리를 기술했고 그 증명을 발견했으나 그것은 여백에 비해 너무 길어 그 증명을 여백에 다 쓸 수 없다고 기술했다.
대수기하학의 교묘한 방법을 사용하여 영국의 수학자 앤드루 와일스는 자신의 제자였던 리처드 테일러의 도움을 받아 페르마의 최후정리를 증명하는 방법을 찾아냈으며, 그것은 1995년 〈수학연보 Annals of Mathematics〉에 발표되었다.
17세기의 업적들 중 아이작 뉴턴의 연구보다 더 뛰어난 것은 없다. 그가 가장 초기에 발견한 것 중에 하나인 이항정리(二項定理)는 (x＋y)n꼴의 식을 여러 개의 항으로 전개시킬 수 있다. 뉴턴은 n이 정수가 아닐 경우 항들의 급수(級數)는 무한하며 몇몇 경우에 있어서는 항들의 합이 유한하다는 것을 발견했다. 예를 들어 무한급수의 합 1＋1/2＋1/4＋1/8＋……은 값이 2이다. 무한급수에 대한 그의 연구는 독립변수의 변화에 따른 함수의 변화를 연구할 수 있는 방법인 미적분학의 발전에 중요한 역할을 했다. 미적분학 발전에 있어서 중요한 또다른 공헌은 독일의 수학자이자 철학자인 고트프리트 빌헬름 라이프니츠에 의해서 동시에 이루어졌다. 그러나 그의 많은 공헌은 2세기 동안 인정받지 못했다. 왜냐하면 뉴턴의 목적은 자연을 이해하는 데 있는 반면, 라이프니츠는 지식에 대한 일반적인 방법을 찾으려고 했기 때문이다. 결론적으로 그의 접근은 더 추상적이었으며, 1854년 영국의 수학자 조지 불의 〈사고의 법칙 연구 Investigation into the Laws of Thought〉가 출판된 후에야 지지자들을 얻었다. 그러나 이 책자가 나오기 이전에도 라이프니츠의 영향력은 베르누이가(家)나 레온하르트 오일러와 같은 18세기의 유명한 인물들에게 영감을 줄 정도로 널리 전파되어 있었다.
18세기에는 놀랄 만한 발견이 거의 없었지만, 창조성의 본원(本源)으로서 공헌한 오일러의 연구를 비롯하여 그 이전의 어느 기간보다 새로운 수학이 생성되었다. 오일러는 수학의 모든 해석학적인 측면에 공헌했는데, 그의 미적분학에 대한 논문들은 현대의 저자들이 소재를 이끌어내는 원천이 되고 있다. 오일러는 또한 페르마 이후 정수론의 대부분에 공헌했다. 다른 주목할 만한 공헌은 프랑스의 수학자 조제프 루이 라그랑주에 의해 이루어졌는데, 그는 대수학·해석학·정수론· 역학 등의 분야를 발전시켰다. 그의 가장 유명하고 영향력 있는 책 중 하나인 〈해석역학 Mécanique analytique〉(1788)은 역학을 수리해석학의 한 분야로 확립했으며, 적은 수의 공준을 가지고 시작하여 연역논리만으로 이 주제에 대한 원리들을 세우는 데 성공했다. 이 연구는 너무 탁월하여 어떤 사람들은 그것이 이성시대의 극치를 나타낸다고 주장한다. 18세기말 프랑스의 수학자들이 남긴 가장 위대한 유산은 에콜 폴리테크니크의 설립일 것이다. 이 학교에서 라그랑주, 피에르 시몽 라플라스, 가스파르 몽주와 같은 유명한 사람들이 가르쳤다. 라플라스는 천체역학이 본질적으로 해석학의 한 분야임을 보이는 데 공헌했으며, 라플라스 변환, 라플라스 방정식과 같은 현대적 도구를 만들었다. 에콜 폴리테크니크의 많은 학생들에게 위대한 교사로 존경을 받은 몽주는 기하학에 대한 관심을 불러일으켰다.
라자르 카르노의 연구는 19세기 기하학 연구의 선구가 되었다. 장 바티스트 조제프 푸리에도 푸리에 변환을 발견했을 뿐 아니라 기하학에서 몇몇 두드러진 발전을 이룩했다. 푸리에는 19세기의 엄격하지는 않지만 전형적인 독창성을 보여주면서 임의의 함수를 사인과 코사인의 푸리에 급수로 전개시킬 수 있다고 주장했다. 이 기법은 오늘날 수학자와 물리학자가 함께 사용하는 기본 도구이다. 그러나 19세기 수학의 가장 위대한 업적은 비(非)유클리드 기하학의 발견일 것이다.
유클리드 기하학에서는 편평한 공간을 논할 뿐 구부러진 공간에 대한 가능성을 인식하지도 못했을 뿐 아니라 설명하지도 않는다. 그러므로 굽은 공간에 대한 가능성은 에우클레이데스의 평행선 공준을 뿌리째 흔들었다. 이 공준은 '직선 밖의 한 점을 지나고 그 직선에 평행한 직선은 오직 하나밖에 그릴 수 없다'는 것이었다. 비록 에우클레이데스의 평행선 공준이 다른 정리들에 비해 기초적이지 않은 것처럼 보였지만, 19세기초가 되어서야 러시아의 수학자 니콜라이 이바노비치 로바체프스키와 헝가리의 수학자 야노슈 보요이가 이 원리를 사용하지 않고 일관적인 기하학을 세울 수 있다는 것을 보였다. 즉 그들은 굽은 공간에 대한 가능성을 설명했다. 그들의 연구는 독일의 수학자 베른하르트 리만에 의해 더욱 확장·발전되었다. 비유클리드 기하학을 독자적으로 발견한 또다른 사람은 독일의 수학자 카를 프리드리히 가우스이다. 그러나 그는 자신의 결과를 발표하지 않았다. 많은 사람들은 가우스가 매우 뛰어난 수학천재 중 한 사람이며, 뉴턴이나 아르키메데스와 어깨를 나란히 한다고 믿었다. 그는 정수론과 기하학에 관한 독창적인 연구를 발표했을 뿐 아니라 증명에도 세심한 관심을 보였다. 그는 통계학과 응용수학에 커다란 공헌을 했으며, 특히 천문학·측지학(測地學)·자기학(磁氣學) 분야에 대한 공헌이 크다.
20세기 기하학의 발전은 위상수학에 집중되었는데, 통일된 접근법은 1911년경 네덜란드의 수학자 L.E.J. 브로우웨르가 몇몇 중요한 공헌을 이룩하기 전까지는 시작되지 않았다. 그뒤 이 주제는 현대 대수학과 밀접한 관계를 맺으며 발전했다. 위상수학은 연속사상에 의한 변환에 의해 변하지 않는 기하도형의 성질과 관계가 있다. 예를 들어 감자는 구(球)와 위상동치이며, 도넛은 커피잔과 위상동치이다. 그러나 구는 도넛과 위상동치가 아니다. 구는 연속사상을 통해서 도넛으로 변환시킬 수 없고, 단지 쪼개거나 찢는 동작을 통해서만 변환시킬 수 있다.
또다른 커다란 관심분야는 확률적 수학이다. 르네상스 수학자들은 성공한 적이 적었지만 도박을 연구하기 위해 처음으로 이 분야를 연구했다. 영국의 통계학자 존 그론트는 사망기록부에서 얻어진 통계급수의 안정성을 보였다. 그뒤 곧바로 영국의 천문학자 에드먼드 핼리는 사망표로부터 연금을 계산하는 방법을 제시했다. 이러한 확률연구는 소송절차에 대한 증거를 평가한다는 면에서도 관심의 대상이었다.
18세기 들어 수학자들의 확률연구는 라플라스의 연구로 절정에 달했는데, 그는 우주에 대한 엄격한 결정론(決定論)을 옹호했다. 그가 보급시키고 다른 사람들이 발전시킨 관점에서 확률은 단지 하나의 오차론(誤差論)으로서 자연과학에 속하게 된다. 그러나 19세기 중반에 확률은 이론에 대한 하나의 합당한 요소로 인식되었다. 1860년 스코틀랜드의 물리학자 제임스 클럭 맥스웰은 분자들의 위치와 속도의 분포에 대한 확률을 바탕으로 하여 기체법칙(氣體法則)을 추론했다. 1877년 독일의 물리학자 루트비히 볼츠만은 열적 과정의 비가역성(非可逆性)을 분자들의 최빈(最頻) 에너지 분포를 향하는 경향으로 해석했다. 양자물리가 발전함에 따라 확률론은 원자와 관련된 기본적인 과정을 기술할 때 사용되었다. 20세기 중반 라플라스의 결정론적 관점은 많은 사람들에 의해 심각한 위험에 빠졌다. 최근에는 간단한 반응규칙에 따르는 단순한 계(系)도 매우 무질서한 현상을 일으킬 수 있다는 혼돈과 비(非)선형 역학분야가 발전하게 되었다. 그결과 확률·통계의 의미를 이해하는 것이 중요함을 강조하고 있다. ' 확률'이라는 말은 사실 많은 의미를 갖고 있다. 즉 ① 주사위를 던져서 '4'가 나올 확률은 1/6이다. ② 셰익스피어가 그가 썼다고 알려진 희곡을 썼을 확률은 압도적으로 높다. ③ 프레넬의 실험은 빛의 파동설(波動說)에 대한 확률을 증가시켰다. 확률론의 현대 사상가 중 한 사람인 한스 라이헨바흐는 이 3가지 경우에 대해 다음과 같이 주장했다. 과학적인 의미를 가진 것은 오로지 첫번째 예이고, 개인적인 사건의 확률과 관계된 2번째 예는 의미가 없으며, 반면 3번째 문장은 성공적인 예측에 대한 비율로 간주하여 의미를 부여할 수 있다. 확률에 대한 통합된 견해는 J.M. 케인스에 의해 이루어졌으며, 확률은 합리적인 신뢰도이지만 반드시 측정할 수 있는 것은 아니라고 주장했다. 케인스에 따르면 2번째와 3번째 예에 있는 어려움은 확률이 생각보다 더 광범위하게 해석된다는 것을 나타낸다.
확률·통계에 대한 수학은 점진적으로 발전하고 있다. 라플라스는 통계적 가설을 최초로 시험한 사람들 가운데 한 사람이지만, 시험에 대한 그의 판단기준은 수학적이라기보다는 직관적이었다. 수리통계학이 독립된 분야로 등장한 시기는 19세기 후반이었으며, 영국·프랑스·독일의 수학자들인 아돌프 케이틀레, 구스타프 세도르 페시네르, 칼 피어슨, 그리고 체크의 수학자 에마누엘 추베르의 연구를 통해서였다. 이들 개개인은 수리통계학에 대한 개념을 인구의 집단적인 특성과 관련시켜 수학의 한 분야로서 확고한 토대를 세웠다. 기술 통계학은 그래프와 표에 의한 방법을 포함한 여러 가지 방법으로 인구의 특성을 기술하는 수단으로서 도입되었다. 연구가 진행됨에 따라 가설을 추정·시험하는 문제가 발생했다. 피어슨은 적률법(積率法)이라고 하는 점추정법(點推定法)을 개발했는데, 1900년 적합도에 대한 카이제곱(χ2) 시험을 발표했다. 1922년 로널드 피셔는 통계학을 새로 정의했다. 또한 통계적 방법의 목적은 많은 양의 자료를 의미있는 결과로 바꾸는 것이라고 하면서 3가지 기본 문제들, 즉 추정·분포·규격 등의 문제를 구별했다. 통계학에 대한 연구는 오늘날에도 계속되고 있다.