수학의 ‘바른 의의’는 조선에서 나온다

오영숙(독립학자)

사진 : 『算學正義』 (奎7838-v.1-3)

‘정의(正義)’란 무엇인가? 국립국어원 표준국어대사전에 의하면 ‘정의’의 첫 번째 의미는 ‘진리(眞理)에 맞는 올바른 도리(道理)’이고, 두 번째 의미는 ‘바른 의의(意義)’이다. 첫 번째 의미가 ‘justice’의 번역어로 흔히 사용되는 의미인 반면, 우리가 여기서 주목해보고자 하는 것은 두 번째 의미인 ‘바른 의의’이다. ‘의의(意義)’를 ‘말이나 글의 속뜻’이라고 해석한다면, ‘정의’란 ‘말이나 글의 속뜻을 바르게 만듦’ 혹은 ‘바른 속뜻’, ‘바른 해석’ 정도로 생각할 수 있을 것이다. 그렇다면 우리가 살펴볼 책의 제목인 『산학정의(算學正義)』란, 산학(算學), 즉 수학에서 사용되는 여러 용어나 계산법의 바른 뜻을 말한다고 할 수 있다.

사실 ‘정의’란 단어가 책 제목으로 사용된 대표적인 예는 당(唐) 태종(太宗, 재위기간: 626-649)의 명령으로 편찬하기 시작하여 653년에 반포된, 총 180권의 『오경정의(五經正義)』일 것이다. 고대 유학의 기본 경전인 『주역(周易)』, 『상서(尙書)』, 『모시(毛詩)』, 『예기(禮記)』, 『춘추(春秋)』의 본문인 ‘경(經)’에 한(漢) 이후 여러 학자들이 각종 ‘주(注)’를 붙이고, 남북조(南北朝) 시대 학자들이 다시 그 주에 각자 의견을 피력한 ‘소(疏)’를 붙이곤 했다. 태종은 이런 갑론을박 같은 의견을 통일시킬 권위 있는 책을 만들고자 각종 판본을 모아 검토한 후 잘못된 글자나 빠진 글자를 보완하여 제대로 된 경문을 정립하고, 당대 여러 학자들의 토론을 거쳐 여러 주석들을 비교, 비판, 통합하는 거대한 프로젝트를 출범시켰다. 이 프로젝트가 마무리되고 결과물에 붙은 제목이 바로 『오경정의』였다. 즉 잘못 전해졌던 경문과 잡다한 주석들을 통일해서 ‘바른 의의’를 세우고자 했던 것이다. 1867년 남병길(南秉吉, 1820-1869)은 ‘정의’라는 똑같은 단어를 붙인, 『산학정의』라는 수학서를 발간했으니 그 역시 어수선한 수학의 기법들이나 주석들을 정리하여 하나의 권위 있는 ‘바른 의의’를 세우고자 했던 것이다.

그렇다면 도대체 남병길이 『산학정의』를 저술할 당시 경전이라고 할 만한 수학서는 어떤 것이 있었으며 얼마나 많은 방법들과 주석들이 있었을까? 그리고 이들 사이에 얼마나 큰 모순이 있어서 남병길이 ‘정의’란 이름으로 정리할 필요를 느꼈을까? 그 답을 살펴보기 위해 당시 조선 수학의 배경을 간략하게 살펴보자.

남병길이 활동할 시기 조선 사회에는 산가지 계산법 이외에도 필산(筆算)이라는 계산법이 있었다. 필산은 17세기 초부터 각종 유럽의 수학서를 중국어로 번역하면서 자연스레 명(明) 사회로 전해졌으며, 당시 산가지 계산법이 완전히 사라졌던 중국에 서는 필산을 다루는 수학서들이 쏟아져 나오기 시작했다. 약 1세기 후 1722년 청(淸) 강희제(康熙帝, 재위기간: 1661-1722)의 명령으로 필산을 이용한 수학 기법을 광범위하게 정리한, 총 53권의 『어제수리정온(御製數理精蘊)』이 출간되었다. 『수리정온』은 조선에도 전해졌으며, 명, 청 학계의 흐름을 주시했던 유학자 중 일부는 필산을 긍정적으로 생각하면서 적극적으로 권하기도 했다. 이런 와중에 1791년 정조(正祖, 재위기간: 1776-1800)가 관상감원(觀象監員), 즉 별과 행성을 관찰하고 달력을 계산하는 일 등을 담당하는 공무원을 뽑는 시험에서 『수리정온』을 교과서로 할 것을 명했는데, 이로써 천문역법(天文曆法)에서는 필산이 공식적인 계산법으로 인정되었다.

물론 조선 사회에서는 필산 이외에 산가지를 사용하는 계산법이 계속 실행되고 있었다. 특히 국가 재정(財政) 활동, 예를 들어 국가나 각 지방 차원에서 다양한 세금을 계산하거나 공무원의 월급을 주는 일 등을 전담했던 산원(算員)은 여전히 산가지를 이용한 계산법을 고수했다. 그러므로 남병길이 활동할 시기 주된 계산법으로는 산가지 계산법과 붓을 사용하는 필산법이 있었다고 할 수 있다.

남병길은 형 남병철(南秉哲, 1817-1863)과 함께 십여 종이 넘는 천문역법, 수학 관련 서적을 저술했으며 관상감의 우두머리격인 관상감제조(觀象監提調)을 역임했을 정도로 천문역법과 수학에 정통했었다. 이런 그가 굳이 깔끔하게 정리하고자 했던 것은 무엇이었을까 

산가지 계산법과 필산법 중 당시 가장 논의의 중심이 된 것은 천원술(天元術)과 차근방법(借根方法)일 것이다. 천원술과 차근방법은 두 방법은 현대 수학용어를 빌리자면 모두 일원고차방정식을 푸는 방법으로, 천원술은 조선 사회에서 계속 실행되었던 산가지 계산법인 반면 차근방법은 『수리정온』과 함께 수입된 필산법에 속했다.

이 두 방법을 간단히 알아보기 위해 우선 『산학정의』에서 천원술이 기록된 경우를 살펴보자. 『산학정의』 “천원일(天元一)”의 첫 문제는 이라는 최종식을 얻는 방법을 설명하고 있다. 우선 현대 용어로 미지수 를 ‘천원’이라 부른 후 주어진 문제에 따라 적절히 산가지를 섞어가면서 마지막 식을 찾는다. 『산학정의』에서는 설명 중간 중간에 산가지 배열 그림을 제공하는데, 일차항 에 해당하는 산가지 옆에 ‘원(元)’이라는 한자를 적거나 상수에 해당하는 산가지 옆에 ‘태(太)’라는 한자를 적어서 표현하였다.

사진 : 『算學正義』 (奎7838-v.1-3) 3책 “천원일”

또 『수리정온』에 기록된 차근방법을 간단히 살펴보자. 『수리정온』 권35 “차근방비례(借根方比例)” 중 ‘면류(面類)’의 첫 번째 문제는 라는 최종식을 유도하는 차근방법이 기록되어 있다. 우선 미지수 를 ‘근(根)’, 을 ‘평방(平方)’, 을 ‘입방(立方)’ 등으로 부르면서, 아래의 그림에서처럼 으로 진행하면서 식을 유도해냈다.

사진 : 『御製數理精蘊』 (奎中3231-v.1-45) 32책 3면, 4면

사실 이 두 방법의 핵심 용어들은 현재 한국에서 수학 교육을 받는 학생이라면 이미 알고 있을 것이다. 현대 수학용어 중 ‘일원방정식’이나 ‘이원방정식’이라 할 때 ‘원’은 바로 천원술에서 온 용어이고 실제 문제에서 “근을 구하시오”라는 표현에 등장하는 ‘근(root)’은 차근방법에서 온 용어이다. 그러나 당시에는, 현대 수학용어를 만들 때처럼 어떤 용어는 천원술에서 가지고 오고 어떤 용어는 차근방법에서 가지고 오자는 식의 사이좋은 역할 분담은 없었다. 오히려 두 방법이 같은 것인지 아니면 다른 것인지, 혹은 어떤 것이 더 나은지에 대한 논쟁이 거셌다. 이 논쟁의 시작은 매각성(梅瑴成, 1681-1764)이었다. 그는 고대 수학서에 파편처럼 적혀 있던 천원술을 접한 후 이것을 차근방법을 이용해서 한번 생각해 보니 비로소 이해가 되었다고 하면서 “천원술은 즉 차근방법이다”라고 선언했다. 이후 고증학(考證學) 열풍 속에서 천원술에 관련된 수학서들이 대량 복원된 후 청의 건가학파(乾嘉學派) 학자들 사이에서 두 가지 방법을 집중적으로 비교하고 평가하는 논쟁이 유행했다.

남병길은 1855년 『무이해(無異解)』라는 저서에서 이 논쟁과 관련된 자신의 견해를 전개했다. 그는 두 방법 사이에 다름[異]이 없음[無]을, 그래서 차근방법을 사용하자는 요지의 주장을 했다. 즉 차근방법을 포함한 필산을 지지했던 것이다.

그러나 12년 뒤 1867년에 발간한 『산학정의』을 살펴보면 그가 천원술과 차근방법을 대하는 태도가 자못 달라졌음을 알 수 있다. 우선 『산학정의』의 각 장 이름만 살펴보아도 차근방법은 없고 다만 “천원일(天元一)”이라는 장만 있음을 확인할 수 있다. 나아가 그는 “천원일” 뒤에 “다원(多元)”이란 장에서 ‘사원술(四元術)’을 수록했다. 사원술은 천원술에서 발달된 형태로 미지수가 두 개 이상 네 개 이하의 특정한 형식을 지닌 다원고차방정식을 다루는 방법이다. 그러므로 그가 생각하기에 천원술이 가진 장점 중 하나는, 미지수가 하나인 것만을 다룰 수 있는 차근방법에 비해 미지수를 여러 개 다루는 것까지 확장할 수 있다는 점이었다. 이런 견해의 변화는 어디에서 비롯된 것이었을까