사칙연산에도 우주를 담자

오영숙(독립학자)

사진 : 『九數略』 (古7090-1-v.1-2)

곱셈 중 가장 간단한 단순곱셈은 두 수를 곱하는 것이다. 현대 초등학교 교실에서 배우는 단순곱셈은 흔히 연필이나 펜으로 종이에 두 수를 쓰고 가장 낮은 자릿수부터 곱하면서 시작하곤 한다. 조선시대에는 산가지라는, 손가락보다 조금 긴 막대기를 늘어놓고 움직이며 곱셈을 수행하기도 했는데 이때 곱셈은 꼭 낮은 자릿수에서부터 시작하는 경우만 있는 것이 아니었다. 그런데 현대수학의 입장에서는 당최 중요해 보이지 않는 이 순서, 즉 곱셈을 낮은 자릿수에서 시작할지 아니면 높은 자릿수에서 시작할지에 대한 문제를 심각하게 생각한 유학자가 있었으니, 바로 최석정(崔錫鼎, 1646-1715)이다. 최석정은 숙종(肅宗, 재위기간: 1674-1725)대에 영의정을 여러 번 역임했던, 당대 최고의 정치가이면서 경학(經學), 문장(文章), 산학(算學), 음운학(音韻學) 등에 정통하다고 칭송받던 고명한 학자이기도 했다. 그런 그가 『구수략(九數略)』이란 수학서를 집필하면서 이 사소해 보이는 문제를 다음과 같이 지적했다.

[단순곱셈 중 한 가지 방법인] 보승법(步乘法)을 살펴보자. 양휘(揚輝, 13세기 활동한 남송(南宋)의 수학자) 방법에서는 곱해지는 수의 높은 자릿수에서부터 곱셈을 시작했고, 요즘 계산 좀 한다는 사람들은 모두 이것을 따라한다. 그러나 무릇 곱셈이라는 것은 적은 것들을 모아서 많은 것들을 만들어내는 것이므로 [곱해지는 수의] 낮은 자릿수에서 시작해서 곱셈을 시작해야 한다.

그의 주장을 이해하기 위해 산가지를 이용하는 단순곱셈을 예로 들어보자. 만약 12×30이란 곱셈을 해야 한다면, 계산수행자는 기본적으로 총 세 줄을 확보하되 맨 윗줄에는 12를 놓고 맨 아랫줄에는 30을 놓으면서 곱셈을 시작한다. 그리고 가운데 줄에 2×30의 결과와 1[0]×30의 결과를 놓게 되며 이 두 중간결과를 더하면 최종결과를 얻는다. 이때 최석정이 중요하게 생각한 것은 중간결과 중 어떤 것을 먼저 놓아야하는지에 대한 것이었다. 물론 산가지를 이용한 단순곱셈에는 총 세 줄이 아니라 두 줄이나 한 줄을 사용하는 다른 방법들도 존재했지만(예를 들어 『양휘산법』의 ‘인법(因法)’, ‘가법(加法)’ 등), 그는 이 세 줄짜리 방법이 모든 곱셈의 기본이 된다고 여겼다. 즉 반드시 중간결과들만 놓을 수 있는 자리가 따로 있어야 했다. (다른 곱셈에서는 중간결과를 곱해지는 수 옆에 놓기도 했다.) 그리고 그는 가운데 줄에 산가지로 중간결과를 쌓을 때 반드시 낮은 자리 수들, 즉 2×30의 결과부터 쌓아야 한다고 주장했다. 왜냐하면 곱셈이란 ‘적은 것들을 모아서 많은 것들을 만들어내는 과정’이므로 중간결과를 놓을 때에도 곱셈의 의미가 명백히 드러나도록, 낮은 자릿수부터 시작하는 것이 중요하기 때문이다. 그러므로 그에겐 이 사소한 단순곱셈도 ‘제대로만’ 계산한다면 ‘그 의미’를 투명하게 보여줄 수 있는 과정 중 하나였다.

사진 : 『九數略』 1책의 보승법

사실 최석정에게 계산법의 ‘의미’란 단순한 수학의 범위를 넘어섰다. 그는 『구수략』의 첫 부분 “수원(數原)”에서 하도(河圖), 낙서(洛書)를 수의 근원으로 제시했다. 하도는 중국 전설상의 제왕인 복희씨(伏羲氏) 때에 용마(龍馬)가 지고 나온 그림이며, 낙서는 우왕(禹王) 때 거북이 등에 새겨진 그림으로 『주역(周易)』의 근본 이치를 보여준다고 여겨지는 그림이다.

사진 : 『九數略』 1책 “수원”

사진 : 『九數略』 1책 ‘소양지수’

그러나 그가 관찰했던 것은 산가지를 사용하는 전통적인 계산법만은 아니었다. 『구수략』의 끝부분 “부록”에는 당시 조선 사회에 새로 수입되었던 다른 계산도구들도 등장하는데, 그중 그가 극찬한 ‘문산(文算)’이 있다. 문산은 사칙연산 모두 종이에 붓을 들고 행하는 셈법으로, 우선 곱셈은 종이에 격자를 그린 후 각 격자마다 대각선을 긋고 계산을 시작하는데 이 시각적 특징 때문에 다른 수학서에서는 ‘격자산(格子算)’, ‘사산(斜算)’, ‘포지금(鋪地錦)’ 등으로 불렸다. 예를 들어 436×62라는 곱셈을 행할 경우 우선 종이에 밑의 그림처럼 격자를 그리고 각 격자마다 오른쪽에서 왼쪽으로 대각선을 긋는다. 그리고 격자 위에 4, 3, 6을 배치하고 오른쪽 끝에 6, 2를 배치한다. 이런 준비가 끝나면 각 격자마다 곱셈을 행하는데 이때 그 결과 중 십의 자리에 있는 숫자를 대각선 왼쪽에, 일의 자리에 있는 숫자를 대각선 오른쪽에 놓는다. 예를 들어 맨 오른쪽 위에 놓은 격자를 보면, 6×6의 결과인 36에서 대각선의 왼쪽과 오른쪽에 3, 6을 각각 놓는다. 이렇게 각 격자마다 곱셈을 행한 후 중간결과들을 더하는 과정만 남는다. 이 과정은 큰 빗금무늬에 따라 오른쪽에서부터 왼쪽으로 진행되는데, 우선 가장 오른쪽 밑 격자에 있는 2를 그 밑에 쓴다. 그 다음 큰 빗금의 6, 1, 6을 더해 13을 얻으며, 일의 자리 숫자인 3을 큰 빗금 격자 끝에 쓰고, 십의 자리 숫자인 1을 그 다음의 큰 빗금인 3, 8, 8 과 함께 더해 20을 얻는다. 이때 일의 자리 숫자인 0을 큰 빗금 격자 끝에 쓰고, 십의 자리 숫자인 2를 그 다음 큰 빗금인 1, 4와 더해 7을 얻는다. 이 7은 역시 큰 빗금의 마지막 격자 끝에 써야하므로 여기서는 방향을 틀어 왼쪽 가장 아래 7을 쓰게 된다. 인제 다음 큰 빗금에는 2만 있게 되므로 그대로 2를 큰 빗금의 가장 끝에 쓴다. 이렇게 숫자들을 얻고 이것을 왼쪽 위에서부터 읽어내면 27032가 되는데, 이것이 바로 436×62의 결과이다.

사진 : 『九數略』 2책 ‘문산 승법’

사진 : 『九數略』 2책 ‘문산 승법’의 현대적 재구성

 

 

최석정이 이 곱셈 과정에서 중요하게 생각한 것은, 마지막 결과가 도출되는 순서, 즉 2, 3, 0, 7, 2란 숫자들이 오른쪽 밑에서부터 왼쪽 위까지, 시계방향으로 차례대로 등장하는 순서이다. 그에 의하면 이것이 바로 복희씨가 만든 64괘를 정사각형의 형태로 늘어놓는 ‘복희육십사괘방도(伏羲六十四卦方圖)’의 재현이었다. ‘방도’에서 64괘는 오른쪽 아래 ‘건괘(乾卦)’에서 시작하여 왼쪽 위 ‘곤괘(坤卦)’로 끝나는데, 책에서 적힌 상태의 ‘방도’에서는 볼 수 없는, 시간에 따른 괘의 움직임을 문산의 곱셈 과정에서 볼 수 있었던 것이다. 그러니 이 계산법은 상수학의 중요한 그림에서 괘의 움직임을 재현해낸 것이기도 했다.

사진 : 복희육십사괘방도

 

 

최석정에 의하면 문산의 덧셈, 뺄셈도 상수학의 중요한 그림을 재현할 수 있었다. 예를 들어 654＋87＋1205라는 덧셈을 위해서 그는 오늘날 초등학교 교실에서 배우는 알고리즘과 똑같은 순서를 제시했다. 각 수에서 일의 자리 숫자들인 4, 7, 5를 더해서 16을 얻어 일의 자리 숫자인 6을 그 밑(일의 자리)에 쓰고, 십의 자리 숫자인 1은 다시 5, 8, 0이란 세 숫자들과 함께 더해 14를 얻는다. 그리고 그 밑(십의 자리)에 4를 쓴다. 이런 과정을 되풀이하면 결과적으로 1946이란 답을 얻게 되는데, 이때에도 그에게 중요한 것은 숫자들이 6, 4, 9, 1의 순서로, 오른쪽에서부터 왼쪽으로 점점 등장하는 것이었다. 그에게 이것은 ‘복희육십사괘서도(伏羲六十四卦序圖)’에서 ‘건(乾)’이 서쪽(오른쪽)에서 시작해서 ‘곤(坤)’이 동쪽(왼쪽)에서 끝나는 것을 보여주는 것이었다. 즉 덧셈 과정을 그대로 따라하면 역시 상수학의 중요한 그림이 재현되는 것처럼 숫자들이 등장하게 되는 것이다. 그리고 이런 점에서 계산 과정 중 만약 숫자들의 위치나 순서를 바꾼다면 그것은 계산법이 지닌 중요한 ‘의미’를 잃는 것이기도 했다.

사진 : 『九數略』 2책 ‘문산 가법’

 

 

사진 : 복희육십사괘차도

사실 그는 ‘문산’의 사칙연산을 위해, 당시 ‘필산(筆算)’이라 불리던 계산법에서 덧셈과 뺄셈을 가져 오고, ‘격자산’ 등으로 불리던 계산법에서 곱셈을 가져 왔다. 나눗셈의 경우 적절한 것을 찾지 못하여 스스로 창조했다고 하면서 한 방법을 제시했는데, 이때에도 역시 최종결과의 숫자가 나오는 순서를 강조했다. 그리고 이 사칙연산에 ‘문산’, 즉 학문이나 문예 등 ‘문(文)’을 좋아하는 사람이 행할만한 계산이란 뜻의 이름을 붙였다. 즉 그의 ‘문산’은 결과에만 급급한 산원이나 시장 상인들의 셈법과는 달리, “군자(君子)라면 마땅히 신경 써야 할” 셈법이었다. 결국 그에게 중요한 계산법이란, 산가지를 사용하든 붓과 종이를 사용하든, 상수학의 중요한 그림들에 생기 있는 움직임을 불러일으키는, 일종의 애니메이션이었던 것이다.