“허수는 존재와 비존재의 사이에 있는 양서류와 같은 것이며, 성스러운 영혼의 놀랍도록 훌륭한 피난처이다”
-고트프리트 빌헬름 라이프니츠
수험생들이 수학을 공부하다 보면 ‘도대체 어디에 쓰이려고 이런 식이나 수가 만들어진 걸까’ 하는 의문이 들며 괴로울 때가 많다. ‘허수’의 개념도 이와 마찬가지다. 중학교 시절 자연수, 정수, 유리수와 무리수의 정의를 배우고 고등학교에 입학하니, 이번에는 존재하지도 않는 허수와 복소수의 개념을 배워야 한다고 한다. 이름부터 ‘가짜 수’를 나타내는 허수는 왜 만들어진 것일까?
카르다노가 발견한 수의 기묘한 현상
이탈리아 수학자 카르다노는 삼차방정식의 근의 공식을 연구하는 과정에서 이상한 수를 발견한다.
수학의 규칙상, 음수든 양수든 제곱하면 무조건 양수가 나오게 돼 있는데, 삼차방정식을 계산하는 과정에는 제곱하면 음수가 나오는 수가 있던 것이다.
카르다노는 이 수에 대해 ‘궤변론적이다’, ‘쓸모없을 뿐만 아니라 이해하기 어렵다’라고 말하며 어떻게든 무시하려고 애썼다.
이러한 수는 삼차방정식뿐만 아니라 이차방정식에서도 발견된다. 카르다노의 저서 <위대한 술법(Arsmagna)>에는 “두 수의 합이 10, 곱이 40이 되게 하라.”라는 문제가 실려 있다.
당시 수학자들에게 이 식을 보여준다면 ‘근이 없다’라고 답할 것이다. 위의 식을 이방정식의 근의 공식에 적용해보면 x값은 5±√-15가 나오는데, 제곱해서 15가 되는 수 즉, 음수 근을 수학자들이 인정하지 않았기 때문이다. 그러나 카르다노는 일단 계산해 본다. x값인 5+√-15와 5-√-15를 가지고 검산해 본 것이다. 그 결과, 놀랍게도 이 값들은 문제의 조건에 들어맞았다.
음수의 제곱근을 최초로 계산하다
한편, 삼차방정식의 근의 공식을 모르던 수학자들은 삼차방정식의 근을 구하기 위해 ‘근사’라는 방법을 사용했다. 당시에는 허수는커녕 음수조차 수로 취급하지 않았기에 일일이 경우를 나누어 중간 과정에서 이상한 수가 나타나지 않게 해야 했기 때문이다. 그러나 이 방법은 복잡할뿐더러 부정확했다.
카르다노는 이 이상한 루트 안의 음수도 수처럼 생각해 억지로 계산하면 실수인 근을 구할 수 있다는 사실을 관찰했다. 결국 그는 자신이 쓸모없다고 생각했던 이 수, ‘허수’를 이용해 실수 근을 찾아내는 데 성공한다.
허수 i의 등장, 수의 개념을 직선에서 평면으로 확장시키다
허수가 탄생하기 전까지 수들은 모두 수평으로 뉘인 수직선 위에 자리 잡고 있었다. 하지만 수학자들은 이 수직선 위에 나타낼 수 없는 음수의 제곱근, 허수를 받아들일 수 없었다. 그렇다면 허수는 어떤 것을 나타내기 위한 수였을까?
좌표평면을 창안한 데카르트(Rene Descartes, 1596~1650)에게도 역시 음수의 제곱근은 이상한 수였다. 이런 이유로 데카르트는 이 수에 ‘상상의(imaginaire)’ 수라는 의미인, ‘허수(虛數, nombre imaginaire)’라는 이름을 붙였다. 이후 스위스의 수학자 오일러(Leonhard Euler, 1707~1783)는 imaginaire의 앞 글자를 따서 허수의 단위 i를 만들었다.
허수와 실수를 아울러 복소수(複素數, complex number)라고 일컫는다. 복소수는 제곱하면 0보다 커지는 실수 부분과 제곱하면 0보다 작아지는 (순)허수 부분의 두 요소로 이루어져 있다. 복소수를 나타낼 때는 이 두 요소를 합쳐서 ‘+’로 연결해 나타낸다. 제곱해 0보다 작아지려면, 제곱해 -1이 되는 수가 필요하다. 이것을 i로 나타내면, 임의의 복소수는 적당한 두 실수 a와 b에 대해 a+bi꼴로 나타낼 수 있다.
영국의 수학자 존 윌리스(John Wallis, 1673~1703)는 허수에 대한 기하학적인 표현으로 ‘평면에서 수직방향의 움직임’이라는 개념을 생각해 낸다. 그동안 가로로 길게 이어지는 수직선상에 표시돼 왔던 수가 수직 방향으로 표시된다는 것은 놀라운 사고의 전환이었다.
이후 덴마크의 측량기사 베셀(Casper Wessel, 1745~1818)은 이를 알기 쉽게 표현한다. 수직선두 개를 이용해 수평으로 놓인 수직선으로는 실수를, 직각으로 놓인 수직선으로는 허수를 나타내는 것이다. 이것은 비슷한 시기 베셀과 비슷한 생각을 하던 프랑스의 수학자 아르강(Jean Robert Argand, 1768~1822)에 의해 발표된다.
수라고 생각하지 않던 허수와 복소수의 개념이 널리 받아들여지게 된 계기는, 실수가 수직선 위의 한 점을 나타내는 것처럼 복소수 하나가 평면의 한 점을 나타낸다는 아이디어 덕분이었다. 수학의 왕 가우스는 허수를 이용하면 방정식의 해에 관한 일관된 규칙을 만들 수 있다는 사실을 발견한다. 그리고 1797년, 그 유명한 대수학의 기본정리 ‘n차방정식은 n개의 해를 가진다’를 증명해낸다.
관측 불가능한 현상을 설명하는 허수
20세기 이후 물리학은 양자역학의 토대 위에서 다시 세워졌다고 해도 과언이 아니다. 양자의 세계에는 뉴턴의 역학으로는 설명할 수 없는 특별한 움직임이 존재했다. 관측 가능한 세계는 실수로 설명할 수 있었으나 양자의 세계는 그렇지 않았다.
이처럼 관측이 불가능한 세계를 설명해야할 때, 허수는 등장한다. 양자 역학의 기초를 이루는 방정식인 슈뢰딩거(Erwin Schrodinger, 1887~1961)의 방정식에는 허수가 등장하고, 그 방정식의 답은 복소수로 나타난다.
허수는 현대의 우주론에서 자주 사용되는 수이기도 하다. 스티븐 호킹의 저서<시간의 역사>에는 ‘허수 시간 가설’이 등장하는데, 그의 설명에 따르면 우주가 태어나기 전에는 허수의 시간이 흐르다가 우주탄생과 함께 실수의 시간이 시작된다.
호킹이 우주의 기원 설명에 허수를 사용한 이유는 가우스와 비슷하다. 가우스가 허수를 이용해 대수학의 기본정리를 완성할 수 있었듯, 허수를 이용하면 일반 상대성 이론 안에서 우주의 기원을 설명할 수 있었던 것이다.
이처럼 허수는 매우 어려워 보이는 문제를 비교적 간단하게 해결하게 해준다. 파동계산을 해야 하는 전기공학과 전자공학에서도 허수는 없어서는 안 될 중요한 수이다. 사실 현대의 많은 문명기술이 허수에 기대고 있다. 허수가 없었다면 휴대전화나 인터넷과 같은 통신기술도 없었을 것이다.
19세기까지만 해도 <이상한 나라의 앨리스>에 등장하는 체셔 고양이와 같다며 조롱당할 정도로 오랜 시간 환영받지 못했던 허수는 이제는 우리의 상상을 실현하는데 없어서는 안 될 소중한 수가 됐다.
