KISTI의 과학향기

1823년 어느 날, 한 청년이 자신의 중학생 시절 수학 선생님에게 편지를 썼다. 장난꾸러기였던 그는 편지 맨 마지막 줄에 ³√6064321219라는 괴상한 날짜를 적어 보내 수학 선생님을 난처하게 했다. ³√a은 세 번 곱해서 a가 되는 수를 말한다. 예를 들어 ³√8은 세 번 곱해서 8이 되는 수, 즉 2이다.

이와 같은 식으로 ³√6064321219 를 계산하면, 세 번 곱해서 6064321219가 되는 수는 약 1823.5908이다. 따라서 편지를 작성한 해는 1823년이다. 나머지 소수점 이하는 1년을 단위로 하였을 때의 소수이기 때문에 날짜로 고치면 365×0.5908=215.64일이 된다. 소수점이하를 반올림하면 1823년에서 216일째 되는 날, 즉 편지를 적은 날짜는 1823년 8월 4일이다. 참으로 기발한 발상이 아닐 수 없다.

놀라운 두뇌를 지녔던 이 청년은 바로 ‘아벨상’의 주인공 아벨이다. 프랑스의 수학자 아드리안이 “수학자로 200년 동안 할 일을 했다”며 “이 젊은 노르웨이인 머리에는 과연 어떤 것이 들어 있을까”라고 극찬을 아끼지 않았던 인물이다.

일찍이 천재성을 꽃피운 닐스 헨릭 아벨(Niels Henrik Abel, 1802~1829)은 1802년 노르웨이의 핀도에서 시골 목사의 아들로 태어났다. 그는 공부를 잘 하는 학생은 아니었으나 수학만큼은 누구보다도 뛰어났다. 수학자로서 그가 이뤄낸 성과 중 가장 손꼽히는 업적은 ‘5차 이상의 방정식은 일반해가 존재하지 않는다’는 사실을 증명한 것이다.

방정식은 아벨의 주 분야였다. 중학교 수학을 배운 사람은 1차 방정식의 해를 구할 수 있을 것이다. 방정식의 일반해는 처음 1차에서 시작하여 2차, 3차, 4차 방정식으로 차수를 한 단계씩 높여가며 구해졌다. 2차 방정식의 일반해를 구하는 방법이 발견되자, 수학자들은 2차 방정식의 근의 공식을 이용해 3차 방정식의 일반해를 구하고, 또 4차 방정식의 일반해는 3차 방정식의 근의 공식을 이용했다. 이런 식으로 하여 4차 방정식까지 근을 구하는 공식을 알아낸 것은 16세기쯤이다.

이쯤 되면 5차 방정식의 일반해도 4차 방정식의 근의 공식을 이용하면 구할 수 있을 거라고 생각하게 되는 건 당연하다. 하지만 5차 방정식에는 이 방법이 통하지 않았다. 기라성 같은 수학자들이 5차 방정식의 일반해를 찾는 데 도전했지만, 근을 구하는 방법은 좀처럼 알아낼 수 없었다. 그렇게 씨름하기를 무려 300년. 그러나 19세기 초가 되도록 5차 방정식의 일반해는 밝혀지지 않았다.

수많은 수학자들을 지치게 만든 5차 방정식 문제를 해결한 사람은 뜻밖에도 22세의 젊은 수학자, 아벨이었다. 모든 사람들이 공식을 찾는 데 매달려 있을 때, 아벨은 ‘과연, 근이 존재할까? 혹 근의 공식이 없을 수도 있지 않을까?’라고 생각을 근본적으로 바꿔 문제에 접근했다. 그 결과 “5차 방정식을 푸는 근의 공식은 없다”라고 결론짓고, 일반해가 존재하지 않는다는 것을 수학적으로 증명해 보였다. 아벨은 이를 증명하기 위해 새로운 개념을 도입했다. 즉 어떤 법칙이 정의돼 있는 집합의 원소에 임의의 두 원소를 결합해 그 결과 역시 그 집합의 원소가 될 때, 이를 ‘군’(群, group)이라 하는 이론이다. 이 군이론은 오늘날 통신, 공개 키 암호, 양자학 등에 응용되고 있다. 어쨌든 아벨은 이로써 약 3세기 동안 수학의 난제였던 5차 방정식 난제에 종지부를 찍었다.

1824년 아벨은 5차 방정식의 일반해가 없음을 증명한 논문을 출간해 당시 수학계의 최고 권위자였던 가우스에게 보냈다. 그러나 그 논문은 읽혀지지도 않은 채 쓰레기통에 버려져, 한낮 휴지 조각으로 전락했다. 당시 가우스는 ‘5차 방정식의 해는 반드시 존재한다’라고 생각했었다. 5년 뒤 아벨은 27세의 젊은 나이에 폐결핵으로 요절했다. 그가 죽었을 때 그의 곁에서 죽음을 슬퍼했던 수학자는 한 명도 없었다.

그러나 그의 업적은 그가 죽은 뒤 되살아났다. 아벨이 죽은 지 이틀 후에 뒤늦게 한 통의 편지가 도착했다. 아벨의 천재성을 인정한 독일 베를린대학에서 그를 교수로 채용한다는 내용의 편지였다. 그 이듬해엔 프랑스 학사원에서도 학사원상을 수여한다는 통보가 왔다. 이미 늦은 일이었지만 세상이 아벨의 천재성을 알아채기 시작한 것이다.

또 아벨은 노벨상과 견줄 만한 아벨상의 제정으로 화려하게 부활했다. 노벨상에는 수학 분야의 상이 없다. 천재 수학자 아벨을 기리기 위해 제정된 아벨상은 매년 수학 분야에서 탁월한 업적을 쌓은 학자에게 수여된다. 노르웨이 정부는 아벨의 탄생 200주년을 기념해 2002년 3백억원의 기금으로 아벨상을 제정하고, 2003년부터 순수ㆍ응용수학 분야의 심도 있고 영향력 있는 연구성과에 대해 아벨상을 주고 있다. 연령에 관계없이 매년 1명에게 수상하는 것이 원칙이나, 공동 연구로 큰 성과를 낸 경우 공동 수여할 수 있다. 상금은 92만 달러(약 8억4000만 원)이다.

살아있을 때는 다른 수학자들에게 번번이 묵살돼 불운한 삶을 살았던 수학자 아벨은 아벨상과 함께 ‘아벨의 적분’ ‘아벨의 정리’ ‘아벨 방정식’ ‘아벨군’ 등 많은 수학용어 속에 생생히 살아있다. 불행하고 짧은 인생을 살았지만 오히려 오늘날까지 우리 곁에서 숨 쉬고 있는 셈이다. (글 : 김형자 과학칼럼니스트)