소수, 그 치명적인 유혹

 

채진석 교수(인천대학교 컴퓨터공학과) 

  소수의 유혹은 치명적이다.

  지금까지 소수의 치명적인 유혹에 넘어가 인생을 낭비하고 결국은 아무런 성과도 없이 일생을 마친 이들이 즐비하다. 로렐라이 언덕에서 요정들이 부르는 노래에 도취되어 넋을 잃고 요정들을 바라보다가 암초에 부딪혀서 목숨을 잃은 선원들처럼 말이다. 비록 소설 속의 인물이기는 하지만 그리스의 천재 수학자 페트로스 파파크리토스가 바로 그런 사람이다. 이 수학자는 젊은 시절 애인에게 버림 받은 후 세계 최고의 지적인 위업을 달성하여 자신을 버린 애인에게 복수하고자 하는 일념으로, 소수와 관련된 세계적인 난제 중의 하나를 증명하려고 시도하다가 결국은 가족과 친척들에게 ‘인생의 실패자’로 외면당하게 되고, 끝내 자신의 꿈을 이루지 못하고 일생을 마감한 인물이다.

치명적 유혹의 상징 'The Siren' by John William Waterhouse

  수학자 페트로스가 젊음을 바쳐 도전했던 세계적인 난제는 바로 골드바흐의 추측이라는 것인데, 250여년 전 골드바흐라는 수학자가 당대의 대수학자 오일러에게 자신이 다음과 같은 간단한 규칙을 발견했는데, 이것이 일반적인 것인지를 묻는 편지를 썼다고 전해진다.

  2보다 큰 모든 짝수는 두 개의 소수의 합으로 나타낼 수 있다.

   소수란 우리가 초등학교 때 배운 것과 같이 2, 3, 5, 7, 11, 13, 17… 처럼 약수가 두 개밖에 없는 자연수를 말한다. 우선 2보다 큰 짝수들 몇 개만 살펴보면,

  4=2+2, 6=3+3, 8=3+5, 10=5+5, 12=5+7, 14=7+7…

와 같이 모두 두 소수의 합으로 나타낼 수 있음을 알 수 있다. 이렇게 보면 아주 쉬운 문제 같지만 모든 짝수에 대해 이것을 증명하는 것은 결코 쉬운 문제가 아니다. 짝수는 무한히 커질 수 있으므로, 짝수와 그것을 이루는 두 소수와의 일반적인 관계를 나타내는 규칙을 찾아야 하지만, 이 문제가 처음으로 제기된 지 250여년이 흐른 지금까지 수많은 사람들의 노력에도 불구하고 그 증명을 발견한 사람은 없다.

골드바흐 (http://utenti.quipo.it/base5/)

  자연수 중에서 소수를 찾는 것은 고대 그리스의 수학자 에라토스테네스가 발견한 방법을 사용하면 되는데, 이 방법은 중학교 1학년 교과서에 소개되어 있다. 이 방법을 에라토스테네스의 체라고 부르는데, 여기서 체라는 것은 곡물이나 모래 등에서 굵은 알갱이와 작은 알갱이를 골라내는데 사용하는 기구를 말한다. 에라토스테네스는 인류 최초로 막대기의 그림자를 사용하여 지구의 둘레를 계산하기도 하였다.

 

에라토스테네스의 체

 

  그러면 인류가 발견한 가장 큰 소수는 무엇일까? 가장 큰 소수를 찾는 것은 사람의 힘으로는 불가능하고 반드시 컴퓨터의 도움을 받아야 하는데, 현재 가장 큰 소수를 찾는 것은 많은 상금이 걸려 있으며, 수많은 컴퓨터과학자들이 신명을 바쳐서 도전하고 있는 흥미로운 주제이다. 가장 큰 소수를 찾는 것이 수학적으로 큰 의미가 있는 일은 아니지만, 프로그래머에게는 일생을 걸고 도전해 볼만한 가치가 있는 일인 것이다. 가장 큰 소수를 찾는 일을 시작한 메르센이라는 수학자는 다음과 같이 표현하였다. “이 문제는 극단적으로 어렵다(This problem is extremely difficult).”

  이 일이 어려운 만큼 가장 큰 소수를 처음으로 찾은 연구자나 연구팀에서는 전자 프론티어 재단(Electronic Frontier Foundation)이라는 곳에서 제공하는 거액의 상금이 주어지는데, 백만 자리 이상의 숫자로 이루어진 소수를 처음으로 찾은 연구자나 연구팀에게는 5만불, 천만 자리 이상의 숫자의 경우는 10만불, 1억 자리 이상의 숫자의 경우는 15만불, 10억 자리 이상의 소수를 찾는 경우는 25만불이 상금으로 주어지게 된다. 그런데 이미 백만 자리의 경우는 2000년 4월에, 천만 자리의 경우는 2009년 10월에 지급이 되었으므로, 이제 남은 것은 1억 자리와 10억 자리인데, 이렇게 자리 수가 올라갈수록 문제는 점점 더 어려워지게 된다.

  천만 자리 소수는 2008년 8월 UCLA 수학과에서 발견했는데, 이 수는 45번째 메르센 소수(M45)라고 부르는 것으로 2^43,112,609-1이라고 쓰고, 무려 12,978,189 자리 숫자로 이루어져 있다. 메르센 소수는 큰 소수를 표현하기 위해 2^p-1의 형태로 나타내는 것을 말하는데, 사람이 검증할 수 있는 것은 p가 127까지 이고, 그 이후는 컴퓨터의 도움을 받아야 한다. 메르센 소수가 무한히 많은지는 아직 증명되지 않았지만, 지금도 계속해서 발견되고 있다.

  이렇게 발견된 메르센 소수가 정말로 소수인지를 검증하는 것도 결코 쉬운 일은 아니다. 어떤 수가 소수인지 아닌지 검증하는데 에라토스테네스의 체 방법을 사용할 수 있지만 이것은 계산하는데 너무 많은 시간이 걸려서 실제로는 사용하기 어렵다. 아무리 빠른 컴퓨터를 사용한다고 해도 이 정도로 큰 수가 진짜로 소수인지 검증하는 데에만 1주에서 2주 정도의 시간이 걸리고 있다.

  메르센 소수가 얼마나 큰 수인지 실감할 수 있도록 표현하면, 메르센 소수 중에서 비교적 작은 수에 속하는 36번째 메르센 소수는 895,932 자리로 이루어져 있는데, 이 숫자로 450 페이지의 책을 모두 채울 수 있으며, 일렬로 늘어놓았을 경우는 2 Km가 넘고, 하루에 8시간씩 말한다고 했을 때 모두 읽으려면 28일이 걸린다고 한다.  메르센 소수가 얼마나 큰 수인지 직접 보고 싶은 사람은 유타대학교에서 제공하고 있는 39번째 메르센 소수가 나와 있는 다음 사이트에 들어가 보라. 

The Largest Known Prime Number (http://www.math.utah.edu/~alfeld/math/largeprime.html)

  그러면 다시 처음으로 돌아가 골드바흐의 추측과 인생의 실패자가 되면서까지 그것을 증명하기 위해 애썼던 수학자 페트로스에 대해 이야기해 보자. 과연 페트로스의 인생은 실패했는가? 또한, 만일 가장 큰 메르센 소수를 찾기 위해 평생을 애쓰다가 결국은 찾지 못하고 인생을 마감한 사람이 있다면, 이 사람의 인생은 실패한 것인가?  <사람들이 미쳤다고 말한 외로운 수학 천재 이야기>에서는 다음과 같은 문장으로 이 질문에 멋지게 답하고 있다.

  “인간은 누구나 자신이 선택한 도전에 의해 절망할 권리가 있다.”

아포스톨로스 독시아디스 저, 정회성 역, 생각의나무. 1만2000원

필자 채진석은

1964년 서울생. 어린 시절을 부산에서 보냈고, 서울대학교 컴퓨터공학과에서 1998년 박사학위를 받았다. 1997년 한국학술재단 부설 첨단학술정보센터에서 전국 대학도서관의 목록 데이터를 통합하여 종합목록을 구축하는 사업에 참여했으며, 1998년 8월부터 인천대학교 컴퓨터공학과에서 학생들을 가르치고 있다. 우리 사회의 어려운 이웃들과 친구되기 운동을 펼치는 사회복지법인 한벗재단에서 이사로 일하면서, 장애인들의 컴퓨터 사용을 도와주는 정보통신 보조기기와  접근성을 높이는 소프트웨어 개발에 힘쓰고 있다. 정보화 역기능 및 정보격차 해소에 기여한 공로로 2009년 12월 행정안전부 장관 표창을 받았다.