[적콩무] 소수와 리만가설

[적콩무] ep24. 리만 가설, 소수의 비밀은 밝혀질 것인가?

들어가며

이번 적콩무의 재미있는 수학 이야기, 재수강에서 다루는 내용은 리만 가설입니다. 수학과 관련된 영화를 찾다가 존 내쉬의 이야기를 다룬 뷰티풀 마인드를 이야기하려 했는데, 이와 관련된 리만 가설에 대한 이야기를 하게 되었다고 합니다.

리만 가설은 이래저래 어딘가에서 많이 들어보기는 했는데, 실제 내용에 대해서는 어떤 것인지를 전혀 몰랐었습니다. 적콩무를 통해서 들어본 리만가설과 소수에 대한 이야기들을 정리해 보겠습니다.

힐베르트의 문제

1900년, 프랑스 파리에서 세계 수학자 대회가 열립니다. 여기에서 독일의 수학자 힐베르트는 새로운 100년, 새로운 시대를 맞이하며 강연을 하게 됩니다. 힐베르트는 수학계가 해결해야 할, 중요하다고 생각하는 23가지의 문제를 제안하게 됩니다.

이 세계 수학자 대회 (International Congress of Mathematicians, ICM)는 4년마다 열리는 것으로 지난 2014년에는 서울에서 열렸습니다. 이 모임이 유명한 것은 위의 힐베르트의 문제와 더불어 수학계의 노벨상인 필즈 상을 수상하기 때문입니다.

아무튼, 힐베르트는 단순히 증명이 어렵고 안된 것을 문제로 낸 것이 아니라, 수학을 통해서 우리의 과학과 문명 등을 발전시킬 수 있는 문제들로 23가지를 선정하게 됩니다. 이 중 하나가 바로 리만 가설입니다.

밀레니엄 7대 수학 난제

1995년에 앤드류 와이즈에 의해 그동안의 난제였던 페르마의 마지막 정리가 해결됩니다. 마침 또 새로운 세기가 찾아옴에 따라 새로운 수학적 난제를 준비하게 됩니다. 앤드류 와이즈에게도 이러한 난제를 선정하도록 요청이 있었다고 합니다.

2000년 프랑스 파리에서 미국의 클레이수학연구소가 현대 수학의 7대 난제를 제시하고 각각에 100만 달러 현상금을 내걸었습니다. 이 밀레니엄 7대 난제는 단순히 문제가 안 풀리는 난제이기 때문에 선정된 것이 아니고, 이 문제가 풀린다면 인류에게 매우 큰 영향을 줄 수 있는 문제들로 선정된 것들입니다. 앞서의 힐베르트의 문제에서와 마찬가지로 수학적 한계를 넓히는 것이 우리의 사고의 확장, 문명의 새로운 방향으로의 진보를 이끌어낼 수 있기 때문입니다.

소수와 에라토스테네스의 체

소수(Prime number)란 1을 제외하고, 1과 자기 자신만으로 나누어 떨어지는 수들을 말합니다. 이 소수는 불규칙성이 특징인데, 소수가 아닌 모든 수들은 소수들의 곱으로 표현을 할 수 있습니다. 하지만, 소수는 이와 같이 나눌 수 있는 수가 없기 때문에, 쪼갤 수 없는 수로써 특징이 있는 것입니다.

그렇다면 소수의 개수는 무한할까요? 수가 점점 커질수록 나누어 떨어질 확률이 높지 않을까 생각될 수 있지만, 고대 그리스 수학자 유클리드에 의하여 소수의 개수는 무한하다는 것이 증명되었습니다.

두번째, 어떠한 수가 소수인지 아닌지를 확인하는 가장 쉬운 방법은 무엇일까요? 이를 확인하기 위해서는 2로, 3으로, 5로, 계속해서 나눠봐야 합니다. 수포자나 수학과 교수님이나 누구든 하나씩 나눠봐야 한다는 것입니다.

하지만 지금까지 밝혀진 소수를 판별하는 방법 중 가장 빠른 방법이 있습니다. 고대 그리스 수학자인 에라토스테네스가 고안한 에라토스테네스의 체라는 방법입니다. 

에라토스테네스의 체를 이용한 소수 판별 방식은 어떤 수 n보다 작은 수를 쭉 나열하고, 2부터 시작하여 그 배수를 모두 지우고, 남은 수 중 가장 작은 소수의 배수들을 계속해서 지워나가는 방식입니다.

적콩무에서는 간단히 다음과 같이 언급만 하고 넘어갑니다. 어떤 숫자 n이 소수인지 아닌지를 확인하고 싶다면 √n보다 작거나 같은 소수로 나눠보면 됩니다. 그래서 나눠 떨어진다면 소수가 아닌 것입니다. 결국 하나씩 나눠봐야 하지만, 나눠봐야 하는 숫자의 개수가 굉장히 줄어들게 됩니다. 그만큼 시간을 단축할 수 있게 되는 것입니다.

리만 가설

위의 밀레니엄 7대 난제에 리만 가설이 또 선정되게 됩니다. 힐베르트의 문제와 밀레니엄 난제 중 리만 가설만이 유일하게 두번 다 선정된 문제입니다.

소수는 불규칙성이 가장 큰 특징입니다. 연속해서 나타나기도 하고, 상당 수가 지나도록 안타나기도 합니다.

1859년 독일의 수학자 리만이 10쪽짜리 논문을 발표하게 됩니다. 오일러의 소수에 대한 곱공식을 변형하여 복소평면에 나타냈을 때, 그 식을 성립시키는 복소수 4개가 놀랍게도 일직선 상에 위치한다는 내용이었습니다. 소수에 대하여 어떠한 규칙성도 찾아내지 못했었으나, 그 소수에 대한 식에서 처음으로 일부 규칙성이 발견된 것입니다. 리만은 이와 같은 식에서 이를 만족시키는 다른 제로점들도 일직선 상에 존재할 것이라는 가설을 세우게 되었는데, 이것이 바로 리만 가설입니다.

리만 가설에 쓰이는 리만의 제타함수는 다음과 같이 정의됩니다.

ζ(s) = 1 + 2^-s + 3^-s + 4^-s + ··· (s는 복소수)

이 함수값을 0으로 하는 해 중에서 실수부가 1 이상인 복소수는 없고, 실수부가 0 이하인 복소수에 대해서는 -2, -4, -6, ···처럼 음의 짝수인 경우만 해가 될 수 있다는 것이 밝혀졌습니다.

리만은 실수부가 0보다 크고 1보다 작은 복소수에 대해서는 해가 무한이 많다는 사실을 알게 됩니다. 여기서 ‘실수부가 0보다 크고 1보다 작은 복소수의 해에서 실수부는 모두 1/2일지도 모른다’는 생각을 하게 됐는데 이것을 ‘리만 가설’이라고 부릅니다.

리만 가설의 의미

오늘날 소수를 중요하게 여기는 이유 중 하나는 소수가 암호에 활용되고 있기 때문입니다. 각종 아이디나 비밀번호, 금융 비밀번호 등 대부분이 소수를 이용하고 있습니다. 그 원리는 생각보다 간단한데, 다음과 같습니다.

22,663 이 어떤 소수의 곱인가를 계산하라고 하면, 그 소수를 계산하기 위해서는 굉징히 오랜 시간이 걸릴 것입니다. 하지만 두 소수 131, 173의 곱을 구하라고 하면 구구단을 외운 우리는 1분 안에 계산을 해낼 수 있을 것입니다. 이렇게 인수분해가 어려운 특성을 이용해 만든 것이 바로 공개키 암호체계입니다.

각각 백단위의 소수 두개를 곱한 숫자를 인수분해하기 위해서는 컴퓨터를 이용해도 몇달이 걸릴 수 있기 때문에 암호가 안전하다고 말할 수 있는 것입니다.

리만 가설이 의미가 있는 것은 이와 같은 소수 체계에 규칙성을 찾는다면 이러한 암호 체계가 어떠한 규칙으로 이루어지는 지 알 수 있기 때문에 현대 암호 체계가 모두 무너지게 될 것입니다.

그 외에 소수의 규칙성으로 인하여 우리의 삶에 어떠한 변화가 나타날 지 궁금합니다.

수학자들에게서는 다음과 같은 얘기를 합니다.

'소수는 신이 만들어 낸 암호이므로, 소수의 규칙성을 찾아낸다면 창조주의 비밀, 자연의 법칙을 이해할 수 있다.'

'소수의 불규칙적인 배열은 인간의 지성을 넘어서는 영역이다. 소수에는 자연의 신비를 풀어낼 무언가가 숨겨져 있을 것이다.'

'리만 가설이 증명된다는 것은 우리 인류에게 한 시대가 끝나고 새로운 시대가 시작되는 것을 의미한다.'

리만 가설이 증명이 되면 어떤 변화가 일어나고 어떻게 문명이 진화하게 될 지 예측조차 하기가 힘드네요. 정말 뭔가가 있을 지 없을 지 궁금하면서 두렵기도 합니다.

끝.