소수정리

6 Contents

[질문과 토론의 과학 #9] 😜리만가설에 미치다!

수학의 역사에는 수많은 난제가 존재하지만, 그중에서도 리만 가설은 독보적인 위상을 차지합니다. 다비트 힐베르트는 500년 뒤에 깨어난다면 가장 먼저 이 가설의 증명 여부를 묻고 싶다고 했으며, 수많은 천재 수학자들이 이 문제에 매달리다 좌절하거나 심지어 정신적인 고통을 겪기도 했습니다. 페르마의 마지막 정리나 푸앵카레 추측이 해결된 지금도 리만 가설은 여전히 난공불락의 요새로 남아 있습니다. 10억 원의 상금이 걸린 밀레니엄 문제 중 하나인 이 가설은 소수의 규칙성을 파악하려는 인류의 가장 거대한 도전이라 할 수 있습니다. 이 거대한 여정은 18세기 가우스로부터 시작되었습니다. 가우스는 15세라는 어린 나이에 소수의 개수를 추측할 수 있는 소수 정리를 제안하며 수학계에 큰 파장을 일으켰습니다. 이후 그의 제자인 리만은 1859년 발표한 단 8쪽짜리 논문에서 리만 제타 함수를 도입하여 소수 정리를 증명할 수 있는 결정적인 가정을 제시했습니다. 이것이 바로 오늘날 우리가 말하는 리만 가설입니다. 소수가 무작위로 나열된 것처럼 보이지만, 그 이면에는 정교한 수학적 질서가 숨어 있다는 리만의 통찰은 현대 수학의 지평을 완전히 바꾸어 놓았습니다. 한국의 수학자들도 이 험난한 길을 묵묵히 걸어왔습니다. 1990년대 후반, 김영원 교수와 기하서 교수는 폴리야 추측이라는 난제를 함께 해결하며 리만 가설이라는 거대한 산과 마주하게 되었습니다. 처음에는 그 난해함에 압도되어 포기하기도 했지만, 문제를 해결해 나가는 과정에서 리만 가설이 가진 치명적인 매력에 빠져들게 된 것입니다. 특히 기하서 교수는 20년이 넘는 세월 동안 오직 이 한 문제만을 붙잡고 연구를 이어오고 있습니다. 이는 단순한 학문적 호기심을 넘어, 진리를 향한 수학자의 집념이 얼마나 강렬할 수 있는지를 보여주는 사례입니다. 리만 가설을 정복하기 위해서는 단순히 계산 능력이나 끈기만으로는 부족합니다. 기하서 교수는 연구 과정에서 현대 수학의 정수인 대수기하학과 랭글랜즈 프로그램의 중요성을 깨달았습니다. 고전적인 해석적 정수론의 틀을 넘어, 전 세계의 석학들과 교류하며 지식의 범위를 넓히는 과정이 필수적이었습니다. 2008년경에는 다른 학자의 논문을 완벽히 이해하지 못했다는 상심에 빠지기도 했지만, 이를 계기로 현대 수학의 최신 이론들을 섭렵하며 더욱 자유롭고 행복하게 연구에 매진할 수 있게 되었습니다. 난제는 결국 고립된 섬이 아니라 현대 수학 전체와 연결되어 있습니다. 리만 가설이 이토록 어려운 이유는 대수학과 해석학이라는 수학의 두 거대한 줄기를 모두 깊이 있게 아울러야 하기 때문입니다. 이는 마치 사방이 절벽으로 둘러싸인 이스라엘의 마사다 요새와 같습니다. 접근로가 전혀 보이지 않는 난공불락의 성벽을 마주한 것처럼, 수학자들은 어디서부터 손을 대야 할지 막막함을 느낍니다. 특히 제타 함수의 영점들이 가지는 독특한 성질을 제어할 수 있는 기술은 현대 수학에서도 아직 존재하지 않습니다. 하지만 요새를 함락시키기 위해 비탈길을 닦았던 로마군처럼, 수학자들은 세대를 이어가며 진리를 향한 길을 조금씩 넓혀가고 있습니다. 소수의 분포라는 산수 문제에 복소수와 같은 고등 수학이 등장하는 것은 현대 수학의 자연스러운 흐름입니다. 피보나치 수열의 일반항에 무리수가 등장하듯, 자연수의 성질을 규명하기 위해 더 넓은 수 체계를 활용하는 것입니다. 또한 현대 수학 연구에서 컴퓨터는 직관을 얻는 데 결정적인 역할을 합니다. 수년이 걸릴 복잡한 계산을 단 몇 분 만에 해결해 주는 컴퓨터 덕분에 수학자들은 자신의 가설을 빠르게 검증하고 연구 기간을 획기적으로 단축할 수 있습니다. 이러한 도구들은 난공불락의 요새를 공략하는 현대 수학자들의 강력한 무기가 되고 있습니다. 만약 우리가 외계 지성체를 만난다면 그들도 리만 가설을 알고 있을까요? 지적 능력을 갖춘 존재가 자연수를 인식하고 소인수분해의 개념을 이해한다면, 필연적으로 소수의 분포에 대한 의문을 품게 될 것입니다. 리만 가설은 인간의 유한한 수명과 지능 속에서 무한한 수의 세계를 이해하려는 시도에서 비롯된 보편적인 질문이기 때문입니다. 모든 것을 한눈에 꿰뚫어 보는 초월적인 존재가 아니라면, 그들도 우리처럼 제타 함수를 통해 수의 질서를 찾으려 노력했을 것입니다. 결국 리만 가설은 우주 공통의 언어인 수학이 도달해야 할 궁극의 지점 중 하나입니다.

[질문과 토론의 과학 #9] 😜리만가설에 미치다!
카오스재단질토과 + 짧강

[명강리뷰] 수학역사상 가장 유명한 난제 리만가설 _ by기하서|2018 봄 카오스 강연 '모든 것의 수數다' 3강

리만 가설은 수학 역사상 가장 유명한 난제 중 하나로 꼽힙니다. 복잡해 보이는 수학적 문제들도 수리논리학의 관점에서는 단순화되고 체계적으로 다뤄질 수 있습니다. 수리논리학은 집합론, 모델 이론, 계산 가능성 이론, 증명론의 네 가지 분야로 나뉘며, 이는 현대 수학의 견고한 토대가 됩니다. 특히 연속체 가설의 독립성을 증명하여 필즈상을 받은 폴 코헨 교수 역시 리만 가설이라는 거대한 장벽에 도전했을 만큼, 이 문제는 수많은 천재 수학자들의 지적 호기심을 자극해 왔습니다. 소수의 분포에 대한 탐구는 19세기 가우스로부터 본격화되었습니다. 가우스는 특정 수까지의 소수 개수를 나타내는 함수가 로그함수와 밀접한 관련이 있다는 사실을 발견하고 이를 예측했습니다. 그의 제자인 리만은 스승의 연구를 발전시키기 위해 '리만 제타 함수'를 도입했습니다. 리만은 소수의 개수를 정확히 계산하려는 과정에서 특정 가정을 세웠는데, 비록 생전에 이를 완벽히 증명하지는 못했으나 이 가정은 훗날 소수 정리의 핵심적인 기초가 되었습니다. 리만 제타 함수는 복소평면에서 정의되는 무한급수의 형태로, 소수의 비밀을 푸는 열쇠입니다. 이 함수의 영점, 즉 함숫값이 0이 되는 지점들을 분석하는 것이 리만 가설의 핵심입니다. 영점 중에는 음의 짝수에서 나타나는 자명한 영점들이 있고, 임계 구역 내에 존재하는 비자명한 영점들이 있습니다. 리만 가설은 이 모든 비자명한 영점들이 복소평면의 실수부가 1/2인 직선인 임계선 위에 존재할 것이라는 대담한 추측을 담고 있습니다. 현대 수학에서 리만 가설을 연구할 때 컴퓨터의 역할은 절대적입니다. 수천 시간 이상의 계산 과정을 통해 얻은 데이터는 수학자들에게 직관을 제공하며, 이론적 증명이 닿지 않는 영역에서 새로운 사실을 발견하게 해줍니다. 리만 가설은 단순히 영점의 위치를 찾는 문제를 넘어, 소수의 개수를 얼마나 정확하게 측정할 수 있는지와 직결됩니다. 인간이 직접 소수를 세는 데에는 한계가 있기에, 리만 제타 함수라는 우회적인 도구를 통해 소수의 규칙성을 파악하려는 시도가 계속되고 있습니다. 리만 가설의 완전한 해결을 위해서는 랭글랜즈 프로그램이나 모티브 이론과 같은 고도의 현대 수학 이론들이 정립되어야 합니다. 이러한 이론들은 아직 갈 길이 멀고 완성되지 않았지만, 리만 제타 함수의 본질을 꿰뚫는 중요한 단서를 제공할 것으로 기대됩니다. 비록 현재는 낮은 차수의 함수에서만 부분적인 가능성을 엿보고 있으나, 수학적 체계가 더욱 정교해진다면 언젠가 '일반화된 리만 가설'까지 해결될 날이 올 것입니다. 이는 수학의 끝과 시작을 연결하는 거대한 여정이 될 것입니다.

[명강리뷰] 수학역사상 가장 유명한 난제 리만가설 _ by기하서|2018 봄 카오스 강연 '모든 것의 수數다' 3강
카오스재단명강리뷰&질문Q

[카오스 술술수학] 리만가설(2): 리만가설에 미치다

리만 가설은 수학 역사상 가장 매혹적이면서도 고통스러운 수수께끼로 남아 있습니다. 독일의 수학자 힐베르트는 사후 500년 뒤에 깨어난다면 가장 먼저 이 가설의 증명 여부를 묻고 싶다고 했으며, 하디는 자신의 첫 번째 소망으로 이를 꼽았습니다. 라마누잔과 존 내쉬 같은 천재들조차 이 문제로 인해 육체적, 정신적 고통을 겪었을 만큼 그 위력은 대단합니다. 페르마의 마지막 정리와 푸앵카레 추측이 해결된 지금도 리만 가설은 여전히 난공불락의 요새처럼 버티고 있습니다. 소수의 규칙성을 찾으려는 노력은 유클리드와 오일러를 거쳐 가우스에 이르러 큰 전환점을 맞이했습니다. 1792년 가우스는 소수의 개수를 추측할 수 있는 '소수 정리'를 제안하며, 수가 커질수록 소수의 밀도가 로그 함수에 반비례한다는 사실을 통찰했습니다. 하지만 가우스는 이를 직관적으로 추측했을 뿐 엄밀하게 증명하지는 못했습니다. 이후 수많은 수학적 거성들이 릴레이를 하듯 이 소수의 분포 문제를 해결하기 위해 자신의 생애를 바치며 연구에 매달려 왔습니다. 가우스의 제자였던 리만은 1859년 발표한 논문에서 '리만 제타 함수'를 도입하며 소수 정리 증명의 실마리를 제공했습니다. 리만 가설은 단순히 소수의 개수를 대략적으로 파악하는 것을 넘어, n까지의 소수를 정확하게 셀 수 있는 유일한 식을 완성하려는 시도입니다. 오늘날 이 가설에는 10억 원의 상금이 걸려 있으며, 19세기 수학자들 사이에서는 이를 증명하는 자가 영생을 얻는다는 말이 돌 정도로 수학계에서 차지하는 위상이 절대적이라고 할 수 있습니다. 리만 가설의 핵심은 제타 함수의 무한히 많은 영점들이 복소평면상의 1/2 축 위에 일렬로 늘어서 있다는 가정에 있습니다. 이 영점들은 각각 소리의 파동과 같은 역할을 수행하며, 이 파동들을 모두 합치면 소수 분포의 오차가 점차 줄어들어 결국 0에 수렴하게 됩니다. 마치 악기를 목표 음에 맞춰 미세하게 조율하는 과정과도 같습니다. 만약 단 하나의 영점이라도 이 축을 벗어난다면 파동이 너무 커져 조율이 불가능해지며, 소수의 불규칙성을 설명할 방법도 사라지게 됩니다. 역설적이게도 리만 제타 함수 영점들의 완벽한 질서는 소수가 가진 극도의 무질서와 임의성을 대변합니다. 가우스가 예견했듯 소수는 동전 던지기와 같은 무작위성을 띠고 있으며, 리만 가설은 바로 그 임의성을 수학적으로 설명해 줍니다. 만약 이 가설이 거짓으로 판명된다면 현대 수학의 근간이 흔들리는 대재앙이 닥칠 것이라는 우려가 나올 정도입니다. 전 세계 수학자들을 잠 못 들게 하는 이 난제는 여전히 인류가 정복해야 할 가장 거대한 지적 산맥으로 남아 있습니다.

[카오스 술술수학] 리만가설(2): 리만가설에 미치다
카오스재단술술과학
  • 수학

[카오스 술술수학] 리만가설(1): 악마의 동전던지기

소수는 1과 자기 자신만으로 나누어떨어지는 수로, 영어로는 '프라임 넘버(Prime Number)'라고 불립니다. 이는 근본적인 수라는 뜻을 담고 있으며, 한자로는 원소를 뜻하는 '소(素)' 자를 사용합니다. 칼 세이건의 소설 '콘택트'에서 외계 지성체가 보내는 신호로 등장할 만큼 소수는 우주적인 보편성을 지닌 수의 원소와 같습니다. 모든 자연수는 소수의 곱으로 분해될 수 있기에, 마치 물질이 원소로 이루어지듯 수의 세계를 구성하는 가장 기초적인 단위가 됩니다. 우리가 물을 수소와 산소로 분해하듯, 수를 소수의 곱으로 나타내는 소인수분해는 수의 본질을 파악하는 핵심적인 과정입니다. 자연계의 원소는 100여 개에 불과하지만, 소수는 무한히 존재합니다. 이미 2,300년 전 유클리드는 소수의 개수가 끝이 없음을 수학적으로 증명해 냈습니다. 하지만 수학자들은 단순히 무한하다는 사실에 만족하지 않고, 소수가 어떤 규칙으로 분포하는지에 대해 깊은 의문을 품었습니다. 소수는 수의 나열 속에서 완전히 불규칙하게 나타나는 것처럼 보이기 때문입니다. 특정 숫자까지 소수가 몇 개나 존재하는지 알아낼 수 있는 공식이 있는지, 아니면 그저 하나하나 세어보는 방법뿐인지에 대한 탐구는 수학 역사상 가장 매혹적인 과제 중 하나였습니다. 위대한 수학자 오일러조차 소수의 배열에서 어떤 질서도 찾을 수 없다며 인간의 지성이 범접할 수 없는 신비라고 탄식했습니다. 하지만 수학의 천재 가우스는 전혀 다른 관점에서 이 문제에 접근했습니다. 그는 소수의 출현을 동전 던지기와 같은 확률의 문제로 바라보았습니다. 동전을 던질 때 앞면이 나올지 뒷면이 나올지 예측할 수 없지만, 시행 횟수가 많아질수록 앞면이 나올 확률이 2분의 1에 수렴하듯, 소수 또한 숫자가 커질수록 특정한 확률적 규칙성을 띠게 될 것이라고 가정한 것입니다. 가우스는 숫자가 커질수록 소수가 나타나는 빈도가 줄어든다는 점에 주목하여, 그 확률이 대략 1/ln n이 될 것이라고 추측했습니다. 이는 숫자가 커질수록 소수가 될 확률이 낮아지는 복잡한 동전 던지기와 같습니다. 이 아이디어를 바탕으로 계산한 특정 수까지의 소수 개수는 실제 값과 놀라울 정도로 일치했습니다. 이것이 바로 가우스가 불과 15살 때 정립한 '소수 정리'입니다. 전혀 상관없어 보이는 소수의 분포가 자연상수 e와 관련된 자연로그 함수로 설명된다는 사실은 수학계에 엄청난 충격을 안겨주었습니다. 소수의 분포가 자연로그 함수를 따른다는 발견은 경이롭지만, 동시에 기괴한 구석이 있습니다. 수의 근본인 소수가 왜 하필 자연상수 e와 연결되는지에 대해서는 여전히 명확한 해답을 찾기 어렵기 때문입니다. 영국의 수학자 하디는 소수가 '악마적 속성'을 가지고 있다고 말하며 그 난해함에 혀를 내두르기도 했습니다. 숫자가 무한히 커져도 이 확률적 규칙이 변함없이 유지될지, 아니면 우리가 모르는 악마의 장난이 숨어 있을지는 여전히 미지의 영역입니다. 소수는 여전히 질서와 혼돈 사이에서 수학자들을 유혹하며 그 신비를 간직하고 있습니다.

[카오스 술술수학] 리만가설(1): 악마의 동전던지기
카오스재단술술과학
  • 수학

[강연] 수학역사상 가장 유명한 난제 리만가설 (4) _ by기하서 | 2018 봄 카오스 강연 '모든 것의 수數다' 3강 | 3강 ④

수학의 세계에는 수많은 난제가 존재하지만, 그중에서도 리만 가설은 많은 수학자들에게 도전의 대상이자 꿈의 정점입니다. 기하서 교수는 폴리아 추측을 해결하는 과정에서 이 거대한 산의 존재를 다시금 확인하게 되었습니다. 8년 동안 매달렸던 폴리아 추측을 동료와의 협력을 통해 단 넉 달 만에 해결하며 얻은 자신감은 그를 리만 가설이라는 더 큰 도전으로 이끌었습니다. 비록 그 길이 20년이라는 긴 세월을 요구할 것이라고는 당시에는 상상조차 하지 못했지만, 난제를 향한 순수한 열정은 그를 수학의 깊은 심연으로 안내하는 원동력이 되었습니다. 20년이라는 긴 시간 동안 하나의 문제에 매달리는 것은 결코 쉬운 일이 아닙니다. 기 교수는 이 과정을 고통스러운 인고의 시간이 아닌, 매일매일 마주하는 아름다운 순간들의 연속으로 기억합니다. 그는 자신의 직관을 확인하기 위해 전 세계의 저명한 수학자들을 찾아다니며 교류했습니다. 모토하시, 후지, 요시다 등 세계적인 석학들과의 대화는 리만 가설에 대한 다양한 시각을 제공해주었습니다. 이러한 상호작용은 수학 연구가 단순히 혼자만의 고립된 작업이 아니라, 전 세계 수학자들의 상상력이 교차하며 지평을 넓혀가는 역동적인 과정임을 보여줍니다. 연구 과정에서 마주한 가장 큰 전환점은 현대 수학의 거대한 흐름인 랭글랜즈 프로그램과의 만남이었습니다. 대수기하학적 기초 없이 리만 가설에 도전하는 것의 한계를 깨달은 그는, 늦은 시기임에도 불구하고 새로운 이론을 공부하기 시작했습니다. 특히 숄체 교수의 논문을 해독할 수 있게 된 시점부터 그는 지식의 갈증에서 벗어나 진정한 자유를 느꼈다고 회상합니다. 이는 수학자에게 필요한 것이 단순히 기존의 지식을 습득하는 것을 넘어, 끊임없이 변화하는 학문의 흐름을 수용하고 자신의 한계를 극복하려는 유연한 태도임을 시사합니다. 리만 가설과 같은 거대 난제를 다루기 위해서는 천재적인 지능만큼이나 독특한 성격적 특성이 요구됩니다. 기 교수는 수학자를 두 부류로 나누며, 자신을 '성격'으로 버티는 유형이라 정의합니다. 오랜 시간 공들여온 연구가 실패로 돌아갔음을 깨달은 순간에도 좌절하지 않고 다시 시작할 수 있는 마음가짐이 중요하기 때문입니다. 단순히 좋아한다는 감정만으로는 3년에서 5년의 한계를 넘기 어렵지만, 실패를 딛고 일어서는 회복탄력성은 수학자가 난제를 해결하기 위해 갖춰야 할 필수적인 자질입니다. 리만 가설의 역사는 1859년 베른하르트 리만이 발표한 단 8쪽짜리 논문에서 시작되었습니다. 가우스가 15세의 나이에 예견했던 소수 정리를 보다 구체화하려 했던 리만은, 소수의 개수를 세는 '문학적'인 표현을 정교한 수학적 공식으로 변환하는 업적을 남겼습니다. 리만은 자신의 가설이 증명된다면 소수의 분포를 완벽히 이해할 수 있을 것이라 보았지만, 정작 그 증명은 후대의 몫으로 남겨두었습니다. 160년이 지난 지금까지도 이 가설이 수많은 수학자들을 매료시키고 괴롭히는 이유는, 그 안에 우주의 질서를 관통하는 소수의 비밀이 숨겨져 있기 때문일 것입니다.

[강연] 수학역사상 가장 유명한 난제 리만가설 (4) _ by기하서 | 2018 봄 카오스 강연 '모든 것의 수數다' 3강

기하서, 김영원

카오스재단카오스강연
  • 수학

[강연] 수학역사상 가장 유명한 난제 리만가설 (3) _ by기하서 | 2018 봄 카오스 강연 '모든 것의 수數다' 3강 | 3강 ③

리만 가설은 수학계의 거대한 산과 같으며 이를 해결하기 위해서는 타고난 소질과 더불어 랭글랜즈 프로그램에 대한 깊은 이해가 필요합니다. 폴리아는 리만 크시 함수를 도입하여 이 난제에 도전했던 대표적인 수학자입니다. 그는 복잡한 문제를 단순화된 모델로 변형하여 지식을 점진적으로 확장해 나가는 독특한 방법론을 사용했습니다. 비록 그의 방식이 리만 가설의 완전한 해결로 이어지지는 못했지만, 어려움 속에서도 동료 수학자들에게 음식을 보내며 도왔던 그의 따뜻한 인품은 후대 수학자들에게 큰 귀감이 되고 있습니다. 해석적 정수론의 거장인 비노그라도프와 셀베르그는 리만 가설의 임계 구역을 탐구하며 중요한 학문적 진전을 이루어냈습니다. 비노그라도프는 영점이 존재하지 않는 영역을 확장하는 데 독보적인 성과를 거두었으며, 셀베르그는 복소해석학을 배제한 초등적 방식으로 소수 정리를 증명하여 필즈상을 수상하는 영예를 안았습니다. 특히 셀베르그는 리만 제타 함수의 영점 중 상당수가 임계선 위에 존재한다는 사실을 최초로 증명하며 가설 해결을 위한 실질적인 토대를 마련했습니다. 이들의 연구는 오늘날까지도 깨지지 않는 강력한 결과로 남아 있습니다. 레빈슨은 뇌암 투병이라는 가혹한 환경 속에서도 제타 함수를 미분하는 혁신적인 아이디어를 통해 임계선 위에 영점의 3분의 1 이상이 존재한다는 놀라운 정리를 발표했습니다. 그의 연구는 현대 수학자들에게 매우 중요한 영감을 주었으며, 이후 들리뉴는 국소 리만 가설을 해결하며 대수학의 정점에 섰습니다. 최근에는 페터 숄체와 같은 젊은 천재 수학자들이 들리뉴의 계보를 이어받아 정수론 분야에서 눈부신 활약을 펼치고 있어 리만 가설 해결을 향한 새로운 전기가 마련될 것으로 기대됩니다. 이는 수학의 세대교체와 학문의 연속성을 보여주는 사례입니다. 인간은 역사적으로 소수의 개수를 직접 세는 데 한계를 보여왔으며, 리만 가설은 이러한 한계를 극복하기 위해 제타 함수라는 우회적인 경로를 선택한 결과물입니다. 현대 수학에서는 랭글랜즈 프로그램과 모티프 이론이 제타 함수의 본질을 파악하는 핵심 열쇠로 주목받고 있습니다. 비록 이 이론들이 아직 완전히 정립되지는 않았으나, 차수가 낮은 헤케 제타 함수 등에서 실마리를 찾는다면 일반화된 리만 가설의 해결도 결코 불가능한 꿈은 아닐 것입니다. 이러한 도전 정신은 수학이 단순한 계산을 넘어 우주의 질서를 탐구하는 과정임을 증명합니다. 리만 가설을 향한 여정은 개인의 고독한 연구를 넘어 수학자들 사이의 긴밀한 교류와 영감을 통해 이어집니다. 기하서 교수와 김영원 교수의 인연은 1997년 폴리아의 예상에 관한 강연에서 시작되었으며, 이는 한 수학자가 난제 해결에 평생을 매진하게 된 결정적인 계기가 되었습니다. 복소해석학적 관점과 집합론적 배경이 어우러진 이들의 협력은 리만 가설이라는 거대한 목표를 향해 나아가는 현대 수학의 역동적인 모습을 잘 보여줍니다. 학문적 호기심에서 시작된 작은 만남이 거대한 수학적 성취를 위한 밑거름이 되고 있는 것입니다.

[강연] 수학역사상 가장 유명한 난제 리만가설 (3) _ by기하서 | 2018 봄 카오스 강연 '모든 것의 수數다' 3강

기하서

카오스재단카오스강연
  • 수학