기하서

6 Contents

[강연] 수학역사상 가장 유명한 난제 리만가설 (6) _ by기하서 | 2018 봄 카오스 강연 '모든 것의 수數다' 3강 | 3강 ⑥

리만 가설은 소수의 분포를 설명하는 수학계의 거대한 난제이자 인류 지성의 척도라고 할 수 있습니다. 만약 외계 지성체가 지구를 방문한다면, 우리는 그들이 이 가설을 알고 있는지 묻는 것만으로도 그들의 지적 수준을 가늠할 수 있을 것입니다. 리만 가설을 중요하게 여긴다는 것은 그들이 우리와 유사한 지적 한계와 유한성을 공유하고 있음을 의미합니다. 반면, 이 가설에 전혀 관심이 없다면 그들은 무한을 너무나 당연하게 다루는, 인간과는 차원이 다른 존재일 가능성이 큽니다. 인간이 리만 가설에 집착하는 근본적인 이유는 우리가 죽음을 피할 수 없는 유한한 존재이기 때문입니다. 우리는 제한된 삶 속에서 무한한 소수의 규칙성을 찾으려 끊임없이 애쓰며, 그 과정에서 수학이라는 도구를 통해 경이로운 상상력을 발휘합니다. 만약 모든 소수의 개수와 성질을 실시간으로 파악할 수 있을 만큼 전지전능한 존재라면, 리만 가설은 애초에 고민의 대상조차 되지 않았을 것입니다. 결국 이 난제는 인간의 유한함과 무한을 향한 갈망이 만나는 지점에 놓여 있으며, 우리의 지적 호기심을 자극합니다. 인공지능의 비약적인 발전이 리만 가설 해결의 새로운 열쇠가 될 수 있을지에 대해서는 학계에서도 의견이 분분합니다. 현재의 기술력으로는 수학 연구의 보조적인 수단에 불과하지만, 미래에 진정으로 수학적 사고를 수행하는 AI가 등장한다면 상황은 완전히 달라질 것입니다. 만약 AI가 인간 수학자를 능가하여 이 난제를 해결한다면, 이는 수학의 역사에서 거대한 전환점이 될 것입니다. 하지만 리만 가설이 단순히 계산적인 차원을 넘어 제타 함수론과 같은 심오한 이론적 토대 위에서 인간의 통찰력과 함께 해결되기를 바라는 것이 많은 수학자의 희망입니다. 만약 리만 가설이 참이 아니라 거짓으로 판명된다면 수학계는 어떤 변화를 맞이하게 될까요? 대부분의 수학자는 가설이 참일 것이라 굳게 믿지만, 만약 실수부가 1/2이 아닌 비자명 영점이 단 하나라도 발견된다면 그 충격은 상상 이상일 것입니다. 특히 정수론을 깊이 연구하는 학자들에게는 엄청난 상실감과 학문적 혼란을 안겨줄 수 있습니다. 그러나 역설적으로 가설이 틀렸음을 증명하는 과정에서 예상치 못한 새로운 수학적 발견이 이루어지고, 수학의 세계는 이전보다 훨씬 더 다채롭고 흥미로운 방향으로 흘러갈지도 모릅니다. 리만 가설은 단순히 하나의 문제를 넘어 현대 수학의 수많은 분야와 거미줄처럼 긴밀하게 연결되어 있습니다. 이를 해결하려는 끊임없는 시도는 제타 함수론이나 L-함수 이론의 폭발적인 발전을 이끌어냈으며, 이는 정수론의 정밀한 정보들을 이해하는 데 결정적인 역할을 하고 있습니다. 비록 수십 년간의 도전이 당장 눈에 보이는 결실을 보지 못했을지라도, 이 탐구 과정에서 파생된 수학적 개념들은 그 자체로 인류 지성사에 거대한 가치를 지닙니다. 리만 가설은 여전히 수학의 찬란한 성배로 남아 우리를 끝없는 무한의 세계로 인도하고 있습니다.

[강연] 수학역사상 가장 유명한 난제 리만가설 (6) _ by기하서 | 2018 봄 카오스 강연 '모든 것의 수數다' 3강

기하서, 김영원

카오스재단카오스강연
  • 수학

[강연] 수학역사상 가장 유명한 난제 리만가설 (5) _ by기하서 | 2018 봄 카오스 강연 '모든 것의 수數다' 3강 | 3강 ⑤

리만 가설은 수학계에서 가장 악명 높은 난제 중 하나로 손꼽힙니다. 오죽하면 수학자와 공동 연구를 시작한 악마조차 며칠 밤을 새워 미적분학부터 해석적 정수론까지 통달했음에도 불구하고, 결국 해결의 실마리를 찾지 못해 절망했다는 우스갯소리가 있을 정도입니다. 이 이야기는 리만 가설이 단순히 지능의 문제를 넘어, 현대 수학의 모든 정수를 쏟아부어도 정복하기 힘든 거대한 장벽임을 시사합니다. 수많은 천재가 일생을 바쳤음에도 여전히 미지의 영역으로 남아 있는 이 가설은 인류 지성의 한계를 시험하는 상징적인 존재가 되었습니다. 이 가설이 이토록 난공불락인 이유는 수학의 여러 분야가 복잡하게 얽혀 있기 때문입니다. 리만 가설은 대수학과 해석학의 속성을 동시에 지니고 있으며, 어느 한쪽으로 깊이 파고들어도 명쾌한 해답을 내놓지 않습니다. 리만 제타 함수 외에도 수많은 제타 함수가 존재하지만, 그들 역시 고유의 수론적 성질을 간직한 채 리만 가설의 벽을 넘지 못하고 있습니다. 역사적으로 증명되었듯, 다양한 학문적 접근과 깊이 있는 통찰이 동시에 요구되기에 이 문제는 단순한 계산을 넘어선 고도의 추상적 사고를 필요로 합니다. 리만 가설을 시각적으로 표현하자면 사방이 절벽으로 둘러싸인 이스레엘의 마사다 요새와 같습니다. 도무지 어디로 접근해야 할지 길이 보이지 않는 이 요새는 로마군이 오랜 시간 공을 들여 비탈길을 만든 후에야 함락될 수 있었습니다. 수학자들 역시 리만 가설이라는 거대한 요새를 정복하기 위해 유효한 접근로를 찾으려 애쓰고 있습니다. 비록 지금은 그 길이 보이지 않아 막막할지라도, 수백 년의 세월이 흐르며 인류의 지식이 쌓이다 보면 언젠가는 성벽을 허물 수 있는 결정적인 경로가 발견될 것이라는 희망이 이 연구를 지속하게 합니다. 자연수의 성질을 다루는 정수론 문제에 복소수가 등장하는 것은 언뜻 생소해 보일 수 있습니다. 하지만 피보나치 수열의 일반항에 무리수가 포함되듯, 현대 수학에서는 단순한 대상을 설명하기 위해 더 고차원적인 도구를 사용하는 일이 빈번합니다. 특히 최근에는 컴퓨터가 수학 연구의 강력한 조력자로 부상했습니다. 인간이 수년 동안 매달려야 할 복잡한 계산이나 함수의 거동 파악을 단 몇 분 만에 해결함으로써 수학적 직관을 얻는 데 결정적인 역할을 합니다. 이러한 도구의 발전은 난제 해결을 위한 새로운 가능성을 열어주고 있습니다. 결국 리만 가설의 핵심은 소수의 개수를 정확하게 파악하는 부등식의 문제로 귀결됩니다. 소수의 실제 분포와 수학적 근삿값 사이의 오차가 특정 범위를 넘지 않는다는 것을 증명하는 것이 이 가설의 본질입니다. 만약 외계 지성체가 존재하여 시간의 흐름을 인식하고 수를 이해한다면, 그들 역시 필연적으로 소수를 발견하고 리만 가설에 도달했을 것입니다. 소수는 우주 공통의 언어이자 수의 근간이기 때문입니다. 리만 가설은 인류만의 고민이 아니라, 우주의 질서를 이해하려는 모든 지성체가 마주하게 될 궁극의 질문이라 할 수 있습니다.

[강연] 수학역사상 가장 유명한 난제 리만가설 (5) _ by기하서 | 2018 봄 카오스 강연 '모든 것의 수數다' 3강

기하서, 김영원

카오스재단카오스강연
  • 수학

[강연] 수학역사상 가장 유명한 난제 리만가설 (4) _ by기하서 | 2018 봄 카오스 강연 '모든 것의 수數다' 3강 | 3강 ④

수학의 세계에는 수많은 난제가 존재하지만, 그중에서도 리만 가설은 많은 수학자들에게 도전의 대상이자 꿈의 정점입니다. 기하서 교수는 폴리아 추측을 해결하는 과정에서 이 거대한 산의 존재를 다시금 확인하게 되었습니다. 8년 동안 매달렸던 폴리아 추측을 동료와의 협력을 통해 단 넉 달 만에 해결하며 얻은 자신감은 그를 리만 가설이라는 더 큰 도전으로 이끌었습니다. 비록 그 길이 20년이라는 긴 세월을 요구할 것이라고는 당시에는 상상조차 하지 못했지만, 난제를 향한 순수한 열정은 그를 수학의 깊은 심연으로 안내하는 원동력이 되었습니다. 20년이라는 긴 시간 동안 하나의 문제에 매달리는 것은 결코 쉬운 일이 아닙니다. 기 교수는 이 과정을 고통스러운 인고의 시간이 아닌, 매일매일 마주하는 아름다운 순간들의 연속으로 기억합니다. 그는 자신의 직관을 확인하기 위해 전 세계의 저명한 수학자들을 찾아다니며 교류했습니다. 모토하시, 후지, 요시다 등 세계적인 석학들과의 대화는 리만 가설에 대한 다양한 시각을 제공해주었습니다. 이러한 상호작용은 수학 연구가 단순히 혼자만의 고립된 작업이 아니라, 전 세계 수학자들의 상상력이 교차하며 지평을 넓혀가는 역동적인 과정임을 보여줍니다. 연구 과정에서 마주한 가장 큰 전환점은 현대 수학의 거대한 흐름인 랭글랜즈 프로그램과의 만남이었습니다. 대수기하학적 기초 없이 리만 가설에 도전하는 것의 한계를 깨달은 그는, 늦은 시기임에도 불구하고 새로운 이론을 공부하기 시작했습니다. 특히 숄체 교수의 논문을 해독할 수 있게 된 시점부터 그는 지식의 갈증에서 벗어나 진정한 자유를 느꼈다고 회상합니다. 이는 수학자에게 필요한 것이 단순히 기존의 지식을 습득하는 것을 넘어, 끊임없이 변화하는 학문의 흐름을 수용하고 자신의 한계를 극복하려는 유연한 태도임을 시사합니다. 리만 가설과 같은 거대 난제를 다루기 위해서는 천재적인 지능만큼이나 독특한 성격적 특성이 요구됩니다. 기 교수는 수학자를 두 부류로 나누며, 자신을 '성격'으로 버티는 유형이라 정의합니다. 오랜 시간 공들여온 연구가 실패로 돌아갔음을 깨달은 순간에도 좌절하지 않고 다시 시작할 수 있는 마음가짐이 중요하기 때문입니다. 단순히 좋아한다는 감정만으로는 3년에서 5년의 한계를 넘기 어렵지만, 실패를 딛고 일어서는 회복탄력성은 수학자가 난제를 해결하기 위해 갖춰야 할 필수적인 자질입니다. 리만 가설의 역사는 1859년 베른하르트 리만이 발표한 단 8쪽짜리 논문에서 시작되었습니다. 가우스가 15세의 나이에 예견했던 소수 정리를 보다 구체화하려 했던 리만은, 소수의 개수를 세는 '문학적'인 표현을 정교한 수학적 공식으로 변환하는 업적을 남겼습니다. 리만은 자신의 가설이 증명된다면 소수의 분포를 완벽히 이해할 수 있을 것이라 보았지만, 정작 그 증명은 후대의 몫으로 남겨두었습니다. 160년이 지난 지금까지도 이 가설이 수많은 수학자들을 매료시키고 괴롭히는 이유는, 그 안에 우주의 질서를 관통하는 소수의 비밀이 숨겨져 있기 때문일 것입니다.

[강연] 수학역사상 가장 유명한 난제 리만가설 (4) _ by기하서 | 2018 봄 카오스 강연 '모든 것의 수數다' 3강

기하서, 김영원

카오스재단카오스강연
  • 수학

[강연] 수학역사상 가장 유명한 난제 리만가설 (3) _ by기하서 | 2018 봄 카오스 강연 '모든 것의 수數다' 3강 | 3강 ③

리만 가설은 수학계의 거대한 산과 같으며 이를 해결하기 위해서는 타고난 소질과 더불어 랭글랜즈 프로그램에 대한 깊은 이해가 필요합니다. 폴리아는 리만 크시 함수를 도입하여 이 난제에 도전했던 대표적인 수학자입니다. 그는 복잡한 문제를 단순화된 모델로 변형하여 지식을 점진적으로 확장해 나가는 독특한 방법론을 사용했습니다. 비록 그의 방식이 리만 가설의 완전한 해결로 이어지지는 못했지만, 어려움 속에서도 동료 수학자들에게 음식을 보내며 도왔던 그의 따뜻한 인품은 후대 수학자들에게 큰 귀감이 되고 있습니다. 해석적 정수론의 거장인 비노그라도프와 셀베르그는 리만 가설의 임계 구역을 탐구하며 중요한 학문적 진전을 이루어냈습니다. 비노그라도프는 영점이 존재하지 않는 영역을 확장하는 데 독보적인 성과를 거두었으며, 셀베르그는 복소해석학을 배제한 초등적 방식으로 소수 정리를 증명하여 필즈상을 수상하는 영예를 안았습니다. 특히 셀베르그는 리만 제타 함수의 영점 중 상당수가 임계선 위에 존재한다는 사실을 최초로 증명하며 가설 해결을 위한 실질적인 토대를 마련했습니다. 이들의 연구는 오늘날까지도 깨지지 않는 강력한 결과로 남아 있습니다. 레빈슨은 뇌암 투병이라는 가혹한 환경 속에서도 제타 함수를 미분하는 혁신적인 아이디어를 통해 임계선 위에 영점의 3분의 1 이상이 존재한다는 놀라운 정리를 발표했습니다. 그의 연구는 현대 수학자들에게 매우 중요한 영감을 주었으며, 이후 들리뉴는 국소 리만 가설을 해결하며 대수학의 정점에 섰습니다. 최근에는 페터 숄체와 같은 젊은 천재 수학자들이 들리뉴의 계보를 이어받아 정수론 분야에서 눈부신 활약을 펼치고 있어 리만 가설 해결을 향한 새로운 전기가 마련될 것으로 기대됩니다. 이는 수학의 세대교체와 학문의 연속성을 보여주는 사례입니다. 인간은 역사적으로 소수의 개수를 직접 세는 데 한계를 보여왔으며, 리만 가설은 이러한 한계를 극복하기 위해 제타 함수라는 우회적인 경로를 선택한 결과물입니다. 현대 수학에서는 랭글랜즈 프로그램과 모티프 이론이 제타 함수의 본질을 파악하는 핵심 열쇠로 주목받고 있습니다. 비록 이 이론들이 아직 완전히 정립되지는 않았으나, 차수가 낮은 헤케 제타 함수 등에서 실마리를 찾는다면 일반화된 리만 가설의 해결도 결코 불가능한 꿈은 아닐 것입니다. 이러한 도전 정신은 수학이 단순한 계산을 넘어 우주의 질서를 탐구하는 과정임을 증명합니다. 리만 가설을 향한 여정은 개인의 고독한 연구를 넘어 수학자들 사이의 긴밀한 교류와 영감을 통해 이어집니다. 기하서 교수와 김영원 교수의 인연은 1997년 폴리아의 예상에 관한 강연에서 시작되었으며, 이는 한 수학자가 난제 해결에 평생을 매진하게 된 결정적인 계기가 되었습니다. 복소해석학적 관점과 집합론적 배경이 어우러진 이들의 협력은 리만 가설이라는 거대한 목표를 향해 나아가는 현대 수학의 역동적인 모습을 잘 보여줍니다. 학문적 호기심에서 시작된 작은 만남이 거대한 수학적 성취를 위한 밑거름이 되고 있는 것입니다.

[강연] 수학역사상 가장 유명한 난제 리만가설 (3) _ by기하서 | 2018 봄 카오스 강연 '모든 것의 수數다' 3강

기하서

카오스재단카오스강연
  • 수학

[강연] 수학역사상 가장 유명한 난제 리만가설 (2) _ by기하서 | 2018 봄 카오스 강연 '모든 것의 수數다' 3강 | 3강 ②

리만 제타 함수는 수학의 역사에서 가장 신비로운 대상 중 하나로, 무한 급수의 형태로 정의됩니다. 실수부가 1보다 큰 영역에서 모든 자연수의 거듭제곱 역수를 합산하는 이 함수는 소수들의 곱으로 표현되는 '오일러 곱'이라는 독특한 성질을 지닙니다. 이는 모든 자연수가 유일한 소수들의 곱으로 분해된다는 산술의 기본 정리와 맞닿아 있습니다. 또한, 감마 함수를 포함한 함수 방정식을 통해 그 성질이 더욱 확장되며, 현대 수학자들은 이를 국소 제타 함수의 관점에서 이해하기도 합니다. 수학자들은 함수의 정의역을 넓히기 위해 해석적 확장이라는 기법을 사용합니다. 리만 제타 함수 역시 초기에는 특정 영역에서만 정의되었으나, 적분 지식을 활용한 변형을 통해 실수부가 0보다 큰 영역까지 확장될 수 있습니다. 더 나아가 함수 방정식을 이용하면 복소 평면 전체에서 단 하나의 점을 제외하고 모든 영역에서 미분 가능한 함수로 거듭납니다. 이러한 확장은 단순한 수치적 계산을 넘어, 함수가 가진 본질적인 대칭성과 구조를 파악하는 결정적인 계기가 됩니다. 함수의 값이 0이 되는 지점인 영점은 리만 제타 함수의 비밀을 푸는 열쇠입니다. 음의 짝수에서 나타나는 자명한 영점들은 함수 방정식을 통해 비교적 쉽게 파악할 수 있지만, 진짜 중요한 것은 임계 구역이라 불리는 영역에 존재하는 비자명한 영점들입니다. 오일러 곱의 강력한 성질 덕분에 이 영점들이 실수부 0과 1 사이에 존재한다는 사실은 증명되었으나, 그 정확한 위치를 파악하는 것은 현대 수학의 거대한 도전 과제로 남아 있습니다. 리만 가설은 모든 비자명한 영점들이 실수부 1/2인 직선, 즉 임계선 위에 존재할 것이라는 대담한 가정입니다. 수많은 수학자가 컴퓨터를 활용해 수조 개의 영점을 계산해 본 결과, 현재까지 발견된 모든 영점은 이 가설을 충족하고 있습니다. 영점의 분포는 로그 함수를 포함한 복잡한 수식으로 설명되며, 그 간격과 밀도는 소수의 분포와 밀접한 관련이 있습니다. 컴퓨터를 통한 수천 시간의 연산은 수학적 직관을 제공하며 가설의 신뢰도를 높여주는 중요한 역할을 합니다. 리만 가설이 해결되지 않는 이유는 대수적 성질과 해석적 성질이 복잡하게 얽혀 있기 때문입니다. 이 두 세계의 특성을 동시에 깊게 파고드는 문제는 수학 전체를 통틀어 유례를 찾기 힘듭니다. 현대 수학은 리만 제타 함수를 넘어 수많은 L-함수를 '셀베르그 클래스'로 분류하여 통합적으로 연구하고 있습니다. 이 모든 함수가 리만 가설을 만족한다는 '그랜드 리만 가설'은 정수론, 대수기하, 조화해석 등 수학의 여러 분야가 하나로 만나는 지점이기도 합니다.

[강연] 수학역사상 가장 유명한 난제 리만가설 (2) _ by기하서 | 2018 봄 카오스 강연 '모든 것의 수數다' 3강

기하서

카오스재단카오스강연
  • 수학

[강연] 수학역사상 가장 유명한 난제 리만가설 (1) _ by기하서 | 2018 봄 카오스 강연 '모든 것의 수數다' 3강 | 3강 ①

수학의 세계에서 정수론은 '수학의 여왕'이라 불릴 만큼 고결하면서도 난해한 분야로 손꼽힙니다. 가우스가 정의했듯 정수론은 수의 본질을 탐구하며, 리만 가설이나 골드바흐 추측과 같은 수많은 난제를 품고 있습니다. 이러한 문제들은 단순히 계산의 영역을 넘어 새로운 수학적 개념을 요구하며, 때로는 한 학자가 평생을 바쳐 연구해도 그 끝을 보기 어려울 정도로 깊은 인내를 필요로 합니다. 하나의 난제에 수십 년간 매달리는 수학자의 열정은 마치 구도자의 길과 같으며, 이는 수학이 단순한 학문을 넘어 진리를 향한 숭고한 여정임을 보여줍니다. 현대 수학에서 난제를 해결했다는 선언이 곧바로 정답으로 인정받는 것은 아닙니다. 2012년 발표된 ABC 예상의 증명 사례처럼, 수백 페이지에 달하는 복잡한 논리는 동료 수학자들의 철저한 검증 과정을 거쳐야 합니다. 새로운 수학적 체계를 도입한 증명은 때로 학계 내에서 거센 논쟁을 불러일으키기도 하며, 권위 있는 학자들 사이에서도 의견이 갈리는 경우가 빈번합니다. 이처럼 수학적 진실을 확정 짓는 과정은 매우 엄격하며, 모든 구성원이 공감할 수 있는 논리적 완결성을 갖추기까지는 예상보다 훨씬 긴 시간이 소요되기도 합니다. 수학의 거대한 탑은 수리 논리와 집합론이라는 견고한 토대 위에 세워져 있습니다. 칸토어와 괴델, 튜링과 같은 천재들이 다져놓은 공리계는 현대 수학이 나아갈 방향을 제시하는 나침반 역할을 합니다. 특히 ZFC라 불리는 공리계는 우리가 선택한 규칙 안에서 수학적 우주가 어떻게 작동하는지를 규정합니다. 논리적인 관점에서 본다면 수학적 발견이란 무에서 유를 창조하는 것이 아니라, 이미 공리 안에 내재되어 있는 진리들을 하나씩 찾아내어 질서정연하게 정리하는 과정이라고 할 수 있습니다. 모든 수학적 정리는 결국 이 단단한 논리의 지반 위에서 탄생합니다. 자연수의 근간을 이루는 소수는 수학자들에게 영원한 탐구의 대상입니다. 모든 자연수가 소수의 곱으로 분해된다는 소인수분해의 원리는 단순해 보이지만, 소수가 수의 체계 속에서 어떻게 분포하는지를 파악하는 일은 매우 복잡합니다. 19세기 가우스는 소수의 개수가 일정한 규칙성을 가지고 분포한다는 사실을 발견하고 이를 함수로 예측하려 시도했습니다. 비록 그는 이를 완벽하게 증명하지 못했으나, 소수의 분포을 이해하려는 그의 통찰은 이후 리만이 리만 제타 함수를 통해 더 깊은 수의 신비를 파헤치는 결정적인 계기가 되었습니다. 리만 가설은 가우스가 남긴 소수 분포의 수수께끼를 가장 정밀하게 해결하려는 시도입니다. 리만은 리만 제타 함수라는 도구를 도입하여 소수의 개수를 정확히 세는 방법을 제시했으며, 그 과정에서 특정한 가정이 성립한다면 소수의 분포 오차를 극적으로 줄일 수 있음을 발견했습니다. 비록 리만은 생전에 이 가설을 완벽히 증명하지 못하고 짧은 생을 마감했지만, 그가 남긴 유산은 현대 수학의 가장 중요한 이정표가 되었습니다. 오늘날에도 수많은 수학자들은 리만이 던진 이 질문을 풀기 위해 도전하며 수의 세계가 지닌 궁극적인 질서를 찾고 있습니다.

[강연] 수학역사상 가장 유명한 난제 리만가설 (1) _ by기하서 | 2018 봄 카오스 강연 '모든 것의 수數다' 3강

기하서

카오스재단카오스강연
  • 수학