김영원

3 Contents

[강연] 수학역사상 가장 유명한 난제 리만가설 (6) _ by기하서 | 2018 봄 카오스 강연 '모든 것의 수數다' 3강 | 3강 ⑥

리만 가설은 소수의 분포를 설명하는 수학계의 거대한 난제이자 인류 지성의 척도라고 할 수 있습니다. 만약 외계 지성체가 지구를 방문한다면, 우리는 그들이 이 가설을 알고 있는지 묻는 것만으로도 그들의 지적 수준을 가늠할 수 있을 것입니다. 리만 가설을 중요하게 여긴다는 것은 그들이 우리와 유사한 지적 한계와 유한성을 공유하고 있음을 의미합니다. 반면, 이 가설에 전혀 관심이 없다면 그들은 무한을 너무나 당연하게 다루는, 인간과는 차원이 다른 존재일 가능성이 큽니다. 인간이 리만 가설에 집착하는 근본적인 이유는 우리가 죽음을 피할 수 없는 유한한 존재이기 때문입니다. 우리는 제한된 삶 속에서 무한한 소수의 규칙성을 찾으려 끊임없이 애쓰며, 그 과정에서 수학이라는 도구를 통해 경이로운 상상력을 발휘합니다. 만약 모든 소수의 개수와 성질을 실시간으로 파악할 수 있을 만큼 전지전능한 존재라면, 리만 가설은 애초에 고민의 대상조차 되지 않았을 것입니다. 결국 이 난제는 인간의 유한함과 무한을 향한 갈망이 만나는 지점에 놓여 있으며, 우리의 지적 호기심을 자극합니다. 인공지능의 비약적인 발전이 리만 가설 해결의 새로운 열쇠가 될 수 있을지에 대해서는 학계에서도 의견이 분분합니다. 현재의 기술력으로는 수학 연구의 보조적인 수단에 불과하지만, 미래에 진정으로 수학적 사고를 수행하는 AI가 등장한다면 상황은 완전히 달라질 것입니다. 만약 AI가 인간 수학자를 능가하여 이 난제를 해결한다면, 이는 수학의 역사에서 거대한 전환점이 될 것입니다. 하지만 리만 가설이 단순히 계산적인 차원을 넘어 제타 함수론과 같은 심오한 이론적 토대 위에서 인간의 통찰력과 함께 해결되기를 바라는 것이 많은 수학자의 희망입니다. 만약 리만 가설이 참이 아니라 거짓으로 판명된다면 수학계는 어떤 변화를 맞이하게 될까요? 대부분의 수학자는 가설이 참일 것이라 굳게 믿지만, 만약 실수부가 1/2이 아닌 비자명 영점이 단 하나라도 발견된다면 그 충격은 상상 이상일 것입니다. 특히 정수론을 깊이 연구하는 학자들에게는 엄청난 상실감과 학문적 혼란을 안겨줄 수 있습니다. 그러나 역설적으로 가설이 틀렸음을 증명하는 과정에서 예상치 못한 새로운 수학적 발견이 이루어지고, 수학의 세계는 이전보다 훨씬 더 다채롭고 흥미로운 방향으로 흘러갈지도 모릅니다. 리만 가설은 단순히 하나의 문제를 넘어 현대 수학의 수많은 분야와 거미줄처럼 긴밀하게 연결되어 있습니다. 이를 해결하려는 끊임없는 시도는 제타 함수론이나 L-함수 이론의 폭발적인 발전을 이끌어냈으며, 이는 정수론의 정밀한 정보들을 이해하는 데 결정적인 역할을 하고 있습니다. 비록 수십 년간의 도전이 당장 눈에 보이는 결실을 보지 못했을지라도, 이 탐구 과정에서 파생된 수학적 개념들은 그 자체로 인류 지성사에 거대한 가치를 지닙니다. 리만 가설은 여전히 수학의 찬란한 성배로 남아 우리를 끝없는 무한의 세계로 인도하고 있습니다.

[강연] 수학역사상 가장 유명한 난제 리만가설 (6) _ by기하서 | 2018 봄 카오스 강연 '모든 것의 수數다' 3강

기하서, 김영원

카오스재단카오스강연
  • 수학

[강연] 수학역사상 가장 유명한 난제 리만가설 (5) _ by기하서 | 2018 봄 카오스 강연 '모든 것의 수數다' 3강 | 3강 ⑤

리만 가설은 수학계에서 가장 악명 높은 난제 중 하나로 손꼽힙니다. 오죽하면 수학자와 공동 연구를 시작한 악마조차 며칠 밤을 새워 미적분학부터 해석적 정수론까지 통달했음에도 불구하고, 결국 해결의 실마리를 찾지 못해 절망했다는 우스갯소리가 있을 정도입니다. 이 이야기는 리만 가설이 단순히 지능의 문제를 넘어, 현대 수학의 모든 정수를 쏟아부어도 정복하기 힘든 거대한 장벽임을 시사합니다. 수많은 천재가 일생을 바쳤음에도 여전히 미지의 영역으로 남아 있는 이 가설은 인류 지성의 한계를 시험하는 상징적인 존재가 되었습니다. 이 가설이 이토록 난공불락인 이유는 수학의 여러 분야가 복잡하게 얽혀 있기 때문입니다. 리만 가설은 대수학과 해석학의 속성을 동시에 지니고 있으며, 어느 한쪽으로 깊이 파고들어도 명쾌한 해답을 내놓지 않습니다. 리만 제타 함수 외에도 수많은 제타 함수가 존재하지만, 그들 역시 고유의 수론적 성질을 간직한 채 리만 가설의 벽을 넘지 못하고 있습니다. 역사적으로 증명되었듯, 다양한 학문적 접근과 깊이 있는 통찰이 동시에 요구되기에 이 문제는 단순한 계산을 넘어선 고도의 추상적 사고를 필요로 합니다. 리만 가설을 시각적으로 표현하자면 사방이 절벽으로 둘러싸인 이스레엘의 마사다 요새와 같습니다. 도무지 어디로 접근해야 할지 길이 보이지 않는 이 요새는 로마군이 오랜 시간 공을 들여 비탈길을 만든 후에야 함락될 수 있었습니다. 수학자들 역시 리만 가설이라는 거대한 요새를 정복하기 위해 유효한 접근로를 찾으려 애쓰고 있습니다. 비록 지금은 그 길이 보이지 않아 막막할지라도, 수백 년의 세월이 흐르며 인류의 지식이 쌓이다 보면 언젠가는 성벽을 허물 수 있는 결정적인 경로가 발견될 것이라는 희망이 이 연구를 지속하게 합니다. 자연수의 성질을 다루는 정수론 문제에 복소수가 등장하는 것은 언뜻 생소해 보일 수 있습니다. 하지만 피보나치 수열의 일반항에 무리수가 포함되듯, 현대 수학에서는 단순한 대상을 설명하기 위해 더 고차원적인 도구를 사용하는 일이 빈번합니다. 특히 최근에는 컴퓨터가 수학 연구의 강력한 조력자로 부상했습니다. 인간이 수년 동안 매달려야 할 복잡한 계산이나 함수의 거동 파악을 단 몇 분 만에 해결함으로써 수학적 직관을 얻는 데 결정적인 역할을 합니다. 이러한 도구의 발전은 난제 해결을 위한 새로운 가능성을 열어주고 있습니다. 결국 리만 가설의 핵심은 소수의 개수를 정확하게 파악하는 부등식의 문제로 귀결됩니다. 소수의 실제 분포와 수학적 근삿값 사이의 오차가 특정 범위를 넘지 않는다는 것을 증명하는 것이 이 가설의 본질입니다. 만약 외계 지성체가 존재하여 시간의 흐름을 인식하고 수를 이해한다면, 그들 역시 필연적으로 소수를 발견하고 리만 가설에 도달했을 것입니다. 소수는 우주 공통의 언어이자 수의 근간이기 때문입니다. 리만 가설은 인류만의 고민이 아니라, 우주의 질서를 이해하려는 모든 지성체가 마주하게 될 궁극의 질문이라 할 수 있습니다.

[강연] 수학역사상 가장 유명한 난제 리만가설 (5) _ by기하서 | 2018 봄 카오스 강연 '모든 것의 수數다' 3강

기하서, 김영원

카오스재단카오스강연
  • 수학

[강연] 수학역사상 가장 유명한 난제 리만가설 (4) _ by기하서 | 2018 봄 카오스 강연 '모든 것의 수數다' 3강 | 3강 ④

수학의 세계에는 수많은 난제가 존재하지만, 그중에서도 리만 가설은 많은 수학자들에게 도전의 대상이자 꿈의 정점입니다. 기하서 교수는 폴리아 추측을 해결하는 과정에서 이 거대한 산의 존재를 다시금 확인하게 되었습니다. 8년 동안 매달렸던 폴리아 추측을 동료와의 협력을 통해 단 넉 달 만에 해결하며 얻은 자신감은 그를 리만 가설이라는 더 큰 도전으로 이끌었습니다. 비록 그 길이 20년이라는 긴 세월을 요구할 것이라고는 당시에는 상상조차 하지 못했지만, 난제를 향한 순수한 열정은 그를 수학의 깊은 심연으로 안내하는 원동력이 되었습니다. 20년이라는 긴 시간 동안 하나의 문제에 매달리는 것은 결코 쉬운 일이 아닙니다. 기 교수는 이 과정을 고통스러운 인고의 시간이 아닌, 매일매일 마주하는 아름다운 순간들의 연속으로 기억합니다. 그는 자신의 직관을 확인하기 위해 전 세계의 저명한 수학자들을 찾아다니며 교류했습니다. 모토하시, 후지, 요시다 등 세계적인 석학들과의 대화는 리만 가설에 대한 다양한 시각을 제공해주었습니다. 이러한 상호작용은 수학 연구가 단순히 혼자만의 고립된 작업이 아니라, 전 세계 수학자들의 상상력이 교차하며 지평을 넓혀가는 역동적인 과정임을 보여줍니다. 연구 과정에서 마주한 가장 큰 전환점은 현대 수학의 거대한 흐름인 랭글랜즈 프로그램과의 만남이었습니다. 대수기하학적 기초 없이 리만 가설에 도전하는 것의 한계를 깨달은 그는, 늦은 시기임에도 불구하고 새로운 이론을 공부하기 시작했습니다. 특히 숄체 교수의 논문을 해독할 수 있게 된 시점부터 그는 지식의 갈증에서 벗어나 진정한 자유를 느꼈다고 회상합니다. 이는 수학자에게 필요한 것이 단순히 기존의 지식을 습득하는 것을 넘어, 끊임없이 변화하는 학문의 흐름을 수용하고 자신의 한계를 극복하려는 유연한 태도임을 시사합니다. 리만 가설과 같은 거대 난제를 다루기 위해서는 천재적인 지능만큼이나 독특한 성격적 특성이 요구됩니다. 기 교수는 수학자를 두 부류로 나누며, 자신을 '성격'으로 버티는 유형이라 정의합니다. 오랜 시간 공들여온 연구가 실패로 돌아갔음을 깨달은 순간에도 좌절하지 않고 다시 시작할 수 있는 마음가짐이 중요하기 때문입니다. 단순히 좋아한다는 감정만으로는 3년에서 5년의 한계를 넘기 어렵지만, 실패를 딛고 일어서는 회복탄력성은 수학자가 난제를 해결하기 위해 갖춰야 할 필수적인 자질입니다. 리만 가설의 역사는 1859년 베른하르트 리만이 발표한 단 8쪽짜리 논문에서 시작되었습니다. 가우스가 15세의 나이에 예견했던 소수 정리를 보다 구체화하려 했던 리만은, 소수의 개수를 세는 '문학적'인 표현을 정교한 수학적 공식으로 변환하는 업적을 남겼습니다. 리만은 자신의 가설이 증명된다면 소수의 분포를 완벽히 이해할 수 있을 것이라 보았지만, 정작 그 증명은 후대의 몫으로 남겨두었습니다. 160년이 지난 지금까지도 이 가설이 수많은 수학자들을 매료시키고 괴롭히는 이유는, 그 안에 우주의 질서를 관통하는 소수의 비밀이 숨겨져 있기 때문일 것입니다.

[강연] 수학역사상 가장 유명한 난제 리만가설 (4) _ by기하서 | 2018 봄 카오스 강연 '모든 것의 수數다' 3강

기하서, 김영원

카오스재단카오스강연
  • 수학