수론

10 Contents

[카오스 짧강] 디오판토스 방정식과 타원곡선

고대 수학자 디오판토스의 저서인 <산학>은 현대의 수학 책과는 사뭇 다른 모습을 띠고 있습니다. 1621년에 라틴어로 번역된 이 책은 페르마가 즐겨 읽었던 것으로도 유명한데, 당시의 수학 문제들은 오늘날 우리가 익숙한 기호나 수식 대신 문장제 문제로 서술되어 있었습니다. 예를 들어 주어진 수를 두 부분으로 나누어 그 곱이 정육면체의 부피에서 변의 길이를 뺀 값과 같게 만들라는 식의 표현입니다. 이러한 문장제 형식은 문제를 직관적으로 이해하기 어렵게 만들지만, 동시에 수학적 사고의 원형을 보여주는 흥미로운 지점이기도 합니다. 문장제 문제를 현대적인 수식으로 변환하면 y(a-y) = x^3 - x와 같은 형태가 됩니다. 수학을 배운 사람들에게는 이 수식이 훨씬 명확하게 다가오는데, 이는 복잡한 문장을 간결한 기호로 압축함으로써 문제의 본질을 더 빠르게 파악하게 돕기 때문입니다. 기호의 도입은 단순히 계산을 편하게 하는 것을 넘어, 인간의 사고 과정을 비약적으로 발전시킨 중요한 계기가 되었습니다. 이러한 언어적 진화 덕분에 우리는 더 고차원적인 수학적 탐구에 집중할 수 있게 되었습니다. 디오판토스가 활동하던 시대에는 수에 대한 개념이 지금과는 달랐습니다. 그는 주로 유리수 범위 내에서 해를 구하고자 했으며, 특히 음수에 대한 개념이 정립되지 않았거나 이를 수로 인정하지 않았을 가능성이 큽니다. 현대의 관점에서는 x에 1이나 0, 혹은 -1을 대입하여 쉽게 해를 찾을 수 있지만, 디오판토스에게 이러한 답들은 진정한 의미의 해가 아니었습니다. 그는 문제를 구성하는 문장의 맥락에 부합하는 양수의 해를 찾는 데 집중했으며, 이는 당시 수학자들이 가졌던 수에 대한 엄격한 기준을 반영합니다. 단순한 대입으로 얻을 수 있는 0이나 1 같은 해를 제외하면, 디오판토스의 문제는 매우 복잡한 양상을 띱니다. 실제로 그가 제시한 답 중 하나는 26/9와 같은 분수 형태였는데, 이는 직관적으로 떠올리기 매우 어려운 수치입니다. 하나의 방정식에서 도출될 수 있는 해는 무수히 많으며, 그중에는 현대의 컴퓨터를 활용해야 겨우 찾아낼 수 있을 정도로 정교한 값들도 존재합니다. 이러한 복잡한 해를 찾아가는 과정은 고대 수학자들이 단순한 계산을 넘어 수의 성질을 깊이 있게 탐구했음을 증명하는 증거라고 할 수 있습니다. 이러한 방정식의 해를 찾는 과정은 현대 수학의 중요한 분야인 타원 곡선 이론으로 이어집니다. 단순히 숫자를 대입하는 수준을 넘어 곡선의 기하학적 성질을 이용해 해를 구하는 방식은 수학의 지평을 넓히는 결정적인 역할을 했습니다. 고대의 문장제 문제에서 시작된 탐구가 수식의 정립을 거쳐 고도의 대수 기하학으로 발전해 온 과정은 매우 경이롭습니다. 디오판토스의 <산학>에 담긴 짧은 질문 하나가 오늘날의 첨단 수학 이론을 형성하는 거대한 뿌리가 되었다는 사실은 수학의 연속성을 잘 보여줍니다.

[카오스 짧강] 디오판토스 방정식과 타원곡선
카오스재단질토과 + 짧강

[카오스 짧강] 그래프로 타원곡선을 더하는 법!

타원곡선은 수학적으로 매우 흥미로운 기하학적 형태를 지니고 있습니다. 예를 들어 $y(6-y) = x^3 - x$와 같은 방정식을 컴퓨터 프로그램을 통해 시각화하면 독특하고 아름다운 곡선 모양이 나타나는데, 이는 해당 방정식을 만족하는 모든 점 (x, y)의 집합체입니다. 이러한 곡선은 단순히 시각적인 아름다움을 넘어, 현대 수학의 핵심적인 개념인 '군'을 형성하는 중요한 기초가 됩니다. 복잡해 보이는 수식이라도 그래프로 구현하면 점들 사이의 유기적인 관계를 시각적으로 명확하게 이해할 수 있는 훌륭한 토대가 마련됩니다. 타원곡선 위에서는 점들 사이의 특별한 기하학적 연산이 가능합니다. 곡선 위의 서로 다른 두 점 A와 B를 선택하고 이를 잇는 직선을 그으면, 3차 방정식의 수학적 특성상 이 직선은 곡선과 만나는 세 번째 점 C를 반드시 가지게 됩니다. 이 교점 C에서 수직선을 그어 곡선과 다시 만나는 지점을 찾으면, 이를 두 점의 합인 A+B라고 정의합니다. 이는 타원곡선이라는 공간 안에서 점들이 이동하며 새로운 위치를 찾아가는 고유하고 엄밀한 덧셈 법칙이라고 할 수 있습니다. 만약 서로 다른 두 점이 아니라 하나의 점 A를 자기 자신과 더하고 싶다면 접선의 개념을 활용해야 합니다. 곡선 위의 한 점 A에서 그은 접선이 곡선의 또 다른 부분과 만나는 지점을 찾고, 앞선 방식과 마찬가지로 그 교점에서 수직선을 그어 새로운 점을 구하는 방식입니다. 이 과정을 통해 도출된 결과가 바로 A+A가 됩니다. 이러한 기하학적 규칙을 적용하면 곡선 위의 어떤 점이라도 연산을 무한히 반복할 수 있으며, 이를 통해 곡선 위의 새로운 위치에 놓인 점들을 체계적으로 생성해낼 수 있습니다. 이러한 독특한 연산 체계는 수학에서 정의하는 '군(Group)'의 구조를 완벽하게 충족합니다. 군이란 특정 집합 내의 원소들이 연산에 대해 닫혀 있으며 일정한 결합 법칙을 따르는 수학적 체계를 의미합니다. 타원곡선 위의 점들은 기하학적인 덧셈 연산을 통해 서로 긴밀하게 연결되며, 어떤 연산을 수행하더라도 그 결과가 항상 다시 곡선 위의 점이 된다는 강력한 성질을 보유하고 있습니다. 이는 무질서해 보이는 점들의 집합에 엄밀한 수학적 질서를 부여하며, 복잡한 대수학적 문제를 기하학적으로 풀어낼 수 있는 열쇠가 됩니다. 타원곡선의 군 구조는 디오판토스 방정식과 같은 난해한 수론 문제를 해결하는 데 결정적인 역할을 수행합니다. 정수 해와 같은 비교적 단순한 점으로부터 시작해 연산을 반복적으로 수행하면, 인간의 직관이나 단순 계산으로는 도저히 찾아낼 수 없는 매우 복잡한 형태의 유리수 해들이 줄줄이 생성되기 때문입니다. 이러한 해들은 모두 하나의 군이라는 울타리 안에 속해 있으므로, 수학자들은 이 체계적인 연산의 지도를 따라 수의 세계 깊숙이 숨겨진 정답들을 그 어느 때보다 효율적이고 정확하게 탐색해 나갈 수 있습니다.

[카오스 짧강] 그래프로 타원곡선을 더하는 법!
카오스재단질토과 + 짧강

[심화 강연] 군론, 수의 개념을 확장하다_by 김민형 / 2024 봄 카오스강연 '세상에 나쁜 수학은 없다' 2강 심화 | 2강

타원 곡선은 일반적으로 평면상에 나타나는 곡선으로, 복잡한 대수 방정식을 통해 정의됩니다. 흔히 y² + a₁xy + a₃y = x³ + a₂x² + a₄x + a₆와 같은 복잡한 형태를 띠기도 하지만, 변수 변환을 거치면 y² = x³ + ax + b라는 훨씬 간결한 표준형으로 정리할 수 있습니다. 이러한 곡선은 계수 a와 b의 값에 따라 하나의 연결된 곡선이 되기도 하고 두 조각으로 나뉘기도 하는 등 다양한 기하학적 형태를 보여줍니다. 수학자들은 이 단순해 보이는 곡선 속에 숨겨진 심오한 수론적 성질을 탐구하며 현대 수학의 중요한 난제들을 해결해 나가고 있습니다. 타원 곡선의 가장 흥미로운 특징 중 하나는 곡선 위의 점들이 '군(Group)'이라는 수학적 구조를 이룬다는 점입니다. 곡선 위의 두 점을 선택해 직선으로 연결하면 그 직선은 곡선과 반드시 또 다른 한 점에서 만나게 됩니다. 이 교점을 x축을 중심으로 대칭 이동시키면 두 점의 합에 해당하는 새로운 점을 얻을 수 있습니다. 이러한 기하학적 연산은 무한히 많은 점 사이에서 조화롭게 정의되며, 점 하나를 자기 자신과 더할 때는 그 점에서의 접선을 활용하는 방식으로 확장됩니다. 이는 단순한 그림 그리기를 넘어 대수학적 연산이 기하학적 형상과 완벽하게 결합된 사례라고 할 수 있습니다. 기하학적으로 정의된 타원 곡선의 연산에서 결합법칙이 성립한다는 사실은 매우 놀랍고도 증명하기 까다로운 주제입니다. 세 점을 어떤 순서로 더하더라도 결과가 항상 같다는 것을 보여주기 위해서는 사영 기하학이라는 고도의 수학적 도구가 필요합니다. 서로 다른 직선들을 복잡하게 그려나가는 과정임에도 불구하고 최종적인 결과가 일치한다는 점은 타원 곡선이 가진 내재적인 질서를 잘 보여줍니다. 이러한 결합법칙의 성립은 타원 곡선이 수학적으로 견고한 군 구조를 갖추게 하는 핵심적인 토대가 되며, 이는 타원 곡선 기초 이론에서 가장 중요하면서도 증명이 어려운 부분 중 하나로 손꼽힙니다. 모델의 정리(Mordell's Theorem)에 따르면 타원 곡선 위의 유리수 점 집합은 유한한 개수의 생성원을 통해 모두 표현될 수 있습니다. 이는 유리수 점이 무수히 많더라도, 적절한 몇 개의 기본 점들만 찾아내면 타원 곡선 연산을 반복하여 모든 점을 체계적으로 찾아낼 수 있음을 의미합니다. 예를 들어 특정 곡선에서 하나의 해를 찾았다면, 이를 계속해서 더해 나가는 과정만으로도 곡선 전체의 유리수 점들을 포착할 수 있는 것입니다. 마구잡이로 흩어져 있을 것 같은 유리수 점들이 이처럼 유한한 생성원에 의해 통제된다는 사실은 정수론에서 타원 곡선이 차지하는 독특한 위상을 잘 보여주는 대목입니다. 현대 수학의 거대한 난제인 '버치-스위너턴 다이어 추측'은 타원 곡선의 생성원을 찾는 알고리즘의 완결성과 깊은 관련이 있습니다. 현재 수학자들은 생성원을 찾는 프로그램을 실제로 사용하고 있으며, 지금까지의 수많은 시도에서 이 알고리즘은 항상 성공적으로 결과를 도출해 왔습니다. 그러나 원칙적으로 이 알고리즘이 모든 경우에 반드시 종료된다는 사실은 아직 증명되지 않았습니다. 만약 이 추측이 참으로 밝혀진다면 우리는 타원 곡선의 유리수 점을 찾는 완벽한 체계를 갖추게 될 것입니다. 클레이 수학 연구소가 100만 달러의 상금을 걸 만큼 이 문제는 정수론의 미래를 결정지을 핵심적인 과제로 남아 있습니다.

[심화 강연] 군론, 수의 개념을 확장하다_by 김민형 / 2024 봄 카오스강연 '세상에 나쁜 수학은 없다' 2강 심화

김민형

카오스재단2024 카오스강연 '세상에 나쁜 수학은 없다'
  • 수학

궁금해요! 아르키메데스, 헨젤, 뇌터 Q&Aㅣ아르키메데스, 헨젤, 뇌터ㅣ김도형(서울대학교)[토요과학강연#13-4부]

현대 정수론 연구에서 가장 중요한 도구는 무엇일까요? 흔히 수학자라고 하면 좋은 종이와 펜만 있으면 충분할 것이라 생각하기 쉽지만, 오늘날의 수학은 그 이상의 장비를 필요로 합니다. 특히 정수론에서 다루는 거대한 숫자의 성질을 파악하기 위해 컴퓨터는 필수적인 도구가 되었습니다. 과거에는 사람이 일일이 계산해야 했던 방대한 데이터들을 이제는 컴퓨터가 대신 처리하며 실험적인 관찰 범위를 무한히 넓혀주고 있습니다. 이는 단순히 계산의 편의를 넘어, 수학자들이 머릿속으로만 그리던 이론을 구체적인 수치를 통해 확인하고 새로운 직관을 얻는 토대가 됩니다. 수학에서의 실험은 과학의 실험과는 조금 다른 양상을 보입니다. 수학자들은 이론적인 가설이 성립할 때 반드시 나타나야 하는 구체적인 결과물을 산출하여 이를 검증하는 과정을 거칩니다. 이때 세이지매스(SageMath)와 같은 전용 소프트웨어나 C언어를 활용해 효율적인 프로그램을 작성하기도 합니다. 이러한 과정은 추상적인 아이디어가 실제 세계의 질서와 어떻게 맞닿아 있는지를 보여주는 중요한 단계입니다. 수학 연구가 단순히 책상 앞에서의 명상에 그치지 않고, 끊임없는 계산과 확인을 거쳐 완성되는 정교한 건축물과 같음을 보여주는 대목이라 할 수 있습니다. 한 편의 수학 논문이 완성되기까지의 여정은 매우 길고 험난합니다. 수학자들 사이에서는 자신들을 '커피를 정리로 바꾸는 기계'라고 부르는 농담이 있을 정도로, 끊임없는 사유와 집중이 요구됩니다. 연구 과정에서 예상치 못한 장애물을 만나 연구가 좌초되기도 하지만, 때로는 전혀 다른 분야의 도구를 발견하며 실마리를 찾기도 합니다. 연구실 밖의 일상적인 공간에서 문득 떠오르는 영감들은 수학자의 머릿속이 멈추지 않고 작동하고 있음을 증명합니다. 이러한 찰나의 순간들이 모여 결국 하나의 견고한 수학적 정리를 탄생시키는 밑거름이 됩니다. 수학계의 공동 연구 문화 역시 다른 학문 분야와 차별화되는 독특한 관례를 가지고 있습니다. 대규모 인원이 참여하는 과학이나 공학 분야와 달리, 수학은 보통 두세 명의 연구자가 깊이 있게 협력하는 방식을 선호합니다. 가장 흥미로운 점은 논문의 저자 표기 방식인데, 기여도와 상관없이 저자들의 이름을 알파벳순으로 기재하는 것이 오랜 전통입니다. 이는 특정인의 성과를 내세우기보다 연구 결과 그 자체의 가치를 중시하는 수학계의 평등하고 학문 중심적인 태도를 반영합니다. 비록 열 명의 공저자가 참여하는 것만으로도 화제가 될 만큼 소규모 중심이지만, 그 결속력은 매우 단단합니다. 수학자들에게 밀레니엄 난제와 같은 거대한 산은 경외의 대상이자 영감의 원천입니다. 비록 이러한 난제들을 매일 고민하다 보면 지칠 수 있어 1년에 며칠만 집중해서 생각하라는 우스갯소리가 있을 정도지만, 그 도전 자체가 수학적 지평을 넓히는 원동력이 됩니다. 특히 p-진수와 같은 새로운 수 체계는 우리가 평소 보던 실수라는 태양빛에 가려져 있던 별빛을 발견하는 과정과 같습니다. 낮 하늘만 보던 사람이 밤하늘의 장엄한 우주를 마주할 때 느끼는 경이로움처럼, 수학자들은 보이지 않는 수의 세계를 탐구하며 우주의 심오한 질서를 밝혀내기 위해 오늘도 묵묵히 길을 걷고 있습니다.

궁금해요! 아르키메데스, 헨젤, 뇌터 Q&Aㅣ아르키메데스, 헨젤, 뇌터ㅣ김도형(서울대학교)[토요과학강연#13-4부]
서울시립과학관[과학강연] 21년 토요과학강연
  • 수학

[강연] 도대체 '계산'이란 무엇인가? '계산'의 놀라운 정의 ㅣ 2021 마스터 클래스 '수학과 계산' 3강 | 3강

계산이란 단순히 숫자를 더하고 빼는 산술적 행위를 넘어, 정해진 논리적 규칙에 따라 정보를 변환하고 구조화하는 근본적인 과정입니다. 우리는 일상 속에서 무의식적으로 수많은 계산을 수행하며 살아가지만, 수학적 관점에서 계산의 본질을 깊이 들여다보면 그것은 우주의 질서를 이해하고 체계화하는 고도의 지적 활동임을 알 수 있습니다. 이러한 과정은 현대 문명을 지탱하는 기술적 토대가 되며, 복잡한 문제를 해결하는 가장 강력한 도구로 작용합니다. 과거 오일러와 같은 수학자들이 정립한 정수론의 원리들은 오늘날 디지털 세상의 보안을 책임지는 공개키 암호의 핵심이 되었습니다. 순수 수학적 호기심에서 시작된 정수론의 정리가 수백 년이 지난 지금, 전 세계의 금융 거래와 개인 정보를 보호하는 실용적인 기술로 변모한 것입니다. 이는 추상적인 수학적 사고가 어떻게 현실의 구체적인 문제를 해결하는 계산적 도구로 진화할 수 있는지를 보여주는 완벽한 사례라고 할 수 있습니다. 알고리즘은 계산을 수행하기 위한 명확한 절차이자 약속입니다. 어떤 입력값이 주어졌을 때 원하는 결과에 도달하기까지의 과정을 단계별로 정의한 이 설계도는, 현대 컴퓨터 과학의 심장과도 같습니다. 효율적인 알고리즘을 찾는 과정은 단순히 속도를 높이는 것을 넘어, 문제의 본질을 꿰뚫는 통찰력을 요구합니다. 수학자들은 가장 간결하면서도 강력한 논리적 경로를 찾아냄으로써, 불가능해 보이던 계산의 영역을 가능의 영역으로 확장해 왔습니다. 하지만 모든 문제가 쉽게 계산되는 것은 아닙니다. 계산 복잡도 이론은 어떤 문제는 해결하는 데 우주의 수명보다 긴 시간이 걸릴 수 있음을 시사합니다. 이러한 한계는 우리에게 효율성의 중요성을 일깨워주는 동시에, 계산 가능한 것과 그렇지 않은 것 사이의 경계를 탐구하게 만듭니다. 우리는 이러한 제약 안에서 최적의 해답을 찾기 위해 끊임없이 노력하며, 이는 수학적 사고가 직면한 가장 흥미로운 도전 중 하나로 남아 있습니다. 계산의 기초는 엄밀한 수학적 논리 체계 위에 세워져 있습니다. 기호 논리학과 집합론은 계산이 이루어지는 언어를 제공하며, 이를 통해 우리는 모호함 없이 사고를 전개할 수 있습니다. 형식적인 체계 안에서 증명과 계산은 서로 긴밀하게 연결되어 있으며, 하나의 참인 명제를 도출해내는 과정 자체가 정교한 계산의 연속이라고 볼 수 있습니다. 이러한 논리적 엄밀함은 계산 결과에 대한 신뢰성을 보장하는 가장 강력한 근거가 됩니다. 인공지능 기술의 비약적인 발전은 계산에 대한 우리의 인식을 근본적으로 바꾸어 놓았습니다. 과거에는 인간만의 고유한 영역이라 여겨졌던 추론과 창의적 판단조차, 이제는 거대한 데이터와 복잡한 수치 계산의 조합으로 구현되고 있습니다. 이는 '생각한다는 것'과 '계산한다는 것' 사이의 경계를 모호하게 만들며, 지능의 본질에 대한 새로운 질문을 던집니다. 기계가 수행하는 방대한 계산은 인간의 인지 능력을 확장하는 새로운 지평을 열어주고 있습니다. 결국 계산이란 인간이 세상을 이해하고 통제하기 위해 만들어낸 가장 정교한 언어입니다. 수학적 사고를 통해 다듬어진 계산의 원리들은 과학 기술의 발전뿐만 아니라, 우리 사회의 의사결정 구조와 철학적 사유에도 깊은 영향을 미치고 있습니다. 미래의 계산은 더욱 복잡하고 정교해지겠지만, 그 중심에는 여전히 논리적 일관성과 진리를 향한 인간의 탐구 정신이 자리 잡고 있을 것입니다. 우리는 계산을 통해 미지의 세계를 정복해 나갈 것입니다.

[강연] 도대체 '계산'이란 무엇인가? '계산'의 놀라운 정의 ㅣ 2021 마스터 클래스 '수학과 계산' 3강

김민형

카오스재단마스터클래스
  • 수학

[강연] 풀기 힘든 계산이 풀기 힘든 암호로 ㅣ 2021 마스터 클래스 '수학과 계산' 2강 | 2강

인공지능의 시대는 곧 계산의 시대라고 할 수 있습니다. 많은 이들이 수학자는 계산을 잘할 것이라 오해하거나, 반대로 계산을 단순한 작업으로 치부하기도 합니다. 하지만 계산은 그 자체로 매우 심오하고 미묘한 세계를 품고 있습니다. 고대 바빌로니아 시절부터 현대의 디지털 보안에 이르기까지, 인류는 더 효율적이고 정교한 계산법을 찾기 위해 끊임없이 노력해 왔습니다. 이러한 계산의 본질을 탐구하는 과정은 현대 과학기술의 근간을 이해하는 열쇠가 됩니다. 역사 속에는 수천 년 전부터 전해 내려온 놀라운 알고리즘들이 존재합니다. 바빌로니아의 거듭제곱근 계산법이나 유클리드의 최대공약수 알고리즘은 현대의 관점에서도 더 이상 향상시키기 어려울 만큼 완벽한 효율성을 자랑합니다. 반면, 어떤 수의 소인수를 찾는 소인수분해 계산법은 개념적으로는 단순해 보이지만, 숫자가 커질수록 기하급수적으로 많은 시간이 소요되는 비효율성을 지니고 있습니다. 이처럼 계산의 효율성은 단순히 귀찮음의 문제를 넘어 학문적 난제로 다루어집니다. 나머지 연산, 즉 모듈로 연산은 현대 수학과 암호학에서 가장 중요한 도구 중 하나입니다. 이는 어떤 수를 특정 숫자로 나누었을 때 남는 값에 집중하는 방식인데, 우리가 일상에서 사용하는 10진법이나 시계의 시간 계산과도 밀접한 관련이 있습니다. 나머지 연산의 가장 큰 특징은 덧셈, 곱셈, 그리고 거듭제곱과 같은 연산이 일반적인 수 체계보다 훨씬 쉽고 빠르게 이루어진다는 점입니다. 복잡한 큰 수의 계산도 끝자리나 나머지 규칙을 활용하면 놀라울 정도로 단순해집니다. 거듭제곱 연산의 효율성은 나머지 연산의 진가를 보여주는 사례입니다. 예를 들어 2를 100만 번 곱한 값의 마지막 자릿수를 구하는 문제는 일반적인 방식으로는 불가능에 가깝지만, 나머지 연산의 성질을 이용하면 암산으로도 해결이 가능합니다. 지수 법칙과 반복적인 나머지 계산을 결합하면, 아무리 거대한 지수를 가진 수라도 순식간에 그 결과를 도출할 수 있습니다. 이러한 계산의 용이성은 방대한 데이터를 처리해야 하는 현대 컴퓨터 공학에서 핵심적인 역할을 수행합니다. 하지만 나머지 연산에는 흥미로운 비대칭성이 존재합니다. 거듭제곱은 매우 쉬운 반면, 그 역연산인 거듭제곱근을 구하는 과정은 극도로 어렵습니다. 일반적인 수 체계에서는 숫자의 크기를 통해 거듭제곱근의 범위를 짐작할 수 있지만, 나머지 연산에서는 크기에 대한 정보가 완전히 사라지기 때문입니다. 결과값만 보고 원래 어떤 수를 곱했는지 찾아내려면 사실상 모든 가능성을 하나씩 대입해 보는 수밖에 없습니다. 이러한 연산의 난해함이 바로 현대 보안의 기초가 됩니다. 우리가 매일 사용하는 인터넷 보안의 핵심인 공개키 암호 알고리즘은 바로 이 계산의 비대칭성을 활용합니다. 누구나 암호를 만들 수 있도록 공개된 숫자를 제공하지만, 이를 해독하기 위해 필요한 소인수분해나 거듭제곱근 계산은 현대의 슈퍼컴퓨터로도 수만 년이 걸릴 만큼 어렵게 설계되어 있습니다. 오일러의 정리와 같은 수학적 원리는 암호를 만든 주인만이 비밀 통로를 통해 메시지를 복원할 수 있게 해줍니다. 결국 수학적 계산의 어려움이 우리의 소중한 정보를 지켜주는 든든한 방어벽이 되는 셈입니다. 수학의 궁극적인 목적은 단순히 정답을 계산해 내는 것이 아니라, 현상의 이면에 숨겨진 원리를 깊이 이해하는 데 있습니다. 증명이라는 과정 또한 이미 밝혀진 사실을 확인하는 작업을 넘어, 그 현상이 왜 발생하는지를 통찰하는 도구로 사용됩니다. 괴델의 불완전성 정리가 보여주듯, 수학의 세계는 몇 가지 공리만으로 모두 설명할 수 없을 만큼 복잡하고 광활합니다. 계산의 효율성을 탐구하고 논리의 한계를 마주하는 과정은 인간의 지성이 도달할 수 있는 가장 아름다운 여정 중 하나입니다.

[강연] 풀기 힘든 계산이 풀기 힘든 암호로 ㅣ 2021 마스터 클래스 '수학과 계산' 2강

김민형

카오스재단마스터클래스
  • 수학

[카오스 술술수학] 리만가설(2): 리만가설에 미치다

리만 가설은 수학 역사상 가장 매혹적이면서도 고통스러운 수수께끼로 남아 있습니다. 독일의 수학자 힐베르트는 사후 500년 뒤에 깨어난다면 가장 먼저 이 가설의 증명 여부를 묻고 싶다고 했으며, 하디는 자신의 첫 번째 소망으로 이를 꼽았습니다. 라마누잔과 존 내쉬 같은 천재들조차 이 문제로 인해 육체적, 정신적 고통을 겪었을 만큼 그 위력은 대단합니다. 페르마의 마지막 정리와 푸앵카레 추측이 해결된 지금도 리만 가설은 여전히 난공불락의 요새처럼 버티고 있습니다. 소수의 규칙성을 찾으려는 노력은 유클리드와 오일러를 거쳐 가우스에 이르러 큰 전환점을 맞이했습니다. 1792년 가우스는 소수의 개수를 추측할 수 있는 '소수 정리'를 제안하며, 수가 커질수록 소수의 밀도가 로그 함수에 반비례한다는 사실을 통찰했습니다. 하지만 가우스는 이를 직관적으로 추측했을 뿐 엄밀하게 증명하지는 못했습니다. 이후 수많은 수학적 거성들이 릴레이를 하듯 이 소수의 분포 문제를 해결하기 위해 자신의 생애를 바치며 연구에 매달려 왔습니다. 가우스의 제자였던 리만은 1859년 발표한 논문에서 '리만 제타 함수'를 도입하며 소수 정리 증명의 실마리를 제공했습니다. 리만 가설은 단순히 소수의 개수를 대략적으로 파악하는 것을 넘어, n까지의 소수를 정확하게 셀 수 있는 유일한 식을 완성하려는 시도입니다. 오늘날 이 가설에는 10억 원의 상금이 걸려 있으며, 19세기 수학자들 사이에서는 이를 증명하는 자가 영생을 얻는다는 말이 돌 정도로 수학계에서 차지하는 위상이 절대적이라고 할 수 있습니다. 리만 가설의 핵심은 제타 함수의 무한히 많은 영점들이 복소평면상의 1/2 축 위에 일렬로 늘어서 있다는 가정에 있습니다. 이 영점들은 각각 소리의 파동과 같은 역할을 수행하며, 이 파동들을 모두 합치면 소수 분포의 오차가 점차 줄어들어 결국 0에 수렴하게 됩니다. 마치 악기를 목표 음에 맞춰 미세하게 조율하는 과정과도 같습니다. 만약 단 하나의 영점이라도 이 축을 벗어난다면 파동이 너무 커져 조율이 불가능해지며, 소수의 불규칙성을 설명할 방법도 사라지게 됩니다. 역설적이게도 리만 제타 함수 영점들의 완벽한 질서는 소수가 가진 극도의 무질서와 임의성을 대변합니다. 가우스가 예견했듯 소수는 동전 던지기와 같은 무작위성을 띠고 있으며, 리만 가설은 바로 그 임의성을 수학적으로 설명해 줍니다. 만약 이 가설이 거짓으로 판명된다면 현대 수학의 근간이 흔들리는 대재앙이 닥칠 것이라는 우려가 나올 정도입니다. 전 세계 수학자들을 잠 못 들게 하는 이 난제는 여전히 인류가 정복해야 할 가장 거대한 지적 산맥으로 남아 있습니다.

[카오스 술술수학] 리만가설(2): 리만가설에 미치다
카오스재단술술과학
  • 수학

[카오스 술술수학] 리만가설(1): 악마의 동전던지기

소수는 1과 자기 자신만으로 나누어떨어지는 수로, 영어로는 '프라임 넘버(Prime Number)'라고 불립니다. 이는 근본적인 수라는 뜻을 담고 있으며, 한자로는 원소를 뜻하는 '소(素)' 자를 사용합니다. 칼 세이건의 소설 '콘택트'에서 외계 지성체가 보내는 신호로 등장할 만큼 소수는 우주적인 보편성을 지닌 수의 원소와 같습니다. 모든 자연수는 소수의 곱으로 분해될 수 있기에, 마치 물질이 원소로 이루어지듯 수의 세계를 구성하는 가장 기초적인 단위가 됩니다. 우리가 물을 수소와 산소로 분해하듯, 수를 소수의 곱으로 나타내는 소인수분해는 수의 본질을 파악하는 핵심적인 과정입니다. 자연계의 원소는 100여 개에 불과하지만, 소수는 무한히 존재합니다. 이미 2,300년 전 유클리드는 소수의 개수가 끝이 없음을 수학적으로 증명해 냈습니다. 하지만 수학자들은 단순히 무한하다는 사실에 만족하지 않고, 소수가 어떤 규칙으로 분포하는지에 대해 깊은 의문을 품었습니다. 소수는 수의 나열 속에서 완전히 불규칙하게 나타나는 것처럼 보이기 때문입니다. 특정 숫자까지 소수가 몇 개나 존재하는지 알아낼 수 있는 공식이 있는지, 아니면 그저 하나하나 세어보는 방법뿐인지에 대한 탐구는 수학 역사상 가장 매혹적인 과제 중 하나였습니다. 위대한 수학자 오일러조차 소수의 배열에서 어떤 질서도 찾을 수 없다며 인간의 지성이 범접할 수 없는 신비라고 탄식했습니다. 하지만 수학의 천재 가우스는 전혀 다른 관점에서 이 문제에 접근했습니다. 그는 소수의 출현을 동전 던지기와 같은 확률의 문제로 바라보았습니다. 동전을 던질 때 앞면이 나올지 뒷면이 나올지 예측할 수 없지만, 시행 횟수가 많아질수록 앞면이 나올 확률이 2분의 1에 수렴하듯, 소수 또한 숫자가 커질수록 특정한 확률적 규칙성을 띠게 될 것이라고 가정한 것입니다. 가우스는 숫자가 커질수록 소수가 나타나는 빈도가 줄어든다는 점에 주목하여, 그 확률이 대략 1/ln n이 될 것이라고 추측했습니다. 이는 숫자가 커질수록 소수가 될 확률이 낮아지는 복잡한 동전 던지기와 같습니다. 이 아이디어를 바탕으로 계산한 특정 수까지의 소수 개수는 실제 값과 놀라울 정도로 일치했습니다. 이것이 바로 가우스가 불과 15살 때 정립한 '소수 정리'입니다. 전혀 상관없어 보이는 소수의 분포가 자연상수 e와 관련된 자연로그 함수로 설명된다는 사실은 수학계에 엄청난 충격을 안겨주었습니다. 소수의 분포가 자연로그 함수를 따른다는 발견은 경이롭지만, 동시에 기괴한 구석이 있습니다. 수의 근본인 소수가 왜 하필 자연상수 e와 연결되는지에 대해서는 여전히 명확한 해답을 찾기 어렵기 때문입니다. 영국의 수학자 하디는 소수가 '악마적 속성'을 가지고 있다고 말하며 그 난해함에 혀를 내두르기도 했습니다. 숫자가 무한히 커져도 이 확률적 규칙이 변함없이 유지될지, 아니면 우리가 모르는 악마의 장난이 숨어 있을지는 여전히 미지의 영역입니다. 소수는 여전히 질서와 혼돈 사이에서 수학자들을 유혹하며 그 신비를 간직하고 있습니다.

[카오스 술술수학] 리만가설(1): 악마의 동전던지기
카오스재단술술과학
  • 수학

[강연] 수학역사상 가장 유명한 난제 리만가설 (2) _ by기하서 | 2018 봄 카오스 강연 '모든 것의 수數다' 3강 | 3강 ②

리만 제타 함수는 수학의 역사에서 가장 신비로운 대상 중 하나로, 무한 급수의 형태로 정의됩니다. 실수부가 1보다 큰 영역에서 모든 자연수의 거듭제곱 역수를 합산하는 이 함수는 소수들의 곱으로 표현되는 '오일러 곱'이라는 독특한 성질을 지닙니다. 이는 모든 자연수가 유일한 소수들의 곱으로 분해된다는 산술의 기본 정리와 맞닿아 있습니다. 또한, 감마 함수를 포함한 함수 방정식을 통해 그 성질이 더욱 확장되며, 현대 수학자들은 이를 국소 제타 함수의 관점에서 이해하기도 합니다. 수학자들은 함수의 정의역을 넓히기 위해 해석적 확장이라는 기법을 사용합니다. 리만 제타 함수 역시 초기에는 특정 영역에서만 정의되었으나, 적분 지식을 활용한 변형을 통해 실수부가 0보다 큰 영역까지 확장될 수 있습니다. 더 나아가 함수 방정식을 이용하면 복소 평면 전체에서 단 하나의 점을 제외하고 모든 영역에서 미분 가능한 함수로 거듭납니다. 이러한 확장은 단순한 수치적 계산을 넘어, 함수가 가진 본질적인 대칭성과 구조를 파악하는 결정적인 계기가 됩니다. 함수의 값이 0이 되는 지점인 영점은 리만 제타 함수의 비밀을 푸는 열쇠입니다. 음의 짝수에서 나타나는 자명한 영점들은 함수 방정식을 통해 비교적 쉽게 파악할 수 있지만, 진짜 중요한 것은 임계 구역이라 불리는 영역에 존재하는 비자명한 영점들입니다. 오일러 곱의 강력한 성질 덕분에 이 영점들이 실수부 0과 1 사이에 존재한다는 사실은 증명되었으나, 그 정확한 위치를 파악하는 것은 현대 수학의 거대한 도전 과제로 남아 있습니다. 리만 가설은 모든 비자명한 영점들이 실수부 1/2인 직선, 즉 임계선 위에 존재할 것이라는 대담한 가정입니다. 수많은 수학자가 컴퓨터를 활용해 수조 개의 영점을 계산해 본 결과, 현재까지 발견된 모든 영점은 이 가설을 충족하고 있습니다. 영점의 분포는 로그 함수를 포함한 복잡한 수식으로 설명되며, 그 간격과 밀도는 소수의 분포와 밀접한 관련이 있습니다. 컴퓨터를 통한 수천 시간의 연산은 수학적 직관을 제공하며 가설의 신뢰도를 높여주는 중요한 역할을 합니다. 리만 가설이 해결되지 않는 이유는 대수적 성질과 해석적 성질이 복잡하게 얽혀 있기 때문입니다. 이 두 세계의 특성을 동시에 깊게 파고드는 문제는 수학 전체를 통틀어 유례를 찾기 힘듭니다. 현대 수학은 리만 제타 함수를 넘어 수많은 L-함수를 '셀베르그 클래스'로 분류하여 통합적으로 연구하고 있습니다. 이 모든 함수가 리만 가설을 만족한다는 '그랜드 리만 가설'은 정수론, 대수기하, 조화해석 등 수학의 여러 분야가 하나로 만나는 지점이기도 합니다.

[강연] 수학역사상 가장 유명한 난제 리만가설 (2) _ by기하서 | 2018 봄 카오스 강연 '모든 것의 수數다' 3강

기하서

카오스재단카오스강연
  • 수학

[강연] 세상 속의 수數다 (4) _ by고계원 | 2018 봄 카오스 강연 '모든 것의 수數다' 1강 | 1강 ④

수학 연구의 과정은 끊임없는 사고의 반복입니다. 문제를 마주하고 고민하며 다양한 방식으로 응용해 보는 시간은 길지만, 정작 해답을 찾아냈을 때 느끼는 행복은 찰나에 불과합니다. 하지만 이러한 인고의 과정은 비단 수학에만 국한되지 않습니다. 모든 학문적 연구와 기업의 업무 역시 비슷한 흐름을 가집니다. 중요한 것은 그 짧은 기쁨의 순간을 동력 삼아 다시 새로운 문제로 뛰어드는 열정입니다. 이러한 반복 속에서 우리는 학문적 가치를 발견하며 삶의 보람을 채워나갑니다. 이론 과학의 메카로 불리는 프린스턴 고등연구소는 아인슈타인과 폰 노이만 같은 위대한 과학자들이 머물렀던 곳입니다. 이곳은 겉으로 보기에는 매우 한적하고 평화로운 분위기를 자아내지만, 그 이면에는 지독하리만큼 치열한 학문적 탐구가 자리 잡고 있습니다. 연구자들이 누리는 여유는 단순히 쉬는 것이 아니라, 깊은 사고에 몰입할 수 있는 최적의 환경을 의미합니다. 치열함과 여유가 공존하는 이 특별한 공간은 새로운 이론이 탄생하는 밑거름이 되며, 현대 과학의 발전을 이끄는 중요한 축이 됩니다. 수학적 성취를 이루는 데 있어 재능과 노력 중 무엇이 더 중요한지에 대한 논의는 늘 뜨겁습니다. 일부 학자들은 수학에서 가장 중요한 재능으로 상상력을 꼽습니다. 논리적 사고나 계산력은 훈련을 통해 어느 정도 습득할 수 있지만, 기존의 틀을 깨는 획기적인 아이디어는 타고난 상상력에서 비롯된다는 시각입니다. 영화 '인셉션'의 감독이 보여준 창의성처럼, 수학 역시 무한의 크기를 비교하거나 새로운 체계를 설계할 때 고도의 상상력을 필요로 합니다. 이는 단순히 공식을 외우는 것 이상의 차원입니다. 흔히 노력형 수학자로 알려진 이들조차 사실은 엄청난 재능을 겸비한 경우가 많습니다. 수학은 알면 알수록 자신의 부족함을 깨닫게 만드는 학문이기에, 고수들 사이에서도 늘 겸손함을 유지하게 됩니다. 유명한 수학자들은 잠자는 시간을 제외한 거의 모든 일상을 수학적 사고에 할애하며, 이를 고통이 아닌 삶의 일부로 받아들입니다. 천재성이라는 바탕 위에 쉼 없는 노력이 더해질 때 비로소 인류의 지성사를 바꿀 위대한 업적이 탄생합니다. 결국 수학은 재능과 노력이 정교하게 맞물려 돌아가는 예술과도 같습니다. 아이들의 수학적 재능을 키워주기 위해서는 정답을 맞히는 것보다 문제를 가지고 노는 경험이 중요합니다. 다리 개수를 맞히는 간단한 퀴즈를 풀 때도 연립방정식 같은 공식을 강요하기보다, 스스로 그림을 그리며 추론할 시간을 충분히 주어야 합니다. 때로는 일부러 틀린 조건의 문제를 제시하여 아이가 논리적 모순을 스스로 발견하게 유도하는 것도 좋은 방법입니다. 이러한 과정에서 아이들은 홀수와 짝수의 개념을 자연스럽게 깨닫고 사고의 유연성을 기릅니다. 여유로운 대화 속에서 이루어지는 탐구는 수학을 즐거운 놀이로 인식하게 만듭니다.

[강연] 세상 속의 수數다 (4) _ by고계원 | 2018 봄 카오스 강연 '모든 것의 수數다' 1강

고계원

카오스재단카오스강연
  • 수학