힐베르트

12 Contents

[심화 강연] 알고 나면 대수로운 대수기하학 심화 2_by 김영훈 / 2024 봄 카오스강연 '세상에 나쁜 수학은 없다' 5강 심화 두 번째 이야기 | 5강

리만 이후 대수 기하학은 이탈리아 학파와 독일 학파라는 두 가지 큰 흐름으로 나뉘어 발전했습니다. 이탈리아 학파는 리만의 업적을 계승하여 대수적 곡면 연구에서 눈부신 성과를 거두었으나, 엄밀한 증명보다는 직관과 진리 발견의 기쁨을 우선시하는 독특한 학풍을 지니고 있었습니다. 비록 당시에는 엄밀성 부족으로 비판받기도 했지만, 이들이 발견한 아름다운 정리들은 훗날 현대 수학의 정교한 증명을 통해 그 가치를 인정받았습니다. 특히 1980년대 모리 시게후미의 '모리 프로그램'은 이들의 연구를 3차원 다양체로 확장하며 오늘날까지도 필즈상 수상자를 배출하는 중요한 연구 분야로 이어지고 있습니다. 19세기 수학의 정점으로 불리는 불변량 이론은 현대 수학과 물리학의 근간을 이루는 핵심적인 분야입니다. 다항식의 좌표 변환에도 변하지 않는 성질을 탐구하는 이 이론은 다비트 힐베르트라는 천재 수학자를 통해 혁명적인 전환점을 맞이했습니다. 당시 28세였던 다비트 힐베르트는 구체적인 계산 대신 추상적인 대수학 기법을 도입하여 불변량의 유한성을 증명해냈습니다. 이는 기존의 계산 중심 수학에서 벗어나 현대 추상 대수학의 기틀을 마련한 사건이었습니다. 비록 당시 권위자였던 고르단으로부터 '수학이 아닌 신학'이라는 비판을 듣기도 했으나, 존재성 증명이라는 새로운 패러다임은 수학적 사고의 지평을 넓히는 결정적인 계기가 되었습니다. 이탈리아 학파가 직관에 의존했다면, 독일 학파는 추상 대수학이라는 단단한 토대 위에 대수 기하학을 재건하고자 노력했습니다. 데데킨트, 다비트 힐베르트, 뇌터와 같은 수학자들은 엄밀한 대수학적 기초를 세워 이탈리아 학파의 결과들을 증명하고 더 넓은 영역으로 확장했습니다. 이 과정에서 점을 단순한 기하학적 대상이 아닌 대수적 구조인 '아이디얼'로 이해하는 현대적 관점이 정립되었습니다. 또한 리만의 내재적 접근법을 완벽히 구현하여, 외부 좌표 공간 없이도 대수적 다양체 그 자체를 독립적으로 이해할 수 있는 이론적 기틀이 마련되었습니다. 이는 20세기 중반 앙드레 베유와 세르 등을 거치며 추상 대수 기하학의 정립으로 이어졌습니다. 20세기 중반, 알렉산더 그로텐디크는 대수 기하학의 토대를 획기적으로 확장하며 진정한 혁명을 일으켰습니다. 그는 다항식의 틀을 넘어 더 일반적인 대수적 대상에 기하학적 의미를 부여함으로써, 정수론의 난제들을 기하학의 언어로 번역할 수 있는 길을 열었습니다. 푸앵카레가 예언했던 '정수론을 품은 대수 기하학'이 알렉산더 그로텐디크에 의해 완벽하게 구현된 것입니다. 이러한 이론적 진보는 1980년대 이후 페르마의 마지막 정리 해결과 같은 역사적인 성과로 이어졌습니다. 대상을 추상화하고 일반화함으로써 서로 다른 수학 분야를 하나로 묶어낸 그의 업적은 현대 수학이 나아갈 방향을 제시한 이정표가 되었습니다. 현대 대수 기하학은 이제 순수 수학의 영역을 넘어 이론 물리학과 긴밀하게 상호작용하고 있습니다. 1980년대 양-밀스 이론을 대수 기하학적으로 분석한 연구를 기점으로, 초끈 이론과 거울 대칭성 등 물리학의 핵심 개념들이 대수 기하학의 도구를 통해 엄밀하게 증명되고 있습니다. 수학자들은 낮에는 엄밀한 논증에 몰두하고 밤에는 우주의 신비를 꿈꾸며, 학문적 동지들과 함께 이름 없는 헌신을 이어가고 있습니다. 고대 그리스의 기하학에서 시작해 현대 물리학까지 아우르는 대수 기하학의 여정은 인류가 우주의 질서를 이해하기 위해 쌓아 올린 가장 거대하고 아름다운 지적 건축물 중 하나라고 할 수 있습니다.

[심화 강연] 알고 나면 대수로운 대수기하학 심화 2_by 김영훈 / 2024 봄 카오스강연 '세상에 나쁜 수학은 없다' 5강 심화 두 번째 이야기

김영훈

카오스재단2024 카오스강연 '세상에 나쁜 수학은 없다'
  • 수학

[심화 강연] 알고 나면 대수로운 대수기하학 심화 1_by 김영훈 / 2024 봄 카오스강연 '세상에 나쁜 수학은 없다' 5강 심화 첫 번째 이야기 | 5강

대수기하학의 첫 번째 중요한 도약은 유클리드 공간에 경계를 더해 사영 공간을 도입한 것입니다. 이는 르네상스 시대 미술의 원근법에서 영감을 얻은 개념으로, 화가의 눈과 대상을 잇는 직선을 하나의 점으로 간주하는 방식입니다. 사영 공간을 활용하면 평행한 두 직선이 무한대에서 만난다고 정의할 수 있어, 교점이 사라지는 예외 상황을 방지합니다. 덕분에 베주 정리와 같은 기하학적 원리들이 일관성을 갖게 되었으며, 이는 현대의 컴퓨터 비전이나 3D 스캔 기술의 수학적 토대가 되었습니다. 파스칼은 철학자이자 수학자인 동시에 화가로서 사영 공간의 필요성을 깊이 이해했던 인물입니다. 그는 2차 곡선 위의 여섯 점을 연결해 만들어지는 교점들이 한 직선 위에 놓인다는 '파스칼의 정리'를 남겼습니다. 이 정리는 사영 변환을 통해 복잡한 타원을 단순한 원으로 바꾸어 증명할 수 있는데, 이는 사영 공간에서 대칭군이 커지며 발생하는 편리함을 잘 보여줍니다. 이처럼 사영 기하학은 서로 달라 보이는 대상들을 동일한 관점에서 바라볼 수 있게 함으로써 기하학적 탐구의 효율성을 극대화했습니다. 대수기하학의 두 번째 업그레이드는 복소수를 체계 안으로 품은 것입니다. 19세기 초 가우스와 오일러에 의해 복소수가 자연스러운 수학적 대상으로 받아들여지면서, 실수 범위에서는 해결하기 어려웠던 문제들이 명쾌하게 풀리기 시작했습니다. 예를 들어 실수 평면에서는 방정식의 조건에 따라 해가 존재하지 않는 경우가 생기지만, 복소수 범위에서는 모든 것이 균일하고 깔끔한 답을 제공합니다. 이러한 수 체계의 확장은 대수적 다양체를 분석할 때 발생하는 수많은 변칙적 현상을 제거하고 체계적인 이론 전개를 가능하게 했습니다. 리만은 복소함수론을 대수기하학에 도입하여 현대 수학의 근간을 마련했습니다. 그는 복소수 미적분학을 통해 대수적 곡선의 구조를 내재적인 관점에서 탐구할 수 있는 길을 열었습니다. 이전까지는 도형을 특정 좌표 공간에 종속된 존재로 보았으나, 리만은 대수적 다양체 자체의 성질에 집중하는 혁신적인 시각을 제시했습니다. 그의 연구는 오늘날 대수기하학자들이 매일같이 사용하는 필수적인 도구가 되었으며, 정수론의 난제인 리만 가설 또한 이러한 복소함수론적 사고의 연장선상에서 탄생한 위대한 유산입니다. 수학적 발견은 때로 다른 학문의 결정적인 돌파구가 되기도 합니다. 아인슈타인이 일반상대성 이론을 정립하며 수학적 도구의 부재로 한계에 부딪혔을 때, 리만이 닦아놓은 기하학적 토대와 힐베르트의 수학적 조력이 그 해답을 제공했습니다. 힐베르트는 리만의 이론을 활용해 물리적 아이디어를 수학적으로 완결 지었으며, 이는 수학과 물리학이 만나는 역사적인 순간이 되었습니다. 이처럼 대수기하학의 발전은 단순히 숫자의 유희에 그치지 않고 우주의 원리를 이해하는 강력한 언어로서 그 역할을 다하고 있습니다.

[심화 강연] 알고 나면 대수로운 대수기하학 심화 1_by 김영훈 / 2024 봄 카오스강연 '세상에 나쁜 수학은 없다' 5강 심화 첫 번째 이야기

김영훈

카오스재단2024 카오스강연 '세상에 나쁜 수학은 없다'
  • 수학

[질문과 토론의 과학 #17] 🔗우리 곁의 알고리즘

알고리즘이라는 용어는 10세기 페르시아의 수학자 알콰리즈미의 이름에서 유래되었습니다. 그는 방정식의 해를 구하는 절차를 체계적으로 정리하였으며, 이 과정이 유럽으로 전해져 라틴어로 번역되는 과정에서 오늘날의 알고리즘이라는 단어가 탄생했습니다. 하지만 그 개념적 뿌리는 훨씬 이전으로 거슬러 올라갑니다. 2,000년 전 유클리드가 제안한 최대공약수 계산법(유클리드 호제법)은 현대의 공인인증서 체계에서도 핵심적인 역할을 수행하고 있습니다. 이처럼 알고리즘은 컴퓨터라는 기계가 발명되기 훨씬 전부터 인류의 사고와 생활 속에 깊이 자리 잡고 있었습니다. 컴퓨터의 등장은 수학 연구에 양적, 질적 변화를 동시에 가져왔습니다. 과거에는 평생을 바쳐도 수천 자리에 불과했던 원주율 계산이 이제는 컴퓨터를 통해 수조 자리까지 가능해졌습니다. 질적인 측면에서는 부흐베르거 알고리즘과 같은 새로운 도구가 등장하여 복잡한 다변수 방정식의 구조를 파악할 수 있게 되었습니다. 이는 과거 수학자들이 손으로 계산할 수 없었던 영역을 탐구할 수 있게 함으로써, 대수기하학과 같은 고등 수학 분야에서 연구의 지평을 획기적으로 넓히는 강력한 무기가 되었습니다. 현대 수학에서 컴퓨터는 단순한 계산 도구를 넘어 새로운 발견을 이끄는 실험 장비로 활용됩니다. 수학자들은 복잡한 수식이나 집합의 구조를 컴퓨터로 시뮬레이션하며 일반적인 원칙을 찾아내고 체계화합니다. 조합론이나 리만 가설과 같은 고도의 이론적 연구에서도 컴퓨터를 통한 실험적 접근은 가설의 타당성을 검토하고 새로운 영감을 얻는 데 중요한 역할을 합니다. 이러한 변화는 수학이 정적인 증명의 학문을 넘어, 끊임없는 실험과 관찰을 통해 진리를 찾아가는 역동적인 과정임을 보여줍니다. 수학자들이 컴퓨터를 사용하는 방식은 일반적인 인식과는 차이가 있습니다. 단순히 결괏값을 얻기 위함이 아니라, 그 결과를 도출하기 위한 논리적 과정을 설계하는 데 집중하기 때문입니다. 컴퓨터에 복잡한 계산 과정을 어떻게 이식할지 고민하는 과정 자체가 고도의 수학적 사고를 요구합니다. 따라서 도구에 대한 의존도가 높아진다고 해서 사고력이 둔화되는 것이 아니라, 오히려 계산이라는 번거로운 작업에서 벗어나 문제의 본질과 구조를 더 깊이 있게 통찰할 수 있는 환경이 조성되는 것입니다. 모든 수학적 문제가 알고리즘으로 해결될 수 있는 것은 아닙니다. 앨런 튜링과 힐베르트의 10번째 문제를 통해 증명되었듯, 계산 불가능한 영역은 여전히 존재하며 이는 수학자들의 창의적 사고를 자극합니다. 동시에 알고리즘은 증명의 완전성을 검증하는 새로운 수단으로도 진화하고 있습니다. 복잡한 논리 단계를 컴퓨터가 하나씩 확인하는 '코크(Coq)'와 같은 프로그램은 인간의 실수를 방지하고 증명의 신뢰도를 높여줍니다. 이처럼 알고리즘은 수학의 한계를 규명하는 동시에 그 영역을 실생활의 다양한 응용 분야로 확장하고 있습니다.

[질문과 토론의 과학 #17] 🔗우리 곁의 알고리즘
카오스재단질토과 + 짧강

[질문과 토론의 과학 #5] 👓🎓수학 천재, 재능일까? 노력일까?

수학을 잘하기 위해 필요한 가장 중요한 재능은 무엇일까요? 많은 이들이 계산력이나 논리력을 떠올리지만, 그 핵심에는 상상력이 자리 잡고 있습니다. 집합론의 창시자 칸토어가 무한의 크기를 비교하며 일대일 대응이라는 획기적인 아이디어를 낸 것은 영화 '인셉션'의 감독이 발휘한 상상력 그 이상이었습니다. 이처럼 수학은 단순히 숫자를 다루는 학문을 넘어, 보이지 않는 세계를 머릿속에 그려내고 그 안에서 새로운 질서를 찾아내는 창의적인 과정이라 할 수 있습니다. 물론 위대한 성취를 위해서는 천부적인 재능이 필요할 수 있지만, 우리가 일상에서 마주하는 수학은 노력으로 충분히 정복 가능합니다. 실제로 성공한 수학자들 중에는 학창 시절 수학 성적이 좋지 않았으나 대학에서 추상적인 개념에 매료되어 끊임없는 노력 끝에 결실을 맺은 사례가 많습니다. 수학자들에게 노력은 삶의 일부이며, 잠자는 시간을 제외한 거의 모든 순간을 수학적 사고에 몰입합니다. 이러한 끈기는 재능을 후천적으로 꽃피우게 만드는 가장 강력한 동력이 됩니다. 수학적 사고력을 키우는 비결은 정답을 빨리 맞히는 것이 아니라, 문제를 충분히 즐기며 고민하는 시간에 있습니다. 예를 들어 동물들의 다리 개수를 맞히는 간단한 문제를 아이들에게 던져주고, 스스로 원리를 깨달을 때까지 몇 달이고 기다려주는 여유가 필요합니다. 연립방정식이라는 용어를 몰라도 그림을 그리며 논리를 세워가는 과정 자체가 수학적 재능을 기르는 훈련입니다. 틀린 문제를 제시해 아이가 스스로 오류를 찾아내게 하는 경험은 수학에 대한 자신감과 즐거움을 동시에 선사합니다. 안타깝게도 많은 학생이 수학을 포기하는 '수포자'가 되는 이유는 수학의 추상성과 지루한 연습 과정 때문입니다. 개념을 체득하기까지는 많은 시간과 노력이 필요한데, 현실적인 보상은 오직 성적으로만 주어지다 보니 가성비를 따지게 되는 것입니다. 수학을 싫어해서가 아니라, 더 잘하고 싶은 마음과 현실 사이의 괴리 때문에 사랑하지만 이별을 택하는 상황인 셈입니다. 따라서 교육 환경은 학생들이 수학의 본질적인 재미를 느낄 수 있도록 결과 중심에서 과정 중심으로 변화해야 합니다. 수학은 단순한 교과목을 넘어 과학의 언어이자 사고의 틀입니다. 미국의 한 대학에서는 수학을 제2외국어 영역에 포함시키기도 했는데, 이는 수학이 소통의 도구일 뿐만 아니라 세상을 바라보는 프레임을 형성하기 때문입니다. 수학적 언어는 명료하고 논리적인 문법을 가지고 있어 오해의 소지를 없애고 현상을 정확하게 기술하게 해줍니다. 일상적인 단어의 정의가 모호할 때 수학적 정의의 명확함을 깨닫는 순간, 우리의 의식은 한 단계 더 확장되는 경험을 하게 됩니다. 수학의 보편성은 지구를 넘어 우주로까지 확장됩니다. 1974년 외계 지적 생명체에게 보낸 '아레시보 메시지'는 이진법과 소수의 원리를 기초로 제작되었습니다. 소수 두 개의 곱으로 이루어진 화소 수는 외계인이 메시지를 직사각형 형태로 복원할 수 있게 돕는 유일한 단서가 됩니다. 이처럼 수학은 우주 공통의 언어로서, 지능을 가진 존재라면 누구나 이해할 수 있는 논리적 기반이 됩니다. 자연과 우주의 질서를 설명하는 가장 아름답고도 강력한 도구가 바로 수학인 것입니다. 수학자가 되는 결정적인 순간은 거창한 사건보다 가랑비에 옷 젖듯 찾아오는 감동의 순간들입니다. 소수가 무한히 많다는 사실을 귀류법으로 증명했을 때의 전율이나, 복소평면을 통해 수의 세계가 평면으로 확장되는 것을 목격했을 때의 경이로움이 그 예입니다. 정수 전체를 대표하는 숫자로 묶어내는 잉여류의 구조처럼, 복잡한 세상을 단순하고 명쾌한 질서로 정리하는 수학의 매력은 끝이 없습니다. 이러한 지적 유희를 경험한다면 누구나 수학이라는 드넓은 바다를 항해하는 즐거움을 누릴 수 있습니다.

[질문과 토론의 과학 #5] 👓🎓수학 천재, 재능일까? 노력일까?
카오스재단질토과 + 짧강

[명강리뷰] 미래의 수학자 by엄상일 | 2017 가을 카오스 강연 '미래과학' 5강

수학의 역사는 기원전 300년경 유클리드 《원론》에서 시작된 '증명'의 역사라고 해도 과언이 아닙니다. 증명이란 우리가 공통으로 약속한 정의와 모두가 참이라고 믿는 공리로부터 출발하여, 완벽하게 논리적인 과정을 통해 새로운 사실을 이끌어내는 과정입니다. 현대 수학의 모든 체계는 이처럼 100% 정확한 유도 과정을 통해 구축됩니다. 독일의 수학자 힐베르트는 수학적 대상의 이름이 무엇이든 상관없이 오직 논리적 관계만으로 모든 것이 설명되어야 한다고 강조하며 증명의 엄밀함을 주장했습니다. 하지만 증명의 엄밀함을 극한까지 추구하다 보면 예상치 못한 난관에 봉착하기도 합니다. 화이트헤드와 러셀은 수학의 기초를 다지기 위해 '1+1=2'라는 당연한 사실을 증명하는 데 무려 360페이지를 할애했습니다. 이처럼 모든 과정을 완벽하게 기록하는 것은 현실적으로 매우 어렵기에, 현대 수학에서는 훈련된 전문가가 중간 과정을 검토하고 동의하는 것을 증명으로 인정하곤 합니다. 그러나 증명이 너무 방대하고 복잡해져 인간의 인지 능력을 넘어서게 되면, 과연 그것을 진정한 증명이라 부를 수 있을지에 대한 의문이 생깁니다. 1611년 제기된 케플러 추측은 수백 년간 미해결 상태였다가 1998년 토머스 헤일스에 의해 해결되었습니다. 하지만 그의 증명은 250쪽의 논문과 더불어 방대한 컴퓨터 계산 데이터를 포함하고 있었습니다. 수학계의 권위 있는 검토 위원들이 4년 동안 매달렸음에도 불구하고, 이들은 증명의 99%는 맞는 것 같지만 100% 확신할 수는 없다는 이례적인 결론을 내렸습니다. 이는 인간이 컴퓨터 프로그램의 모든 계산 과정을 일일이 검증하는 데 한계가 있음을 보여주는 상징적인 사건이 되었습니다. 이러한 한계를 극복하기 위해 토머스 헤일스는 컴퓨터가 직접 증명의 논리적 타당성을 검증하는 '플라이스펙(Flyspeck)' 프로젝트를 시작했습니다. 11년의 노력 끝에 2014년, 컴퓨터는 케플러 추측이 공리와 정의로부터 정확히 유도되었음을 확인하며 형식 증명을 완성했습니다. 한편, 인터넷을 통한 집단 지성의 활용도 새로운 가능성을 열었습니다. 티머시 가워스 교수가 주도한 '폴리매스(Polymath)' 프로젝트는 수많은 수학자가 블로그 댓글로 토론하며 난제를 6주 만에 해결하는 성과를 거두며, 수학 연구 방식의 획기적인 변화를 예고했습니다. 이제 컴퓨터는 단순히 답을 내놓는 수준을 넘어 증명의 중간 과정까지 제시하며 수학자의 동반자로 자리 잡고 있습니다. 물론 컴퓨터 프로그램 자체의 오류나 버그 가능성 때문에 그 결과를 100% 신뢰할 수 있는지에 대한 논란은 여전히 존재합니다. 물리학자의 예측이 컴퓨터 계산 오류로 인해 부정당했다가 나중에야 진실로 밝혀진 사례는 기술적 도구의 활용에 신중함이 필요함을 시사합니다. 미래의 수학자들은 컴퓨터와의 협업 속에서 증명의 정의를 새롭게 정립하며, 인간의 직관과 기계의 정밀함을 조화시키는 길을 걷게 될 것입니다.

[명강리뷰] 미래의 수학자 by엄상일 | 2017 가을 카오스 강연 '미래과학' 5강
카오스재단명강리뷰&질문Q

[강연] 문명과 수학의 기원(3)_박형주 교수 | 2015 봄 카오스 강연 'ORIGIN' 6강 | 6강 ③

수학의 역사는 추상과 실용이라는 두 축이 서로 대립하고 극복하며 발전해 온 과정입니다. 21세기에 들어서며 실용은 수학의 영역을 확장하는 모습으로, 추상은 난제 해결의 형태로 진화하고 있습니다. 특히 그리스적 전통을 잇는 추상 수학은 수학적 우주 그 자체의 깊이를 탐구하며, 기존 체계로는 해결할 수 없는 난관을 돌파하는 과정에서 비약적인 발전을 이룹니다. 이는 단순히 지식의 양이 늘어나는 점진적 과정이 아니라, 새로운 패러다임이 출현하는 불연속적인 혁명의 역사라고 할 수 있습니다. 수학적 난제는 기존 체계의 불완전성을 드러내는 동시에 새로운 사고의 틀을 구축하는 강력한 동기가 됩니다. 대표적인 예로 5차 방정식의 근의 공식을 찾는 과정에서 탄생한 '군론'을 들 수 있습니다. 10대의 천재 수학자 갈루아는 이 난제를 해결하기 위해 완전히 새로운 수학적 구조를 설계했으며, 이는 훗날 화학의 결정 구조나 물리학의 대칭성을 설명하는 핵심 도구가 되었습니다. 하나의 난제를 해결함으로써 수학의 내적 틀이 바뀌고, 그것이 다시 자연과학의 지평을 넓히는 기폭제가 된 것입니다. 현대 수학은 힐베르트의 문제들이나 밀레니엄 난제들을 통해 여전히 미지의 영역에 도전하고 있습니다. 소수들로 이루어진 등차수열의 존재를 증명한 테렌스 타오의 사례처럼, 난제 해결은 우리가 소수의 성질을 얼마나 모르고 있었는지를 깨닫게 하며 수학적 우주의 조밀함을 이해하게 합니다. 이러한 도전은 단순히 상금을 목적으로 하는 것이 아니라, 우리가 왜 이 문제를 풀지 못하는지 그 근본적인 이유를 들여다봄으로써 수학이라는 학문의 한계를 시험하고 새로운 지적 영토를 개척하는 숭고한 과정입니다. 반면 바빌로니아적 전통을 계승한 실용 수학은 물리적 우주의 복잡한 문제들을 해결하며 그 가치를 증명합니다. 픽사의 애니메이션 제작부터 베를린의 교통 체증 해결, 심지어 선거 결과 예측과 의료용 MRI의 역문제 해결에 이르기까지 수학은 현대 사회의 보이지 않는 엔진 역할을 합니다. 때로는 버스 대수를 줄여야 교통이 원활해진다는 결과처럼 우리의 상식을 뒤엎는 해답을 제시하기도 합니다. 이는 수학적 논리가 현실의 복잡성을 관통하여 가장 효율적인 최적의 경로를 찾아낼 수 있음을 보여줍니다. 수학과 기술은 서로 영향을 주고받으며 변증법적으로 발전합니다. 무선 통신의 발달이 암호학이라는 새로운 수학 분야를 촉발했듯이, 물리적 우주의 성취가 수학적 우주에 새로운 영감을 불어넣기도 합니다. 한국의 수학은 그동안 서구의 이론을 이식하고 학습하는 단계에 집중해 왔으나, 이제는 추상적인 수학적 우주와 구체적인 물리적 우주 사이의 상호작용에 더 큰 관심을 기울여야 합니다. 두 세계가 긴밀하게 소통할 때 비로소 수학은 박제된 이론을 넘어 시대를 이끄는 진정한 생명력을 얻게 될 것입니다.

[강연] 문명과 수학의 기원(3)_박형주 교수 | 2015 봄 카오스 강연 'ORIGIN' 6강

박형주

카오스재단카오스강연
  • 수학

[카오스 술술과학] 도대체 무한이란 무엇인가?(2)-1: 무한을 세는 법

무한은 유한한 언어의 그릇으로 온전히 담아낼 수 없는 초월적인 개념입니다. 역사적으로 무한은 신의 영역으로 간주되어 왔으며, 인간이 이를 수학과 과학의 체계 안으로 끌어들이려는 시도는 늘 거대한 지적 도전이자 모험이었습니다. 영화 '2001: 스페이스 오디세이'의 모노리스처럼 무한은 우리가 넘어서는 안 될 경계이자, 동시에 끊임없이 엿보고 싶은 지식의 열매와도 같습니다. 유한한 존재가 무한의 벽을 두드릴 때 발생하는 역설은 우리에게 세상을 바라보는 새로운 시각을 제공합니다. 제논의 역설은 무한에 관한 가장 고전적이면서도 당혹스러운 질문을 던집니다. 아킬레스가 거북이를 결코 따라잡을 수 없다는 논리는 언뜻 완벽해 보이지만, 그 이면에는 무한한 단계를 거치면서도 걸리는 시간은 유한할 수 있다는 놀라운 사실이 숨어 있습니다. 현대 수학은 이를 극한이라는 개념으로 해결하며, 무한히 가까워지는 과정을 하나의 고정된 수로 정의합니다. 0.999...가 결국 1이 되는 것처럼, 무한의 운동성을 정적인 실체로 파악하는 유연한 사고는 무한을 이해하는 첫걸음이 됩니다. 아리스토텔레스의 바퀴나 갈릴레이의 역설은 우리의 직관을 정면으로 반박합니다. 작은 원과 큰 원이 같은 거리를 이동하거나, 자연수의 집합이 그 부분집합인 제곱수의 집합과 일대일 대응을 이룬다는 사실은 무한의 세계에서 '전체는 부분보다 크다'는 상식이 통하지 않음을 보여줍니다. 이러한 논리를 확장하면 1차원의 무한한 막대로 3차원 공간을 가득 채우는 것도 가능해집니다. 무한의 영역에서는 차원의 제약마저 사라지며, 우리가 알던 기하학적 질서는 일대일 대응이라는 새로운 규칙 아래 재편됩니다. 수학자 볼차노는 일대일 대응의 아이디어를 더욱 발전시켜 연속체 무한의 신비를 탐구했습니다. 그는 길이가 다른 두 선분 사이의 점들이 서로 완벽하게 대응할 수 있음을 증명하며, 유한한 반원이 무한한 수직선과 같은 크기의 기수를 가질 수 있다는 파격적인 결론에 도달했습니다. 이는 무한이 단순히 '끝없이 커지는 상태'가 아니라, 그 자체로 완결된 구조를 가진 집합임을 시사합니다. 비록 모든 무한의 크기가 같다는 그의 주장은 훗날 수정되지만, 무한을 실체로서 다루려 했던 그의 시도는 현대 집합론의 중요한 토대가 되었습니다. 다비드 힐베르트가 제안한 힐베르트의 무한 호텔은 무한의 산술적 특성을 가장 명쾌하게 보여주는 사고실험입니다. 만원인 호텔에 새로운 손님이 오거나 심지어 무한 명의 손님이 들이닥쳐도, 기존 투숙객을 적절히 이동시킴으로써 모두를 수용할 수 있다는 논리는 경이롭기까지 합니다. 소수의 무한성을 이용해 무한 층의 손님까지 힐베르트의 무한 호텔에 담아내는 과정은 무한 더하기 무한이나 무한 곱하기 무한이 여전히 무한임을 증명합니다. 하지만 이 거대한 호텔조차 수용할 수 없는 또 다른 차원의 무한이 존재하는지에 대한 질문은 여전히 우리를 기다리고 있습니다.

[카오스 술술과학] 도대체 무한이란 무엇인가?(2)-1: 무한을 세는 법
카오스재단'도대체'시리즈
  • 물리학

[카오스 술술수학] 리만가설(2): 리만가설에 미치다

리만 가설은 수학 역사상 가장 매혹적이면서도 고통스러운 수수께끼로 남아 있습니다. 독일의 수학자 힐베르트는 사후 500년 뒤에 깨어난다면 가장 먼저 이 가설의 증명 여부를 묻고 싶다고 했으며, 하디는 자신의 첫 번째 소망으로 이를 꼽았습니다. 라마누잔과 존 내쉬 같은 천재들조차 이 문제로 인해 육체적, 정신적 고통을 겪었을 만큼 그 위력은 대단합니다. 페르마의 마지막 정리와 푸앵카레 추측이 해결된 지금도 리만 가설은 여전히 난공불락의 요새처럼 버티고 있습니다. 소수의 규칙성을 찾으려는 노력은 유클리드와 오일러를 거쳐 가우스에 이르러 큰 전환점을 맞이했습니다. 1792년 가우스는 소수의 개수를 추측할 수 있는 '소수 정리'를 제안하며, 수가 커질수록 소수의 밀도가 로그 함수에 반비례한다는 사실을 통찰했습니다. 하지만 가우스는 이를 직관적으로 추측했을 뿐 엄밀하게 증명하지는 못했습니다. 이후 수많은 수학적 거성들이 릴레이를 하듯 이 소수의 분포 문제를 해결하기 위해 자신의 생애를 바치며 연구에 매달려 왔습니다. 가우스의 제자였던 리만은 1859년 발표한 논문에서 '리만 제타 함수'를 도입하며 소수 정리 증명의 실마리를 제공했습니다. 리만 가설은 단순히 소수의 개수를 대략적으로 파악하는 것을 넘어, n까지의 소수를 정확하게 셀 수 있는 유일한 식을 완성하려는 시도입니다. 오늘날 이 가설에는 10억 원의 상금이 걸려 있으며, 19세기 수학자들 사이에서는 이를 증명하는 자가 영생을 얻는다는 말이 돌 정도로 수학계에서 차지하는 위상이 절대적이라고 할 수 있습니다. 리만 가설의 핵심은 제타 함수의 무한히 많은 영점들이 복소평면상의 1/2 축 위에 일렬로 늘어서 있다는 가정에 있습니다. 이 영점들은 각각 소리의 파동과 같은 역할을 수행하며, 이 파동들을 모두 합치면 소수 분포의 오차가 점차 줄어들어 결국 0에 수렴하게 됩니다. 마치 악기를 목표 음에 맞춰 미세하게 조율하는 과정과도 같습니다. 만약 단 하나의 영점이라도 이 축을 벗어난다면 파동이 너무 커져 조율이 불가능해지며, 소수의 불규칙성을 설명할 방법도 사라지게 됩니다. 역설적이게도 리만 제타 함수 영점들의 완벽한 질서는 소수가 가진 극도의 무질서와 임의성을 대변합니다. 가우스가 예견했듯 소수는 동전 던지기와 같은 무작위성을 띠고 있으며, 리만 가설은 바로 그 임의성을 수학적으로 설명해 줍니다. 만약 이 가설이 거짓으로 판명된다면 현대 수학의 근간이 흔들리는 대재앙이 닥칠 것이라는 우려가 나올 정도입니다. 전 세계 수학자들을 잠 못 들게 하는 이 난제는 여전히 인류가 정복해야 할 가장 거대한 지적 산맥으로 남아 있습니다.

[카오스 술술수학] 리만가설(2): 리만가설에 미치다
카오스재단술술과학
  • 수학

[강연] 컴퓨터과학의 원천 아이디어가 나오기까지 (1) _ by이광근 | 2018 봄 카오스 강연 '모든 것의 수數다' 10강 | 10강 ①

컴퓨터는 인류가 발명한 도구 중에서도 매우 독특한 위치를 차지합니다. 칼이나 냉장고 같은 일반적인 도구들은 그 목적이 하나로 고정되어 있지만, 컴퓨터는 사용자가 어떤 명령을 입력하느냐에 따라 무궁무진한 역할을 수행할 수 있는 만능 도구이기 때문입니다. 우리는 이를 소프트웨어라고 부르며, 인간의 사고를 반영한 체계를 통해 기계가 복잡한 일을 수행하도록 만듭니다. 이러한 특성 때문에 컴퓨터는 단순한 기계를 넘어 인간의 지능을 확장하는 특별한 장치로 정의되기도 합니다. 흔히 앨런 튜링을 하늘이 내린 천재 수학자로만 기억하지만, 그의 위대한 업적은 사실 당대 수학계가 직면했던 거대한 좌절과 도전 속에서 탄생했습니다. 튜링은 단순히 새로운 것을 창조하려 했던 것이 아니라, 기존의 권위 있는 수학자들이 내놓은 문제들을 자신만의 방식으로 해결하고자 노력했습니다. 이러한 과정은 천재성이라는 모호한 단어보다는, 주어진 문제를 깊이 있게 파고들어 자신만의 논리를 구축해 나가는 탐구 정신의 결과물입니다. 이는 과학적 성취가 특별한 소수만의 전유물이 아님을 시사합니다. 20세기 초, 수학자 다비트 힐베르트는 모든 수학적 명제에 대한 기계적 판정 방법이 존재할 것이라는 원대한 꿈을 꾸었습니다. 하지만 1931년, 젊은 수학자 쿠르트 괴델은 기계적인 방식으로는 모든 수학적 사실을 증명할 수 없다는 것을 완벽하게 입증하며 수학계에 커다란 충격을 안겨주었습니다. 힐베르트의 꿈은 좌절되었지만, 이 사건은 오히려 '기계적 계산'이란 무엇인가에 대한 근본적인 질문을 던지는 계기가 되었습니다. 수학적 한계를 증명하는 과정에서 역설적으로 새로운 논리적 사고의 지평이 열리게 된 것입니다. 튜링은 불완전성 정리를 접한 뒤, 자신만의 스타일로 이를 재증명하기 위해 '기계적'이라는 개념을 구체적으로 정의하기 시작했습니다. 그는 무한한 테이프와 상태 표시 장치, 그리고 규칙표라는 네 가지 부품만으로 구성된 가상의 장치를 고안해 냈습니다. 이것이 바로 오늘날 컴퓨터의 원형인 '튜링 기계'입니다. 흥미로운 점은 튜링이 처음부터 컴퓨터를 발명하려 했던 것이 아니라, 수학적 불가능성을 증명하기 위한 하나의 도구로서 이 기계를 설계했다는 사실입니다. 논리적 증명을 돕기 위한 소품이 현대 정보 혁명의 핵심이 되었습니다. 1936년에 발표된 튜링의 논문은 수학적 난제를 해결하는 동시에 현대 컴퓨터 과학의 청사진을 제시했습니다. 계산 가능한 수의 범위를 정의하고 기계적 절차의 한계를 밝혀낸 그의 연구는, 오늘날 우리가 사용하는 모든 디지털 기기의 이론적 토대가 되었습니다. 수학의 좌절을 확인하는 과정에서 우연히 탄생한 이 아이디어는 인류의 삶을 송두리째 바꾸어 놓았습니다. 결국 컴퓨터 과학의 역사는 불가능에 도전했던 수학자들의 치열한 고민과, 그 과정에서 발견한 논리적 도구들이 빚어낸 위대한 우연의 산물이라고 할 수 있습니다.

[강연] 컴퓨터과학의 원천 아이디어가 나오기까지 (1) _ by이광근 | 2018 봄 카오스 강연 '모든 것의 수數다' 10강

이광근

카오스재단카오스강연
  • 수학
  • 융합

[강연] 세상을 바꾼 알고리즘 - 알파고와 블록체인을 넘어 미래로 (3) _ by이준엽 | 2018 봄 카오스 강연 '모든 것의 수數다' 8강 | 8강 ③

알고리즘이라는 용어는 비교적 최근의 것이지만, 그 개념은 인류의 역사와 궤를 같이합니다. 2,000년 전 유클리드가 제안한 최대공약수 알고리즘은 오늘날 공인인증서 체계의 핵심으로 여전히 살아 숨 쉬고 있습니다. 이처럼 알고리즘은 컴퓨터가 발명되기 훨씬 이전부터 인간의 사고 체계와 실생활에서 중요한 역할을 담당해 왔으며, 복잡한 문제를 효율적으로 해결하려는 인류의 지혜가 담긴 결과물이라 할 수 있습니다. 컴퓨터의 등장은 수학 연구의 패러다임을 양적, 질적으로 완전히 바꾸어 놓았습니다. 과거 인간의 힘으로는 불가능했던 원주율의 수조 자리 계산이 가능해진 것은 양적인 변화의 대표적 사례입니다. 질적으로는 대수기하학의 부흐베르거 알고리즘처럼 복잡한 구조를 다루는 새로운 무기가 등장하며 수학자들에게 새로운 지평을 열어주었습니다. 이제 수학은 단순히 답을 내는 과정을 넘어, 컴퓨터를 통한 실험과 발견의 시대로 진입했습니다. 흔히 수학자가 계산을 잘할 것이라 오해하지만, 사실 그들은 결과보다 논리적인 과정에 더 집중합니다. 컴퓨터는 단순히 계산을 대신해 주는 도구가 아니라, 복잡한 논리를 알고리즘으로 기술하기 위해 더 깊은 사고를 유도하는 자극제 역할을 합니다. 학교 교육에서 강조하는 빠른 정답 찾기와 달리, 실제 수학의 세계에서는 알고리즘을 설계하는 과정 자체가 고도의 철학적 고민과 논리적 엄밀함을 요구하는 창의적인 작업입니다. 모든 수학적 난제가 알고리즘으로 해결될 수 있는 것은 아닙니다. 앨런 튜링은 계산 가능한 수학과 그렇지 않은 수학의 경계를 이론적으로 제시했으며, 힐베르트의 23가지 문제 중 일부는 알고리즘이 존재하지 않음을 증명함으로써 해결되기도 했습니다. 이는 수학의 모든 영역이 기계적인 절차로 대체될 수 없음을 시사합니다. 알고리즘의 세계 밖에서도 수학자들은 여전히 인간만의 직관과 사유를 통해 진리를 탐구하고 있습니다. 최근 가장 주목받는 알고리즘의 응용 분야는 단연 블록체인입니다. 블록체인은 거래 내역을 담은 블록들을 체인처럼 연결하여 전 세계 사용자가 공유하는 분산 저장 기술입니다. 이 시스템의 핵심은 해시 함수와 작업 증명이라는 수학적 원리에 있습니다. 데이터의 미세한 변화도 감지해 내는 해시 함수는 정보의 위조를 방지하며, 복잡한 연산 과정을 거치는 작업 증명은 네트워크의 신뢰성을 담보하는 강력한 보안 장치가 됩니다. 블록체인의 보안을 지탱하는 또 다른 기둥은 타원 곡선 암호입니다. 이는 3차 방정식의 그래프에서 나타나는 수학적 구조를 이용한 공개키 암호 체계로, 누구나 암호화할 수 있지만 오직 주인만이 풀 수 있는 비대칭성을 가집니다. 이러한 고도의 정수론적 원리는 비트코인과 같은 암호화폐에서 본인 인증의 핵심 수단으로 활용됩니다. 현대 수학의 추상적인 이론들이 우리 실생활의 경제 시스템을 지탱하는 가장 구체적인 도구로 변모한 셈입니다. 블록체인의 가능성은 단순한 화폐 가치를 넘어 정보의 영구 보존과 투명한 사회 시스템 구축으로 확장되고 있습니다. 검열이 불가능한 기록 저장소로서의 기능은 사회적 메시지를 보호하는 수단이 되기도 하며, 전자 투표의 신뢰성을 높이는 대안으로도 거론됩니다. 비록 기술적 과제와 논란이 공존하지만, 알고리즘이 만들어낸 이 새로운 신뢰의 기술은 앞으로 우리가 세상을 바라보고 소통하는 방식을 근본적으로 변화시킬 잠재력을 지니고 있습니다.

[강연] 세상을 바꾼 알고리즘 - 알파고와 블록체인을 넘어 미래로 (3) _ by이준엽 | 2018 봄 카오스 강연 '모든 것의 수數다' 8강

박부성, 이준엽

카오스재단카오스강연
  • 수학

[카오스 술술수학] 모양이란 무엇인가? 상상하는 모양? 실재 모양?

우리는 흔히 모양을 '겉으로 나타난 모습'이라 정의하고, 모습은 다시 '겉으로 나타난 모양'이라 정의하곤 합니다. 이러한 순환 논리는 기하학의 대상인 모양을 정의하는 것이 얼마나 어려운지를 잘 보여줍니다. 기하학은 모양을 연구하는 학문이지만, 정작 그 본질이 무엇인지에 대해서는 수학자들조차 깊이 고민하게 만듭니다. 19세기 수학자 펠릭스 클라인은 수학을 깊이 공부할수록 오히려 곡선이 무엇인지 모르게 된다고 말하며 기하학의 심오함을 강조했습니다. 도형이라고 하면 흔히 삼각형이나 원, 혹은 뫼비우스의 띠와 같은 시각적 이미지를 떠올립니다. 하지만 우리가 종이나 화면에 그리는 도형은 실제 수학적 대상이 아니라 이해를 돕기 위한 보조 수단에 불과합니다. 3차원 입체를 2차원 평면에 완벽히 구현할 수 없듯이, 우리가 보는 원이나 사각형도 돋보기로 들여다보면 불완전한 선들의 집합일 뿐입니다. 수학의 세계에서 진짜 그림이란 존재하지 않으며, 우리가 보는 것은 뇌가 만들어낸 심리적 환상에 가깝습니다. 유클리드는 이러한 시각적 한계를 넘어 기하학을 공리와 정리라는 논리적 체계로 정립했습니다. 그의 저서 '원론'은 도형이 아닌 사고의 체계가 기하학의 본질임을 시사합니다. 19세기의 다비드 힐베르트는 이 전통을 이어받아, 점, 선, 면과 같은 용어를 책상이나 의자로 바꾸어도 기하학적 논리 체계는 변하지 않는다고 주장했습니다. 현대의 기하학자들 역시 자신의 논문에 그림을 거의 쓰지 않으면서도 복잡한 기하학적 문제를 논리만으로 해결해 나가고 있습니다. 그렇다면 왜 기하학은 굳이 '모양'이라는 가상의 수단을 활용하는 것일까요? 그 답은 인간의 인지적 특성에 있습니다. 인간은 컴퓨터처럼 숫자와 논리만으로 세상을 이해하기보다, 시각화된 정보를 통해 직관적으로 파악할 때 훨씬 더 효율적으로 사고하도록 진화했습니다. 복잡한 수식보다 피타고라스의 정리를 증명하는 한 장의 그림이 우리에게 더 큰 깨달음을 주는 이유도 여기에 있습니다. 시각적 이미지는 우리가 보지 못했던 관계를 발견하게 돕는 강력한 도구입니다. 결국 기하학의 진정한 본질은 눈에 보이는 형태 그 자체가 아니라, 그 형태를 통해 사고를 확장하는 '상상력'에 있습니다. 영어 단어 'Imagination'이 이미지를 만든다는 의미를 내포하고 있듯이, 기하학은 보이지 않는 논리를 시각적 이미지로 변환하여 이해하는 과정입니다. 힐베르트가 자신의 저서 제목을 '기하학과 상상력'이라 지은 것도 같은 맥락입니다. 우리는 기하학을 통해 단순한 모양을 넘어, 논리와 직관이 결합된 고차원적인 상상의 세계를 탐험하게 됩니다.

[카오스 술술수학] 모양이란 무엇인가? 상상하는 모양? 실재 모양?
카오스재단술술과학
  • 수학

[강연] 미래의 수학자 (1) _ by엄상일 | 2017 가을 카오스 강연 '미래과학' 5강 | 5강 ①

수학은 흔히 연속적인 변화를 다루는 미적분을 떠올리게 하지만, 점과 점의 연결을 다루는 이산수학 또한 현대 사회에서 중요한 역할을 합니다. 지하철 노선도처럼 불연속적인 구조를 연구하는 이 분야는 인공지능 시대에 접어들며 새로운 국면을 맞이하고 있습니다. 특히 수학자의 핵심 업무인 '증명'의 방식이 과거와는 확연히 달라지고 있다는 점에 주목해야 합니다. 미래의 수학자들은 단순히 펜과 종이로 논리를 전개하는 것을 넘어, 컴퓨터와 협력하여 진리를 탐구하는 새로운 시대를 살아가게 될 것입니다. 수학적 증명의 역사는 기원전 300년경 유클리드 원론에서 시작되었습니다. 이는 점과 선에 대한 정의와 증명 없이 맞다고 인정하는 공리로부터 시작해, 완벽하게 논리적인 과정을 거쳐 결론을 도출하는 작업입니다. 독일의 수학자 힐베르트는 수학적 대상의 이름이 무엇이든 논리적 관계만 성립한다면 엄밀한 수학이 될 수 있다고 강조했습니다. 이러한 엄밀함은 수학의 기초를 다지는 핵심이며, 현대 수학자들 또한 모든 유도 과정이 100% 정확해야 한다는 이상을 품고 연구에 매진하고 있습니다. 하지만 증명이 너무 길고 복잡해지면 인간의 인지 능력으로는 이를 완벽히 검증하기 어려워집니다. 화이트헤드와 러셀은 '1 더하기 1은 2'라는 당연한 사실을 증명하기 위해 무려 360페이지를 할애하기도 했습니다. 실제 연구 현장에서는 동료 수학자들이 논문을 읽고 검토하는 과정을 거치지만, 만약 증명을 읽는 데만 100년이 걸린다면 그 결과의 무결성을 확신하기란 불가능에 가깝습니다. 이러한 한계는 수학자들이 컴퓨터라는 새로운 도구에 눈을 돌리게 만든 결정적인 계기가 되었습니다. 케플러 추측은 공을 가장 빽빽하게 쌓는 방법에 관한 문제로, 1998년 토마스 헤일스에 의해 해결되었습니다. 그러나 그의 증명은 인간이 검토하기에는 너무나 방대했습니다. 250쪽의 논문 외에도 컴퓨터로 계산한 데이터가 3GB에 달했기 때문입니다. 12명의 검증 위원이 4년 동안 매달렸음에도 불구하고 99%의 확신만을 가질 뿐, 100% 완벽한 검증은 불가능하다는 결론을 내렸습니다. 이는 수학적 진실이 인간의 검토 범위를 넘어설 수 있음을 보여준 상징적인 사건이었습니다. 헤일스 교수는 자신의 증명을 완벽히 인정받기 위해 '플라이스펙' 프로젝트를 시작했습니다. 이는 공리와 정의로부터 모든 논리적 단계를 컴퓨터가 직접 검증하게 만드는 '형식 증명'의 과정이었습니다. 11년이라는 긴 시간 동안 매진한 끝에, 2014년 마침내 컴퓨터를 통해 증명의 모든 과정이 100% 확실하다는 것을 확인받았습니다. 이로써 1611년에 제기된 난제는 비로소 종지부를 찍게 되었습니다. 이제 수학은 인간의 직관을 넘어 기계적 엄밀함으로 무장한 새로운 검증의 시대로 진입했습니다. 지도 채색에 관한 '4색 문제' 또한 컴퓨터의 도움으로 해결된 대표적인 사례입니다. 1976년 처음 증명되었을 당시, 수학계에서는 컴퓨터의 결과를 신뢰할 수 있는지를 두고 뜨거운 논쟁이 벌어졌습니다. 하지만 기술이 발전함에 따라 '코크(Coq)'와 같은 증명 보조 프로그램이 등장했고, 수만 줄의 코드를 통해 증명의 무결성을 입증하는 방식이 점차 자리를 잡았습니다. 이제는 인간의 실수 가능성보다 컴퓨터의 논리적 정확성을 더 신뢰하는 흐름이 강화되고 있으며, 이는 수학의 확실성을 담보하는 중요한 수단이 되었습니다. 이러한 형식 증명 기술은 순수 수학을 넘어 실생활의 안전을 지키는 데에도 활용됩니다. 비행기 조종 소프트웨어나 CPU 설계처럼 작은 오류가 치명적인 사고로 이어질 수 있는 분야에서는 수학적으로 버그가 없음을 증명하는 과정이 필수적입니다. 미래의 수학자들은 컴퓨터와 협력하여 복잡한 시스템의 완벽함을 입증하는 역할을 수행하게 될 것입니다. 비록 수학자들이 여전히 짧고 아름다운 증명을 갈망할지라도, 컴퓨터를 통한 엄밀한 검증은 거스를 수 없는 시대적 흐름이 되었습니다.

[강연] 미래의 수학자 (1) _ by엄상일 | 2017 가을 카오스 강연 '미래과학' 5강

엄상일

카오스재단카오스강연
  • 물리학
  • 수학