컴퓨터수학

3 Contents

[명강리뷰] 미래의 수학자 by엄상일 | 2017 가을 카오스 강연 '미래과학' 5강

수학의 역사는 기원전 300년경 유클리드 《원론》에서 시작된 '증명'의 역사라고 해도 과언이 아닙니다. 증명이란 우리가 공통으로 약속한 정의와 모두가 참이라고 믿는 공리로부터 출발하여, 완벽하게 논리적인 과정을 통해 새로운 사실을 이끌어내는 과정입니다. 현대 수학의 모든 체계는 이처럼 100% 정확한 유도 과정을 통해 구축됩니다. 독일의 수학자 힐베르트는 수학적 대상의 이름이 무엇이든 상관없이 오직 논리적 관계만으로 모든 것이 설명되어야 한다고 강조하며 증명의 엄밀함을 주장했습니다. 하지만 증명의 엄밀함을 극한까지 추구하다 보면 예상치 못한 난관에 봉착하기도 합니다. 화이트헤드와 러셀은 수학의 기초를 다지기 위해 '1+1=2'라는 당연한 사실을 증명하는 데 무려 360페이지를 할애했습니다. 이처럼 모든 과정을 완벽하게 기록하는 것은 현실적으로 매우 어렵기에, 현대 수학에서는 훈련된 전문가가 중간 과정을 검토하고 동의하는 것을 증명으로 인정하곤 합니다. 그러나 증명이 너무 방대하고 복잡해져 인간의 인지 능력을 넘어서게 되면, 과연 그것을 진정한 증명이라 부를 수 있을지에 대한 의문이 생깁니다. 1611년 제기된 케플러 추측은 수백 년간 미해결 상태였다가 1998년 토머스 헤일스에 의해 해결되었습니다. 하지만 그의 증명은 250쪽의 논문과 더불어 방대한 컴퓨터 계산 데이터를 포함하고 있었습니다. 수학계의 권위 있는 검토 위원들이 4년 동안 매달렸음에도 불구하고, 이들은 증명의 99%는 맞는 것 같지만 100% 확신할 수는 없다는 이례적인 결론을 내렸습니다. 이는 인간이 컴퓨터 프로그램의 모든 계산 과정을 일일이 검증하는 데 한계가 있음을 보여주는 상징적인 사건이 되었습니다. 이러한 한계를 극복하기 위해 토머스 헤일스는 컴퓨터가 직접 증명의 논리적 타당성을 검증하는 '플라이스펙(Flyspeck)' 프로젝트를 시작했습니다. 11년의 노력 끝에 2014년, 컴퓨터는 케플러 추측이 공리와 정의로부터 정확히 유도되었음을 확인하며 형식 증명을 완성했습니다. 한편, 인터넷을 통한 집단 지성의 활용도 새로운 가능성을 열었습니다. 티머시 가워스 교수가 주도한 '폴리매스(Polymath)' 프로젝트는 수많은 수학자가 블로그 댓글로 토론하며 난제를 6주 만에 해결하는 성과를 거두며, 수학 연구 방식의 획기적인 변화를 예고했습니다. 이제 컴퓨터는 단순히 답을 내놓는 수준을 넘어 증명의 중간 과정까지 제시하며 수학자의 동반자로 자리 잡고 있습니다. 물론 컴퓨터 프로그램 자체의 오류나 버그 가능성 때문에 그 결과를 100% 신뢰할 수 있는지에 대한 논란은 여전히 존재합니다. 물리학자의 예측이 컴퓨터 계산 오류로 인해 부정당했다가 나중에야 진실로 밝혀진 사례는 기술적 도구의 활용에 신중함이 필요함을 시사합니다. 미래의 수학자들은 컴퓨터와의 협업 속에서 증명의 정의를 새롭게 정립하며, 인간의 직관과 기계의 정밀함을 조화시키는 길을 걷게 될 것입니다.

[명강리뷰] 미래의 수학자 by엄상일 | 2017 가을 카오스 강연 '미래과학' 5강
카오스재단명강리뷰&질문Q

[강연] 수학역사상 가장 유명한 난제 리만가설 (5) _ by기하서 | 2018 봄 카오스 강연 '모든 것의 수數다' 3강 | 3강 ⑤

리만 가설은 수학계에서 가장 악명 높은 난제 중 하나로 손꼽힙니다. 오죽하면 수학자와 공동 연구를 시작한 악마조차 며칠 밤을 새워 미적분학부터 해석적 정수론까지 통달했음에도 불구하고, 결국 해결의 실마리를 찾지 못해 절망했다는 우스갯소리가 있을 정도입니다. 이 이야기는 리만 가설이 단순히 지능의 문제를 넘어, 현대 수학의 모든 정수를 쏟아부어도 정복하기 힘든 거대한 장벽임을 시사합니다. 수많은 천재가 일생을 바쳤음에도 여전히 미지의 영역으로 남아 있는 이 가설은 인류 지성의 한계를 시험하는 상징적인 존재가 되었습니다. 이 가설이 이토록 난공불락인 이유는 수학의 여러 분야가 복잡하게 얽혀 있기 때문입니다. 리만 가설은 대수학과 해석학의 속성을 동시에 지니고 있으며, 어느 한쪽으로 깊이 파고들어도 명쾌한 해답을 내놓지 않습니다. 리만 제타 함수 외에도 수많은 제타 함수가 존재하지만, 그들 역시 고유의 수론적 성질을 간직한 채 리만 가설의 벽을 넘지 못하고 있습니다. 역사적으로 증명되었듯, 다양한 학문적 접근과 깊이 있는 통찰이 동시에 요구되기에 이 문제는 단순한 계산을 넘어선 고도의 추상적 사고를 필요로 합니다. 리만 가설을 시각적으로 표현하자면 사방이 절벽으로 둘러싸인 이스레엘의 마사다 요새와 같습니다. 도무지 어디로 접근해야 할지 길이 보이지 않는 이 요새는 로마군이 오랜 시간 공을 들여 비탈길을 만든 후에야 함락될 수 있었습니다. 수학자들 역시 리만 가설이라는 거대한 요새를 정복하기 위해 유효한 접근로를 찾으려 애쓰고 있습니다. 비록 지금은 그 길이 보이지 않아 막막할지라도, 수백 년의 세월이 흐르며 인류의 지식이 쌓이다 보면 언젠가는 성벽을 허물 수 있는 결정적인 경로가 발견될 것이라는 희망이 이 연구를 지속하게 합니다. 자연수의 성질을 다루는 정수론 문제에 복소수가 등장하는 것은 언뜻 생소해 보일 수 있습니다. 하지만 피보나치 수열의 일반항에 무리수가 포함되듯, 현대 수학에서는 단순한 대상을 설명하기 위해 더 고차원적인 도구를 사용하는 일이 빈번합니다. 특히 최근에는 컴퓨터가 수학 연구의 강력한 조력자로 부상했습니다. 인간이 수년 동안 매달려야 할 복잡한 계산이나 함수의 거동 파악을 단 몇 분 만에 해결함으로써 수학적 직관을 얻는 데 결정적인 역할을 합니다. 이러한 도구의 발전은 난제 해결을 위한 새로운 가능성을 열어주고 있습니다. 결국 리만 가설의 핵심은 소수의 개수를 정확하게 파악하는 부등식의 문제로 귀결됩니다. 소수의 실제 분포와 수학적 근삿값 사이의 오차가 특정 범위를 넘지 않는다는 것을 증명하는 것이 이 가설의 본질입니다. 만약 외계 지성체가 존재하여 시간의 흐름을 인식하고 수를 이해한다면, 그들 역시 필연적으로 소수를 발견하고 리만 가설에 도달했을 것입니다. 소수는 우주 공통의 언어이자 수의 근간이기 때문입니다. 리만 가설은 인류만의 고민이 아니라, 우주의 질서를 이해하려는 모든 지성체가 마주하게 될 궁극의 질문이라 할 수 있습니다.

[강연] 수학역사상 가장 유명한 난제 리만가설 (5) _ by기하서 | 2018 봄 카오스 강연 '모든 것의 수數다' 3강

기하서, 김영원

카오스재단카오스강연
  • 수학

[강연] 미래의 수학자 (1) _ by엄상일 | 2017 가을 카오스 강연 '미래과학' 5강 | 5강 ①

수학은 흔히 연속적인 변화를 다루는 미적분을 떠올리게 하지만, 점과 점의 연결을 다루는 이산수학 또한 현대 사회에서 중요한 역할을 합니다. 지하철 노선도처럼 불연속적인 구조를 연구하는 이 분야는 인공지능 시대에 접어들며 새로운 국면을 맞이하고 있습니다. 특히 수학자의 핵심 업무인 '증명'의 방식이 과거와는 확연히 달라지고 있다는 점에 주목해야 합니다. 미래의 수학자들은 단순히 펜과 종이로 논리를 전개하는 것을 넘어, 컴퓨터와 협력하여 진리를 탐구하는 새로운 시대를 살아가게 될 것입니다. 수학적 증명의 역사는 기원전 300년경 유클리드 원론에서 시작되었습니다. 이는 점과 선에 대한 정의와 증명 없이 맞다고 인정하는 공리로부터 시작해, 완벽하게 논리적인 과정을 거쳐 결론을 도출하는 작업입니다. 독일의 수학자 힐베르트는 수학적 대상의 이름이 무엇이든 논리적 관계만 성립한다면 엄밀한 수학이 될 수 있다고 강조했습니다. 이러한 엄밀함은 수학의 기초를 다지는 핵심이며, 현대 수학자들 또한 모든 유도 과정이 100% 정확해야 한다는 이상을 품고 연구에 매진하고 있습니다. 하지만 증명이 너무 길고 복잡해지면 인간의 인지 능력으로는 이를 완벽히 검증하기 어려워집니다. 화이트헤드와 러셀은 '1 더하기 1은 2'라는 당연한 사실을 증명하기 위해 무려 360페이지를 할애하기도 했습니다. 실제 연구 현장에서는 동료 수학자들이 논문을 읽고 검토하는 과정을 거치지만, 만약 증명을 읽는 데만 100년이 걸린다면 그 결과의 무결성을 확신하기란 불가능에 가깝습니다. 이러한 한계는 수학자들이 컴퓨터라는 새로운 도구에 눈을 돌리게 만든 결정적인 계기가 되었습니다. 케플러 추측은 공을 가장 빽빽하게 쌓는 방법에 관한 문제로, 1998년 토마스 헤일스에 의해 해결되었습니다. 그러나 그의 증명은 인간이 검토하기에는 너무나 방대했습니다. 250쪽의 논문 외에도 컴퓨터로 계산한 데이터가 3GB에 달했기 때문입니다. 12명의 검증 위원이 4년 동안 매달렸음에도 불구하고 99%의 확신만을 가질 뿐, 100% 완벽한 검증은 불가능하다는 결론을 내렸습니다. 이는 수학적 진실이 인간의 검토 범위를 넘어설 수 있음을 보여준 상징적인 사건이었습니다. 헤일스 교수는 자신의 증명을 완벽히 인정받기 위해 '플라이스펙' 프로젝트를 시작했습니다. 이는 공리와 정의로부터 모든 논리적 단계를 컴퓨터가 직접 검증하게 만드는 '형식 증명'의 과정이었습니다. 11년이라는 긴 시간 동안 매진한 끝에, 2014년 마침내 컴퓨터를 통해 증명의 모든 과정이 100% 확실하다는 것을 확인받았습니다. 이로써 1611년에 제기된 난제는 비로소 종지부를 찍게 되었습니다. 이제 수학은 인간의 직관을 넘어 기계적 엄밀함으로 무장한 새로운 검증의 시대로 진입했습니다. 지도 채색에 관한 '4색 문제' 또한 컴퓨터의 도움으로 해결된 대표적인 사례입니다. 1976년 처음 증명되었을 당시, 수학계에서는 컴퓨터의 결과를 신뢰할 수 있는지를 두고 뜨거운 논쟁이 벌어졌습니다. 하지만 기술이 발전함에 따라 '코크(Coq)'와 같은 증명 보조 프로그램이 등장했고, 수만 줄의 코드를 통해 증명의 무결성을 입증하는 방식이 점차 자리를 잡았습니다. 이제는 인간의 실수 가능성보다 컴퓨터의 논리적 정확성을 더 신뢰하는 흐름이 강화되고 있으며, 이는 수학의 확실성을 담보하는 중요한 수단이 되었습니다. 이러한 형식 증명 기술은 순수 수학을 넘어 실생활의 안전을 지키는 데에도 활용됩니다. 비행기 조종 소프트웨어나 CPU 설계처럼 작은 오류가 치명적인 사고로 이어질 수 있는 분야에서는 수학적으로 버그가 없음을 증명하는 과정이 필수적입니다. 미래의 수학자들은 컴퓨터와 협력하여 복잡한 시스템의 완벽함을 입증하는 역할을 수행하게 될 것입니다. 비록 수학자들이 여전히 짧고 아름다운 증명을 갈망할지라도, 컴퓨터를 통한 엄밀한 검증은 거스를 수 없는 시대적 흐름이 되었습니다.

[강연] 미래의 수학자 (1) _ by엄상일 | 2017 가을 카오스 강연 '미래과학' 5강

엄상일

카오스재단카오스강연
  • 물리학
  • 수학