수학의미래

3 Contents

[명강리뷰] 미래의 수학자 by엄상일 | 2017 가을 카오스 강연 '미래과학' 5강

수학의 역사는 기원전 300년경 유클리드 《원론》에서 시작된 '증명'의 역사라고 해도 과언이 아닙니다. 증명이란 우리가 공통으로 약속한 정의와 모두가 참이라고 믿는 공리로부터 출발하여, 완벽하게 논리적인 과정을 통해 새로운 사실을 이끌어내는 과정입니다. 현대 수학의 모든 체계는 이처럼 100% 정확한 유도 과정을 통해 구축됩니다. 독일의 수학자 힐베르트는 수학적 대상의 이름이 무엇이든 상관없이 오직 논리적 관계만으로 모든 것이 설명되어야 한다고 강조하며 증명의 엄밀함을 주장했습니다. 하지만 증명의 엄밀함을 극한까지 추구하다 보면 예상치 못한 난관에 봉착하기도 합니다. 화이트헤드와 러셀은 수학의 기초를 다지기 위해 '1+1=2'라는 당연한 사실을 증명하는 데 무려 360페이지를 할애했습니다. 이처럼 모든 과정을 완벽하게 기록하는 것은 현실적으로 매우 어렵기에, 현대 수학에서는 훈련된 전문가가 중간 과정을 검토하고 동의하는 것을 증명으로 인정하곤 합니다. 그러나 증명이 너무 방대하고 복잡해져 인간의 인지 능력을 넘어서게 되면, 과연 그것을 진정한 증명이라 부를 수 있을지에 대한 의문이 생깁니다. 1611년 제기된 케플러 추측은 수백 년간 미해결 상태였다가 1998년 토머스 헤일스에 의해 해결되었습니다. 하지만 그의 증명은 250쪽의 논문과 더불어 방대한 컴퓨터 계산 데이터를 포함하고 있었습니다. 수학계의 권위 있는 검토 위원들이 4년 동안 매달렸음에도 불구하고, 이들은 증명의 99%는 맞는 것 같지만 100% 확신할 수는 없다는 이례적인 결론을 내렸습니다. 이는 인간이 컴퓨터 프로그램의 모든 계산 과정을 일일이 검증하는 데 한계가 있음을 보여주는 상징적인 사건이 되었습니다. 이러한 한계를 극복하기 위해 토머스 헤일스는 컴퓨터가 직접 증명의 논리적 타당성을 검증하는 '플라이스펙(Flyspeck)' 프로젝트를 시작했습니다. 11년의 노력 끝에 2014년, 컴퓨터는 케플러 추측이 공리와 정의로부터 정확히 유도되었음을 확인하며 형식 증명을 완성했습니다. 한편, 인터넷을 통한 집단 지성의 활용도 새로운 가능성을 열었습니다. 티머시 가워스 교수가 주도한 '폴리매스(Polymath)' 프로젝트는 수많은 수학자가 블로그 댓글로 토론하며 난제를 6주 만에 해결하는 성과를 거두며, 수학 연구 방식의 획기적인 변화를 예고했습니다. 이제 컴퓨터는 단순히 답을 내놓는 수준을 넘어 증명의 중간 과정까지 제시하며 수학자의 동반자로 자리 잡고 있습니다. 물론 컴퓨터 프로그램 자체의 오류나 버그 가능성 때문에 그 결과를 100% 신뢰할 수 있는지에 대한 논란은 여전히 존재합니다. 물리학자의 예측이 컴퓨터 계산 오류로 인해 부정당했다가 나중에야 진실로 밝혀진 사례는 기술적 도구의 활용에 신중함이 필요함을 시사합니다. 미래의 수학자들은 컴퓨터와의 협업 속에서 증명의 정의를 새롭게 정립하며, 인간의 직관과 기계의 정밀함을 조화시키는 길을 걷게 될 것입니다.

[명강리뷰] 미래의 수학자 by엄상일 | 2017 가을 카오스 강연 '미래과학' 5강
카오스재단명강리뷰&질문Q

[강연] 미래의 수학자 (3) _ by엄상일 | 2017 가을 카오스 강연 '미래과학' 5강 | 5강 ③

수학은 단순히 숫자를 다루는 학문을 넘어 우리 삶의 복잡한 문제를 해결하는 강력한 도구입니다. 수치해석학은 컴퓨터를 활용해 비행기 설계와 같은 방대한 계산이 필요한 실생활의 문제를 빠르고 효율적으로 풀어내는 방법을 연구합니다. 과거에는 사람이 일일이 손으로 해결하기 어려웠던 문제들이 이제는 컴퓨터라는 도구를 통해 정교하게 다듬어지고 있습니다. 이러한 흐름은 수학이 상아탑 속에만 머무는 것이 아니라, 기술의 발전과 발맞추어 끊임없이 진화하고 있음을 보여줍니다. 인공지능 시대의 도래는 수학의 영역을 더욱 넓히고 있습니다. 과거 이집트의 측량 기술이 기하학으로 발전하고, 과학 혁명기에 천체의 움직임을 설명하기 위해 미적분학이 탄생했듯이, 현대의 정보 혁명은 새로운 수학적 추상화를 요구합니다. 우리가 마주한 0과 1의 디지털 정보들을 어떻게 더 깊이 있게 이해하고 다룰 것인가는 미래 수학의 핵심 과제입니다. 수학은 시대의 요구에 따라 새로운 지평을 열어왔으며, 지금 이 순간에도 우리가 경험하지 못한 새로운 세계를 탐험하고 있습니다. 컴퓨터와 인공지능의 발전은 수학자의 역할을 축소하는 것이 아니라 오히려 확장시키고 있습니다. 머신러닝이나 딥러닝 같은 기술은 수학적 문제를 해결하는 새로운 방식을 제시하며, 수치해석학이나 이산수학 분야에서 이전에는 상상하지 못했던 질문들을 던지게 합니다. 도구가 정교해질수록 우리가 다룰 수 있는 문제의 범위는 자동차에서 비행기, 우주선으로 넓어지듯 무한히 확장됩니다. 결국 기술의 발전은 수학자들에게 더 본질적이고 창의적인 문제를 고민할 수 있는 기회를 제공하는 셈입니다. 최근 강조되는 코딩 교육 역시 수학적 사고와 깊은 연관이 있습니다. 프로그래밍 언어는 컴퓨터와 소통하기 위한 일종의 외국어와 같으며, 그 기저에는 엄밀한 논리가 자리 잡고 있습니다. 코딩을 통해 자신의 생각을 논리적으로 전개하는 과정은 수학적 증명을 주고받는 과정과 본질적으로 다르지 않습니다. 단순히 기술적인 숙련도를 높이는 것을 넘어, 컴퓨터에게 자신의 논리를 설명할 수 있는 본질적인 사고력을 기르는 것이 중요합니다. 이러한 논리적 훈련은 수학적 실력을 향상시키는 밑거름이 됩니다. 수학자의 연구는 단순히 방 안에서 혼자 증명에 몰두하는 것에 그치지 않습니다. 좋은 문제를 찾아내기 위해 동료들과 끊임없이 대화하고 토론하며, 새로운 영감을 얻기 위해 노력합니다. 의미 있는 문제를 정의하고 이를 다른 이들과 공유하며 공감을 얻는 과정은 수학 연구에서 매우 중요한 부분을 차지합니다. 현대 수학은 개인의 천재성을 넘어 공동 연구와 협력을 통해 더욱 풍성해지고 있으며, 이러한 소통의 문화가 수학을 더욱 역동적인 학문으로 만들어가고 있습니다.

[강연] 미래의 수학자 (3) _ by엄상일 | 2017 가을 카오스 강연 '미래과학' 5강

엄상일, 이계식, 이준엽

카오스재단카오스강연
  • 물리학
  • 수학

[강연] 미래의 수학자 (2) _ by엄상일 | 2017 가을 카오스 강연 '미래과학' 5강 | 5강 ②

수학의 세계에서는 인간의 직관을 넘어서는 거대한 증명의 시대가 열리고 있습니다. 로날드 그레이엄이 제기한 피타고라스 세쌍조 색칠 문제는 그 대표적인 사례입니다. 자연수를 두 가지 색으로 칠할 때 같은 색의 피타고라스 세쌍조가 존재하지 않도록 할 수 있는지에 대한 이 질문은, 결국 2016년 슈퍼컴퓨터를 통해 해결되었습니다. 1부터 7824까지는 가능하지만 7825부터는 불가능하다는 사실이 밝혀졌는데, 이 증명의 크기는 무려 200테라바이트에 달했습니다. 이는 인간이 일일이 검토할 수 없는 방대한 데이터를 통해 수학적 진실을 규명한 혁신적인 사건이었습니다. 평면을 빈틈없이 채우는 볼록 오각형 타일링 문제 역시 컴퓨터와 인간의 협업이 빛난 분야입니다. 1918년 독일 수학자가 5개를 찾은 이후, 수학자가 아닌 가정주부 마조리 라이스가 독자적인 연구로 4개의 새로운 패턴을 찾아내며 학계를 놀라게 했습니다. 이후 2015년 워싱턴 대학 연구팀이 15번째 패턴을 발견했고, 2017년에는 컴퓨터 프로그램을 통해 오직 15가지의 방법만이 존재한다는 사실이 최종적으로 증명되었습니다. 더 이상의 가능성이 없음을 확정 짓는 과정에서 컴퓨터는 수많은 경우의 수를 완벽하게 계산해내며 탐색의 종지부를 찍었습니다. 에르되시 어긋남 추측은 수열의 합이 무한히 커질 수 있는지를 묻는 난제였습니다. 이 문제 역시 초기에는 컴퓨터의 힘을 빌려 증명되었습니다. 특정 조건에서 수열의 길이가 1161에 도달하면 합의 절댓값이 2보다 커진다는 사실을 증명했는데, 당시 이 증명의 길이는 위키피디아 전체 용량보다도 컸습니다. 수학적 증명이 단순히 논리적 전개를 넘어 거대한 데이터의 집합체가 될 수 있음을 보여준 것입니다. 하지만 이러한 거대 증명은 결과의 정답 여부는 알려주지만, 왜 그러한 결과가 도출되었는지에 대한 인간적인 이해를 제공하기에는 한계가 있었습니다. 컴퓨터의 방대한 계산을 뛰어넘는 인간 통찰의 힘은 테렌스 타오 교수에 의해 증명되었습니다. 그는 2015년, 컴퓨터가 수천 페이지에 걸쳐 증명했던 에르되시 어긋남 추측을 단 한 줄의 군더더기 없는 논리로 모든 경우에 대해 해결했습니다. '수학계의 모차르트'라 불리는 그의 성취는 컴퓨터가 제시한 정답을 넘어, 보편적인 원리를 찾아내려는 수학자의 본질적인 역할을 상기시켰습니다. 이는 기계적인 계산이 줄 수 없는 우아하고 명쾌한 해답을 갈구하는 수학자들의 이상향을 보여주는 사례로 남았습니다. 현대 수학은 이제 고립된 연구를 넘어 대규모 협업의 시대로 나아가고 있습니다. 티모시 가워스 교수가 주도한 '폴리매스 프로젝트'는 인터넷을 통해 전 세계 수학자들이 집단 지성을 발휘하는 새로운 연구 방식을 제시했습니다. 블로그 댓글을 통해 실시간으로 토론하며 난제를 해결하는 이 방식은, 혼자서는 수년이 걸릴 문제를 단 몇 주 만에 풀어내는 놀라운 성과를 거두었습니다. 테렌스 타오 역시 이 프로젝트의 중간 성과를 바탕으로 자신의 증명을 완성할 수 있었으며, 이는 수학적 발견의 속도가 협업을 통해 비약적으로 빨라질 수 있음을 입증했습니다. 인공지능의 발전은 수학 연구의 미래에 대한 근본적인 질문을 던집니다. 전문가들은 향후 수십 년 내에 인공지능이 수학 경시대회 문제를 풀고, 나아가 최고 수준의 학술지에 실릴 만한 정리를 스스로 만들어낼 것이라고 예측합니다. 컴퓨터는 이제 단순한 계산 도구를 넘어 가설을 설정하고 증명하며, 심지어 인간이 작성한 증명의 오류를 검증하는 역할까지 수행하고 있습니다. 물론 가치 판단이나 문제의 중요성을 결정하는 영역은 여전히 인간의 몫으로 남아있지만, 인공지능이 수학적 창의성의 영역에 발을 들이고 있다는 사실은 부정할 수 없습니다. 결국 미래의 수학은 인간과 컴퓨터의 긴밀한 파트너십으로 정의될 것입니다. 필즈상 수상자인 보에보드스키는 인간의 실수를 방지하기 위해 모든 증명을 컴퓨터로 검증해야 한다고 주장한 반면, 다른 이들은 인간의 직관적 이해가 결여된 증명은 진정한 지식이라 보기 어렵다고 반박합니다. 하지만 분명한 것은 수학의 세계가 점점 더 복잡해짐에 따라 컴퓨터의 도움 없이는 완전한 검증이 불가능한 시대가 오고 있다는 점입니다. 인간은 더 고차원적인 질문을 던지고, 컴퓨터는 그 질문에 대한 정밀한 답을 찾아가는 과정에서 수학은 새로운 진화를 거듭할 것입니다.

[강연] 미래의 수학자 (2) _ by엄상일 | 2017 가을 카오스 강연 '미래과학' 5강

엄상일

카오스재단카오스강연
  • 물리학
  • 수학