엄상일

4 Contents

[강연] 미래의 수학자 (4) _ by엄상일 | 2017 가을 카오스 강연 '미래과학' 5강 | 5강 ④

현대 수학에서 증명의 영역은 더 이상 인간의 전유물이 아닙니다. 1980년대 이후 수치해석과 논리 체계가 결합하면서 'Coq'와 같은 소프트웨어가 등장했고, 이는 수학자들이 이론적으로 수행할 수 있는 모든 증명을 컴퓨터가 도울 수 있는 길을 열었습니다. 과거에는 수백 페이지의 논문과 방대한 프로그램을 별개로 취급했지만, 이제는 이를 동시에 처리하며 복잡한 난제를 해결하는 시대가 되었습니다. 비록 지식의 한계는 존재할지라도, 컴퓨터를 활용한 전수 조사는 수학적 탐구의 지평을 넓히는 강력한 도구가 되고 있습니다. 하지만 컴퓨터가 수행하는 증명을 완벽하게 신뢰할 수 있는지에 대해서는 신중한 접근이 필요합니다. 논리학자 괴델이 증명한 '불완전성 정리'에 따르면, 어떤 공리 체계 내에서도 참과 거짓을 판별할 수 없는 명제가 반드시 존재하기 때문입니다. 이는 아무리 정교한 프로그램을 설계하더라도 그 무오류성을 완벽하게 입증하는 프로그램을 찾는 것이 논리적으로 매우 어렵다는 점을 시사합니다. 결국 수학적 진리는 완벽한 시스템 구축보다는 끊임없는 검증과 보완의 과정 속에 존재한다고 볼 수 있습니다. 현실적인 관점에서 컴퓨터의 오류 가능성은 인간에 비해 현저히 낮습니다. 인간의 실수는 빈번하게 발생하지만, 컴퓨터가 내는 오류의 범위는 1조 분의 1 정도로 극히 미미합니다. 물론 우주 방사선이 메모리에 영향을 주어 비트가 바뀌는 하드웨어적 결함이나 소프트웨어 자체의 버그가 발생할 가능성은 여전히 남아 있습니다. 그럼에도 불구하고 현대 수학자들은 이러한 미세한 확률을 줄이기 위해 오류 정정 기술을 개발하고 있으며, 이는 인간의 직관이 놓치기 쉬운 정밀한 계산을 보완하는 핵심적인 역할을 수행합니다. 수학 연구를 흔히 천재들만의 전유물로 오해하곤 하지만, 실제로는 끈기 있는 노력과 협업이 무엇보다 중요합니다. 수십 페이지에 달하는 논문을 작성하며 수년간 오류를 수정하고 논리를 다듬는 과정은 인간의 인내심을 시험하는 작업입니다. 또한 현대 수학은 혼자만의 사색을 넘어 동료들과의 소통을 통해 완성됩니다. 서로 다른 언어와 사고방식을 가진 연구자들이 협력하며 문제를 해결해 나가는 과정은, 수학이 단순한 계산을 넘어 인간적인 교류와 열정이 집약된 학문임을 잘 보여줍니다. 수학자들이 추구하는 '아름다운 증명'이란 단순히 답을 찾는 것을 넘어 간결하고 효율적인 논리적 경로를 제시하는 것입니다. 여러 갈래의 길 중에서 가장 명쾌한 지름길을 찾아내고, 기하학적 문제를 대수적으로 풀어내는 것처럼 서로 다른 분야를 연결할 때 그 가치는 더욱 높게 평가됩니다. 또한 순수 수학적 호기심에서 시작된 연구가 공학적 난제를 해결하거나 실생활의 기술로 응용될 때 수학의 진정한 위력이 발휘됩니다. 즉, 좋은 증명이란 보편성과 확장성을 동시에 갖춘 논리의 예술이라 할 수 있습니다. 인공지능의 발전은 수학적 창의성에 대한 새로운 질문을 던집니다. 알파고와 같은 시스템이 놀라운 결과를 보여주지만, 이를 진정한 의미의 창의성으로 볼 수 있는지에 대해서는 의견이 갈립니다. 현재의 컴퓨터는 튜링 기계의 한계 내에서 작동하며, 스스로 이론을 정립하거나 자신의 한계를 인식하여 업그레이드하는 인간 특유의 창조적 능력을 완전히 대체하지는 못하고 있습니다. 결국 컴퓨터가 잘할 수 있는 영역과 인간만이 수행할 수 있는 창의적 모방의 영역을 구분하고 이해하는 것이 미래 수학의 중요한 과제가 될 것입니다. 마지막으로 우리 사회의 수학 교육은 결과 중심의 경쟁에서 벗어나 원리와 즐거움을 찾는 방향으로 나아가야 합니다. 많은 학생이 수학을 '스피드 퀴즈'처럼 여기며 공식 암기에 매달리지만, 진정한 수학적 사고는 문제를 천천히 씹어보고 자신의 생각을 타인에게 설명하는 과정에서 길러집니다. 정답을 맞히는 속도보다 중요한 것은 논리적 전개 과정을 스스로 깨닫는 경험입니다. 수학이 실생활의 다양한 기술을 지탱하는 기초임을 이해하고, 배운 것을 나누며 함께 성장하는 문화를 만들 때 수포자가 없는 즐거운 학습이 가능해질 것입니다.

[강연] 미래의 수학자 (4) _ by엄상일 | 2017 가을 카오스 강연 '미래과학' 5강

엄상일, 이계식, 이준엽

카오스재단카오스강연
  • 물리학
  • 수학

[강연] 미래의 수학자 (3) _ by엄상일 | 2017 가을 카오스 강연 '미래과학' 5강 | 5강 ③

수학은 단순히 숫자를 다루는 학문을 넘어 우리 삶의 복잡한 문제를 해결하는 강력한 도구입니다. 수치해석학은 컴퓨터를 활용해 비행기 설계와 같은 방대한 계산이 필요한 실생활의 문제를 빠르고 효율적으로 풀어내는 방법을 연구합니다. 과거에는 사람이 일일이 손으로 해결하기 어려웠던 문제들이 이제는 컴퓨터라는 도구를 통해 정교하게 다듬어지고 있습니다. 이러한 흐름은 수학이 상아탑 속에만 머무는 것이 아니라, 기술의 발전과 발맞추어 끊임없이 진화하고 있음을 보여줍니다. 인공지능 시대의 도래는 수학의 영역을 더욱 넓히고 있습니다. 과거 이집트의 측량 기술이 기하학으로 발전하고, 과학 혁명기에 천체의 움직임을 설명하기 위해 미적분학이 탄생했듯이, 현대의 정보 혁명은 새로운 수학적 추상화를 요구합니다. 우리가 마주한 0과 1의 디지털 정보들을 어떻게 더 깊이 있게 이해하고 다룰 것인가는 미래 수학의 핵심 과제입니다. 수학은 시대의 요구에 따라 새로운 지평을 열어왔으며, 지금 이 순간에도 우리가 경험하지 못한 새로운 세계를 탐험하고 있습니다. 컴퓨터와 인공지능의 발전은 수학자의 역할을 축소하는 것이 아니라 오히려 확장시키고 있습니다. 머신러닝이나 딥러닝 같은 기술은 수학적 문제를 해결하는 새로운 방식을 제시하며, 수치해석학이나 이산수학 분야에서 이전에는 상상하지 못했던 질문들을 던지게 합니다. 도구가 정교해질수록 우리가 다룰 수 있는 문제의 범위는 자동차에서 비행기, 우주선으로 넓어지듯 무한히 확장됩니다. 결국 기술의 발전은 수학자들에게 더 본질적이고 창의적인 문제를 고민할 수 있는 기회를 제공하는 셈입니다. 최근 강조되는 코딩 교육 역시 수학적 사고와 깊은 연관이 있습니다. 프로그래밍 언어는 컴퓨터와 소통하기 위한 일종의 외국어와 같으며, 그 기저에는 엄밀한 논리가 자리 잡고 있습니다. 코딩을 통해 자신의 생각을 논리적으로 전개하는 과정은 수학적 증명을 주고받는 과정과 본질적으로 다르지 않습니다. 단순히 기술적인 숙련도를 높이는 것을 넘어, 컴퓨터에게 자신의 논리를 설명할 수 있는 본질적인 사고력을 기르는 것이 중요합니다. 이러한 논리적 훈련은 수학적 실력을 향상시키는 밑거름이 됩니다. 수학자의 연구는 단순히 방 안에서 혼자 증명에 몰두하는 것에 그치지 않습니다. 좋은 문제를 찾아내기 위해 동료들과 끊임없이 대화하고 토론하며, 새로운 영감을 얻기 위해 노력합니다. 의미 있는 문제를 정의하고 이를 다른 이들과 공유하며 공감을 얻는 과정은 수학 연구에서 매우 중요한 부분을 차지합니다. 현대 수학은 개인의 천재성을 넘어 공동 연구와 협력을 통해 더욱 풍성해지고 있으며, 이러한 소통의 문화가 수학을 더욱 역동적인 학문으로 만들어가고 있습니다.

[강연] 미래의 수학자 (3) _ by엄상일 | 2017 가을 카오스 강연 '미래과학' 5강

엄상일, 이계식, 이준엽

카오스재단카오스강연
  • 물리학
  • 수학

[강연] 미래의 수학자 (2) _ by엄상일 | 2017 가을 카오스 강연 '미래과학' 5강 | 5강 ②

수학의 세계에서는 인간의 직관을 넘어서는 거대한 증명의 시대가 열리고 있습니다. 로날드 그레이엄이 제기한 피타고라스 세쌍조 색칠 문제는 그 대표적인 사례입니다. 자연수를 두 가지 색으로 칠할 때 같은 색의 피타고라스 세쌍조가 존재하지 않도록 할 수 있는지에 대한 이 질문은, 결국 2016년 슈퍼컴퓨터를 통해 해결되었습니다. 1부터 7824까지는 가능하지만 7825부터는 불가능하다는 사실이 밝혀졌는데, 이 증명의 크기는 무려 200테라바이트에 달했습니다. 이는 인간이 일일이 검토할 수 없는 방대한 데이터를 통해 수학적 진실을 규명한 혁신적인 사건이었습니다. 평면을 빈틈없이 채우는 볼록 오각형 타일링 문제 역시 컴퓨터와 인간의 협업이 빛난 분야입니다. 1918년 독일 수학자가 5개를 찾은 이후, 수학자가 아닌 가정주부 마조리 라이스가 독자적인 연구로 4개의 새로운 패턴을 찾아내며 학계를 놀라게 했습니다. 이후 2015년 워싱턴 대학 연구팀이 15번째 패턴을 발견했고, 2017년에는 컴퓨터 프로그램을 통해 오직 15가지의 방법만이 존재한다는 사실이 최종적으로 증명되었습니다. 더 이상의 가능성이 없음을 확정 짓는 과정에서 컴퓨터는 수많은 경우의 수를 완벽하게 계산해내며 탐색의 종지부를 찍었습니다. 에르되시 어긋남 추측은 수열의 합이 무한히 커질 수 있는지를 묻는 난제였습니다. 이 문제 역시 초기에는 컴퓨터의 힘을 빌려 증명되었습니다. 특정 조건에서 수열의 길이가 1161에 도달하면 합의 절댓값이 2보다 커진다는 사실을 증명했는데, 당시 이 증명의 길이는 위키피디아 전체 용량보다도 컸습니다. 수학적 증명이 단순히 논리적 전개를 넘어 거대한 데이터의 집합체가 될 수 있음을 보여준 것입니다. 하지만 이러한 거대 증명은 결과의 정답 여부는 알려주지만, 왜 그러한 결과가 도출되었는지에 대한 인간적인 이해를 제공하기에는 한계가 있었습니다. 컴퓨터의 방대한 계산을 뛰어넘는 인간 통찰의 힘은 테렌스 타오 교수에 의해 증명되었습니다. 그는 2015년, 컴퓨터가 수천 페이지에 걸쳐 증명했던 에르되시 어긋남 추측을 단 한 줄의 군더더기 없는 논리로 모든 경우에 대해 해결했습니다. '수학계의 모차르트'라 불리는 그의 성취는 컴퓨터가 제시한 정답을 넘어, 보편적인 원리를 찾아내려는 수학자의 본질적인 역할을 상기시켰습니다. 이는 기계적인 계산이 줄 수 없는 우아하고 명쾌한 해답을 갈구하는 수학자들의 이상향을 보여주는 사례로 남았습니다. 현대 수학은 이제 고립된 연구를 넘어 대규모 협업의 시대로 나아가고 있습니다. 티모시 가워스 교수가 주도한 '폴리매스 프로젝트'는 인터넷을 통해 전 세계 수학자들이 집단 지성을 발휘하는 새로운 연구 방식을 제시했습니다. 블로그 댓글을 통해 실시간으로 토론하며 난제를 해결하는 이 방식은, 혼자서는 수년이 걸릴 문제를 단 몇 주 만에 풀어내는 놀라운 성과를 거두었습니다. 테렌스 타오 역시 이 프로젝트의 중간 성과를 바탕으로 자신의 증명을 완성할 수 있었으며, 이는 수학적 발견의 속도가 협업을 통해 비약적으로 빨라질 수 있음을 입증했습니다. 인공지능의 발전은 수학 연구의 미래에 대한 근본적인 질문을 던집니다. 전문가들은 향후 수십 년 내에 인공지능이 수학 경시대회 문제를 풀고, 나아가 최고 수준의 학술지에 실릴 만한 정리를 스스로 만들어낼 것이라고 예측합니다. 컴퓨터는 이제 단순한 계산 도구를 넘어 가설을 설정하고 증명하며, 심지어 인간이 작성한 증명의 오류를 검증하는 역할까지 수행하고 있습니다. 물론 가치 판단이나 문제의 중요성을 결정하는 영역은 여전히 인간의 몫으로 남아있지만, 인공지능이 수학적 창의성의 영역에 발을 들이고 있다는 사실은 부정할 수 없습니다. 결국 미래의 수학은 인간과 컴퓨터의 긴밀한 파트너십으로 정의될 것입니다. 필즈상 수상자인 보에보드스키는 인간의 실수를 방지하기 위해 모든 증명을 컴퓨터로 검증해야 한다고 주장한 반면, 다른 이들은 인간의 직관적 이해가 결여된 증명은 진정한 지식이라 보기 어렵다고 반박합니다. 하지만 분명한 것은 수학의 세계가 점점 더 복잡해짐에 따라 컴퓨터의 도움 없이는 완전한 검증이 불가능한 시대가 오고 있다는 점입니다. 인간은 더 고차원적인 질문을 던지고, 컴퓨터는 그 질문에 대한 정밀한 답을 찾아가는 과정에서 수학은 새로운 진화를 거듭할 것입니다.

[강연] 미래의 수학자 (2) _ by엄상일 | 2017 가을 카오스 강연 '미래과학' 5강

엄상일

카오스재단카오스강연
  • 물리학
  • 수학

[강연] 미래의 수학자 (1) _ by엄상일 | 2017 가을 카오스 강연 '미래과학' 5강 | 5강 ①

수학은 흔히 연속적인 변화를 다루는 미적분을 떠올리게 하지만, 점과 점의 연결을 다루는 이산수학 또한 현대 사회에서 중요한 역할을 합니다. 지하철 노선도처럼 불연속적인 구조를 연구하는 이 분야는 인공지능 시대에 접어들며 새로운 국면을 맞이하고 있습니다. 특히 수학자의 핵심 업무인 '증명'의 방식이 과거와는 확연히 달라지고 있다는 점에 주목해야 합니다. 미래의 수학자들은 단순히 펜과 종이로 논리를 전개하는 것을 넘어, 컴퓨터와 협력하여 진리를 탐구하는 새로운 시대를 살아가게 될 것입니다. 수학적 증명의 역사는 기원전 300년경 유클리드 원론에서 시작되었습니다. 이는 점과 선에 대한 정의와 증명 없이 맞다고 인정하는 공리로부터 시작해, 완벽하게 논리적인 과정을 거쳐 결론을 도출하는 작업입니다. 독일의 수학자 힐베르트는 수학적 대상의 이름이 무엇이든 논리적 관계만 성립한다면 엄밀한 수학이 될 수 있다고 강조했습니다. 이러한 엄밀함은 수학의 기초를 다지는 핵심이며, 현대 수학자들 또한 모든 유도 과정이 100% 정확해야 한다는 이상을 품고 연구에 매진하고 있습니다. 하지만 증명이 너무 길고 복잡해지면 인간의 인지 능력으로는 이를 완벽히 검증하기 어려워집니다. 화이트헤드와 러셀은 '1 더하기 1은 2'라는 당연한 사실을 증명하기 위해 무려 360페이지를 할애하기도 했습니다. 실제 연구 현장에서는 동료 수학자들이 논문을 읽고 검토하는 과정을 거치지만, 만약 증명을 읽는 데만 100년이 걸린다면 그 결과의 무결성을 확신하기란 불가능에 가깝습니다. 이러한 한계는 수학자들이 컴퓨터라는 새로운 도구에 눈을 돌리게 만든 결정적인 계기가 되었습니다. 케플러 추측은 공을 가장 빽빽하게 쌓는 방법에 관한 문제로, 1998년 토마스 헤일스에 의해 해결되었습니다. 그러나 그의 증명은 인간이 검토하기에는 너무나 방대했습니다. 250쪽의 논문 외에도 컴퓨터로 계산한 데이터가 3GB에 달했기 때문입니다. 12명의 검증 위원이 4년 동안 매달렸음에도 불구하고 99%의 확신만을 가질 뿐, 100% 완벽한 검증은 불가능하다는 결론을 내렸습니다. 이는 수학적 진실이 인간의 검토 범위를 넘어설 수 있음을 보여준 상징적인 사건이었습니다. 헤일스 교수는 자신의 증명을 완벽히 인정받기 위해 '플라이스펙' 프로젝트를 시작했습니다. 이는 공리와 정의로부터 모든 논리적 단계를 컴퓨터가 직접 검증하게 만드는 '형식 증명'의 과정이었습니다. 11년이라는 긴 시간 동안 매진한 끝에, 2014년 마침내 컴퓨터를 통해 증명의 모든 과정이 100% 확실하다는 것을 확인받았습니다. 이로써 1611년에 제기된 난제는 비로소 종지부를 찍게 되었습니다. 이제 수학은 인간의 직관을 넘어 기계적 엄밀함으로 무장한 새로운 검증의 시대로 진입했습니다. 지도 채색에 관한 '4색 문제' 또한 컴퓨터의 도움으로 해결된 대표적인 사례입니다. 1976년 처음 증명되었을 당시, 수학계에서는 컴퓨터의 결과를 신뢰할 수 있는지를 두고 뜨거운 논쟁이 벌어졌습니다. 하지만 기술이 발전함에 따라 '코크(Coq)'와 같은 증명 보조 프로그램이 등장했고, 수만 줄의 코드를 통해 증명의 무결성을 입증하는 방식이 점차 자리를 잡았습니다. 이제는 인간의 실수 가능성보다 컴퓨터의 논리적 정확성을 더 신뢰하는 흐름이 강화되고 있으며, 이는 수학의 확실성을 담보하는 중요한 수단이 되었습니다. 이러한 형식 증명 기술은 순수 수학을 넘어 실생활의 안전을 지키는 데에도 활용됩니다. 비행기 조종 소프트웨어나 CPU 설계처럼 작은 오류가 치명적인 사고로 이어질 수 있는 분야에서는 수학적으로 버그가 없음을 증명하는 과정이 필수적입니다. 미래의 수학자들은 컴퓨터와 협력하여 복잡한 시스템의 완벽함을 입증하는 역할을 수행하게 될 것입니다. 비록 수학자들이 여전히 짧고 아름다운 증명을 갈망할지라도, 컴퓨터를 통한 엄밀한 검증은 거스를 수 없는 시대적 흐름이 되었습니다.

[강연] 미래의 수학자 (1) _ by엄상일 | 2017 가을 카오스 강연 '미래과학' 5강

엄상일

카오스재단카오스강연
  • 물리학
  • 수학