테렌스타오

2 Contents

[과학자가 쓴 과학책#14] 연결과 확률의 중요성 | 박형주 _ 배우고 생각하고 연결하고 | KAOS X 공원생활 특집

새로운 환경에 적응하며 학문에 매진하던 유학 시절, 연구의 벽에 부딪혀 좌절을 경험한 적이 있습니다. 노력만으로는 해결되지 않는 결과의 부재는 깊은 무력감을 안겨주었고, 설상가상으로 경제적 위기까지 겹치며 학업을 포기해야 할 상황에 놓였습니다. 하지만 인생의 가장 낮은 지점에서 마주한 뜻밖의 기회는 '연결'이라는 가치를 깨닫게 해주었습니다. 한 분야에서 도저히 풀리지 않던 난제가 다른 분야에서는 이미 해결된 상식일 수 있다는 사실을 직접 경험하며, 타인의 목소리에 귀를 기울이는 태도가 얼마나 중요한지 실감하게 되었습니다. 절망적인 상황에서 우연히 엿듣게 된 공학자들의 대화는 인생의 전환점이 되었습니다. 그들이 고민하던 디지털 신호처리의 난제는 수학계에서 이미 수십 년 전에 증명된 정리와 맞닿아 있었습니다. 낯선 분야의 대화에 용기 내어 끼어든 작은 행동은 단순한 오지랖을 넘어, 서로 다른 학문의 언어를 잇는 가교가 되었습니다. 수학적 지식이 공학적 문제의 실마리가 될 수 있음을 확인한 순간, 개인의 위기는 공동 연구라는 새로운 가능성으로 변모했습니다. 이는 자신의 전문 분야에만 갇혀 있어서는 결코 보지 못했을 넓은 시야를 선사했습니다. 서로 다른 언어를 사용하는 전문가들이 소통하지 못할 때 지식의 단절이 발생합니다. 공학자의 언어와 수학자의 언어가 다르기에 같은 문제를 두고도 서로의 해답을 알아보지 못하는 경우가 많습니다. 하지만 타 분야의 언어를 이해하려 노력하고 대화에 참여할 때, 비로소 근본적인 난제 해결의 문이 열립니다. 수학적 이론을 공학적 실무에 적용하며 다차원 신호처리 전문가로 거듭났던 경험은, 현대 사회에서 '연결'과 '협력'이 단순한 구호를 넘어 생존과 성장을 위한 필수적인 동력임을 증명하는 살아있는 사례가 되었습니다. 역사 속에서도 위대한 성취는 서로 다른 분야의 천재들이 협력할 때 탄생했습니다. 르네상스 시대를 풍미한 레오나르도 다빈치와 수학자 루카 파초올리의 만남이 대표적입니다. 경험을 통해 배우던 예술가 다빈치는 수학적 계산만으로 결과를 예측하는 파초올리의 지식에 매료되었고, 두 사람은 기하학과 미술을 결합한 명저를 남겼습니다. 예술적 직관과 논리적 엄밀함이 결합하여 시대의 패러다임을 바꾼 것입니다. 이처럼 우연한 만남에서 시작된 학문 간의 교류는 인류 지성사에 지대한 영향을 미치는 결과물을 만들어내곤 합니다. 현대 확률론의 탄생 역시 두 천재 수학자, 페르마와 파스칼의 서신 교환이라는 협력의 산물입니다. 200년 동안 풀리지 않았던 '점수 문제'를 해결하기 위해 그들은 과거의 데이터가 아닌 미래의 가능성에 주목했습니다. 중단된 게임의 판돈을 어떻게 나눌 것인가라는 질문에 대해, 각자가 이길 확률이라는 '기댓값'의 개념을 도입하며 발상의 전환을 이뤄냈습니다. 두 사람이 주고받은 편지는 단순한 문제 풀이를 넘어, 불확실한 미래를 수학적으로 계량화하는 현대 확률론의 기초를 세웠으며 이는 오늘날 금융과 과학 전반의 근간이 되었습니다. 오늘날 수학의 난제들은 무작위성이라는 개념을 통해 새로운 국면을 맞이하고 있습니다. 정수론의 오랜 숙제였던 소수 등차수열 문제나 쌍둥이 소수 가설 등은 해석학이나 확률론적 접근을 통해 해결의 실마리를 찾고 있습니다. 테렌스 타오나 장이탕 같은 수학자들은 자신의 전공 분야에 매몰되지 않고 다양한 수학적 도구를 연결하여 불가능해 보이던 증명을 해냈습니다. 특히 늦은 나이에 학문적 성취를 이룬 사례는 지식의 탐구에 경계가 없음을 보여줍니다. 무작위성이라는 강력한 무기는 이제 인공지능과 같은 첨단 기술의 핵심 원리로도 확장되고 있습니다. 확률과 정보의 연결은 현대 정보 이론의 핵심인 엔트로피 개념으로 이어집니다. 클로드 섀넌은 사건이 발생할 확률이 낮을수록 그 정보의 가치가 크다는 사실을 정립했습니다. 당연한 사실보다는 희귀한 사건이 더 많은 정보를 담고 있다는 통찰은 데이터를 효율적으로 전송하고 저장하는 기술적 토대가 되었습니다. 자주 발생하는 신호는 짧게, 드문 신호는 길게 부호화하는 방식은 우리가 매일 사용하는 디지털 통신의 경제성을 보장합니다. 17세기 수학자들의 호기심에서 시작된 확률의 개념이 오늘날 초연결 사회를 지탱하는 정보 이론의 뿌리가 된 셈입니다.

[과학자가 쓴 과학책#14] 연결과 확률의 중요성 | 박형주 _ 배우고 생각하고 연결하고 | KAOS X 공원생활 특집

박형주

카오스재단읽다과학
  • 수학

[강연] 미래의 수학자 (2) _ by엄상일 | 2017 가을 카오스 강연 '미래과학' 5강 | 5강 ②

수학의 세계에서는 인간의 직관을 넘어서는 거대한 증명의 시대가 열리고 있습니다. 로날드 그레이엄이 제기한 피타고라스 세쌍조 색칠 문제는 그 대표적인 사례입니다. 자연수를 두 가지 색으로 칠할 때 같은 색의 피타고라스 세쌍조가 존재하지 않도록 할 수 있는지에 대한 이 질문은, 결국 2016년 슈퍼컴퓨터를 통해 해결되었습니다. 1부터 7824까지는 가능하지만 7825부터는 불가능하다는 사실이 밝혀졌는데, 이 증명의 크기는 무려 200테라바이트에 달했습니다. 이는 인간이 일일이 검토할 수 없는 방대한 데이터를 통해 수학적 진실을 규명한 혁신적인 사건이었습니다. 평면을 빈틈없이 채우는 볼록 오각형 타일링 문제 역시 컴퓨터와 인간의 협업이 빛난 분야입니다. 1918년 독일 수학자가 5개를 찾은 이후, 수학자가 아닌 가정주부 마조리 라이스가 독자적인 연구로 4개의 새로운 패턴을 찾아내며 학계를 놀라게 했습니다. 이후 2015년 워싱턴 대학 연구팀이 15번째 패턴을 발견했고, 2017년에는 컴퓨터 프로그램을 통해 오직 15가지의 방법만이 존재한다는 사실이 최종적으로 증명되었습니다. 더 이상의 가능성이 없음을 확정 짓는 과정에서 컴퓨터는 수많은 경우의 수를 완벽하게 계산해내며 탐색의 종지부를 찍었습니다. 에르되시 어긋남 추측은 수열의 합이 무한히 커질 수 있는지를 묻는 난제였습니다. 이 문제 역시 초기에는 컴퓨터의 힘을 빌려 증명되었습니다. 특정 조건에서 수열의 길이가 1161에 도달하면 합의 절댓값이 2보다 커진다는 사실을 증명했는데, 당시 이 증명의 길이는 위키피디아 전체 용량보다도 컸습니다. 수학적 증명이 단순히 논리적 전개를 넘어 거대한 데이터의 집합체가 될 수 있음을 보여준 것입니다. 하지만 이러한 거대 증명은 결과의 정답 여부는 알려주지만, 왜 그러한 결과가 도출되었는지에 대한 인간적인 이해를 제공하기에는 한계가 있었습니다. 컴퓨터의 방대한 계산을 뛰어넘는 인간 통찰의 힘은 테렌스 타오 교수에 의해 증명되었습니다. 그는 2015년, 컴퓨터가 수천 페이지에 걸쳐 증명했던 에르되시 어긋남 추측을 단 한 줄의 군더더기 없는 논리로 모든 경우에 대해 해결했습니다. '수학계의 모차르트'라 불리는 그의 성취는 컴퓨터가 제시한 정답을 넘어, 보편적인 원리를 찾아내려는 수학자의 본질적인 역할을 상기시켰습니다. 이는 기계적인 계산이 줄 수 없는 우아하고 명쾌한 해답을 갈구하는 수학자들의 이상향을 보여주는 사례로 남았습니다. 현대 수학은 이제 고립된 연구를 넘어 대규모 협업의 시대로 나아가고 있습니다. 티모시 가워스 교수가 주도한 '폴리매스 프로젝트'는 인터넷을 통해 전 세계 수학자들이 집단 지성을 발휘하는 새로운 연구 방식을 제시했습니다. 블로그 댓글을 통해 실시간으로 토론하며 난제를 해결하는 이 방식은, 혼자서는 수년이 걸릴 문제를 단 몇 주 만에 풀어내는 놀라운 성과를 거두었습니다. 테렌스 타오 역시 이 프로젝트의 중간 성과를 바탕으로 자신의 증명을 완성할 수 있었으며, 이는 수학적 발견의 속도가 협업을 통해 비약적으로 빨라질 수 있음을 입증했습니다. 인공지능의 발전은 수학 연구의 미래에 대한 근본적인 질문을 던집니다. 전문가들은 향후 수십 년 내에 인공지능이 수학 경시대회 문제를 풀고, 나아가 최고 수준의 학술지에 실릴 만한 정리를 스스로 만들어낼 것이라고 예측합니다. 컴퓨터는 이제 단순한 계산 도구를 넘어 가설을 설정하고 증명하며, 심지어 인간이 작성한 증명의 오류를 검증하는 역할까지 수행하고 있습니다. 물론 가치 판단이나 문제의 중요성을 결정하는 영역은 여전히 인간의 몫으로 남아있지만, 인공지능이 수학적 창의성의 영역에 발을 들이고 있다는 사실은 부정할 수 없습니다. 결국 미래의 수학은 인간과 컴퓨터의 긴밀한 파트너십으로 정의될 것입니다. 필즈상 수상자인 보에보드스키는 인간의 실수를 방지하기 위해 모든 증명을 컴퓨터로 검증해야 한다고 주장한 반면, 다른 이들은 인간의 직관적 이해가 결여된 증명은 진정한 지식이라 보기 어렵다고 반박합니다. 하지만 분명한 것은 수학의 세계가 점점 더 복잡해짐에 따라 컴퓨터의 도움 없이는 완전한 검증이 불가능한 시대가 오고 있다는 점입니다. 인간은 더 고차원적인 질문을 던지고, 컴퓨터는 그 질문에 대한 정밀한 답을 찾아가는 과정에서 수학은 새로운 진화를 거듭할 것입니다.

[강연] 미래의 수학자 (2) _ by엄상일 | 2017 가을 카오스 강연 '미래과학' 5강

엄상일

카오스재단카오스강연
  • 물리학
  • 수학