서인석

5 Contents

[강연] 불확실과 확실, 그 사이의 외줄타기 : 확률 2_by 서인석 | 2024 카오스강연 '세상에 나쁜 수학은 없다' 시즌2 7강 두 번째 이야기 | 7강 ②

확률은 17세기부터 논의되어 왔으나 20세기 초까지도 독립된 수학 분야로 온전히 자리 잡지 못했습니다. 1900년 수학자 힐베르트는 인류가 해결해야 할 주요 과제 중 하나로 확률을 수학적 공리에 의해 정의할 것을 제안했습니다. 이에 응답한 인물이 바로 콜모고로프입니다. 그는 1933년 측도론을 기반으로 확률론의 기틀을 세웠으며, 이는 파스칼과 페르마 이후 약 300년 만에 확률이 엄밀한 수학적 체계를 갖추게 된 역사적인 순간이었습니다. 콜모고로프의 공리적 정의는 의외로 단순한 철학에서 시작됩니다. 전체 사건이 발생할 확률을 1로 두고, 서로 겹치지 않는 사건들의 확률을 합산하는 등 우리가 당연하게 여기는 성질들을 수학적 언어로 정리한 것입니다. 이러한 접근은 확률을 해석학의 틀 안에서 설명할 수 있게 했으며, 덕분에 확률론은 편미분 방정식이나 조화 해석과 같은 고등 수학 도구들을 활용하며 폭발적으로 발전할 수 있는 토대를 마련하게 되었습니다. 하지만 수학적 정의와 현실 세계의 구현 사이에는 괴리가 존재합니다. 우리는 동전 던지기의 확률을 흔히 절반이라고 생각하지만, 퍼시 다이아코니스 교수의 연구에 따르면 물리적인 동전 던지기는 처음에 위를 향했던 면이 다시 나올 확률이 약 50.8%로 더 높습니다. 이는 완벽한 무작위성을 현실에서 구현하는 것이 얼마나 어려운지를 시사하며, 우리가 당연하게 믿어왔던 확률적 공정성에 대해 다시금 질문을 던지게 만듭니다. 진정한 무작위성을 만들기 어려운 현실에서 인류가 고안한 해결책은 '마르코프 체인 몬테카를로(MCMC)' 기법입니다. 이는 특정 지점에서 시작해 서서히 확률을 퍼뜨려 목표하는 분포에 도달하게 만드는 방식입니다. 처음에는 무작위가 아니더라도 반복적인 과정을 통해 점차 정교한 확률 분포를 만들어내는 이 철학은, 오늘날 복잡한 데이터를 처리하는 딥러닝과 인공지능 알고리즘의 핵심적인 기반 기술로 자리 잡고 있습니다. MCMC의 흥미로운 특성 중 하나는 '컷오프 현상'입니다. 카드 섞기를 예로 들면, 카드는 섞을 때마다 조금씩 무작위해지는 것이 아니라 다섯 번까지는 거의 섞이지 않다가 일곱 번이 되는 순간 급격하게 무작위 상태에 도달합니다. 이러한 비선형적인 변화는 우리의 직관을 크게 벗어납니다. 수학적으로 증명된 이 '위닝 넘버'는 단순히 많이 반복하는 것보다 임계점을 넘어서는 것이 확률적 균형을 이루는 데 얼마나 중요한지를 보여줍니다. 컷오프 현상은 카드 섞기뿐만 아니라 사다리 타기, 구글의 검색 엔진, 딥러닝 알고리즘 등 다양한 분야에서 보편적으로 관찰됩니다. 전혀 다른 메커니즘을 가진 시스템들이 특정 지점에서 갑자기 균형 상태로 전이되는 공통된 법칙을 따르는 것입니다. 수학자들은 이를 '보편성'이라 부르며 우주의 섭리로 이해하려 노력하고 있습니다. 비록 그 근본적인 원인이 완벽히 밝혀지지는 않았으나, 이는 불확실성 속에 숨겨진 확실한 질서를 상징합니다. 인류는 오랜 시간 불확실성을 두려워하며 예측의 대상으로만 여겨왔으나, 이제는 이를 이해하고 활용하는 단계에 이르렀습니다. 인공지능의 발전은 불확실성을 도구로 삼아 문명을 꽃피운 대표적인 사례입니다. 하지만 우리는 여전히 그 작동 원리를 완벽히 통제하지 못하고 있습니다. 불확실한 세계 속에서 수학이라는 확실한 도구를 통해 보편적 원리를 찾아내는 과정은, 인류가 더 안전하고 정교한 미래를 설계하기 위해 반드시 걸어가야 할 길입니다.

[강연] 불확실과 확실, 그 사이의 외줄타기 : 확률 2_by 서인석 | 2024 카오스강연 '세상에 나쁜 수학은 없다' 시즌2 7강 두 번째 이야기

서인석

카오스재단카오스강연
  • 수학

[강연] 불확실과 확실, 그 사이의 외줄타기 : 확률 1_by 서인석 | 2024 카오스강연 '세상에 나쁜 수학은 없다' 시즌2 7강 첫 번째 이야기 | 7강 ①

확률은 일상에서 흔히 쓰이는 친숙한 개념처럼 보이지만, 사실 수학적으로 정립된 지는 100년도 채 되지 않은 생소한 분야입니다. 우리는 동전을 던지거나 일기예보를 볼 때 직관적으로 확률을 이해한다고 믿지만, 인류가 이 개념을 명확히 깨닫기까지는 수천 년의 시간이 필요했습니다. 확률의 역사는 단순히 숫자를 계산하는 법을 배운 과정이 아니라, 세상을 바라보는 관점이 근본적으로 변화해 온 과정이라 할 수 있습니다. 고대 유적에서는 기원전 6000년경의 주사위가 발견될 정도로 인류는 오래전부터 우연을 이용한 놀이를 즐겼습니다. 하지만 놀랍게도 16세기 이전까지는 확률이라는 개념 자체가 존재하지 않았습니다. 당시 사람들은 주사위 눈이 나오는 결과를 우연이 아닌 신의 뜻이나 운명으로 여겼기 때문입니다. 불확실한 미래를 계량화하려는 시도 대신 신앙에 의존했던 사회적 분위기가 확률의 등장을 늦추는 결정적인 요인이 되었습니다. 르네상스 시대를 거치며 상업과 보험이 발달하자 인류는 위험을 회피하기 위해 우연을 과학적으로 분석하기 시작했습니다. 확률론의 본격적인 시작은 17세기 파스칼과 페르마가 주고받은 편지에서 비롯되었습니다. 중단된 도박의 상금을 어떻게 배분할 것인가라는 지극히 현실적인 고민이 수학적 논의로 이어졌고, 이를 통해 '전체 경우의 수 대비 해당 경우의 수'라는 확률의 기초적인 정의가 인류 역사상 처음으로 정립되었습니다. 19세기에 이르러 라플라스는 확률을 인간의 지식 부족을 보완하는 도구로 정의했습니다. 그는 우주의 모든 입자의 위치와 운동량을 아는 존재가 있다면 미래는 확정되어 있지만, 인간은 그 복잡한 상호작용을 모두 계산할 수 없기에 확률을 사용한다고 보았습니다. 이러한 관점은 우연을 신의 영역에서 떼어내 세속화하는 계기가 되었으며, 수많은 데이터를 다루는 통계학이 확률과 함께 비약적으로 발전하는 토대가 되었습니다. 확률이 어려운 이유는 우리의 직관과 충돌하는 경우가 많기 때문입니다. 예를 들어 두 자녀 중 한 명이 딸이라는 정보가 있을 때 모두 딸일 확률을 구하는 문제는 조건에 따라 결과가 판이하게 달라집니다. 특히 '월요일에 태어난 딸'과 같은 추가 정보가 주어지면 확률이 예상치 못한 수치로 변하는 현상은 전문가들조차 직관적으로 설명하기 힘들어합니다. 이는 인간의 직관이 얼마나 허약한지를 보여주며, 왜 엄밀한 수학적 접근이 필요한지를 증명합니다. 몬티 홀 문제나 두 개의 봉투 역설 역시 확률적 사고가 얼마나 까다로운지를 잘 보여줍니다. 선택을 바꾸는 것이 유리하다는 결론이나 기댓값이 무한히 증폭되는 논리적 오류는 단순한 계산 이상의 깊은 통찰을 요구합니다. 20세기에 들어서야 확률이 수학적 공리계 위에서 정의될 수 있었던 이유는, 이처럼 직관을 배제하고 논리적 엄밀함을 갖추는 과정이 그만큼 험난했기 때문입니다. 확률은 단순한 운이 아니라 정교한 논리의 산물입니다. 확률에 대한 오해는 때로 사회적 비극을 초래하기도 합니다. 영국의 샐리 클락 사건처럼 독립적이지 않은 사건의 확률을 잘못 계산하여 무고한 사람에게 유죄를 선고한 사례는 확률적 문해력의 중요성을 일깨워줍니다. 우리는 확률을 잘 안다고 착각하기 쉽지만, 사실은 여전히 낯설고 생소한 영역임을 인정해야 합니다. 불확실한 세상에서 확실한 판단을 내리기 위해 수학이라는 도구로 우리의 빈약한 직관을 끊임없이 보강해야 하는 이유가 여기에 있습니다.

[강연] 불확실과 확실, 그 사이의 외줄타기 : 확률 1_by 서인석 | 2024 카오스강연 '세상에 나쁜 수학은 없다' 시즌2 7강 첫 번째 이야기

서인석

카오스재단카오스강연
  • 수학

[강연] 수학으로 맞서는 불확실한 세계 by서인석|2021 서울대 자연과학 공개강연 '불확실한 세계, 그래서 과학' | 1강

현실 세계의 불확실성은 너무나 복잡하여 그 전체를 완벽히 이해하는 것은 불가능에 가깝습니다. 하지만 수학을 도구로 삼으면 복잡함 속에서도 변하지 않는 '보편적 원리'를 발견할 수 있습니다. 이는 개별적인 움직임에 매몰되지 않고 전체를 관관통하는 공통의 법칙을 찾는 과정입니다. 마치 기체 분자 하나하나의 움직임을 다 알지 못해도 기체의 전체적인 성질을 파악할 수 있는 것과 같습니다. 이러한 보편적 원리는 거친 현실의 불확실성 속에서 우리가 나아가야 할 방향을 알려주는 나침반 역할을 수행합니다. 첫 번째 보편적 원리는 '대수의 법칙'입니다. 주사위를 던지는 횟수가 늘어날수록 상황은 복잡해지는 듯 보이지만, 눈의 평균값은 이론적 기댓값인 3.5에 점점 가까워집니다. 이 원리는 잘 설계된 수학 실험뿐만 아니라 성인 남성의 몸무게와 같은 현실의 거친 데이터에서도 동일하게 성립합니다. 데이터가 충분히 쌓이면 불확실성이 줄어들고 유의미한 예측이 가능해지는 것입니다. 보편성을 가진 이 법칙 덕분에 우리는 무작위해 보이는 수치들 속에서 신뢰할 수 있는 정보를 추출하고 분석할 수 있게 됩니다. 두 번째 원리는 '갈톤-왓슨 수형도'를 통해 알 수 있는 확산의 법칙입니다. 성씨의 번성이나 바이러스의 전파처럼 확률적으로 뻗어 나가는 구조에서 가장 중요한 것은 전체가 멸종할지 혹은 무한히 확장할지 여부입니다. 놀랍게도 이를 결정하는 것은 각 개체의 복잡한 특성이 아니라, 한 명이 평균적으로 몇 명을 감염시키는지를 나타내는 '감염 재생산 지수(R)'입니다. R이 1 이하로 유지되면 확산은 결국 멈추게 됩니다. 이 보편적 원리는 정부가 방역 정책을 수립하고 상황을 점검하는 데 있어 결정적인 지표가 됩니다. 세 번째 원리는 '퍼콜레이션' 모형에서 나타나는 '상전이 현상'입니다. 격자에서 점을 지우는 비율이 특정 임계값을 넘어서는 순간, 거대했던 연결 구조가 갑자기 작은 클러스터들로 부서지는 현상을 말합니다. 이는 물이 특정 온도에서 갑자기 끓는 것과 유사한 원리입니다. 격자의 모양이 바뀌어도 이러한 급격한 변화가 일어난다는 사실 자체는 변하지 않는 보편성을 가집니다. 이러한 상전이의 원리는 다공성 매질의 배수 특성을 이해하거나, 감염병 확산을 막기 위한 집단 면역의 임계치를 계산하는 데 핵심적인 근거를 제공합니다. 수학의 세계에는 이외에도 수많은 보편적 원리가 존재합니다. 우리가 수학적 소양을 기르는 이유는 단순히 공식을 외우기 위함이 아니라, 불확실성으로 가득한 현실을 더 투명하게 바라보기 위해서입니다. 복잡한 현상 뒤에 숨겨진 단순하고 강력한 법칙을 이해할 때, 우리는 비로소 거대한 불확실성에 맞설 용기와 지혜를 얻게 됩니다. 보편적 원리는 혼란스러운 세계 속에서 우리가 길을 잃지 않도록 돕는 가장 정교한 지도이자 나침반입니다. 수학을 통해 세상을 보는 눈을 넓힌다면 불확실성은 더 이상 두려움의 대상이 아닐 것입니다.

[강연] 수학으로 맞서는 불확실한 세계  by서인석|2021 서울대 자연과학 공개강연 '불확실한 세계, 그래서 과학'

서인석

카오스재단서울대자연과학공개강연
  • 수학

[강연] 제28회 2021 서울대 자연과학 공개강연_'불확실한 세계, 그래서 과학'

현대 사회는 거대하고 복잡한 불확실성으로 가득 차 있습니다. 기후 변화부터 감염병의 확산까지, 우리가 마주하는 현실은 한 개인이 온전히 이해하기에는 너무나 방대합니다. 이러한 혼돈 속에서 과학은 단순한 지식의 나열을 넘어, 세상을 투명하게 바라보게 하는 나침반 역할을 수행합니다. 과학자들은 보편적 원리를 탐구함으로써 복잡한 현상 이면에 숨겨진 불변의 법칙을 찾아내고, 이를 통해 미래를 예측하며 인류가 나아갈 방향을 제시합니다. 불확실한 세계일수록 과학적 사고는 더욱 빛을 발하며 우리 삶의 근간을 지탱하는 강력한 도구가 됩니다. 수학은 불확실성 속에서 질서를 찾아내는 가장 강력한 언어입니다. 주사위를 던지는 사소한 행위부터 바이러스의 확산 경로를 예측하는 일까지, 수학은 '큰 수의 법칙'이나 '감염 재생산 지수'와 같은 개념을 통해 복잡한 데이터를 유의미한 정보로 변환합니다. 특히 확률적 모델을 통해 집단 면역의 임계점을 계산하거나 상전이를 이해하는 과정은 수학이 현실 세계와 얼마나 밀접하게 연결되어 있는지를 잘 보여줍니다. 수학적 소양을 기르는 것은 단순히 공식을 외우는 것이 아니라, 세상의 겉모습에 현혹되지 않고 그 중심에 흐르는 보편적 원리를 꿰뚫어 보는 통찰력을 갖추는 과정입니다. 지구 표면의 대부분을 차지하는 바다는 여전히 인류에게 미지의 영역으로 남아 있습니다. 전 세계 바다의 80% 이상이 아직 탐사되지 않았으며, 심해의 지형은 달의 표면보다도 덜 알려져 있습니다. 하지만 아르고 플로트와 같은 첨단 무인 관측 장비와 인공위성을 활용한 현대 해양학은 바다의 운동과 기후 변화의 상관관계를 정밀하게 추적하고 있습니다. 바다는 지구에 축적된 열에너지의 90%를 흡수하며 기후 조절자 역할을 수행합니다. 해류의 흐름과 수온 변화를 이해하는 것은 엘니뇨와 같은 기상 이변에 대비하고, 해양 생태계와 인류의 공존을 도모하는 데 필수적인 과제입니다. 우리 몸의 설계도인 DNA는 G, A, T, C라는 네 종류의 염기로 기록된 방대한 정보의 집합체입니다. 31억 자에 달하는 인간 유전체를 해독하기 위한 '인간 게놈 프로젝트'는 생명과학의 패러다임을 완전히 바꾸어 놓았습니다. 유전체 지도를 확보함으로써 인류는 희귀 질환의 원인을 규명하고 환자 맞춤형 정밀 의료를 실현할 수 있는 기반을 마련했습니다. 특히 최근의 시퀀싱 기술 발전은 코로나19 바이러스의 정체를 신속히 파악하고 백신을 단기간에 설계하는 데 결정적인 기여를 했습니다. 유전 정보의 해독은 생명의 신비를 밝히는 것을 넘어 인류의 건강과 생존을 지키는 핵심 기술로 자리 잡았습니다. 효소는 생명체 내에서 일어나는 거의 모든 화학 반응을 관장하는 정교한 촉매제입니다. 수백 년이 걸릴 수 있는 소화 과정을 단 몇 시간으로 단축하는 효소의 능력은 현대 과학 기술로도 완벽히 모사하기 어려울 만큼 경이롭습니다. 과학자들은 '유도 진화'와 같은 혁신적인 기법을 통해 자연계에 존재하는 효소의 기능을 개량하거나, 플라스틱을 분해하는 새로운 효소를 설계하는 등 환경 문제 해결에 도전하고 있습니다. 아미노산 서열의 미묘한 변화가 거대한 구조적 차이를 만들어내는 효소의 세계는 마치 작은 우주와 같습니다. 이러한 거대 분자에 대한 연구는 지속 가능한 미래를 위한 화학적 해답을 제시합니다. 현대 과학의 성과는 수학, 해양학, 생명과학, 화학 등 서로 다른 분야의 지식이 융합될 때 더욱 극대화됩니다. 수학적 모델링은 감염병 방역 정책의 근거가 되고, 해양 관측 데이터는 기후 위기 대응의 기초가 되며, 유전체 분석과 효소 공학은 신약 개발의 핵심이 됩니다. 과학자들은 각자의 영역에서 미지의 세계를 탐구하지만, 결국 그들의 목적지는 인류가 직면한 불확실성을 해소하고 더 나은 세상을 만드는 것이라는 점에서 일치합니다. 학문 간의 경계를 허무는 협력과 소통은 복잡해지는 지구촌 문제를 해결하기 위한 가장 효과적인 전략이며, 과학이 가진 진정한 힘은 바로 이러한 연결에서 나옵니다. 과학의 출발점은 주변 현상에 대한 사소한 호기심이며, 그 결실을 맺게 하는 동력은 포기하지 않는 끈기입니다. 보이지 않는 심해를 탐사하고, 보이지 않는 유전자를 읽어내며, 보이지 않는 분자의 세계를 설계하는 과정은 끊임없는 도전의 연속입니다. 불확실한 세계는 우리에게 두려움을 주기도 하지만, 동시에 과학이라는 도구를 통해 탐험할 수 있는 무한한 기회를 제공합니다. 질문을 멈추지 않고 진리를 찾아 나가는 과학적 태도는 미래 세대가 갖추어야 할 가장 소중한 가치입니다. 호기심을 잃지 않고 학문에 정진할 때, 우리는 비로소 불확실성을 확신으로 바꾸며 새로운 시대를 열어갈 수 있을 것입니다.

[강연] 제28회 2021 서울대 자연과학 공개강연_'불확실한 세계, 그래서 과학'

나한나, 서인석, 송윤주, 장혜식

카오스재단서울대자연과학공개강연
  • 화학
  • 생명과학
  • 지구환경과학
  • 수학

[석학인터뷰] 서인석_ 우리 시대에 '확률'이 중요한 이유 | 2021 서울대 자연과학대 공개강연 '불확실한 세계, 그래서 과학'

확률론은 순수 수학의 한 분야이지만, 물리, 통계, 경제, 금융 등 현실 세계의 다양한 영역과 긴밀하게 연결되어 있습니다. 단순한 주사위 던지기에서 시작된 확률의 개념은 현대 사회로 접어들며 데이터가 방대해짐에 따라 그 중요성이 더욱 커지고 있습니다. 특히 머신러닝이나 인공지능과 같은 첨단 기술 분야에서는 과거보다 훨씬 정교하고 발전된 확률적 기법을 요구합니다. 이러한 학문적 상호작용은 수학적 이론이 실제 세계의 복잡한 문제를 해결하는 강력한 도구가 될 수 있음을 보여주며 연구자들에게 끊임없는 영감을 제공합니다. 통계 역학은 확률론 연구에 있어 매우 중요한 위치를 차지하며, 특히 기체 입자의 움직임을 이해하는 데 핵심적인 역할을 합니다. 수많은 기체 입자의 개별적인 움직임을 완벽히 파악하는 것은 불가능에 가깝지만, 볼츠만 기체 수송 방정식과 같은 수학적 원리를 통해 전체적인 밀도 변화를 파악할 수 있습니다. 불확실성이 가득한 상황에서 미시적 성질에 얽매이지 않고 반드시 성립하는 보편적 원리를 찾아내는 과정은 매우 중요합니다. 이는 개별적인 불확실성이 전체를 이해하는 데 방해가 되는 현실 세계에서 우리가 복잡한 현상을 명확하게 통찰할 수 있도록 돕는 이정표가 됩니다. 수학적 역량을 기르는 데 있어 뛰어난 계산 실력과 집념은 필수적이지만, 때로는 이것이 연구자의 성장을 가로막는 양날의 검이 되기도 합니다. 계산에만 의존하다 보면 복잡한 수식 뒤에 숨겨진 원리와 구조를 깊이 있게 탐구하기보다 당장의 결과만을 쫓는 경향이 생길 수 있기 때문입니다. 진정한 수학적 성취는 단순히 문제를 빠르게 푸는 것이 아니라, 여러 정리 사이의 유기적인 관계를 자신만의 시각으로 재해석하고 이해하는 과정에서 비롯됩니다. 따라서 자신의 재능을 과신하기보다는 이를 적절히 통제하고 학문의 본질적인 구조를 파악하려는 겸손하고 깊이 있는 태도가 무엇보다 요구됩니다. 난관을 극복하기 위한 수학적 집념은 단기간에 모든 에너지를 쏟아붓는 불나방과 같은 방식이 되어서는 안 됩니다. 어려운 문제를 해결하기 위해서는 1년 이상의 장기적인 투자가 필요한 경우가 많으므로, 자신이 가진 에너지를 적재적소에 배분하여 균일하게 유지하는 능력이 필수적입니다. 연구 과정에서 마주하는 수많은 시행착오와 막막함 속에서도 지치지 않고 나아가기 위해서는 스스로의 열정을 조절할 줄 알아야 합니다. 매일같이 모든 에너지를 소진하기보다는 내일의 탐구를 위해 적절한 휴식을 취하며 장기적인 안목으로 문제와 싸워 나가는 것이 지속 가능한 연구를 가능하게 하는 핵심 비결입니다. 수학적 난관을 헤쳐 나가는 실질적인 방법 중 하나는 안 되는 길을 하나씩 지워 나가는 소거법의 과정입니다. 수많은 가능성 중에서 불가능한 방법들을 모두 찾아내고 나면 비로소 정답을 향한 유일한 길이 모습을 드러내게 됩니다. 이 과정은 상당한 시간이 소요되기에 연구자는 자신만의 규칙을 세워 정신적 소모를 방지해야 합니다. 예를 들어 특정 시간에 연구의 전원을 끄는 습관은 끝없는 몰입으로 인한 번아웃을 막고 평정심을 유지하는 데 도움을 줍니다. 이러한 절제와 체계적인 접근 방식은 불확실한 연구의 여정 속에서 길을 잃지 않고 목표에 도달하게 하는 든든한 버팀목이 되어줍니다.

[석학인터뷰] 서인석_ 우리 시대에 '확률'이 중요한 이유 | 2021 서울대 자연과학대 공개강연 '불확실한 세계, 그래서 과학'

서인석

카오스재단석학인터뷰
  • 수학