변분법

3 Contents

[강연] 최적화 이론, 인공지능 시대에 비상하다 1_by 권도현 / 2024 카오스강연 '세상에 나쁜 수학은 없다' 시즌2 8강 첫 번째 이야기 | 8강 ①

인공지능은 현대 과학의 정점으로 불리며, 최근 노벨 물리학상과 화학상을 인공지능 연구자들이 휩쓴 사건은 그 위상을 단적으로 보여줍니다. 과거에는 연구 성과가 인정받기까지 수십 년이 걸리기도 했으나, 인공지능 분야는 불과 몇 년 만에 세계적인 인정을 받을 만큼 혁신적인 속도로 발전하고 있습니다. 이러한 인공지능의 놀라운 퍼포먼스 이면에는 복잡한 문제를 효율적으로 해결하기 위한 수학적 원리가 숨어 있는데, 그 핵심이 바로 최적화 이론입니다. 최적화 이론이란 주어진 제약 조건 아래에서 목적 함수가 최솟값이나 최댓값을 가지는 지점을 찾는 과정을 의미합니다. 예를 들어, 특정 예산과 시간 내에 가장 멀리 이동할 수 있는 경로를 찾는 것이 실생활의 최적화 문제입니다. 수학적으로는 변수와 제약 조건을 설정하고, 이를 만족하는 최적의 해를 구하는 수식으로 표현됩니다. 인공지능 역시 방대한 데이터 속에서 가장 정확한 답을 내놓기 위해 이 최적화 과정을 끊임없이 반복하며 학습을 진행합니다. 최적화의 역사에서 중요한 이정표 중 하나는 18세기 몽주가 제안하고 20세기 칸토로비치가 일반화한 최적 운송 이론입니다. 이는 물류 비용을 최소화하기 위해 자원을 어떻게 배분할 것인가를 다루는 학문으로, 칸토로비치는 이 공로로 노벨 경제학상을 수상했습니다. 오늘날 아마존이나 쿠팡 같은 거대 물류 기업들이 효율적인 배송 시스템을 구축할 수 있는 것도 바로 이 이론 덕분입니다. 자원 배분의 효율성을 극대화하는 수학적 모델은 현대 산업 전반의 수익성과 직결됩니다. 최적화는 물리적 현상을 설명하는 데에도 필수적입니다. 중력이 작용하는 상황에서 공이 가장 빠르게 내려오는 경로를 찾는 '최단 강하 곡선' 문제는 변분법이라는 수학 분야를 탄생시켰습니다. 오일러와 라그랑주는 이 곡선을 나타내는 미분 방정식을 찾아내어 복잡한 함수의 최적점을 구하는 기틀을 마련했습니다. 이러한 고전 역학의 수학적 도구들은 오늘날 인공지능이 복잡한 데이터 분포를 이해하고 예측 모델을 설계하는 데 있어 강력한 기반이 되고 있습니다. 인공지능 모델에서 최적화는 '손실 함수'를 최소화하는 과정으로 구체화됩니다. 손실 함수란 인공지능이 예측한 값과 실제 정답 사이의 오차를 나타내는 지표입니다. 모델이 학습한다는 것은 결국 이 오차를 줄여나가는 과정을 의미하며, 수학적으로는 함수의 기울기를 이용해 최저점을 찾아가는 여정입니다. 오차가 작을수록 인공지능은 더 정확한 판단을 내리게 되며, 이를 위해 수학자들은 더 정교한 목적 함수를 설계하고 효율적인 계산 알고리즘을 개발하는 데 매진하고 있습니다. 오차를 줄이는 대표적인 방법은 '경사하강법'입니다. 이는 마치 안대를 쓴 채 그랜드 캐니언의 가장 깊은 골짜기를 찾아가는 과정과 비슷합니다. 현재 위치에서 지면의 경사를 파악해 가장 가파르게 내려가는 방향으로 한 걸음씩 이동하는 방식입니다. 이때 한 번에 이동하는 거리를 '학습률'이라고 부르는데, 이 값이 너무 작으면 학습 속도가 지나치게 느려지고, 너무 크면 최적점을 지나쳐버리는 문제가 발생합니다. 따라서 적절한 학습률을 설정하는 것이 인공지능 성능의 핵심입니다. 현실의 데이터는 매우 복잡하여 함수의 모양이 단순한 볼록 형태가 아닌 경우가 많습니다. 골짜기를 내려가다 보면 중간에 작은 웅덩이에 빠져 더 이상 내려가지 못하는 '지역 최솟값' 문제에 직면하기도 합니다. 이를 극복하기 위해 현대 인공지능은 무작위성을 도입한 '확률적 경사하강법'과 같은 고도화된 기법을 사용합니다. 수학적 엄밀함과 실험적 최적화가 결합된 이러한 노력들은 인공지능이 인간의 지능을 모방하고 초월하는 데 결정적인 역할을 수행하고 있습니다.

[강연] 최적화 이론, 인공지능 시대에 비상하다 1_by 권도현 / 2024 카오스강연 '세상에 나쁜 수학은 없다' 시즌2 8강 첫 번째 이야기

권도현

카오스재단카오스강연
  • 수학

[강연] 곡면의 수학, 미분기하학 탐험 2_by 최범준 / 2024 카오스강연 '세상에 나쁜 수학은 없다' 시즌2 │4강 두 번째 이야기 | 4강 ②

기하학의 역사는 땅을 측정하는 것에서 시작되었지만, 현대 수학에서는 이를 최적화라는 개념과 연결하여 깊이 있게 다룹니다. 최적화란 특정 조건 아래에서 함수의 최댓값이나 최솟값을 찾는 과정을 의미합니다. 평면 위의 두 점을 잇는 가장 짧은 경로가 직선이라는 자명한 사실부터, 정해진 둘레 안에서 가장 넓은 면적을 차지하는 도형을 찾는 문제까지 모두 기하학적 최적화의 범주에 속합니다. 이러한 문제를 해결하기 위해 수학자들은 변분법이라는 도구를 사용하여 복잡한 도형의 성질을 분석하고 증명해 왔습니다. 정해진 둘레를 가진 도형 중 면적이 가장 넓은 것은 원입니다. 이는 직관적으로 대칭성이 높은 도형이 최적의 해가 될 가능성이 크다는 점을 시사합니다. 수학적으로는 오목한 부분을 볼록하게 펴거나 대칭화하는 과정을 통해 면적을 넓힐 수 있는데, 이를 슈타이너 대칭화라고 부릅니다. 모든 방향에서 동일하게 볼록한 원은 더 이상 면적을 넓힐 수 없는 극한의 상태에 도달한 결과물입니다. 이러한 기하학적 통찰은 단순히 계산을 넘어 공간이 가진 본질적인 효율성과 대칭의 아름다움을 이해하는 중요한 열쇠가 됩니다. 변분법은 미세한 변화를 주어도 전체적인 상태가 변하지 않는 지점을 찾는 학문입니다. 이는 마치 함수의 그래프에서 기울기가 0인 극점을 찾는 것과 유사합니다. 이 원리를 3차원 공간으로 확장하면 비누막과 같은 극소 곡면의 개념이 등장합니다. 비누막은 표면 장력에 의해 주어진 경계 안에서 면적을 최소화하려는 성질을 가집니다. 자연은 스스로 에너지를 최소화하는 방향으로 형태를 결정하며, 수학자들은 이를 통해 무한 차원의 공간에서도 최적의 해가 존재함을 증명해 냈습니다. 이는 자연의 효율성을 수학적으로 입증한 사례입니다. 극소 곡면의 대표적인 예로는 두 원형 철사 사이에 생기는 현수면이 있습니다. 이는 단순히 원통형을 이루는 것이 아니라, 허리 부분이 잘록하게 들어간 형태를 띱니다. 면적을 줄이려는 성질과 경사로 인해 면적이 늘어나는 성질 사이에서 절묘한 균형을 찾은 결과입니다. 수학적으로 극소 곡면은 두 주곡률의 합인 평균 곡률이 0이 되는 지점으로 정의됩니다. 한쪽은 위로, 다른 쪽은 아래로 볼록한 안장 형태를 띠며 어느 방향으로도 치우치지 않는 평형 상태를 유지하는 것입니다. 이러한 정교한 계산은 자연이 선택한 최적의 비율을 보여줍니다. 기하학적 최적화는 현대 수학의 난제를 해결하는 데에도 결정적인 역할을 했습니다. 대표적으로 푸앵카레 추측은 리치 흐름이라는 방정식을 통해 해결되었습니다. 이는 불규칙한 공간을 시간이 흐름에 따라 점점 균일하고 대칭적인 형태로 변화시켜 최적화하는 과정과 닮아 있습니다. 열이 퍼져 평형을 이루듯, 공간의 곡률을 고르게 펴서 구의 형태로 수렴시키는 이 방식은 미분 기하학의 강력한 힘을 증명했습니다. 결국 기하학은 단순한 측량을 넘어, 우주의 구조와 자연의 원리를 최적화라는 관점에서 바라보는 거대한 틀을 제공합니다.

[강연] 곡면의 수학, 미분기하학 탐험 2_by 최범준 / 2024 카오스강연 '세상에 나쁜 수학은 없다' 시즌2 │4강 두 번째 이야기

최범준

카오스재단카오스강연
  • 수학

뉴턴을 알고 있다면 무조건 봐야 하는 영상

1687년 출간된 뉴턴의 《프린키피아》는 천상과 지상의 운동을 하나의 원리로 통일하며 인류에게 거대한 우주의 법칙을 선사했습니다. 하지만 뉴턴 역학이 모든 자연 현상을 완벽하게 설명하기에는 한계가 있었기에, 이후의 수학자들은 이 이론을 정교하게 다듬기 시작했습니다. 대표적인 인물인 스위스의 수학자 레온하르트 오일러는 뉴턴 역학의 미적분학을 오늘날의 형태로 개편하였습니다. 또한 그는 쾨니히스베르크 다리 문제를 해결하며 위상수학의 기초를 다졌고, 삼각함수를 확장하여 허수를 도입한 오일러 공식을 고안했습니다. 나아가 질량 분포가 복잡한 물체의 회전 운동을 분석하는 오일러 운동 방정식을 만들어 강체 역학의 발전에 크게 기여했습니다. 오일러와 동시대에 활동한 조제프 루이 라그랑주는 뉴턴 역학의 성과들을 집대성하여 《해석역학》을 저술했습니다. 그는 자연의 물리적 경로를 최소와 최대의 극단으로 분석하는 변분법을 고안했는데, 이는 후대 해밀턴에 의해 '최소 작용의 원리'로 확장되었습니다. 이 원리는 빛의 최단 시간 경로를 설명하는 페르마의 원리를 포함하여 훗날 양자역학의 중요한 기초가 되었습니다. 또한 라그랑주는 천체의 궤도 운동에서 미세한 간섭 효과를 분석하는 섭동론을 연구하여 중력이 균형을 이루는 '라그랑주 점'을 발견했습니다. 그는 최초로 '퍼텐셜' 개념을 도입하며 고전역학의 수학적 체계를 한 단계 끌어올렸습니다. 라그랑주가 정립한 해석역학은 회전하는 공간에서 발생하는 기묘한 관성력까지 명쾌하게 설명해 주었습니다. 구스타브 코리올리에 의해 명명된 코리올리 효과와 같은 관성 현상들은 지구의 자전과 밀접하게 연결되어 있었습니다. 이를 실험적으로 명쾌하게 증명해 낸 인물이 바로 프랑스의 과학자 레옹 푸코입니다. 그는 1851년 판테온 성당의 높은 돔에 긴 실을 늘어뜨려 거대한 진자를 설치하고 역사적인 실험을 수행했습니다. 시간이 흐름에 따라 진자의 진동면이 서서히 회전하는 현상은 중력과 장력 외에 다른 힘이 작용하지 않는 한 지표면 자체가 회전하고 있음을 뜻했고, 이는 인류가 지구의 자전을 눈으로 확인한 역사적 순간이었습니다. 뉴턴 역학은 천문학 분야에서도 눈부신 성과를 거두었습니다. 윌리엄 허셜이 발견한 천왕성의 불규칙한 궤도 운동을 분석하기 위해 수학자 위르뱅 루베리에는 미지의 행성이 존재할 것이라 예측했습니다. 이 계산을 바탕으로 실제 해왕성이 발견되면서 고전역학은 우주의 섭리를 예측하는 강력한 도구임을 입증했습니다. 루베리에는 수성이 공전 궤도를 조금씩 바꾸며 회전하는 세차운동 역시 수성 안쪽의 미지의 천체 때문일 것이라는 '벌컨 가설'을 세웠습니다. 그러나 벌컨은 끝내 발견되지 않았고, 수성의 세차운동은 뉴턴 역학의 논리로는 설명할 수 없는 물리학계의 거대한 수수께끼로 남게 되었습니다. 19세기 말 맥스웰의 전자기학이 정립되고 전자의 존재가 밝혀지면서 고전역학은 새로운 국면을 맞이했습니다. 전자의 운동을 기존의 뉴턴 역학으로 분석하려 할 때마다 맥스웰 방정식과 모순되는 치명적인 문제가 발생했던 것입니다. 이 거대한 모순을 해결한 인물이 바로 알베르트 아인슈타인입니다. 그는 1905년 특수 상대성 이론을 발표하며 절대적이었던 뉴턴 역학의 시대를 끝내고 상대론적 역학이라는 새로운 시대를 열었습니다. 아인슈타인의 일반 상대성 이론은 고전역학의 마지막 난제였던 수성의 세차운동을 완벽하게 설명해 냈으며, 인류는 시공간의 본질을 완전히 다르게 바라보게 되었습니다.

뉴턴을 알고 있다면 무조건 봐야 하는 영상
과학쿠키과학쿠키 - 물리학 정주행
  • 물리학
  • 천문학
  • 수학