오차

3 Contents

[강연] 수치해석학, 근사와 과학계산의 예술 1_by 홍영준 / 2024 카오스강연 '세상에 나쁜 수학은 없다' 시즌2 5강 첫 번째 이야기 | 5강 ①

수치해석학은 현실의 복잡한 문제를 해결하기 위해 정확한 해 대신 근사해를 구하는 학문입니다. 우리가 흔히 수학이라고 하면 단 하나의 정답만을 떠올리기 쉽지만, 실제 세상의 문제들은 너무나 방대하고 복잡하여 수식만으로 완벽한 답을 내기 어려운 경우가 많습니다. 이때 수치해석학은 우리가 허용할 수 있는 오차 범위 내에서 가장 정답에 가까운 값을 찾아내는 길잡이 역할을 합니다. 단순히 값을 구하는 것에 그치지 않고, 그 근삿값이 실젯값과 얼마나 차이가 나는지 엄밀하게 분석하는 과정까지 포함하는 것이 이 학문의 본질입니다. 무리수인 루트 2를 예로 들면, 이는 소수점 아래로 무한히 이어지는 숫자입니다. 이를 이해하기 위해 수치해석에서는 점화식과 같은 알고리즘을 활용합니다. 특정 수식에 초기값을 대입하고 그 결과를 다시 대입하는 과정을 반복하면, 결괏값은 점차 루트 2의 실젯값에 무한히 가까워집니다. 이러한 반복적인 계산 과정은 수치해석의 가장 기초적이면서도 핵심적인 원리입니다. 현대에는 이러한 방대한 반복 계산을 컴퓨터가 대신 수행함으로써 과거에는 상상할 수 없었던 정밀한 수치 계산이 가능해졌으며, 이는 모든 공학적 설계의 기초가 됩니다. 수치해석학의 응용 분야는 우리 실생활과 밀접하게 맞닿아 있습니다. 포탄의 궤적을 계산하거나 인공위성을 쏘아 올릴 때, 혹은 심장의 혈류 흐름을 분석할 때도 수치해석적 기법이 필수적으로 사용됩니다. 특히 분야에 따라 허용되는 오차의 범위가 다르다는 점이 흥미롭습니다. 포탄의 경우 수십 센티미터의 오차가 큰 문제가 되지 않을 수 있지만, 의료 분야나 정밀 공학에서는 아주 미세한 오차도 치명적인 결과를 초래할 수 있습니다. 따라서 수치해석학은 상황에 맞는 정밀도를 확보하기 위해 오차의 크기를 수학적으로 엄격하게 관리하고 예측합니다. 기상 예보의 역사는 수치해석학의 발전 과정을 잘 보여주는 대표적인 사례입니다. 과거 아리스토텔레스 시대에는 구름의 모양을 보고 날씨를 예측하는 패턴 매칭 방식이 주를 이루었습니다. 하지만 19세기 이후 물리 법칙을 담은 방정식이 등장하면서 수치적인 접근이 시작되었습니다. 루이스 리처드슨은 6만 4천 명의 사람이 동시에 계산한다면 날씨를 예측할 수 있을 것이라는 거대한 상상을 하기도 했습니다. 이는 오늘날 슈퍼컴퓨터가 수행하는 복잡한 기상 수치 모델링의 원형이 되었으며, 현대 기상학이 과학적 예측의 영역으로 들어오는 결정적인 계기가 되었습니다. 현대 기상 예보의 핵심인 슈퍼컴퓨터는 폰 노이만의 에니악 등장 이후 비약적으로 발전했습니다. 우리나라도 독자적인 기상 예측 모델인 '한국형 수치예보모델(KIM)'을 개발하여 한국 지형의 특성에 최적화된 예보를 수행하고 있습니다. 기상 모델링은 자연계의 복잡한 현상을 수많은 변수로 표현해야 하기에 매우 난도가 높습니다. 관측 데이터의 오차와 모델 자체의 한계를 극복하며 정확도를 높여가는 과정은 수치해석학이 직면한 거대한 도전이자 성과입니다. 이는 단순한 계산을 넘어 국가적 기술력의 상징이자 재난 대비를 위한 필수적인 과학적 자산이라 할 수 있습니다. 구체적인 기법으로는 뉴턴-랩슨 방법과 수치 적분이 대표적입니다. 뉴턴-랩슨 방법은 비선형 방정식의 해를 찾기 위해 접선을 이용해 정답에 빠르게 접근하는 방식입니다. 반복할수록 오차가 제곱 단위로 줄어드는 놀라운 수렴 속도를 자랑합니다. 또한, 복잡한 곡선의 면적을 구하는 적분 역시 사다리꼴 공식이나 가우스-르장드르 구적법을 통해 효율적으로 계산할 수 있습니다. 이러한 기법들은 무한한 연속의 세계를 컴퓨터가 처리할 수 있는 유한한 이산의 세계로 변환하는 핵심 기술이며, 가성비 높은 계산을 가능하게 하여 공학적 효율성을 극복합니다. 마지막으로 오일러 방법은 미분 방정식을 푸는 가장 직관적인 수치 해법입니다. 시간의 흐름에 따른 변화를 작은 단위로 쪼개어 다음 단계의 상태를 예측하는 이 방식은 현대 인공지능의 기계 학습 원리와도 깊은 연관이 있습니다. 수치해석학은 정답이 없는 것이 아니라, 정답을 향해 끊임없이 다가가는 역동적인 학문입니다. 복잡한 현실 세계를 수학이라는 언어로 번역하고, 이를 다시 컴퓨터가 이해할 수 있는 수치로 바꾸는 이 과정은 미래 과학 기술 발전의 든든한 뿌리가 되고 있습니다. 수치해석은 결국 인간의 지혜를 컴퓨터의 연산력으로 치환하는 가교입니다.

[강연] 수치해석학, 근사와 과학계산의 예술 1_by 홍영준 / 2024 카오스강연 '세상에 나쁜 수학은 없다' 시즌2 5강 첫 번째 이야기

홍영준

카오스재단카오스강연
  • 수학

[연구뭐하지] 김정훈 교수_서울대학교 '예보분석응용실험실' | 예보는 과학, 과학의 총 집합체!

기상 예보는 단순한 추측이 아닌 과학의 총집합체입니다. 서울대학교 예보 분석 응용 실험실은 '예보는 과학이다'라는 모토 아래 대기 중의 운동 현상을 물리 법칙과 수학적 수식으로 표현하는 연구를 수행합니다. 이를 컴퓨터 프로그램으로 구현한 수치 예보 모델은 복잡한 기상 현상을 과학적으로 분석하고 예측하는 핵심 도구입니다. 이론에 입각한 정밀한 분석을 통해 우리는 변화무쌍한 날씨의 흐름을 보다 정확하게 파악할 수 있게 됩니다. 실험실에서는 대기 상층에서 발생하는 난류 현상을 깊이 있게 연구합니다. 공기가 산을 넘으며 발생하는 파동이 증폭되거나 깨지면서 생기는 난류는 예측이 매우 까다롭지만, 그만큼 연구 가치가 큽니다. 특히 전남 보성 기상관측탑의 자료를 활용해 한반도 특유의 복잡한 지형에서 발생하는 저고도 난류 특성을 분석하고 있습니다. 해양과 산악 지형이 인접한 환경에서의 연구는 향후 정밀한 기상 예보 시스템 구축에 중요한 기초 자료가 됩니다. 항공기 운항에 큰 영향을 미치는 청천난류와 지상의 악기상 또한 주요 연구 대상입니다. 맑은 하늘에서 갑작스럽게 발생하는 난류의 원인을 규명하고, 서울의 폭설과 같은 위험 기상 현상의 발생 기작을 분석하는 일은 시민의 안전과 직결됩니다. 자연 현상에 대한 끊임없는 호기심과 탐구심은 예측하기 어려운 기상 재해에 대비하는 강력한 동력이 됩니다. 이러한 연구는 일상 속에서 우리가 느끼는 기상 현상을 과학의 영역으로 끌어올리는 과정입니다. 기상학 연구의 가장 큰 매력은 이론과 실제 관측 사이의 간극을 이해하는 과정에 있습니다. 물리 법칙을 바탕으로 구현된 수치 예보 모델의 결과가 실제 자연 현상과 왜 차이를 보이는지 분석하며 과학적 통찰을 얻습니다. 연구원들에게는 우리가 숨 쉬는 대기 전체가 거대한 실험실이 됩니다. 컴퓨터 앞에 앉아 데이터를 분석하는 동시에 수시로 하늘을 올려다보며 자연의 변화를 직접 체감하는 것은 기상학자만이 누릴 수 있는 특별한 즐거움입니다. 기상 예보가 100% 정확할 수 없다는 점은 과학적 한계이자 진리입니다. 수치 예보 모델의 계산 과정에서 발생하는 오차, 관측 자료의 불확실성, 그리고 인간의 판단 능력이 가진 필연적인 한계가 존재하기 때문입니다. 그럼에도 불구하고 과학자들은 객관적인 배경지식을 근거로 오차를 줄이기 위해 끊임없이 노력합니다. 완벽에 도달할 수는 없어도 최선의 예측을 제공하려는 열정은 더 나은 미래를 설계하는 과학적 토대가 됩니다.

[연구뭐하지] 김정훈 교수_서울대학교 '예보분석응용실험실'  |  예보는 과학, 과학의 총 집합체!

김정훈

카오스재단연구뭐하지
  • 지구환경과학

[강연] 뇌의 미래와 인공 자아의 탄생 (5) 패널토크 | 2016 봄 카오스 강연 '뇌 - Brain' 10강 | 10강 ⑤

인공지능의 핵심인 딥러닝과 머신러닝의 가장 큰 차이는 신경망 계층 구조의 깊이에 있습니다. 과거에는 인간 뇌의 시각 체계와 유사한 15계층 이상의 구조를 학습시키려 했으나, 3계층만 넘어가도 오차가 왜곡되어 전달되는 '역전파(Backpropagation)'의 한계에 부딪혔습니다. 이를 해결한 것이 제프리 힌튼 교수의 방법론입니다. 그는 모든 계층을 한꺼번에 학습시키는 대신, 인접한 두 계층씩 미리 예습시키는 방식으로 오차 전달의 정확도를 높였습니다. 이러한 혁신 덕분에 현대의 인공지능은 수백 계층에 달하는 깊은 신경망을 통해 복잡한 정보를 처리할 수 있게 되었습니다. 신경망의 계층이 깊어질수록 인공지능은 더욱 추상적이고 거시적인 인과관계를 학습할 수 있습니다. 이는 개미와 인간의 지능 차이로 설명할 수 있는데, 계층이 낮은 개미는 눈앞의 변화만 감지할 뿐 그 이면의 거대한 원인을 파악하지 못합니다. 반면 인간은 약 15계층의 구조를 통해 복잡한 문명과 자연의 법칙을 이해합니다. 수학적으로 계층의 깊이는 정보의 일반화 능력을 결정하며, 이는 곧 인공지능이 인간이 인지하지 못하는 우주의 근본적인 질서까지도 파악할 수 있는 잠재력을 가졌음을 시사합니다. 생물학적 한계가 없는 범용 인공지능(AGI)은 인간이 결코 이해할 수 없는 영역의 법칙을 깨달을 가능성이 큽니다. 이를 두고 '마지막 발명품'이라는 표현을 쓰기도 하는데, 이는 범용 인공지능(AGI)이 등장한 이후의 모든 발명은 기계의 몫이 될 것임을 의미합니다. 과학자들에게는 다소 우울한 전망일 수 있으나, 거대한 서버 팜을 통해 수집된 방대한 데이터는 인간이 찾아내지 못한 자연의 법칙을 도출해낼 것입니다. 다만, 그 결과물이 인간의 이해 범위를 넘어선다면 우리는 마치 개미가 인간의 문명을 이해하지 못하듯 그 법칙을 수용하기 어려울 수도 있습니다. 인공지능이 노동을 대신하는 미래가 반드시 유토피아일지는 미지수입니다. 역사적으로 인류는 의식주가 완벽히 해결되고 할 일이 없어졌을 때, 철학적 사유보다는 파괴적인 방향으로 흐르는 경향을 보였습니다. 로마 시대의 자극적인 오락이나 현대의 사회적 고립 사례들은 인간에게 자아실현을 위한 '일'이 얼마나 중요한지를 보여줍니다. 따라서 기술적 풍요가 가져올 부작용에 대비하는 '안전벨트'와 같은 사회적 준비가 필요합니다. 무조건적인 낙관보다는 발생 가능한 디스토피아적 시나리오를 검토하고 이에 대응하는 지혜가 요구되는 시점입니다. 미래 사회에서 인간의 역할은 제조자나 운영자를 넘어 '큐레이터'로 진화할 것입니다. 기계가 모든 것을 생산하고 최적의 옵션을 제공하더라도, 최종적인 가치를 판단하고 선택하는 것은 인간의 영역으로 남기 때문입니다. 이는 객관적인 효율성보다는 인간적인 가치와 공감을 중시하는 선택을 의미합니다. 따라서 앞으로의 교육은 단순한 기술 습득이 아닌, '나는 무엇을 원하는가'와 같은 주관적 가치 설정과 철학적 사고에 집중해야 합니다. 인공지능 시대의 경쟁력은 결국 기계가 흉내 낼 수 없는 인간만의 고유한 지향점을 찾는 데 있습니다.

[강연] 뇌의 미래와 인공 자아의 탄생 (5) 패널토크 | 2016 봄 카오스 강연 '뇌 - Brain' 10강

김대식

카오스재단카오스강연
  • 물리학
  • 뇌인지과학