제곱근

2 Contents

[강연] 풀기 힘든 계산이 풀기 힘든 암호로 ㅣ 2021 마스터 클래스 '수학과 계산' 2강 | 2강

인공지능의 시대는 곧 계산의 시대라고 할 수 있습니다. 많은 이들이 수학자는 계산을 잘할 것이라 오해하거나, 반대로 계산을 단순한 작업으로 치부하기도 합니다. 하지만 계산은 그 자체로 매우 심오하고 미묘한 세계를 품고 있습니다. 고대 바빌로니아 시절부터 현대의 디지털 보안에 이르기까지, 인류는 더 효율적이고 정교한 계산법을 찾기 위해 끊임없이 노력해 왔습니다. 이러한 계산의 본질을 탐구하는 과정은 현대 과학기술의 근간을 이해하는 열쇠가 됩니다. 역사 속에는 수천 년 전부터 전해 내려온 놀라운 알고리즘들이 존재합니다. 바빌로니아의 거듭제곱근 계산법이나 유클리드의 최대공약수 알고리즘은 현대의 관점에서도 더 이상 향상시키기 어려울 만큼 완벽한 효율성을 자랑합니다. 반면, 어떤 수의 소인수를 찾는 소인수분해 계산법은 개념적으로는 단순해 보이지만, 숫자가 커질수록 기하급수적으로 많은 시간이 소요되는 비효율성을 지니고 있습니다. 이처럼 계산의 효율성은 단순히 귀찮음의 문제를 넘어 학문적 난제로 다루어집니다. 나머지 연산, 즉 모듈로 연산은 현대 수학과 암호학에서 가장 중요한 도구 중 하나입니다. 이는 어떤 수를 특정 숫자로 나누었을 때 남는 값에 집중하는 방식인데, 우리가 일상에서 사용하는 10진법이나 시계의 시간 계산과도 밀접한 관련이 있습니다. 나머지 연산의 가장 큰 특징은 덧셈, 곱셈, 그리고 거듭제곱과 같은 연산이 일반적인 수 체계보다 훨씬 쉽고 빠르게 이루어진다는 점입니다. 복잡한 큰 수의 계산도 끝자리나 나머지 규칙을 활용하면 놀라울 정도로 단순해집니다. 거듭제곱 연산의 효율성은 나머지 연산의 진가를 보여주는 사례입니다. 예를 들어 2를 100만 번 곱한 값의 마지막 자릿수를 구하는 문제는 일반적인 방식으로는 불가능에 가깝지만, 나머지 연산의 성질을 이용하면 암산으로도 해결이 가능합니다. 지수 법칙과 반복적인 나머지 계산을 결합하면, 아무리 거대한 지수를 가진 수라도 순식간에 그 결과를 도출할 수 있습니다. 이러한 계산의 용이성은 방대한 데이터를 처리해야 하는 현대 컴퓨터 공학에서 핵심적인 역할을 수행합니다. 하지만 나머지 연산에는 흥미로운 비대칭성이 존재합니다. 거듭제곱은 매우 쉬운 반면, 그 역연산인 거듭제곱근을 구하는 과정은 극도로 어렵습니다. 일반적인 수 체계에서는 숫자의 크기를 통해 거듭제곱근의 범위를 짐작할 수 있지만, 나머지 연산에서는 크기에 대한 정보가 완전히 사라지기 때문입니다. 결과값만 보고 원래 어떤 수를 곱했는지 찾아내려면 사실상 모든 가능성을 하나씩 대입해 보는 수밖에 없습니다. 이러한 연산의 난해함이 바로 현대 보안의 기초가 됩니다. 우리가 매일 사용하는 인터넷 보안의 핵심인 공개키 암호 알고리즘은 바로 이 계산의 비대칭성을 활용합니다. 누구나 암호를 만들 수 있도록 공개된 숫자를 제공하지만, 이를 해독하기 위해 필요한 소인수분해나 거듭제곱근 계산은 현대의 슈퍼컴퓨터로도 수만 년이 걸릴 만큼 어렵게 설계되어 있습니다. 오일러의 정리와 같은 수학적 원리는 암호를 만든 주인만이 비밀 통로를 통해 메시지를 복원할 수 있게 해줍니다. 결국 수학적 계산의 어려움이 우리의 소중한 정보를 지켜주는 든든한 방어벽이 되는 셈입니다. 수학의 궁극적인 목적은 단순히 정답을 계산해 내는 것이 아니라, 현상의 이면에 숨겨진 원리를 깊이 이해하는 데 있습니다. 증명이라는 과정 또한 이미 밝혀진 사실을 확인하는 작업을 넘어, 그 현상이 왜 발생하는지를 통찰하는 도구로 사용됩니다. 괴델의 불완전성 정리가 보여주듯, 수학의 세계는 몇 가지 공리만으로 모두 설명할 수 없을 만큼 복잡하고 광활합니다. 계산의 효율성을 탐구하고 논리의 한계를 마주하는 과정은 인간의 지성이 도달할 수 있는 가장 아름다운 여정 중 하나입니다.

[강연] 풀기 힘든 계산이 풀기 힘든 암호로 ㅣ 2021 마스터 클래스 '수학과 계산' 2강

김민형

카오스재단마스터클래스
  • 수학

[강연] 쉬운 계산 & 어려운 계산 ㅣ 2021 마스터 클래스 '수학과 계산' 1강 | 1강

수학자들은 종종 자신들이 계산을 잘하지 못한다고 말하곤 합니다. 이는 수학이 단순한 산술 이상의 학문임을 강조하기 위한 표현이지만, 실제로는 일반인보다 뛰어난 계산 능력을 갖춘 경우가 많습니다. 축구선수가 팔을 주력으로 쓰지 않더라도 전신 운동을 통해 일반인보다 강한 팔 힘을 가지는 것과 비슷한 원리입니다. 수학적 사고를 지속하는 과정에서 계산 능력은 자연스럽게 단련되며, 이는 수학이라는 거대한 체계를 지탱하는 기초적인 체력이 됩니다. 따라서 수학과 계산은 떼려야 뗄 수 없는 밀접한 관계를 맺고 있습니다. 현대 사회는 인공지능과 4차 산업혁명의 시대로 접어들면서 수학의 역할이 그 어느 때보다 강조되고 있습니다. 특히 교육 현장에서는 인공지능 시대에 걸맞은 수학 교육의 방향성에 대한 고민이 깊어지고 있습니다. 단순히 공식을 암기하고 문제를 푸는 것을 넘어, 계산의 본질을 이해하고 이를 어떻게 활용할 것인가에 대한 고찰이 필요합니다. 계산은 하찮은 기계적 작업이 아니라, 복잡한 세상을 논리적으로 구조화하고 해결책을 찾아가는 핵심적인 과정이기 때문입니다. 이러한 시대적 흐름 속에서 수학과 계산의 관계를 재점검하는 일은 매우 중요합니다. 계산의 중요성은 역사적 고찰과 교육적 측면 모두에서 두드러집니다. 어떤 이들은 계산을 사고력이 부족한 이들이나 하는 기계적인 일로 치부하기도 하지만, 이는 계산의 진정한 가치를 간과한 것입니다. 현대 과학은 우주와 같은 거대하고 추상적인 구조조차 계산의 영역으로 끌어들이고 있습니다. 추상적인 수학적 구조를 계산 가능한 형태로 변환하고, 이를 효율적으로 수행할 기계를 설계하는 일은 고도의 수학적 사고를 필요로 합니다. 즉, 계산은 추상적 이론을 구체적인 현실로 구현하는 강력한 도구이자 과학적 탐구의 핵심입니다. 고대 바빌로니아인들은 이미 수천 년 전에 놀라울 정도로 정밀한 제곱근 계산법을 알고 있었습니다. 기원전 1700년경의 점토판에는 루트 2의 근삿값을 구하는 구체적인 과정이 기록되어 있는데, 이는 현대의 관점에서도 매우 효율적인 알고리즘입니다. 임의의 근삿값에서 시작해 평균을 취하며 오차를 줄여나가는 이 방식은 계산이 단순히 숫자를 다루는 기술을 넘어, 논리적인 절차와 구조를 갖춘 지적 활동임을 보여줍니다. 이러한 역사적 사례는 인류가 아주 오래전부터 효율적인 계산을 위해 얼마나 깊이 고민해 왔는지를 잘 증명해 줍니다. 소수가 무한하다는 유클리드의 정리는 수학적 증명이 어떻게 새로운 계산법으로 이어지는지 보여주는 좋은 예시입니다. 증명 과정에 포함된 소수 생성법을 실제로 구현해 보면, 우리는 끊임없이 새로운 소수를 찾아낼 수 있습니다. 하지만 이 과정에서 필수적인 소인수분해는 현대 수학에서도 매우 비효율적인 계산 영역에 속합니다. 숫자의 자릿수가 늘어날수록 계산 시간이 기하급수적으로 증가하기 때문에, 아무리 강력한 컴퓨터를 사용하더라도 한계에 부딪히게 됩니다. 이는 계산의 효율성이 알고리즘의 구조에 따라 얼마나 크게 달라질 수 있는지를 시사합니다. 소인수분해와 대조적으로 최대공약수를 구하는 유클리드 호제법은 효율적인 알고리즘의 대표적인 사례로 꼽힙니다. 아주 큰 두 수의 최대공약수를 찾을 때, 소인수분해를 이용하면 엄청난 시간이 걸리지만 호제법을 사용하면 순식간에 답을 얻을 수 있습니다. 큰 수를 나머지로 대체하며 크기를 줄여나가는 이 방식은 복잡한 문제를 단순화하는 수학적 지혜의 정수를 보여줍니다. 효율적인 계산법은 단순히 시간을 단축하는 것을 넘어, 우리가 다룰 수 있는 데이터의 범위를 무한히 확장하며 현대 기술의 근간을 형성하고 있습니다. 인공지능 시대의 수학 교육은 이러한 계산법의 원리와 효율성을 이해하는 방향으로 나아가야 합니다. 손으로 직접 계산하는 경험도 중요하지만, 컴퓨터 프로그램을 활용해 거대한 숫자를 다루며 전체적인 수의 흐름과 구조를 파악하는 시야를 기르는 것이 필요합니다. 계산 도구를 자유자재로 활용하면서 알고리즘의 본질을 탐구하는 과정은 학생들에게 더 넓은 수학적 세계를 경험하게 해 줄 것입니다. 결국 계산에 대한 깊은 이해는 논리적 사고력을 증진시키고, 급변하는 기술 사회에서 문제를 해결하는 핵심 역량이 될 것입니다.

[강연] 쉬운 계산 & 어려운 계산 ㅣ 2021 마스터 클래스 '수학과 계산' 1강

김민형

카오스재단마스터클래스
  • 수학