계산능력

2 Contents

[강연] 풀기 힘든 계산이 풀기 힘든 암호로 ㅣ 2021 마스터 클래스 '수학과 계산' 2강 | 2강

인공지능의 시대는 곧 계산의 시대라고 할 수 있습니다. 많은 이들이 수학자는 계산을 잘할 것이라 오해하거나, 반대로 계산을 단순한 작업으로 치부하기도 합니다. 하지만 계산은 그 자체로 매우 심오하고 미묘한 세계를 품고 있습니다. 고대 바빌로니아 시절부터 현대의 디지털 보안에 이르기까지, 인류는 더 효율적이고 정교한 계산법을 찾기 위해 끊임없이 노력해 왔습니다. 이러한 계산의 본질을 탐구하는 과정은 현대 과학기술의 근간을 이해하는 열쇠가 됩니다. 역사 속에는 수천 년 전부터 전해 내려온 놀라운 알고리즘들이 존재합니다. 바빌로니아의 거듭제곱근 계산법이나 유클리드의 최대공약수 알고리즘은 현대의 관점에서도 더 이상 향상시키기 어려울 만큼 완벽한 효율성을 자랑합니다. 반면, 어떤 수의 소인수를 찾는 소인수분해 계산법은 개념적으로는 단순해 보이지만, 숫자가 커질수록 기하급수적으로 많은 시간이 소요되는 비효율성을 지니고 있습니다. 이처럼 계산의 효율성은 단순히 귀찮음의 문제를 넘어 학문적 난제로 다루어집니다. 나머지 연산, 즉 모듈로 연산은 현대 수학과 암호학에서 가장 중요한 도구 중 하나입니다. 이는 어떤 수를 특정 숫자로 나누었을 때 남는 값에 집중하는 방식인데, 우리가 일상에서 사용하는 10진법이나 시계의 시간 계산과도 밀접한 관련이 있습니다. 나머지 연산의 가장 큰 특징은 덧셈, 곱셈, 그리고 거듭제곱과 같은 연산이 일반적인 수 체계보다 훨씬 쉽고 빠르게 이루어진다는 점입니다. 복잡한 큰 수의 계산도 끝자리나 나머지 규칙을 활용하면 놀라울 정도로 단순해집니다. 거듭제곱 연산의 효율성은 나머지 연산의 진가를 보여주는 사례입니다. 예를 들어 2를 100만 번 곱한 값의 마지막 자릿수를 구하는 문제는 일반적인 방식으로는 불가능에 가깝지만, 나머지 연산의 성질을 이용하면 암산으로도 해결이 가능합니다. 지수 법칙과 반복적인 나머지 계산을 결합하면, 아무리 거대한 지수를 가진 수라도 순식간에 그 결과를 도출할 수 있습니다. 이러한 계산의 용이성은 방대한 데이터를 처리해야 하는 현대 컴퓨터 공학에서 핵심적인 역할을 수행합니다. 하지만 나머지 연산에는 흥미로운 비대칭성이 존재합니다. 거듭제곱은 매우 쉬운 반면, 그 역연산인 거듭제곱근을 구하는 과정은 극도로 어렵습니다. 일반적인 수 체계에서는 숫자의 크기를 통해 거듭제곱근의 범위를 짐작할 수 있지만, 나머지 연산에서는 크기에 대한 정보가 완전히 사라지기 때문입니다. 결과값만 보고 원래 어떤 수를 곱했는지 찾아내려면 사실상 모든 가능성을 하나씩 대입해 보는 수밖에 없습니다. 이러한 연산의 난해함이 바로 현대 보안의 기초가 됩니다. 우리가 매일 사용하는 인터넷 보안의 핵심인 공개키 암호 알고리즘은 바로 이 계산의 비대칭성을 활용합니다. 누구나 암호를 만들 수 있도록 공개된 숫자를 제공하지만, 이를 해독하기 위해 필요한 소인수분해나 거듭제곱근 계산은 현대의 슈퍼컴퓨터로도 수만 년이 걸릴 만큼 어렵게 설계되어 있습니다. 오일러의 정리와 같은 수학적 원리는 암호를 만든 주인만이 비밀 통로를 통해 메시지를 복원할 수 있게 해줍니다. 결국 수학적 계산의 어려움이 우리의 소중한 정보를 지켜주는 든든한 방어벽이 되는 셈입니다. 수학의 궁극적인 목적은 단순히 정답을 계산해 내는 것이 아니라, 현상의 이면에 숨겨진 원리를 깊이 이해하는 데 있습니다. 증명이라는 과정 또한 이미 밝혀진 사실을 확인하는 작업을 넘어, 그 현상이 왜 발생하는지를 통찰하는 도구로 사용됩니다. 괴델의 불완전성 정리가 보여주듯, 수학의 세계는 몇 가지 공리만으로 모두 설명할 수 없을 만큼 복잡하고 광활합니다. 계산의 효율성을 탐구하고 논리의 한계를 마주하는 과정은 인간의 지성이 도달할 수 있는 가장 아름다운 여정 중 하나입니다.

[강연] 풀기 힘든 계산이 풀기 힘든 암호로 ㅣ 2021 마스터 클래스 '수학과 계산' 2강

김민형

카오스재단마스터클래스
  • 수학

[인터뷰] 김민형 ─ 김민형 교수가 말하는 수학, 역사, 그리고 계산 | 2021 마스터클래스 '수학과 계산'

수학적 재능은 사람마다 다양하게 분포되어 있으며, 이는 각자가 탐구하는 연구 분야를 결정하는 중요한 요인이 됩니다. 계산에 능숙한 학자가 있는 반면, 개념적이고 철학적인 사고를 선호하는 학자도 존재합니다. 저 또한 스스로를 완벽한 천재라기보다 사고가 흐트러질 때마다 같은 질문으로 되돌아오는 나름의 테크닉을 사용하는 연구자로 정의합니다. 이러한 역량의 차이는 우열의 문제가 아니라, 자신에게 가장 잘 맞는 수학적 탐구의 길을 찾아가는 과정에서 자연스럽게 드러나는 개성이라 할 수 있습니다. 현대 사회에서 유튜브와 같은 플랫폼은 수학을 공부하려는 이들에게 매우 유용한 도구가 되고 있습니다. 저 또한 유튜브를 통해 기상천외한 동물들의 영상을 보며 자연계에 대한 선입견을 깨곤 하는데, 이는 수학적 사고를 확장하는 데에도 큰 영감을 줍니다. 일반인이나 아이들이 수학에 접근할 때 이러한 다양한 시각 자료를 활용하는 것은 매우 효과적입니다. 배움의 기회는 도처에 널려 있으며, 우리가 세상을 바라보는 고정관념을 탈피할 때 비로소 새로운 수학적 통찰이 시작된다는 점을 시사합니다. '수인가, 모양인가'라는 질문은 저의 오랜 연구 주제이자 영원한 화두입니다. 우리가 세상을 인지하고 기억하는 모든 과정에는 일종의 계산과 수적 표현이 포함되어 있습니다. 인간의 뉴런 네트워크 자체가 수적인 구조를 지니고 있기에, 현실 세계를 대수적으로 창조하거나 기하학적 구조와의 관계를 밝히는 일은 매우 근본적인 탐구입니다. 수와 모양의 경계를 허물고 이를 구체화할 수 있는 프레임워크를 만들어가는 과정은, 단순히 수학적 문제를 푸는 것을 넘어 우주의 본질을 이해하려는 시도와 맞닿아 있습니다. 수학은 20세기 이후 세상을 이해하기 위한 필수적인 언어가 되었습니다. 저는 대학 시절 철학을 전공하려 했으나, 결국 수학을 선택했습니다. 철학이나 문학이 주는 통찰도 훌륭하지만, 수학은 젊은 시절에 배우지 않으면 그 깊이를 체득하기가 점점 더 어려워지기 때문입니다. 최근에는 고대 역사 속 수학의 역할에도 깊은 관심을 두고 있습니다. 피타고라스나 아르키메데스에 얽힌 전설 뒤에 숨겨진 역사적 근거를 파악하는 일은, 수학이 인류 문명사에서 차지하는 위치를 재조명하는 흥미로운 작업이 됩니다. 인공지능과 4차 산업혁명 시대가 도래하면서 계산의 중요성은 역설적으로 더욱 커지고 있습니다. 모든 인공지능의 근간에는 컴퓨터의 계산 과정이 자리 잡고 있기 때문입니다. 따라서 현대의 수학교육은 단순히 공식을 외우는 것을 넘어, 계산에 대한 깊이 있는 사고 능력을 길러주는 방향으로 나아가야 합니다. 한국 청중은 철학적 담론에 익숙하고 수학적 수준도 높지만, 이제는 구체적인 계산의 원리를 파악하고 이를 활용하는 감각을 키워야 합니다. 이것이 바로 미래 시대를 대비하는 수학적 태도의 핵심입니다.

[인터뷰] 김민형 ─ 김민형 교수가 말하는 수학, 역사, 그리고 계산 | 2021 마스터클래스 '수학과 계산'

김민형

카오스재단석학인터뷰
  • 수학