쿠르트괴델

4 Contents

[명강리뷰] 컴퓨터과학의 원천 아이디어가 나오기까지 _ by이광근|2018 봄 카오스 강연 '모든 것의 수數다' 10강

컴퓨터 과학의 기원은 1936년 앨런 튜링이 발표한 한 편의 논문에서 시작되었습니다. 흥미로운 점은 이 논문이 처음부터 현대의 다목적 컴퓨터를 설계하기 위해 작성된 청사진이 아니었다는 사실입니다. 당시 튜링은 인류가 가진 도구들의 한계를 극복하겠다는 거창한 목표보다는, 20세기 수학계가 직면했던 거대한 지적 좌절을 해결하는 과정에서 우연히 컴퓨터의 원형을 발견하게 되었습니다. 이는 위대한 발명이 때로는 순수한 학문적 호기심과 고집스러운 탐구 과정에서 탄생할 수 있음을 보여주는 대표적인 사례로 꼽힙니다. 1928년 수학자 다비트 힐베르트는 모든 수리 명제를 기계적으로 판정할 수 있는 방법이 존재할 것이라는 가설을 세웠습니다. 그는 수학자들이 사용하는 논리적 추론의 패턴이 한정적이라고 믿었으며, 이를 통해 자연수에 대한 모든 사실을 빠짐없이 찾아낼 수 있는 기계적 절차를 찾고자 했습니다. 그러나 1931년, 젊은 수학자 쿠르트 괴델은 그러한 기계적 장치가 존재할 수 없음을 완벽하게 증명하며 수학계에 큰 충격을 안겼습니다. 이는 인간의 직관과 창의성이 필요한 영역이 기계로 완전히 대체될 수 없음을 시사하는 희소식이기도 했습니다. 괴델의 증명 소식은 유럽 전역으로 퍼져 나갔고, 영국 케임브리지 대학의 청년 튜링에게도 전달되었습니다. 튜링은 괴델의 논리를 단순히 수용하는 데 그치지 않고, 자신만의 독창적인 방식으로 동일한 결론에 도달하고자 했습니다. 그는 '기계적'이라는 개념을 구체적으로 정의하기 위해 무한한 테이프와 상태 표시 장치, 그리고 규칙표로 구성된 가상의 장치를 고안했습니다. 이것이 바로 오늘날 우리가 사용하는 컴퓨터의 이론적 토대인 '튜링 기계'입니다. 튜링은 이 모델을 통해 복잡한 계산 과정을 단순한 물리적 동작의 조합으로 설명해 냈습니다. 튜링 기계의 핵심은 소프트웨어와 하드웨어의 분리에 있습니다. 기계의 동작을 결정하는 규칙표는 오늘날의 소프트웨어와 같으며, 이를 테이프에 기록하여 기계에 입력하면 기계는 그 내용에 따라 다양한 기능을 수행하게 됩니다. 이는 하나의 기계가 고정된 한 가지 일만 하는 것이 아니라, 입력되는 프로그램에 따라 카카오톡이 되기도 하고 동영상 플레이어가 되기도 하는 현대 스마트폰의 원리와 정확히 일치합니다. 튜링은 이러한 '보편 만능 튜링 기계'의 개념을 통해 계산 가능한 영역과 불가능한 영역의 경계를 명확히 구분 짓고자 노력했습니다. 결국 튜링은 '정지 문제'라는 논리적 도구를 사용하여 힐베르트가 꿈꿨던 기계적 판정 장치가 불가능함을 증명했습니다. 어떤 프로그램이 영원히 돌지 아니면 언젠가 멈출지를 미리 판단하는 장치를 만들 수 없다는 사실을 통해, 모든 수학적 참을 자동으로 생성하는 기계의 모순을 밝혀낸 것입니다. 튜링의 이 단도직입적인 증명은 수학적 한계를 보여주는 동시에, 역설적으로 인류 역사상 가장 강력한 도구인 컴퓨터의 탄생을 알리는 신호탄이 되었습니다. 수학의 좌절에서 시작된 이 여정은 21세기 정보 혁명의 주인공을 탄생시킨 위대한 반전이었습니다.

[명강리뷰] 컴퓨터과학의 원천 아이디어가 나오기까지 _ by이광근|2018 봄 카오스 강연 '모든 것의 수數다' 10강
카오스재단명강리뷰&질문Q

[질문과 토론의 과학 #6] ∞👀무한대를 본 사람

독일의 수학자 게오르크 칸토어는 인류 역사상 최초로 무한의 크기를 체계적으로 연구한 인물입니다. 그는 자연수 집합과 실수 집합이 모두 무한하지만, 그 크기가 서로 다를 수 있다는 사실을 입증하며 수학계에 큰 파장을 일으켰습니다. 상식적으로는 짝수 집합이 자연수 집합의 부분집합이므로 더 작아야 할 것 같지만, 칸토어는 두 집합 사이에 일대일 대응이 가능하다면 그 크기가 같다고 보았습니다. 이러한 발상은 부분이 전체와 같을 수 있다는 무한의 독특한 성질을 보여주며, 우리가 가진 기존의 수 체계에 대한 고정관념을 완전히 뒤바꾸어 놓았습니다. 무한의 세계는 우리의 직관을 초월하는 지점이 많아 과거의 학자들에게도 큰 고민거리였습니다. 갈릴레오 갈릴레이는 부분이 전체와 같아지는 현상을 목격하고 무한의 크기를 서로 비교하는 것 자체가 불가능하다고 결론지었는데, 이를 '갈릴레이의 역설'이라 부릅니다. 그보다 앞선 시대의 알베르트 역시 무한한 길이의 막대를 구성하는 작은 정육면체들을 재조합하여 거대한 공간을 가득 채울 수 있다는 사실을 깨달았습니다. 이는 유한한 세계의 논리로는 설명하기 힘든 무한만의 신비로운 특성을 잘 보여주는 사례로, 공간과 수의 관계를 다시금 생각하게 만듭니다. 칸토어는 셀 수 있는 무한을 '알레프 제로(ℵ₀)'라 명명하고, 유리수 집합 역시 이와 같은 크기를 가짐을 증명했습니다. 반면 실수 집합은 자연수보다 훨씬 거대하며, 이를 '알레프 원(ℵ₁)'이라 불러 무한에도 계층이 존재함을 선언했습니다. 그는 이 두 무한 사이에 다른 크기의 집합이 존재하지 않는다는 '연속체 가설'을 세웠으나, 이는 훗날 다비트 힐베르트가 선정한 수학의 난제 중 하나가 되었습니다. 결국 쿠르트 괴델과 폴 코언에 의해 이 가설은 기존의 수학 체계 안에서 증명도 반증도 할 수 없는 독특한 위치에 놓이게 되었으며, 이는 수학의 한계를 보여주는 중요한 이정표가 되었습니다. 무한이라는 거대한 개념을 탐구하는 과정은 결코 순탄치 않았습니다. 칸토어는 생전에 무한의 계층 구조를 정립하려 애썼으나, 당시 수학계의 거물이었던 크로네커를 비롯한 동료들의 거센 비판과 지탄에 직면해야 했습니다. 특히 연속체 가설을 완벽히 증명해내기 위해 쏟아부은 과도한 정신적 에너지는 그를 정신적인 고통으로 몰아넣기도 했습니다. 수학에 무한을 끌어들여 분란을 일으킨다는 비난 속에서도 그는 자신의 신념을 굽히지 않았으며, 그가 겪은 고뇌는 새로운 진리를 발견하기 위해 선구자가 감내해야 했던 시대적 아픔이자 학문적 열정의 산물이라 할 수 있습니다. 무한의 개념은 원주율(π)과도 깊은 연관이 있습니다. 3월 14일 파이 데이를 맞아 주목받는 수학자 라마누잔은 원주율(π)의 값을 계산하는 놀라운 무한 급수 공식을 발견했습니다. 과거 라이프니츠의 방식은 계산 속도가 매우 느려 실용성이 떨어졌으나, 라마누잔의 공식은 항을 하나씩 더할 때마다 소수점 여덟 자리씩 정확도가 높아질 정도로 압도적인 수렴 속도를 자랑합니다. 이 혁신적인 알고리즘은 현대에 이르러 슈퍼컴퓨터의 성능을 테스트하는 표준으로 활용되고 있으며, 서른세 살에 요절한 천재 수학자가 남긴 무한의 유산은 오늘날 첨단 과학 기술의 토대가 되고 있습니다.

[질문과 토론의 과학 #6] ∞👀무한대를 본 사람
카오스재단질토과 + 짧강

[강연] 컴퓨터과학의 원천 아이디어가 나오기까지 (2) _ by이광근 | 2018 봄 카오스 강연 '모든 것의 수數다' 10강 | 10강 ②

앨런 튜링은 기계적인 계산의 본질을 정의하기 위해 상태와 기호, 그리고 규칙 표로 이루어진 추상적인 장치를 고안했습니다. 이 장치는 테이프 위의 기호를 읽고 상태를 변화시키며 정해진 규칙에 따라 작동합니다. 흥미로운 점은 특정 작업을 수행하는 개별 기계들을 글자로 표현하여 하나의 '보편 튜링 기계'에 입력할 수 있다는 사실입니다. 이는 오늘날 우리가 사용하는 하드웨어와 소프트웨어의 개념적 시초가 되었으며, 현대 컴퓨터 과학의 근간을 이루는 위대한 발견이었습니다. 보편 튜링 기계는 테이프에 기록된 다른 기계의 규칙을 읽어 그대로 흉내 냅니다. 우리가 스마트폰에 앱을 설치하고 실행하는 과정은 사실 텍스트로 표현된 튜링 기계의 설계를 메모리에 올리는 것과 본질적으로 같습니다. 하드웨어는 소프트웨어에 적힌 명령을 충실히 따르며 동영상을 재생하거나 메시지를 전달합니다. 이처럼 모든 계산 과정을 기호의 나열로 변환할 수 있다는 통찰은 복잡한 논리 체계를 물리적인 연산 장치로 구현할 수 있는 길을 열어주었습니다. 튜링의 연구는 수학자 쿠르트 괴델의 불완전성 정리에서 큰 영감을 받았습니다. 괴델은 자연수에 관한 참인 명제들 중에는 기계적인 방식으로는 결코 증명할 수 없는 영역이 존재함을 논리적으로 입증했습니다. 튜링은 이러한 추상적인 논리를 자신의 기계 모델로 가져와 재해석하고자 했습니다. 그는 모든 튜링 기계가 유한한 부호의 조합으로 표현될 수 있으며, 따라서 자연수와 일대일로 대응하여 번호를 매길 수 있다는 '가산성'의 개념을 증명에 활용했습니다. 튜링은 '정지 문제'라는 독특한 화두를 던지며 기계적 계산의 한계를 탐구했습니다. 정지 문제란 어떤 기계의 설계도를 보고 이 기계가 작업을 마친 후 멈출지, 아니면 영원히 멈추지 않고 작동할지를 미리 판단하는 문제입니다. 만약 모든 참인 명제를 생성하는 완벽한 기계가 존재한다면 이 정지 문제도 해결할 수 있어야 합니다. 하지만 튜링은 논리적 모순을 통해 이러한 판단을 내릴 수 있는 보편적인 알고리즘이나 기계 장치는 존재할 수 없음을 명확히 보여주었습니다. 증명의 핵심은 칸토어의 대각선 논법을 응용한 것입니다. 모든 가능한 튜링 기계를 일렬로 세우고 각각의 입력값에 대한 결과를 표로 만들었을 때, 튜링은 그 어떤 기계와도 다르게 행동하는 새로운 기계를 상상했습니다. 만약 정지 문제를 푸는 기계가 있다면, 우리는 기존의 모든 기계 목록에 포함되지 않는 기괴한 기계를 설계할 수 있게 됩니다. 이는 모든 기계가 이미 목록에 있다는 전제와 충돌하며, 결국 정지 문제를 해결하는 기계 자체가 논리적으로 불가능하다는 결론에 도달하게 합니다. 흔히 튜링을 하늘에서 떨어진 천재로 묘사하곤 하지만, 그의 업적은 철저히 앞선 연구자들의 토대 위에서 피어난 결과물입니다. 맥스 뉴먼 교수의 강의를 통해 괴델의 정리를 접하고, 이를 자신만의 기계적 언어로 번역하는 과정이 있었기에 가능했습니다. 괴델이 숫자로 논리를 인코딩했다면, 튜링은 이를 기계의 동작으로 시각화했습니다. 이러한 지적 계승의 과정은 원천 지식이 단순히 개인의 천재성에 의존하는 것이 아니라, 기존의 아이디어를 비판적으로 수용하고 재구성하는 노력에서 탄생함을 시사합니다. 튜링의 논문을 추적해 보면 그가 겪었을 사고의 흐름이 고스란히 드러납니다. 무한한 대상을 다루는 고정점의 개념에서 힌트를 얻고, 기계가 기계를 입력으로 받는 구조를 고민하며 보편 튜링 기계의 가능성을 발견했을 것입니다. 우리는 위대한 과학자를 '천재'라는 틀에 가두어 거리감을 두기보다, 그들이 어떻게 문제를 정의하고 해결해 나갔는지 그 과정을 살펴볼 필요가 있습니다. 누구나 논리적인 사고를 통해 원천적인 질문을 던질 수 있다는 자신감을 가질 때, 제2의 튜링이 탄생할 수 있을 것입니다.

[강연] 컴퓨터과학의 원천 아이디어가 나오기까지 (2) _ by이광근 | 2018 봄 카오스 강연 '모든 것의 수數다' 10강

이광근

카오스재단카오스강연
  • 수학
  • 융합

[강연] 컴퓨터과학의 원천 아이디어가 나오기까지 (1) _ by이광근 | 2018 봄 카오스 강연 '모든 것의 수數다' 10강 | 10강 ①

컴퓨터는 인류가 발명한 도구 중에서도 매우 독특한 위치를 차지합니다. 칼이나 냉장고 같은 일반적인 도구들은 그 목적이 하나로 고정되어 있지만, 컴퓨터는 사용자가 어떤 명령을 입력하느냐에 따라 무궁무진한 역할을 수행할 수 있는 만능 도구이기 때문입니다. 우리는 이를 소프트웨어라고 부르며, 인간의 사고를 반영한 체계를 통해 기계가 복잡한 일을 수행하도록 만듭니다. 이러한 특성 때문에 컴퓨터는 단순한 기계를 넘어 인간의 지능을 확장하는 특별한 장치로 정의되기도 합니다. 흔히 앨런 튜링을 하늘이 내린 천재 수학자로만 기억하지만, 그의 위대한 업적은 사실 당대 수학계가 직면했던 거대한 좌절과 도전 속에서 탄생했습니다. 튜링은 단순히 새로운 것을 창조하려 했던 것이 아니라, 기존의 권위 있는 수학자들이 내놓은 문제들을 자신만의 방식으로 해결하고자 노력했습니다. 이러한 과정은 천재성이라는 모호한 단어보다는, 주어진 문제를 깊이 있게 파고들어 자신만의 논리를 구축해 나가는 탐구 정신의 결과물입니다. 이는 과학적 성취가 특별한 소수만의 전유물이 아님을 시사합니다. 20세기 초, 수학자 다비트 힐베르트는 모든 수학적 명제에 대한 기계적 판정 방법이 존재할 것이라는 원대한 꿈을 꾸었습니다. 하지만 1931년, 젊은 수학자 쿠르트 괴델은 기계적인 방식으로는 모든 수학적 사실을 증명할 수 없다는 것을 완벽하게 입증하며 수학계에 커다란 충격을 안겨주었습니다. 힐베르트의 꿈은 좌절되었지만, 이 사건은 오히려 '기계적 계산'이란 무엇인가에 대한 근본적인 질문을 던지는 계기가 되었습니다. 수학적 한계를 증명하는 과정에서 역설적으로 새로운 논리적 사고의 지평이 열리게 된 것입니다. 튜링은 불완전성 정리를 접한 뒤, 자신만의 스타일로 이를 재증명하기 위해 '기계적'이라는 개념을 구체적으로 정의하기 시작했습니다. 그는 무한한 테이프와 상태 표시 장치, 그리고 규칙표라는 네 가지 부품만으로 구성된 가상의 장치를 고안해 냈습니다. 이것이 바로 오늘날 컴퓨터의 원형인 '튜링 기계'입니다. 흥미로운 점은 튜링이 처음부터 컴퓨터를 발명하려 했던 것이 아니라, 수학적 불가능성을 증명하기 위한 하나의 도구로서 이 기계를 설계했다는 사실입니다. 논리적 증명을 돕기 위한 소품이 현대 정보 혁명의 핵심이 되었습니다. 1936년에 발표된 튜링의 논문은 수학적 난제를 해결하는 동시에 현대 컴퓨터 과학의 청사진을 제시했습니다. 계산 가능한 수의 범위를 정의하고 기계적 절차의 한계를 밝혀낸 그의 연구는, 오늘날 우리가 사용하는 모든 디지털 기기의 이론적 토대가 되었습니다. 수학의 좌절을 확인하는 과정에서 우연히 탄생한 이 아이디어는 인류의 삶을 송두리째 바꾸어 놓았습니다. 결국 컴퓨터 과학의 역사는 불가능에 도전했던 수학자들의 치열한 고민과, 그 과정에서 발견한 논리적 도구들이 빚어낸 위대한 우연의 산물이라고 할 수 있습니다.

[강연] 컴퓨터과학의 원천 아이디어가 나오기까지 (1) _ by이광근 | 2018 봄 카오스 강연 '모든 것의 수數다' 10강

이광근

카오스재단카오스강연
  • 수학
  • 융합