논리체계

2 Contents

[강연] 컴퓨터과학의 원천 아이디어가 나오기까지 (3) _ by이광근 | 2018 봄 카오스 강연 '모든 것의 수數다' 10강 | 10강 ③

앨런 튜링의 업적을 단순히 타고난 천재성이라는 아우라로만 포장하는 것은 경계해야 합니다. 튜링의 성취는 그가 처했던 환경과 기술적 맥락을 면밀히 파헤쳐 볼 때 더욱 명확하게 이해될 수 있습니다. 그는 당대의 학문적 흐름을 기민하게 파악하고, 자신만의 독창적인 시각으로 문제를 재해석하는 능력이 탁월했습니다. 이러한 태도는 단순히 하늘에서 내려준 재능이라기보다, 주어진 기회를 놓치지 않고 끝까지 파고드는 집요함과 열정의 결과라고 볼 수 있습니다. 우리 주변에서도 이와 유사한 성과가 언제든 싹틀 수 있다는 믿음을 갖는 것이 무엇보다 중요합니다. 튜링의 영향력은 컴퓨터 과학의 범주를 훨씬 뛰어넘어 생물학적 패턴 형성 원리에까지 깊숙이 미쳤습니다. 그는 얼룩말이나 표범의 가죽 패턴이 수학적 공식으로 설명될 수 있음을 발견했으며, 이는 수십 년이 지난 오늘날에도 여전히 유효한 연구 주제로 다뤄지고 있습니다. 최근에는 튜링의 이론을 응용하여 해수 담수화 시스템이 개발되어 권위 있는 학술지에 발표되기도 했습니다. 이처럼 아주 간단한 규칙의 조합이 어마어마한 결과를 만들어낼 수 있다는 튜링의 핵심 아이디어는 현대 과학의 여러 분야에서 혁신적인 기술을 탄생시키는 소중한 밑거름이 되고 있습니다. 인공지능 기술의 핵심인 인공신경망 역시 그 뿌리를 거슬러 올라가면 튜링의 선구적인 제안과 맞닿아 있습니다. 튜링은 이미 1948년에 현대의 인공지능과 유사한 개념을 노트에 기록하며, 당시 기술적 한계로 이를 직접 구현하지 못하는 아쉬움을 토로한 바 있습니다. 오늘날 우리가 목격하고 있는 인공지능의 비약적인 발전은 결국 튜링이 설계한 논리적 범주 안에서 이루어지고 있는 셈입니다. 인공지능이 아무리 똑똑해지더라도 그것이 튜링 기계의 원리를 완전히 벗어나는 것은 아니며, 인류가 사용하는 논리 체계가 유지되는 한 튜링 기계는 여전히 컴퓨팅의 근간으로 남을 것입니다. 튜링의 삶과 죽음을 둘러싼 여러 일화는 그를 더욱 신비롭고 입체적인 인물로 만듭니다. 동성애자라는 이유로 국가로부터 부당한 대우를 받았던 비극적인 서사나, 독이 든 사과를 베어 물고 생을 마감했다는 이야기는 대중에게 널리 알려져 있습니다. 비록 애플의 로고가 튜링을 기리기 위해 만들어졌다는 설은 사실이 아닌 것으로 밝혀졌지만, 이러한 신화적 이야기들은 그가 남긴 학문적 유산에 인간적인 깊이를 더해줍니다. 그의 죽음이 사고였는지 혹은 의도된 선택이었는지에 대한 논란은 여전하지만, 그가 겪었던 고뇌와 시대적 아픔은 현대인들에게도 많은 시사점을 던져줍니다. 튜링이 위대한 업적을 남길 수 있었던 배경에는 영국의 독특한 교육적 분위기와 자신감이 자리 잡고 있습니다. 뉴턴과 같은 거장들을 배출한 전통 속에서 학생들은 권위에 주눅 들지 않고 당당하게 자신의 의견을 개진하는 문화를 향유했습니다. 상대가 아무리 대단한 학자라 할지라도 의문이 생기면 끊임없이 질문하며 도전하는 정신은 새로운 학문적 돌파구를 마련하는 원동력이 되었습니다. 이러한 '후츠파' 정신 혹은 우리 식의 '배짱'은 단순히 지식을 습득하는 수준을 넘어, 기존의 틀을 깨고 새로운 세계를 설계하는 창의적인 연구자로 성장하는 데 필수적인 요소라고 할 수 있습니다. 최근 화두가 되고 있는 양자컴퓨터 역시 튜링 기계의 확장된 형태라고 볼 수 있습니다. 양자 역학의 중첩과 얽힘 현상을 이용하여 계산 효율성을 극대화하는 이 기술은 기존 컴퓨터로는 수만 년이 걸릴 소인수분해 문제를 순식간에 해결할 잠재력을 지니고 있습니다. 이는 현재의 암호 체계를 무력화할 수 있다는 점에서 위협적이기도 하지만, 동시에 컴퓨팅의 새로운 지평을 여는 혁명적인 변화이기도 합니다. 양자컴퓨터가 상용화된다면 우리는 이전과는 비교할 수 없는 속도로 복잡한 문제들을 처리하게 되겠지만, 그 논리적 뿌리는 여전히 튜링이 정립한 기초 위에 굳건히 서 있을 것입니다. 컴퓨터가 모든 문제에 대해 즉각적이고 정확한 답을 내놓을 것이라는 믿음은 일종의 환상에 가깝습니다. 현실 세계에는 계산 시간이 너무 오래 걸려 이론적으로는 가능해도 실제로는 풀 수 없는 문제들이 산재해 있습니다. 이러한 한계를 극복하기 위해 컴퓨터 과학자들은 완벽한 정답 대신 '휴리스틱'이라 불리는 효율적인 판단 방식을 도입하여 실용적인 해답을 찾아냅니다. 튜링 기계의 한계를 인정하면서도 그 안에서 최선의 결과를 도출하려는 이러한 노력은, 기술이 인간의 삶을 실질적으로 개선하는 데 기여하도록 만드는 현대 컴퓨팅의 핵심적인 전략이자 지혜라고 할 수 있습니다.

[강연] 컴퓨터과학의 원천 아이디어가 나오기까지 (3) _ by이광근 | 2018 봄 카오스 강연 '모든 것의 수數다' 10강

이광근

카오스재단카오스강연
  • 수학
  • 융합

[강연] 컴퓨터과학의 원천 아이디어가 나오기까지 (2) _ by이광근 | 2018 봄 카오스 강연 '모든 것의 수數다' 10강 | 10강 ②

앨런 튜링은 기계적인 계산의 본질을 정의하기 위해 상태와 기호, 그리고 규칙 표로 이루어진 추상적인 장치를 고안했습니다. 이 장치는 테이프 위의 기호를 읽고 상태를 변화시키며 정해진 규칙에 따라 작동합니다. 흥미로운 점은 특정 작업을 수행하는 개별 기계들을 글자로 표현하여 하나의 '보편 튜링 기계'에 입력할 수 있다는 사실입니다. 이는 오늘날 우리가 사용하는 하드웨어와 소프트웨어의 개념적 시초가 되었으며, 현대 컴퓨터 과학의 근간을 이루는 위대한 발견이었습니다. 보편 튜링 기계는 테이프에 기록된 다른 기계의 규칙을 읽어 그대로 흉내 냅니다. 우리가 스마트폰에 앱을 설치하고 실행하는 과정은 사실 텍스트로 표현된 튜링 기계의 설계를 메모리에 올리는 것과 본질적으로 같습니다. 하드웨어는 소프트웨어에 적힌 명령을 충실히 따르며 동영상을 재생하거나 메시지를 전달합니다. 이처럼 모든 계산 과정을 기호의 나열로 변환할 수 있다는 통찰은 복잡한 논리 체계를 물리적인 연산 장치로 구현할 수 있는 길을 열어주었습니다. 튜링의 연구는 수학자 쿠르트 괴델의 불완전성 정리에서 큰 영감을 받았습니다. 괴델은 자연수에 관한 참인 명제들 중에는 기계적인 방식으로는 결코 증명할 수 없는 영역이 존재함을 논리적으로 입증했습니다. 튜링은 이러한 추상적인 논리를 자신의 기계 모델로 가져와 재해석하고자 했습니다. 그는 모든 튜링 기계가 유한한 부호의 조합으로 표현될 수 있으며, 따라서 자연수와 일대일로 대응하여 번호를 매길 수 있다는 '가산성'의 개념을 증명에 활용했습니다. 튜링은 '정지 문제'라는 독특한 화두를 던지며 기계적 계산의 한계를 탐구했습니다. 정지 문제란 어떤 기계의 설계도를 보고 이 기계가 작업을 마친 후 멈출지, 아니면 영원히 멈추지 않고 작동할지를 미리 판단하는 문제입니다. 만약 모든 참인 명제를 생성하는 완벽한 기계가 존재한다면 이 정지 문제도 해결할 수 있어야 합니다. 하지만 튜링은 논리적 모순을 통해 이러한 판단을 내릴 수 있는 보편적인 알고리즘이나 기계 장치는 존재할 수 없음을 명확히 보여주었습니다. 증명의 핵심은 칸토어의 대각선 논법을 응용한 것입니다. 모든 가능한 튜링 기계를 일렬로 세우고 각각의 입력값에 대한 결과를 표로 만들었을 때, 튜링은 그 어떤 기계와도 다르게 행동하는 새로운 기계를 상상했습니다. 만약 정지 문제를 푸는 기계가 있다면, 우리는 기존의 모든 기계 목록에 포함되지 않는 기괴한 기계를 설계할 수 있게 됩니다. 이는 모든 기계가 이미 목록에 있다는 전제와 충돌하며, 결국 정지 문제를 해결하는 기계 자체가 논리적으로 불가능하다는 결론에 도달하게 합니다. 흔히 튜링을 하늘에서 떨어진 천재로 묘사하곤 하지만, 그의 업적은 철저히 앞선 연구자들의 토대 위에서 피어난 결과물입니다. 맥스 뉴먼 교수의 강의를 통해 괴델의 정리를 접하고, 이를 자신만의 기계적 언어로 번역하는 과정이 있었기에 가능했습니다. 괴델이 숫자로 논리를 인코딩했다면, 튜링은 이를 기계의 동작으로 시각화했습니다. 이러한 지적 계승의 과정은 원천 지식이 단순히 개인의 천재성에 의존하는 것이 아니라, 기존의 아이디어를 비판적으로 수용하고 재구성하는 노력에서 탄생함을 시사합니다. 튜링의 논문을 추적해 보면 그가 겪었을 사고의 흐름이 고스란히 드러납니다. 무한한 대상을 다루는 고정점의 개념에서 힌트를 얻고, 기계가 기계를 입력으로 받는 구조를 고민하며 보편 튜링 기계의 가능성을 발견했을 것입니다. 우리는 위대한 과학자를 '천재'라는 틀에 가두어 거리감을 두기보다, 그들이 어떻게 문제를 정의하고 해결해 나갔는지 그 과정을 살펴볼 필요가 있습니다. 누구나 논리적인 사고를 통해 원천적인 질문을 던질 수 있다는 자신감을 가질 때, 제2의 튜링이 탄생할 수 있을 것입니다.

[강연] 컴퓨터과학의 원천 아이디어가 나오기까지 (2) _ by이광근 | 2018 봄 카오스 강연 '모든 것의 수數다' 10강

이광근

카오스재단카오스강연
  • 수학
  • 융합