람다계산법

2 Contents

[카오스 짧강] 계산이란 무엇인가?_by박성우|2018 봄 카오스 강연 '모든 것의 수數다' 10강

우리는 일상에서 '계산'이라는 단어를 자주 사용하지만, 막상 그 본질이 무엇인지 질문을 받으면 당황하곤 합니다. 아이가 "계산이 뭐예요?"라고 묻는다면 대개 "컴퓨터로 하는 것이 계산이야"라고 대답하며 넘어가기 마련입니다. 하지만 이 단순해 보이는 답변 속에는 현대 컴퓨터 과학의 가장 핵심적인 정의가 담겨 있습니다. 계산의 본질을 이해하기 위해서는 먼저 시간이라는 제약을 머릿속에서 지워야 합니다. 결과가 나오기까지 천 년이 걸리든 만 년이 걸리든, 언젠가 답을 도출할 수 있다면 그것은 계산 가능한 영역에 속한다고 볼 수 있기 때문입니다. 1936년, 영국의 수학자 앨런 튜링은 계산이라는 추상적인 개념을 '튜링 기계'라는 구체적인 모형으로 정의했습니다. 튜링 기계는 긴 테이프와 이를 읽고 쓰는 헤드, 그리고 몇 가지 규칙표로 이루어진 매우 단순한 구조를 가지고 있습니다. 비록 형태는 단순하지만, 이 기계는 우리가 논리적으로 수행할 수 있는 모든 계산 과정을 완벽하게 설명해 냅니다. 튜링은 이 기계적인 절차를 통해 무엇이 계산될 수 있고 무엇이 계산될 수 없는지를 명확히 구분 지었으며, 이는 훗날 우리가 사용하는 현대적 컴퓨터의 이론적 토대가 되었습니다. 비슷한 시기 미국 프린스턴 대학교의 알론조 처치 교수 또한 계산의 정의를 내리기 위해 노력하고 있었습니다. 그는 튜링과 달리 '람다 계산법'이라는 프로그래밍 언어의 시초 격인 논리 체계를 통해 계산을 정의했습니다. 튜링이 하드웨어적인 기계의 관점에서 접근했다면, 처치는 소프트웨어적인 언어의 관점에서 접근한 셈입니다. 흥미롭게도 서로 다른 길을 걸었던 두 천재의 정의는 결국 수학적으로 동일하다는 사실이 밝혀졌습니다. 튜링은 이후 처치의 제자가 되어 박사 학위를 받았으며, 이들의 협력은 컴퓨터 과학의 계보를 잇는 중요한 이정표가 되었습니다. 튜링이 제안한 개념 중 가장 혁신적인 것은 바로 '만능 기계'입니다. 이는 특정 작업만 수행하는 기계가 아니라, 어떤 규칙이든 입력받아 실행할 수 있는 유연한 장치를 의미합니다. 오늘날 우리가 사용하는 스마트폰이나 노트북은 바로 이 '만능 기계'를 실제 하드웨어로 구현한 결과물입니다. 우리가 카카오톡을 하거나 유튜브를 시청하는 모든 행위는 결국 처치의 '람다 계산법'과 동등한 프로그래밍 언어로 작성된 소프트웨어가 '만능 기계' 위에서 돌아가는 과정입니다. 즉, 현대의 모든 디지털 기기는 튜링과 처치가 설계한 논리적 세계관 속에 존재하고 있습니다. 결국 "계산이란 무엇인가"라는 질문에 대해 "컴퓨터로 할 수 있는 일"이라고 답하는 것은 과학적으로 매우 정확한 답변입니다. 인류는 튜링과 처치가 정의한 계산의 범주를 넘어서는 새로운 형태의 계산을 아직 발견하지 못했기 때문입니다. 우리가 집에서 사용하는 컴퓨터가 할 수 있는 일들이 곧 계산의 전부이며, 이는 앨런 튜링이 타임머신을 타고 현대에 온다 해도 똑같이 대답할 내용입니다. 가장 일상적인 도구가 가장 심오한 수학적 정의를 담고 있다는 사실은, 우리가 이미 위대한 과학적 성취의 시대 한복판에 살고 있음을 시사합니다.

[카오스 짧강] 계산이란 무엇인가?_by박성우|2018 봄 카오스 강연 '모든 것의 수數다' 10강
카오스재단질토과 + 짧강

[강연] 컴퓨터과학의 원천 아이디어가 나오기까지 (4) _ by이광근 | 2018 봄 카오스 강연 '모든 것의 수數다' 10강 | 10강 ④

우리가 일상에서 접하는 컴퓨터는 정답이 없는 복잡한 문제들을 해결하기 위해 '휴리스틱', 즉 일종의 직관적인 추론 방식을 사용하곤 합니다. 바둑과 같은 게임에서 알파고가 보여준 놀라운 실력도 사실은 완벽한 정답을 찾은 것이 아니라, 방대한 데이터를 바탕으로 최선의 수를 찾아가는 과정이었습니다. 이처럼 컴퓨터가 모든 문제에 대해 즉각적이고 완벽한 해답을 내놓는 것은 아니지만, 인간이 범접하기 어려운 수준의 계산 능력을 통해 실질적인 해결책을 제시하며 우리 삶의 깊숙한 곳까지 들어와 있습니다. 계산이란 무엇인가라는 근본적인 질문에 대해 앨런 튜링은 '튜링 기계'라는 개념을 통해 명쾌한 정의를 내렸습니다. 튜링 기계는 상태를 기록하는 테이프와 이를 읽고 쓰는 헤드, 그리고 정해진 규칙 표로 구성된 매우 단순한 장치입니다. 이 단순한 기계가 수행할 수 있는 모든 과정이 바로 우리가 말하는 계산의 본질입니다. 즉, 계산은 복잡한 전자 회로의 움직임 이전에, 논리적인 규칙에 따라 정보를 처리해 나가는 일련의 절차적 과정을 의미하는 것이라고 할 수 있습니다. 튜링과 비슷한 시기에 미국의 알론조 처치는 '람다 계산법'이라는 프로그래밍 언어의 시초와 같은 방식을 통해 계산을 정의했습니다. 흥미로운 점은 기계적인 접근을 시도한 튜링과 소프트웨어적인 접근을 시도한 처치의 방법론이 결국 동일한 문제를 풀고 있었다는 사실이 증명되었다는 것입니다. 오늘날 우리가 사용하는 스마트폰이나 컴퓨터는 튜링의 만능 기계를 하드웨어로 구현한 것이며, 그 안에서 돌아가는 수많은 앱은 처치의 람다 계산법과 맥을 같이하는 소프트웨어의 결과물입니다. 이론적인 관점에서 계산 가능성을 논할 때, 우리는 계산에 소요되는 시간을 고려하지 않습니다. 어떤 문제가 해결되는 데 천 년이 걸리든 만 년이 걸리든, 언젠가 결과가 나오기만 한다면 그것은 계산으로 풀 수 있는 문제라고 간주합니다. 시간은 상대적인 개념이며 충분한 에너지만 있다면 극복할 수 있는 요소이기 때문입니다. 따라서 계산의 핵심은 '얼마나 빨리'가 아니라 '논리적으로 답에 도달할 수 있는가'라는 본질적인 가능성 여부에 달려 있다고 보아야 합니다. 하지만 컴퓨터가 모든 수학적 난제를 해결할 수 있는 것은 아닙니다. '멈춤 문제'와 같이 튜링 기계로도 결코 해결할 수 없는 문제들이 존재하며, 이러한 불가능한 문제의 개수 또한 무한합니다. 수학자 괴델이 증명했듯이 인간의 논리 체계 안에는 증명할 수 없는 사실들이 존재하며, 이는 컴퓨터 과학에서도 동일하게 적용됩니다. 할 수 있는 일과 할 수 없는 일이 모두 무한하다는 사실은 계산의 세계가 우리가 상상하는 것보다 훨씬 더 깊고 오묘한 영역임을 시사합니다. 컴퓨터 과학의 본질은 추상적인 사고 과정을 논리적인 규칙으로 정립하여 기계가 수행할 수 있도록 만드는 과정을 의미합니다. 이러한 능력을 키우기 위해서는 수학적 사고력이 필수적입니다. 수학은 보이지 않는 개념을 논리적으로 다루는 근육을 단련시켜 주며, 이를 통해 다져진 컴퓨팅 사고력은 인공지능 시대를 살아가는 현대인들에게 읽기나 쓰기만큼이나 중요한 필수 역량이 되고 있습니다. 이는 단순히 기술을 배우는 것을 넘어 세상을 논리적으로 설계하는 힘을 기르는 과정입니다. 컴퓨터 과학은 이제 겨우 80년 정도의 역사를 가진 매우 젊은 학문입니다. 물리학의 역사와 비교하자면 지금의 컴퓨터 과학은 뉴턴이나 갈릴레오가 활동하던 고전 역학의 태동기와 비슷하다고 볼 수 있습니다. 지난 수십 년간 눈부신 발전을 이루었지만, 여전히 해결되지 않은 과제들이 산적해 있으며 앞으로 개척해야 할 영역은 무궁무진합니다. 알파고를 뛰어넘는 혁신적인 기술들이 앞으로 어떻게 펼쳐질지 기대하며, 우리는 이 새로운 과학의 시대를 맞이할 준비를 해야 합니다.

[강연] 컴퓨터과학의 원천 아이디어가 나오기까지 (4) _ by이광근  | 2018 봄 카오스 강연 '모든 것의 수數다' 10강

박성우, 이광근

카오스재단카오스강연
  • 수학
  • 융합