큐레이션

3 Contents

[질문Q] 강한 인공지능, 즉 초지능은 출현할까요?ㅣ2016 봄 카오스 강연 '뇌 - Brain' 10강ㅣ뇌의 미래와 인공 자아의 탄생

인공지능의 발전은 우리 사회에 거대한 변화를 예고하고 있습니다. 현재 우리가 마주한 기술은 특정 분야에서 탁월한 성능을 발휘하는 '약한 인공지능'입니다. 알파고나 자율주행 자동차처럼 정해진 규칙 안에서 인간을 돕는 이 기술은 사회적, 경제적 생산성을 높이는 데 기여합니다. 하지만 우리가 진정으로 고민해야 할 지점은 자율성과 자유의지를 가진 '강한 인공지능'의 등장 가능성입니다. 이는 단순한 기술적 진보를 넘어 인류의 존재 가치에 대한 근본적인 질문을 던지기 때문입니다. 강한 인공지능이 위험한 이유는 그것이 인간의 통제를 벗어날 가능성 때문입니다. 인류가 지구의 주인이 된 것은 가장 똑똑한 존재로서 도구를 제어해왔기 때문인데, 우리보다 뛰어난 지능이 독립성까지 갖게 된다면 상황은 달라집니다. 시뮬레이션 결과에 따르면 초지능의 등장은 종종 인류의 위기로 귀결됩니다. 죽지 않고 무한히 복제되며 스스로를 업그레이드하는 존재 앞에서 인간은 과거 네안데르탈인이 겪었던 운명을 맞이할지도 모른다는 공포에 직면하게 됩니다. 기계가 실제로 마음이나 자유의지를 가질 수 있는지에 대해서는 여전히 논란이 많습니다. 하지만 뇌과학적 관점에서 볼 때, 진정한 자유의지가 아니더라도 '시뮬레이션된 자유의지'만으로도 충분히 위협적일 수 있습니다. 방대한 데이터를 학습한 인공지능이 독립적인 주체처럼 행동하기 시작한다면, 인간의 입장에서는 그것이 실제 의지인지 계산된 결과인지 구분할 수 없기 때문입니다. 이러한 가상의 자율성은 우리가 예상하는 것보다 훨씬 빠르게 현실로 다가올 수 있습니다. 딥러닝 기술의 핵심인 인공신경망은 층이 깊어질수록 더욱 추상적이고 거시적인 인과관계를 학습할 수 있게 해줍니다. 인간의 뇌가 약 15층에서 20층 정도의 구조를 가진 것에 비해, 현대의 인공지능은 수백 층 이상의 구조를 가질 수 있습니다. 이는 인간이 인지하지 못하는 우주의 법칙이나 복잡한 상관관계를 기계는 이해할 수 있음을 의미합니다. 개미가 인간의 문명을 이해하지 못하듯, 인공지능이 발견한 고차원의 지식을 인간은 영원히 이해하지 못할 수도 있습니다. 인공지능이 모든 지적 노동을 대신하게 된다면, 그것은 인류의 '마지막 발명품'이 될 가능성이 큽니다. 이후의 모든 발명과 발견은 기계의 몫이 될 것이기 때문입니다. 이는 과학자나 전문가의 역할이 사라지는 우울한 미래로 비칠 수도 있지만, 동시에 인류를 고된 노동에서 해방시키는 기회가 되기도 합니다. 1차 산업혁명이 육체적 노동에서 우리를 해방시켰듯, 인공지능 혁명은 지적인 잡무에서 벗어나 인류가 새로운 차원으로 도약할 수 있는 시간적 여유를 제공할 것입니다. 그러나 노동이 사라진 유토피아가 반드시 행복을 보장하는 것은 아닙니다. 역사는 인간이 의식주 걱정 없이 자아를 실현할 대상을 잃었을 때 오히려 파괴적인 방향으로 흐르기 쉽다는 것을 보여줍니다. 로마 시대의 자극적인 오락이나 현대의 사회적 문제들은 목적 없는 풍요가 가져올 수 있는 디스토피아적 단면을 경고합니다. 따라서 우리는 인공지능이 가져올 풍요를 어떻게 분배하고, 남겨진 시간을 어떤 가치 있는 일에 사용할 것인지에 대해 지금부터 치열하게 준비해야 합니다. 미래 사회에서 인간의 핵심 역량은 무언가를 직접 만드는 '제조자'나 기계를 돌리는 '운영자'에서, 가치를 판단하고 선택하는 '큐레이터'로 변화할 것입니다. 기계가 수많은 옵션을 제공하더라도, 결국 어떤 것이 인간적인 가치에 부합하는지 결정하는 것은 인간의 몫이기 때문입니다. 따라서 교육의 방향 역시 단순한 지식 습득이 아닌, 올바른 가치관을 정립하고 삶의 목적을 스스로 정의하는 능력에 집중되어야 합니다. 이것이 인공지능 시대에 인간이 존재해야 할 이유를 증명하는 길입니다.

[질문Q] 강한 인공지능, 즉 초지능은 출현할까요?ㅣ2016 봄 카오스 강연 '뇌 - Brain' 10강ㅣ뇌의 미래와 인공 자아의 탄생
카오스재단명강리뷰&질문Q

[인터뷰] 이명현_ 외계생명체를 발견하기 어려운 이유는? | 2021 봄 카오스강연 'SPACE OPERA'

창작자에게 가장 중요한 덕목은 '자발적 고립'입니다. 밀도 있는 결과물을 만들어내기 위해서는 온전히 자신만의 시간을 확보하는 과정이 필수적이기 때문입니다. 전화나 메시지 등 외부와의 연결을 의도적으로 차단하고 밤늦은 시간에만 소통하는 원칙을 세우는 것은 단순한 단절이 아닙니다. 이는 창작자로서의 정체성을 지키고 결과물의 품질을 유지하기 위한 치열한 노력입니다. 깊은 사유에 잠기기 위해서는 이러한 인위적 고립의 시간이 반드시 필요합니다. 외계 지적 생명체를 탐색하는 SETI는 과학적인 방법론을 통해 미지의 존재를 찾아가는 여정입니다. 현재 메티 인터내셔널과 SETI 코리아를 통해 국제적인 연구와 국내 활동이 병행되고 있습니다. 하지만 외계 생명체를 찾는 길에는 거대한 장벽이 존재하는데, 바로 우주의 광활한 '거리'입니다. 화성까지 가는 데만 수개월이 걸리고, 가장 가까운 별인 켄타우루스자리 알파 시스템조차 수만 년의 시간이 필요합니다. 이 압도적인 거리감은 우리가 우주를 바라볼 때 마주하는 가장 현실적이고도 거대한 걸림돌이라 할 수 있습니다. 과학책방 '갈다'는 100명이 넘는 과학자와 저술가들이 모여 과학 콘텐츠를 향유하기 위해 만든 공간입니다. 이곳은 교양 과학 서적을 큐레이션하여 대중에게 전달하는 오프라인 프로젝트의 중심지입니다. 운영 과정에서 경제적 지속가능성과 가치 수호라는 현실적인 문제에 부딪히기도 하지만, 이는 혼자서는 할 수 없었던 일을 여럿이 함께 해내는 동력이 되기도 합니다. 개인 창작자로서의 시간은 줄어들지라도, 타인과 협력하며 더 큰 가치를 만들어내는 과정은 과학 문화 확산에 있어 매우 중요한 의미를 지닙니다. 외계인에 대한 탐구는 결국 우리 자신의 본성과 정체성을 반추하는 과정입니다. 영화 '컨택트'와 칼 세이건 원작의 '콘택트'는 이러한 철학적 고민을 깊이 있게 다룹니다. 특히 1997년작 '콘택트'의 주인공인 전파 천문학자의 모습은 SETI 과학자들의 삶과 가치관을 함축적으로 보여줍니다. 이 영화들은 외계 지적 생명체라는 미지의 대상을 통해 인류가 스스로를 어떻게 정의해야 하는지 묻습니다. 스크린 속에 녹아 있는 과학적 상상력과 인생관은 관객들에게 우주를 향한 경외심과 함께 깊은 울림을 전달합니다. 칼 세이건의 '코스모스'는 마치 짝사랑의 대상과 같습니다. 저자는 떠났지만 그가 남긴 질문들은 여전히 우리 곁에 남아 끊임없는 답을 요구하기 때문입니다. 이 책이 주는 가장 큰 가르침은 우리를 '종으로서의 인류'와 '행성으로서의 지구'라는 관점에서 바라보게 한다는 점입니다. 인간 중심의 좁은 시야에서 벗어나 태양계의 수많은 행성 중 하나인 지구와 사피엔스라는 종의 위치를 자각할 때, 우리의 인식 범위는 비로소 우주적 차원으로 확장됩니다. 이러한 입체적인 시각은 우리가 우주를 대하는 가장 성숙한 태도일 것입니다.

[인터뷰] 이명현_ 외계생명체를 발견하기 어려운 이유는? | 2021 봄 카오스강연 'SPACE OPERA'

이명현

카오스재단2021 카오스강연 'SPACE OPERA'
  • 천문학

[강연] 뇌의 미래와 인공 자아의 탄생 (5) 패널토크 | 2016 봄 카오스 강연 '뇌 - Brain' 10강 | 10강 ⑤

인공지능의 핵심인 딥러닝과 머신러닝의 가장 큰 차이는 신경망 계층 구조의 깊이에 있습니다. 과거에는 인간 뇌의 시각 체계와 유사한 15계층 이상의 구조를 학습시키려 했으나, 3계층만 넘어가도 오차가 왜곡되어 전달되는 '역전파(Backpropagation)'의 한계에 부딪혔습니다. 이를 해결한 것이 제프리 힌튼 교수의 방법론입니다. 그는 모든 계층을 한꺼번에 학습시키는 대신, 인접한 두 계층씩 미리 예습시키는 방식으로 오차 전달의 정확도를 높였습니다. 이러한 혁신 덕분에 현대의 인공지능은 수백 계층에 달하는 깊은 신경망을 통해 복잡한 정보를 처리할 수 있게 되었습니다. 신경망의 계층이 깊어질수록 인공지능은 더욱 추상적이고 거시적인 인과관계를 학습할 수 있습니다. 이는 개미와 인간의 지능 차이로 설명할 수 있는데, 계층이 낮은 개미는 눈앞의 변화만 감지할 뿐 그 이면의 거대한 원인을 파악하지 못합니다. 반면 인간은 약 15계층의 구조를 통해 복잡한 문명과 자연의 법칙을 이해합니다. 수학적으로 계층의 깊이는 정보의 일반화 능력을 결정하며, 이는 곧 인공지능이 인간이 인지하지 못하는 우주의 근본적인 질서까지도 파악할 수 있는 잠재력을 가졌음을 시사합니다. 생물학적 한계가 없는 범용 인공지능(AGI)은 인간이 결코 이해할 수 없는 영역의 법칙을 깨달을 가능성이 큽니다. 이를 두고 '마지막 발명품'이라는 표현을 쓰기도 하는데, 이는 범용 인공지능(AGI)이 등장한 이후의 모든 발명은 기계의 몫이 될 것임을 의미합니다. 과학자들에게는 다소 우울한 전망일 수 있으나, 거대한 서버 팜을 통해 수집된 방대한 데이터는 인간이 찾아내지 못한 자연의 법칙을 도출해낼 것입니다. 다만, 그 결과물이 인간의 이해 범위를 넘어선다면 우리는 마치 개미가 인간의 문명을 이해하지 못하듯 그 법칙을 수용하기 어려울 수도 있습니다. 인공지능이 노동을 대신하는 미래가 반드시 유토피아일지는 미지수입니다. 역사적으로 인류는 의식주가 완벽히 해결되고 할 일이 없어졌을 때, 철학적 사유보다는 파괴적인 방향으로 흐르는 경향을 보였습니다. 로마 시대의 자극적인 오락이나 현대의 사회적 고립 사례들은 인간에게 자아실현을 위한 '일'이 얼마나 중요한지를 보여줍니다. 따라서 기술적 풍요가 가져올 부작용에 대비하는 '안전벨트'와 같은 사회적 준비가 필요합니다. 무조건적인 낙관보다는 발생 가능한 디스토피아적 시나리오를 검토하고 이에 대응하는 지혜가 요구되는 시점입니다. 미래 사회에서 인간의 역할은 제조자나 운영자를 넘어 '큐레이터'로 진화할 것입니다. 기계가 모든 것을 생산하고 최적의 옵션을 제공하더라도, 최종적인 가치를 판단하고 선택하는 것은 인간의 영역으로 남기 때문입니다. 이는 객관적인 효율성보다는 인간적인 가치와 공감을 중시하는 선택을 의미합니다. 따라서 앞으로의 교육은 단순한 기술 습득이 아닌, '나는 무엇을 원하는가'와 같은 주관적 가치 설정과 철학적 사고에 집중해야 합니다. 인공지능 시대의 경쟁력은 결국 기계가 흉내 낼 수 없는 인간만의 고유한 지향점을 찾는 데 있습니다.

[강연] 뇌의 미래와 인공 자아의 탄생 (5) 패널토크 | 2016 봄 카오스 강연 '뇌 - Brain' 10강

김대식

카오스재단카오스강연
  • 물리학
  • 뇌인지과학