마음이론

3 Contents

[석학인터뷰] AI가 정말 인간처럼 대화할 수 있을까? | 2020 가을 카오스강연 'Ai X'

인공지능이 인간과 유사한 마음을 가진 것처럼 느껴질 수 있는가에 대한 논의는 매우 흥미롭습니다. 기계가 인간처럼 느껴지는 것은 충분히 가능하지만, 그것이 곧 자의식을 의미하지는 않습니다. 진정한 마음을 갖기 위해서는 생물학적 생존 욕구나 욕망이 전제되어야 하기 때문입니다. 예를 들어 알파고는 세계 최고의 바둑 실력을 갖추었지만, 승리하고자 하는 욕망은 전혀 없습니다. 현재의 기술은 자의식을 형성하기보다 고도화된 기능을 수행하는 데 집중되어 있어, 진정한 이해의 단계에 도달하기는 어려워 보입니다. 소통의 본질은 단순히 지식과 정보를 전달하는 것에 그치지 않습니다. 진정한 교감은 데이터의 양이나 정보의 정확성보다는 정서적 연결과 다양한 외적 요소들이 복합적으로 작용하여 이루어지는 영역입니다. 인공지능이 세상의 모든 지식을 학습하더라도 인간 특유의 사회성을 완벽히 재현하는 데 한계가 있는 이유가 바로 여기에 있습니다. 학습만으로는 도달할 수 없는 영역이 분명히 존재하며, 이는 인공지능이 인간과 동일한 수준의 소통 파트너가 되는 데 큰 걸림돌이 될 것입니다. 하지만 인공지능이 인간과 자연스럽게 대화할 가능성을 긍정하는 시각도 존재합니다. 인간 사이의 대화 역시 항상 완벽하거나 논리적이지 않다는 점을 고려하면, 인공지능이 높은 수준의 의사소통 능력을 갖추는 것은 충분히 실현 가능한 목표입니다. 수십 년 내에 기술이 고도화되면 일상적인 대화에서 인간과 기계를 구분하기 어려워질 것입니다. 비록 인공지능이 실제로 감정을 느끼지는 못하더라도, 상대방의 감정에 공감하는 것처럼 행동하거나 인위적으로 감정을 흉내 내는 수준까지는 도달할 수 있습니다. 기술적으로 인공지능이 인간의 대화 수준에 근접하기 위해서는 인지과학에서 말하는 '마음 이론'의 구현이 필요합니다. 이는 상대방의 마음 상태를 모델링하고 이해하는 능력을 의미하는데, 현재의 인공지능은 아직 이러한 단계에 이르지 못했습니다. 최근의 기술들은 질문에 대해 매우 정교한 답변을 내놓으며 마치 의미를 이해하는 것처럼 보이지만, 이는 데이터 기반의 결과물일 뿐입니다. 진정한 의미의 이해와 공감이 결여된 상태에서의 대화는 결국 고도화된 기술적 모사에 머무를 수밖에 없습니다. 결국 인공지능은 튜링 테스트를 통과할 정도로 정교하게 인간을 속이는 시스템으로 발전할 가능성이 큽니다. 방대한 데이터를 통해 인간의 반응을 학습함으로써 겉으로 보기에는 창의적이고 자연스러운 대화가 가능해질 것이기 때문입니다. 우리가 인공지능이 인간처럼 대화할 수 없다는 것을 완벽히 증명할 수 없는 한, 기술은 끊임없이 그 경계를 허물어갈 것입니다. 인간의 대화 수준이 생각보다 높지 않다는 점도 인공지능이 인간의 영역에 들어오는 것이 그리 어렵지 않음을 시사합니다.

[석학인터뷰] AI가 정말 인간처럼 대화할 수 있을까? | 2020 가을 카오스강연 'Ai X'

남세동, 신현정, 이교구, 이세민, 임창환, 장병탁, 최재식, 한보형, 함유근, 현동훈

카오스재단2020 카오스강연 'Ai X'
  • 뇌인지과학

[석학인터뷰] AI 대체 어디까지 가능할까? | 2020 가을 카오스강연 'Ai X'

인공지능이 비약적으로 발전하면서 창의성의 영역까지 넘보고 있지만, 인간의 독창성과는 본질적인 차이가 있습니다. 현재의 인공지능은 방대한 데이터를 학습하여 그와 유사한 결과물을 만들어내는 데 탁월한 능력을 발휘합니다. 하지만 과거의 위대한 예술가들이나 과학자들처럼 기존의 틀을 완전히 깨고 새로운 영역을 개척하는 혁신은 여전히 인간만의 고유한 영역으로 남아 있습니다. 학습 데이터의 범주를 넘어서는 진정한 의미의 창조는 단순한 계산이나 조합 이상의 직관과 통찰을 필요로 하기 때문입니다. 인공지능이 인간보다 더 창의적으로 보일 수도 있는 시대가 오겠지만, 무에서 유를 창조하는 개척자 정신은 여전히 풀기 어려운 숙제입니다. 인간과 인공지능의 소통에서 가장 큰 장벽은 공감 능력과 마음 이론의 부재입니다. 상대방의 마음을 모델링하고 그 감정을 깊이 있게 이해하는 능력은 지식의 습득만으로는 도달하기 어려운 경지입니다. 인간의 대화 수준이 생각보다 높지 않다는 점을 이용해 자연스러운 대화를 구현하는 것은 가능할지도 모르지만, 인공지능이 단순히 문제를 해결하는 지능을 넘어 자아를 가진 의식체로 거듭나는 것은 전혀 다른 차원의 문제입니다. 지능과 의식 사이의 간극은 우리가 기술적으로 해결해야 할 가장 복잡한 질문 중 하나이며, 이를 어떻게 정의하느냐에 따라 미래의 모습이 결정될 것입니다. 인공지능이 인간의 수준에 도달하는 시점에 대해서는 전문가들 사이에서도 의견이 분분합니다. 누군가는 2034년경이면 충분하다고 보기도 하고, 또 다른 이는 2074년은 되어야 가능할 것이라고 예측하기도 합니다. 특히 인간이 가진 강점인 지속적인 지식 추론 처리나 여러 정보를 유기적으로 통합하는 능력은 인공지능이 단기간에 따라잡기 힘든 부분입니다. 과거 바둑에서 인공지능이 인간을 이기지 못할 것이라 단언했던 예측이 빗나갔듯이, 미래의 가능성을 섣불리 단정하기는 어렵습니다. 결국 지능을 단순한 문제 해결 능력으로 볼 것인지, 아니면 복합적인 사고의 통합체로 볼 것인지에 따라 인공지능의 미래는 달라질 것입니다.

[석학인터뷰] AI 대체 어디까지 가능할까? | 2020 가을 카오스강연 'Ai X'

남세동, 신현정, 이교구, 이세민, 임창환, 장병탁, 최재식, 한보형, 함유근, 현동훈

카오스재단2020 카오스강연 'Ai X'
  • 뇌인지과학

[강연] 자아의 탄생 : 나를 의식하는 나 (2) _ 강웅구 교수 | 2016 봄 카오스 강연 '뇌 - Brain' 5강 | 5강 ②

의식의 가장 핵심적인 속성 중 하나는 '감각질(Qualia)'이라 불리는 주관적 체험입니다. 이는 현재 내가 느끼는 현실 전체에 대한 고유한 느낌을 의미하며, 철저히 1인칭 시점에서만 존재합니다. 이러한 주관적 성질 때문에 의식은 타인에게 직접 전달하거나 방송할 수 없어 자연과학의 탐구 대상이 되기 어렵다는 비판을 받기도 합니다. 하지만 서로 다른 감각질을 느끼더라도 같은 대상에 대해 동일한 언어적 합의를 이룬다면, 이를 '상호주관성'이라는 측면에서 객관적인 탐구의 대상으로 삼을 수 있습니다. 의식의 또 다른 중요한 특징은 '지향성(Intentionality)'입니다. 이는 의식이 항상 무엇인가를 향하고 있다는 '대상성(Aboutness)'을 의미합니다. 우리가 무언가를 지각하거나 기억을 떠올릴 때, 혹은 미래의 행동을 계획할 때 의식은 반드시 구체적인 내용이나 대상을 가집니다. 그 대상은 외부 환경일 수도 있고, 환경 속에서 존재하는 나 자신이나 의식하는 주체로서의 나일 수도 있습니다. 이처럼 의식은 결코 텅 빈 상태로 존재하지 않으며 늘 무언가에 관한 상태를 유지합니다. 인간의 정신 기능은 다양한 모듈 구조로 이루어져 있으며, 의식은 이러한 여러 기능이 복합적으로 참여하여 형성됩니다. 시각과 청각 같은 기초적인 감각 모듈부터 타인의 마음을 추론하는 '마음 이론(Theory of Mind)'에 이르기까지, 생물학적 진화와 발달 단계에 따라 의식의 복합성은 달라집니다. 예를 들어 5세 이상의 아이는 '마음 이론(Theory of Mind)' 기능을 갖추게 되어 더욱 고차원적인 의식의 재료를 확보하게 됩니다. 결국 의식의 범위와 수준은 해당 개체가 어떤 정신적 모듈을 얼마나 정교하게 갖추고 있느냐에 따라 결정된다고 볼 수 있습니다. 뇌의 각 부위가 모양, 색깔, 움직임을 따로 처리함에도 불구하고 우리는 이를 하나의 통합된 대상으로 인식합니다. 이러한 '지각 연합(Binding)'과 '통합성'은 의식의 신비로운 특징 중 하나입니다. 파편화된 정보들을 하나로 묶어 '통합성'을 부여하는 역할은 주로 무의식의 영역에서 수행됩니다. 무의식은 다양한 정보 처리를 거쳐 완성된 결과물을 의식에 바치며, 우리는 이를 통해 '나'라는 일관된 자아를 유지합니다. 만약 이 '지각 연합(Binding)' 과정에 문제가 생기면 여러 대상을 동시에 인식하지 못하는 병적인 상태가 나타나기도 합니다. 리벳의 실험은 우리가 결심을 내리기 전 이미 뇌에서 준비 전위가 나타난다는 사실을 밝혀내며 자유의지에 대한 논쟁을 불러일으켰습니다. 이는 의식적인 의도가 행위의 직접적인 원인이 아닐 수도 있음을 시사합니다. 실제로 우리 몸은 의식이 인지하지 못하는 자극에도 공포 반응을 보이거나, 운전처럼 숙달된 행위를 무의식적으로 수행하기도 합니다. 하지만 의식이 모든 정보 처리에 개입하지 않는다고 해서 그 가치가 부정되는 것은 아닙니다. 의식은 본능적 반응을 억제하거나 복잡한 상황에서 선택을 내리는 등 고차원적인 조절 기능을 수행하기 때문입니다.

[강연] 자아의 탄생 : 나를 의식하는 나 (2) _ 강웅구 교수 | 2016 봄 카오스 강연 '뇌 - Brain' 5강

강웅구

카오스재단카오스강연
  • 뇌인지과학