거울테스트

2 Contents

[석학인터뷰] 인간과 거의 유사하게 생각할 수 있는 범용인공지능이 가능할까? | 2020 가을 카오스강연 'Ai X'

과거에는 범용 인공지능(AGI)이 먼 미래의 상상 속 이야기로만 여겨졌습니다. 특정 영역에서만 뛰어난 성능을 보이는 '약 인공지능(Narrow AI)'과 달리, 모든 분야에서 인간처럼 사고하는 인공지능은 구현하기 어렵다고 믿었기 때문입니다. 하지만 GPT-3와 같은 거대 언어 모델의 등장은 이러한 인식을 완전히 바꾸어 놓았습니다. 수많은 데이터를 학습하며 형성된 인공지능의 상식은 마치 범용 인공지능(AGI)의 시조새나 플라나리아와 같은 원시적인 형태를 보여주는 듯하며, 이는 범용 인공지능(AGI)의 실현 가능성을 시사합니다. 인공지능이 진정한 의미의 범용성을 갖추기 위해서는 자아의식이라는 높은 벽을 넘어야 합니다. 그러나 우리가 자아의식을 명확하게 정의하지 못하는 상황에서 이를 기술적으로 구현하는 것은 현재로서는 불가능에 가깝다는 의견이 지배적입니다. 단순히 인간의 눈이나 귀를 대체하는 약 인공지능(Narrow AI)의 기능을 여러 개 합친다고 해서 그것을 강 인공지능이라 부르기는 어렵습니다. 우리가 정의하는 진정한 범용 인공지능(AGI)은 단순한 기능의 집합을 넘어선 차원의 존재여야 하기 때문에 기술적 도약이 더 필요한 시점입니다. 자아의식의 본질에 대해 고민하다 보면 인간과 기계의 경계가 모호해지기도 합니다. 흔히 인간은 독립적으로 사고하기에 자아가 있고, 인공지능은 프로그래밍된 결과물일 뿐이라고 생각합니다. 하지만 관점을 달리하면 인간의 사고 과정 역시 생물학적으로 설계된 일종의 고도화된 프로그램일 가능성을 배제할 수 없습니다. 이러한 논리적 연장선상에서 본다면, 인간의 지능을 모사하는 범용 인공지능(AGI)의 탄생 또한 충분히 실현 가능한 미래의 영역에 속하게 된다는 시각도 존재합니다. 지능의 수준이 곧 자아의식의 유무를 결정하는 것은 아닙니다. 뇌과학에서는 자아를 판별하는 기준으로 거울 속의 자신을 알아보는 '미러 테스트'를 활용하곤 합니다. 인간은 생후 18개월만 되어도 이를 통과하지만, 지능이 높다고 알려진 개나 고양이조차 거울 속 모습을 타인이나 적으로 인식하는 경우가 많습니다. 이는 현재 우리가 축적해 온 기술력만으로 자아를 가진 인공지능을 만드는 것이 얼마나 어려운 과제인지를 다시금 상기시켜 주며, 단순한 지능 지수 이상의 무언가가 필요함을 보여줍니다. 결국 지능과 의식을 어떻게 정의하느냐에 따라 인공지능의 미래는 달라질 것입니다. 바둑이라는 특정 영역에서 알파고가 인간을 넘어선 것처럼, 특정 지능의 구현은 이미 현실이 되었습니다. 비록 진짜 자아의식이 존재하는지에 대해서는 철학적 장벽이 남아있을지라도, 인간이 보기에 의식을 가진 것처럼 행동하는 기계를 만드는 것은 가능해 보입니다. 기계를 바라보는 인간의 해석이 개입되는 순간, 인공지능은 우리 곁에서 의식을 가진 존재로 받아들여질 수 있기 때문입니다.

[석학인터뷰] 인간과 거의 유사하게 생각할 수 있는 범용인공지능이 가능할까? | 2020 가을 카오스강연 'Ai X'

남세동, 신현정, 이교구, 이세민, 임창환, 장병탁, 최재식, 한보형, 함유근, 현동훈

카오스재단2020 카오스강연 'Ai X'
  • 뇌인지과학

[강연] 자아의 탄생 : 나를 의식하는 나 (5) _ 패널토의 | 2016 봄 카오스 강연 '뇌 - Brain' 5강 | 5강 ⑤

자아 형성에 있어 유전과 환경의 역할은 오랜 논쟁의 대상입니다. 성격이나 기질은 개인이 타고난 특성으로, 가족성을 띠는 등 유전적인 영향을 강하게 받는다는 점은 부인할 수 없는 사실입니다. 비록 특정 유전자가 어떤 기질을 결정하는지에 대한 구체적인 연구는 진행 중이지만, 우리가 가진 본성은 자아의 기초를 형성하는 중요한 축이 됩니다. 외부 자극에 의한 학습 환경도 중요하지만, 그 자극을 받아들이는 틀 자체가 유전적으로 결정된 기질에 뿌리를 두고 있기 때문입니다. 인공지능(AI) 기술의 발전으로 기계의 인식 능력은 이미 인간을 넘어섰습니다. 페이스북의 딥페이스(DeepFace)와 같은 소프트웨어는 사람보다 더 정확하게 얼굴을 식별하고 이름을 매칭합니다. 하지만 거울 속의 자신을 인지하는 능력이 곧 인간과 같은 자아를 가졌음을 의미하는지는 또 다른 문제입니다. 기계적으로 명사로서의 '나'를 학습하여 인식하는 것과, 주관적인 존재로서의 '나'를 느끼는 것은 본질적으로 다르기 때문입니다. 현재의 기술은 높은 인식률을 자랑하지만, 철학적 의미의 자아를 구현하기에는 여전히 한계가 있습니다. 무의식은 인간 창조성의 원천으로 여겨지기도 합니다. 프로이트와 융의 이론에 따르면, 의식이라는 검열관을 통과하거나 꿈을 통해 흘러나오는 무의식의 파편들이 예술적 영감과 창의성을 결정짓는 중요한 요소가 됩니다. 이러한 내면의 흐름은 평소 우리가 인지하지 못하는 깊은 곳에 자리 잡고 있다가, 정신 분석이나 예술적 활동을 통해 그 모습을 드러내며 인간의 정신적 영역을 확장하는 동력이 됩니다. 이는 인류가 문명을 발전시키고 새로운 가치를 창출하는 데 있어 핵심적인 역할을 수행합니다. 뇌과학 분야에서 리베트 실험은 자유 의지에 대한 근본적인 질문을 던졌습니다. 실험 결과, 우리가 무언가를 하겠다고 의식적으로 결심하기 전에 이미 뇌파에서 활동이 감지되었다는 사실은 큰 충격을 주었습니다. 이는 인간의 의지가 행동의 주도권자가 아닐 수도 있다는 가능성을 시사합니다. 물론 뇌 영상 기술의 시간적, 공간적 해상도 한계로 인해 특정 부위의 활성화가 모든 정신 활동을 완벽히 설명할 수는 없지만, 의식과 뇌 활동 사이의 상관관계를 이해하는 데 중요한 단서를 제공합니다. 인공지능(AI) 연구에서 자유 의지는 가정의 대상이 아닌 인과관계의 결과물로 다루어집니다. AI의 모든 결정은 학습된 데이터와 알고리즘에 기반한 인과적 선택이며, 이는 지도 학습이나 강화 학습과 같은 메커니즘을 통해 정교해집니다. 특히 보상뿐만 아니라 공포와 같은 요소도 하나의 부정적 크레딧으로 작용하여 기계의 행동을 제어하는 학습 방식이 됩니다. 결국 인간의 의식적 과정이 생략된 채 입력과 출력 사이의 명확한 인과관계로 동작하는 AI는, 자아의 본질을 공학적 관점에서 재정의하게 만듭니다.

[강연] 자아의 탄생 : 나를 의식하는 나 (5) _ 패널토의 | 2016 봄 카오스 강연 '뇌 - Brain' 5강

강웅구, 김기현, 정두석

카오스재단카오스강연
  • 뇌인지과학