편향

8 Contents

[강연] 불확실과 확실, 그 사이의 외줄타기 : 확률 2_by 서인석 | 2024 카오스강연 '세상에 나쁜 수학은 없다' 시즌2 7강 두 번째 이야기 | 7강 ②

확률은 17세기부터 논의되어 왔으나 20세기 초까지도 독립된 수학 분야로 온전히 자리 잡지 못했습니다. 1900년 수학자 힐베르트는 인류가 해결해야 할 주요 과제 중 하나로 확률을 수학적 공리에 의해 정의할 것을 제안했습니다. 이에 응답한 인물이 바로 콜모고로프입니다. 그는 1933년 측도론을 기반으로 확률론의 기틀을 세웠으며, 이는 파스칼과 페르마 이후 약 300년 만에 확률이 엄밀한 수학적 체계를 갖추게 된 역사적인 순간이었습니다. 콜모고로프의 공리적 정의는 의외로 단순한 철학에서 시작됩니다. 전체 사건이 발생할 확률을 1로 두고, 서로 겹치지 않는 사건들의 확률을 합산하는 등 우리가 당연하게 여기는 성질들을 수학적 언어로 정리한 것입니다. 이러한 접근은 확률을 해석학의 틀 안에서 설명할 수 있게 했으며, 덕분에 확률론은 편미분 방정식이나 조화 해석과 같은 고등 수학 도구들을 활용하며 폭발적으로 발전할 수 있는 토대를 마련하게 되었습니다. 하지만 수학적 정의와 현실 세계의 구현 사이에는 괴리가 존재합니다. 우리는 동전 던지기의 확률을 흔히 절반이라고 생각하지만, 퍼시 다이아코니스 교수의 연구에 따르면 물리적인 동전 던지기는 처음에 위를 향했던 면이 다시 나올 확률이 약 50.8%로 더 높습니다. 이는 완벽한 무작위성을 현실에서 구현하는 것이 얼마나 어려운지를 시사하며, 우리가 당연하게 믿어왔던 확률적 공정성에 대해 다시금 질문을 던지게 만듭니다. 진정한 무작위성을 만들기 어려운 현실에서 인류가 고안한 해결책은 '마르코프 체인 몬테카를로(MCMC)' 기법입니다. 이는 특정 지점에서 시작해 서서히 확률을 퍼뜨려 목표하는 분포에 도달하게 만드는 방식입니다. 처음에는 무작위가 아니더라도 반복적인 과정을 통해 점차 정교한 확률 분포를 만들어내는 이 철학은, 오늘날 복잡한 데이터를 처리하는 딥러닝과 인공지능 알고리즘의 핵심적인 기반 기술로 자리 잡고 있습니다. MCMC의 흥미로운 특성 중 하나는 '컷오프 현상'입니다. 카드 섞기를 예로 들면, 카드는 섞을 때마다 조금씩 무작위해지는 것이 아니라 다섯 번까지는 거의 섞이지 않다가 일곱 번이 되는 순간 급격하게 무작위 상태에 도달합니다. 이러한 비선형적인 변화는 우리의 직관을 크게 벗어납니다. 수학적으로 증명된 이 '위닝 넘버'는 단순히 많이 반복하는 것보다 임계점을 넘어서는 것이 확률적 균형을 이루는 데 얼마나 중요한지를 보여줍니다. 컷오프 현상은 카드 섞기뿐만 아니라 사다리 타기, 구글의 검색 엔진, 딥러닝 알고리즘 등 다양한 분야에서 보편적으로 관찰됩니다. 전혀 다른 메커니즘을 가진 시스템들이 특정 지점에서 갑자기 균형 상태로 전이되는 공통된 법칙을 따르는 것입니다. 수학자들은 이를 '보편성'이라 부르며 우주의 섭리로 이해하려 노력하고 있습니다. 비록 그 근본적인 원인이 완벽히 밝혀지지는 않았으나, 이는 불확실성 속에 숨겨진 확실한 질서를 상징합니다. 인류는 오랜 시간 불확실성을 두려워하며 예측의 대상으로만 여겨왔으나, 이제는 이를 이해하고 활용하는 단계에 이르렀습니다. 인공지능의 발전은 불확실성을 도구로 삼아 문명을 꽃피운 대표적인 사례입니다. 하지만 우리는 여전히 그 작동 원리를 완벽히 통제하지 못하고 있습니다. 불확실한 세계 속에서 수학이라는 확실한 도구를 통해 보편적 원리를 찾아내는 과정은, 인류가 더 안전하고 정교한 미래를 설계하기 위해 반드시 걸어가야 할 길입니다.

[강연] 불확실과 확실, 그 사이의 외줄타기 : 확률 2_by 서인석 | 2024 카오스강연 '세상에 나쁜 수학은 없다' 시즌2 7강 두 번째 이야기

서인석

카오스재단카오스강연
  • 수학

[강연] 세상을 바꾼 데이터와 인공지능_by박건웅 l 제 31회 서울대 자연과학 공개강연_"세상을 바꾼 과학, 과학이 여는 미래" | 1강

데이터는 현대 인공지능을 움직이는 핵심 원료입니다. 과거에는 실험을 통해 소량의 데이터를 얻었지만, 이제는 누구나 정보를 생산하는 빅데이터 시대에 살고 있습니다. 유튜브와 SNS를 통해 쏟아지는 방대한 데이터는 인공지능이 더 똑똑하게 판단할 수 있는 기반이 됩니다. 마치 자동차가 휘발유를 동력 삼아 앞으로 나아가듯, 인공지능 역시 양질의 데이터를 바탕으로 우리 삶의 생산성을 높이고 새로운 가치를 창출하고 있습니다. 데이터의 힘은 스포츠 분야에서도 증명됩니다. 과거 농구 선수들은 직관에 의존해 슛을 던졌지만, 이제는 기대 득점 데이터를 기반으로 전략을 짭니다. 스테픈 커리와 같은 선수는 성공 확률이 낮더라도 기대 득점이 높은 3점 슛에 집중하여 현대 농구의 패러다임을 바꾸었습니다. 데이터를 통해 중거리 슛보다 골밑이나 3점 라인이 효율적임을 깨달은 팀들은 승리 확률을 높이기 위해 철저히 계산된 위치에서 경기를 운영하고 있습니다. 인공지능은 아이가 학습하듯 수많은 시행착오를 거치며 발전합니다. 자율 주차 프로그램이 수십만 번의 사고를 겪으며 주차 방식을 익히는 과정은 인공지능의 학습 원리를 잘 보여줍니다. 하지만 데이터의 양만큼이나 중요한 것이 맥락의 이해입니다. 단순히 색상이나 형태만으로 사물을 인식하면, 특정 상황에서 사람을 초밥으로 오인하는 오류를 범할 수 있습니다. 따라서 기계가 인간처럼 사고하기 위해서는 단순한 인식을 넘어선 고도화된 지능이 필요합니다. 최근 인공지능의 비약적인 성공은 하드웨어와 데이터 규모의 승리라고 볼 수 있습니다. 과거에는 최적의 모델을 설계하는 데 집중했다면, 지금은 엄청난 양의 데이터와 고성능 컴퓨터, 그리고 막대한 전력을 투입해 모델의 복잡도를 높이는 방식이 주를 이룹니다. GPT 시리즈처럼 모델이 거대해질수록 인공지능은 더욱 정교한 결과물을 내놓습니다. 하지만 이러한 방식은 데이터 생산의 한계와 에너지 소비 문제라는 현실적인 벽에 부딪히고 있습니다. 인공지능의 신뢰성은 입력되는 데이터의 질에 좌우됩니다. '쓰레기를 넣으면 쓰레기가 나온다'는 말처럼, 편향되거나 오염된 데이터는 잘못된 결과를 초래합니다. 인터넷 데이터의 대부분이 특정 국가나 계층에 집중되어 있다면, 인공지능은 전 세계의 다양한 문화를 공정하게 반영하지 못합니다. 또한 의도적으로 조작된 데이터는 구글 맵의 교통 정보를 왜곡하듯 시스템 전체를 혼란에 빠뜨릴 수 있으므로 데이터의 신뢰성 확보는 매우 중요한 과제입니다. 현재 인공지능이 직면한 가장 큰 숙제 중 하나는 인과 관계 추론입니다. 인공지능은 기저귀와 맥주가 함께 팔린다는 상관관계는 잘 찾아내지만, '왜' 그런 현상이 발생하는지에 대한 근본적인 이유는 설명하지 못합니다. 아이스크림 소비량과 익사 사고의 상관관계를 보고 아이스크림 판매를 금지하는 오류를 범하지 않으려면, 단순한 예측을 넘어 원인과 결과를 분석하는 능력이 필요합니다. 이를 위해 우리는 인공지능이 내린 판단의 근거를 이해할 수 있어야 합니다. 미래의 인공지능은 단순히 예측의 정확도를 높이는 것을 넘어, 데이터 오염과 개인정보 침해, 에너지 문제 등을 해결하는 방향으로 나아가야 합니다. 이를 위해서는 통계학이나 수학 같은 기초 과학의 역할이 무엇보다 중요합니다. 기초 지식을 바탕으로 인공지능의 한계를 극복하고 해석 가능한 모델을 만들어낼 때, 인공지능은 비로소 인간과 공존하며 진정한 도움을 주는 존재가 될 것입니다. 끊임없는 연구와 도전을 통해 우리는 더 나은 인공지능 시대를 열어갈 수 있습니다.

[강연] 세상을 바꾼 데이터와 인공지능_by박건웅 l 제 31회 서울대 자연과학 공개강연_"세상을 바꾼 과학, 과학이 여는 미래"

박건웅

카오스재단서울대자연과학공개강연
  • 수학

[인터뷰] 박건웅_예측을 넘어 인과관계를 해석하는 데이터 사이언스🧑‍💻📊🖥️|제31회 서울대 자연과학 공개강연_"세상을 바꾼 과학, 과학이 여는 미래"

현대 데이터 과학의 핵심은 단순히 정보를 수집하는 것을 넘어, 데이터 이면에 숨겨진 복잡한 관계를 파악하는 데 있습니다. 특히 그래피컬 모델과 네트워크 분석은 변수들 사이의 함수 관계나 인과관계를 규명하는 데 초점을 맞춥니다. 기존의 인공지능이 주로 상관관계에 기반하여 미래를 예측했다면, 이 연구 분야는 원인이 바뀌었을 때 결과가 어떻게 변하는지 그 시스템 자체를 이해하고자 합니다. 이러한 접근은 인공지능이 인간의 의사결정 과정을 보다 정교하게 보조하고 대체할 수 있는 지식의 토대가 됩니다. 현재 우리가 사용하는 인공지능은 여러 한계점을 지니고 있습니다. 가장 큰 문제는 데이터의 편향성으로, 주로 선진국 위주의 데이터가 수집되다 보니 보편적인 판단을 내리는 데 어려움이 있습니다. 또한 모델이 지나치게 복잡해지면서 결과가 도출된 이유를 인간이 이해하지 못하는 '블랙박스' 현상이 발생합니다. 이는 고성능 컴퓨팅 자원의 과도한 사용으로 이어져 환경 문제까지 야기하고 있습니다. 따라서 다음 세대의 인공지능은 이러한 불투명성과 비효율성을 극복하는 방향으로 진화해야 합니다. 미래의 인공지능은 단순히 예측 성능을 높이는 것을 넘어, '설명 가능한 AI'를 지나 '해석 가능한 AI' 혹은 '인과관계 AI'로 나아가야 합니다. 이는 특정 변수가 결과에 어떤 영향을 미쳤는지 단순히 나열하는 수준을 넘어, 왜 그런 결과가 초래되었는지 논리적으로 설명할 수 있는 능력을 의미합니다. 데이터가 생성되는 시스템 자체를 이해하는 방법론이 개발된다면, 인공지능은 단순한 도구를 넘어 인간의 논리적 사고를 뒷받침하는 강력한 파트너로서 그 역할을 수행하게 될 것입니다. 인과관계를 추론하는 그래피컬 모델은 다양한 실무 분야에서 혁신적인 변화를 이끌어낼 수 있습니다. 신약 개발 과정에서는 약물이 인체 면역 시스템에 미치는 영향을 분석하여 치료 효과를 극대화하고, 예상치 못한 부작용을 사전에 예측하는 데 활용됩니다. 사회 정책 분야에서도 특정 정책이 사회 전반에 미치는 파급 효과를 분석하여 의도한 목표를 달성할 수 있는지, 혹은 예기치 못한 사회적 부작용이 발생하지는 않을지 미리 판단할 수 있게 해줍니다. 이는 데이터 기반의 정밀한 의사결정을 가능케 합니다. 과학자의 길을 걷기 위해서는 연구가 세상을 어떻게 바꿀지에 대한 거시적인 시각을 갖는 것이 중요합니다. 하지만 장기적인 레이스를 완주하기 위해서는 자신만의 스트레스 관리법 또한 필수적입니다. 운동이나 등산과 같은 신체 활동은 연구 과정에서 쌓인 스트레스를 해소하고 다시 몰입할 수 있는 에너지를 제공합니다. 결국 좋아하는 일을 지속할 수 있는 힘은 학문적 열정과 건강한 생활 습관의 균형에서 비롯됩니다. 이러한 균형은 과학자로서의 삶을 더욱 풍요롭고 지속 가능하게 만들어 줄 것입니다.

[인터뷰] 박건웅_예측을 넘어 인과관계를 해석하는 데이터 사이언스🧑‍💻📊🖥️|제31회 서울대 자연과학 공개강연_"세상을 바꾼 과학, 과학이 여는 미래"

박건웅

카오스재단서울대자연과학공개강연
  • 수학

[연구뭐하지?] 과학이란 무엇인가? 과학에 대한 철학적 탐구_천현득 교수 | 서울대학교 “과학철학 연구실”

과학학은 과학을 직접 실험하거나 수학적으로 연구하는 대신, 인문학적이고 사회과학적인 관점에서 과학의 본성을 탐구하는 학문입니다. 과학철학자는 나무가 모여 있는 숲을 보듯 한 걸음 물러나 과학사, 과학철학, 과학사회학의 관점에서 과학을 분석합니다. 유전자가 무엇인지와 같은 개념적 질문부터 과학과 사이비 과학을 구분하는 기준, 그리고 생물학이 물리학으로 환원될 수 있는지와 같은 방법론적 문제까지 폭넓게 다룹니다. 이러한 탐구는 우리가 당연하게 받아들이는 과학적 지식의 근간을 다시 생각하게 합니다. 현대 과학철학에서는 토마스 쿤의 철학을 재해석하고 과학적 이해의 조건을 연구하며, 특히 인공지능이 사회에 미치는 영향을 탐구하는 작업이 중요하게 다뤄집니다. 과학적 이해란 단순히 설명을 듣는 것을 넘어 세계를 파악하는 상태를 의미하며, 인공지능 연구에서는 기술의 급격한 발전이 가져올 윤리적 쟁점들을 분석합니다. 이는 과학이 단순히 기술적 진보에 그치지 않고 인간 사회와 어떻게 상호작용하는지를 철학적으로 성찰하는 과정입니다. 복잡한 현대 과학의 흐름 속에서 철학은 길을 잃지 않게 돕는 나침반 역할을 수행합니다. 과학에서 사용하는 과학적 모형은 실제와는 다른 일종의 '거짓말'을 포함하고 있습니다. 예를 들어 물리 문제를 풀 때 마찰력이 없다고 가정하는 것은 현실과 다르지만, 우리는 이 과학적 모형을 통해 정확한 예측과 설명을 수행합니다. 과학철학은 이처럼 과학적 모형이 사실이 아님에도 불구하고 어떻게 우리에게 유용한 과학적 이해를 제공하는지 그 메커니즘을 추적합니다. 추상적인 철학적 논증과 실제 과학 현장의 활동을 연결하는 작업은 과학철학만이 가진 독특한 매력이며, 현실과 밀접하게 맞닿아 있는 철학의 면모를 잘 보여줍니다. 인공지능 윤리는 기술의 자율성과 불투명성에서 비롯되는 다양한 문제를 다룹니다. 자율주행차나 살상 무기 시스템처럼 인간의 직접적인 통제를 벗어난 기술은 책임의 소재를 묻게 하며, 방대한 데이터를 학습하는 과정에서 발생하는 프라이버시 침해나 편향성 문제도 심각합니다. 특히 챗봇이 특정 집단을 차별하거나 사회적 편견을 그대로 반영하는 현상은 기술이 결코 가치 중립적이지 않음을 시사합니다. 이러한 쟁점들을 분석하고 대안을 모색하는 것은 현대 과학기술 사회에서 필수적인 과제입니다. 철학적 사고를 명료하게 만드는 가장 좋은 방법은 자신의 언어로 글을 쓰는 것입니다. 단순히 정보를 습득하는 것을 넘어 질문을 던지며 읽고, 타인의 주장을 합리적으로 재구성해 비판하는 훈련이 필요합니다. 현대 사회는 이미 과학기술이 지배하는 시대이기에, 기술의 활용법을 익히는 것만큼이나 그 근본 원리와 사회적 파급력을 고민하는 철학적 태도가 중요합니다. 과학이 무엇인지 더 근본적으로 질문하는 사람들이 많아질 때, 우리는 기술의 속도에 매몰되지 않고 더 나은 미래를 설계할 수 있을 것입니다.

[연구뭐하지?] 과학이란 무엇인가? 과학에 대한 철학적 탐구_천현득 교수 | 서울대학교 “과학철학 연구실”

천현득

카오스재단연구뭐하지
  • 융합

[페스티벌+어스] 지속가능한 지구: 미래 by 장동선, 오혜연ㅣ 2022 대한민국 과학축제(페스티벌 어스)

인공지능 기술은 인간의 지능을 모사하며 비약적으로 발전하고 있습니다. 최근 주목받는 'DALL-E(달리)'와 같은 멀티모달 모델은 언어와 시각 정보를 동시에 처리하며 인간의 사고방식에 한 걸음 더 다가섰습니다. 사용자가 문장으로 묘사하면 인공지능이 이를 정교한 이미지로 구현하는 기술은 단순한 편리함을 넘어 예술과 기술의 경계를 허물고 있습니다. 이러한 발전은 우리 삶을 더욱 풍요롭게 만들 잠재력을 지니고 있지만, 동시에 기술이 나아가야 할 올바른 방향에 대한 깊은 고민을 안겨주기도 합니다. 하지만 인공지능의 화려한 발전 뒤에는 데이터의 편향성이라는 어두운 그림자가 존재합니다. 특정 지역이나 문화권에 치우친 학습 데이터는 인공지능이 성별, 인종, 직업에 대해 고정관념을 갖게 만드는 원인이 됩니다. 예를 들어 결혼식이나 특정 직업군을 묘사할 때 서구 중심적이거나 성차별적인 결과물을 내놓는 현상은 기술의 공정성에 의문을 제기합니다. 이는 단순히 기술적 오류를 넘어 사법 시스템이나 채용 등 실생활의 중요한 결정에 부정적인 영향을 미칠 수 있다는 점에서 매우 심각한 문제입니다. 이러한 문제를 해결하기 위해 연구자들은 포용적인 인공지능 시스템 구축에 힘쓰고 있습니다. 기술의 한계와 목적을 명시하는 '모델 카드(Model Card)'를 도입하여 사용자가 편향성을 인지하도록 돕고, 소외된 지역의 데이터를 적극적으로 수집하여 학습에 반영하는 노력이 이어지고 있습니다. 또한 정확도뿐만 아니라 공정성 지표를 함께 고려하여 특정 집단에 대해 성능이 저하되지 않도록 모델을 설계합니다. 기술적 보완과 더불어 사회적 합의를 통해 인공지능이 인류 전체를 위한 도구로 거듭나도록 만드는 것이 우리의 과제입니다. 뇌과학의 관점에서 볼 때, 인간의 뇌는 본질적으로 생존을 위한 '미래 예측 머신'입니다. 5억 년 전 최초의 뇌가 등장한 이래로 생명체는 외부 환경의 변화를 감지하고 능동적으로 대응하기 위해 신경계를 발달시켜 왔습니다. 과거의 경험을 바탕으로 미래를 예측하는 능력은 위험을 피하고 자원을 확보하는 데 필수적인 요소였습니다. 인공지능이 데이터를 통해 패턴을 학습하듯, 우리의 뇌도 끊임없이 정보를 처리하며 내일의 생존 확률을 높이기 위해 작동합니다. 이러한 예측 능력은 인류 문명을 지탱하는 근간이 되었습니다. 과거 멜서스(Malthus)는 인구 증가 속도를 식량 생산이 따라가지 못해 인류가 파멸할 것이라 경고했지만, 과학 기술의 혁신은 그 예측을 뒤엎었습니다. 하지만 오늘날 우리는 기후 위기라는 더 거대한 도전에 직면해 있습니다. 급격한 기온 상승과 생태계 파괴는 인류의 거주 가능 영역을 좁히고 있으며, 이는 질병과 분쟁의 씨앗이 되고 있습니다. 이제는 단순히 기술적 효율성을 높이는 것을 넘어, 지구라는 한정된 환경 안에서 어떻게 지속 가능한 삶을 영위할 것인가에 대한 근본적인 해답을 찾아야 할 때입니다. 인류가 위기를 극복해 온 핵심 동력은 개별적인 뇌의 성능 향상이 아니라 '뇌와 뇌의 연결'에 있었습니다. 구석기 시대와 비교해 생물학적 뇌 구조는 큰 차이가 없지만, 지식과 정보를 공유하는 속도는 비약적으로 빨라졌습니다. 타인의 행동을 공감하고 뇌파가 동기화되는 '뉴럴 커플링(Neural Coupling)' 현상은 우리가 집단 지성을 발휘할 수 있게 하는 생물학적 토대입니다. 폐쇄적인 사회보다 자유로운 소통이 일어나는 곳에서 혁신이 탄생하듯, 서로의 지혜를 나누는 연결의 힘이야말로 기후 위기와 같은 전 지구적 난제를 해결할 열쇠입니다. 결국 인공지능과 뇌과학이 지향하는 종착지는 인류의 지속 가능한 미래입니다. 인공지능의 편향성을 극복하고 포용성을 확보하는 노력과, 뇌의 연결성을 통해 집단 지성을 극대화하는 과정은 서로 맞닿아 있습니다. 우리는 각자 독립된 개인이지만, 동시에 타인 및 환경과 끊임없이 상호작용하며 변화하는 존재입니다. 기술이 주는 혜택이 특정 계층에 머물지 않고 모두에게 공정하게 돌아갈 때, 그리고 우리가 서로의 존재를 인정하며 연대할 때 비로소 인류는 닥쳐올 위기를 기회로 바꾸며 진보할 수 있을 것입니다.

[페스티벌+어스] 지속가능한 지구: 미래 by 장동선, 오혜연ㅣ 2022 대한민국 과학축제(페스티벌 어스)

오혜연, 장동선

카오스재단2022 대한민국 과학축제 ㅣ 페스티벌 어스
  • 뇌인지과학
  • 융합

[강연] AI의 사고과정을 설명할 수 있을까 _ by최재식 ㅣ 2020 가을 카오스강연 'Ai X' 6강 | 6강

인공지능(AI) 기술은 자율주행, 금융, 의료 등 우리 삶의 핵심적인 영역으로 깊숙이 침투하고 있습니다. 하지만 시스템이 복잡해질수록 그 내부 작동 원리를 파악하기 어려워지는 '블랙박스' 문제가 발생합니다. 만약 AI가 중대한 결정을 내렸을 때 그 이유를 설명하지 못한다면, 예상치 못한 오류가 발생했을 때 인간의 생명과 재산에 심각한 위협이 될 수 있습니다. 따라서 AI가 내린 결론의 근거를 사람이 이해할 수 있는 방식으로 제시하는 '설명 가능 인공지능(XAI)' 기술은 이제 선택이 아닌 필수적인 요소로 자리 잡고 있습니다. 유럽연합의 일반 데이터 보호 규정(GDPR)은 자동화된 의사결정에 대해 설명을 요구할 권리를 법적으로 보장하고 있습니다. 이는 AI가 대출 심사나 채용 등에서 편향된 판단을 내리지 않도록 감시하는 중요한 장치가 됩니다. 실제로 특정 딥러닝 모델이 성적 지향이나 인종과 같은 민감한 정보를 학습하여 편견을 가질 수 있다는 연구 결과는 설명 가능성의 중요성을 시사합니다. 기업들은 이제 알고리즘의 투명성을 확보하지 못할 경우 막대한 벌금을 부과받을 수 있으며, 이는 기술적 신뢰를 넘어 사회적 윤리를 지키는 토대가 됩니다. 복잡한 딥러닝 모델을 설명하기 위한 대표적인 방법 중 하나는 '계층별 관련성 전파(LRP)' 기술입니다. 이는 AI가 최종 결정을 내리는 데 있어 입력 데이터의 어떤 부분이 가장 큰 기여를 했는지 역추적하는 방식입니다. 예를 들어, 자율주행 자동차가 핸들을 왼쪽으로 꺾었다면 도로의 특정 픽셀이나 장애물이 그 결정에 얼마나 영향을 미쳤는지 수치화하여 보여줄 수 있습니다. 수천만 개의 뉴런이 얽힌 복잡한 구조라도 각 레이어의 기여도를 분석함으로써, 우리는 블랙박스 내부의 논리적 흐름을 시각적으로 확인하고 검증할 수 있게 됩니다. 인공지능(AI) 내부를 들여다보는 연구는 마치 해부학 실습처럼 정교하게 진행되고 있습니다. 특정 레이어의 노드들이 어떤 사물에 반응하는지 분석해 보면, 놀랍게도 딥러닝 내부에는 비행기, 하늘, 식물 등 특정 물체를 전담해서 인식하는 유닛들이 존재함을 알 수 있습니다. 이는 AI가 단순히 데이터를 암기하는 것이 아니라, 스스로 유의미한 특징을 추출하여 세상을 이해하고 있음을 보여줍니다. 이러한 내부 구조의 가시화는 AI가 학습 과정에서 무엇을 중요하게 여기는지 파악하게 해주며, 모델의 성능 개선과 오류 수정을 위한 결정적인 단서를 제공합니다. 고차원 공간에서 작동하는 생성 모델의 내부를 탐색하기 위해 로봇 공학의 알고리즘을 도입하기도 합니다. 수천 차원의 복잡한 경계면을 효율적으로 찾아내는 기술을 통해, AI가 생성하는 이미지의 미세한 변화가 어떤 노드의 영향인지 정확히 짚어낼 수 있습니다. 예를 들어 안경의 유무나 배경의 색감 변화가 결정되는 경계 지점을 찾아냄으로써, 모델의 작동 범위를 명확히 규정하는 것이 가능해집니다. 이러한 정밀한 분석 도구는 AI가 단순히 결과를 내놓는 수준을 넘어, 그 결과가 도출되는 전체적인 지형도를 인간에게 제시하는 역할을 수행합니다. 설명 가능 인공지능(XAI)은 실제 산업 현장에서도 혁신적인 성과를 거두고 있습니다. 거대한 용광로인 고로의 온도를 예측하고 제어하는 시스템에 이 기술을 적용한 사례가 대표적입니다. 숙련된 조업자들은 처음에는 AI의 판단을 불신하기도 했지만, AI가 특정 센서값과 압력을 근거로 제시하며 이유를 설명하자 기술을 신뢰하고 협업하기 시작했습니다. 그 결과 연료 절감과 생산성 향상을 동시에 달성하며 국가 핵심 기술로 지정되는 쾌거를 이루었습니다. 이는 기술적 완성도만큼이나 인간과의 소통과 신뢰 형성이 산업 현장에서 얼마나 중요한지를 증명합니다. 인공지능(AI)의 미래는 인간의 지능을 대체하는 것이 아니라 보완하고 확장하는 '증강 지능'의 방향으로 나아가고 있습니다. 설명 가능 인공지능(XAI)은 AI가 잘하는 것과 못하는 것을 명확히 구분해 줌으로써, 기술에 대한 막연한 두려움이나 과도한 기대를 걷어내는 역할을 합니다. 이는 과거 AI 기술이 한계에 부딪혀 겪었던 'AI 빙하기'를 방지하고, 지속 가능한 기술 발전을 이끄는 안전장치가 될 것입니다. 결국 인간과 AI가 서로의 사고 과정을 이해하고 협력할 때, 우리는 더욱 안전하고 효율적인 인공지능(AI) 시대를 맞이할 수 있을 것입니다.

[강연] AI의 사고과정을 설명할 수 있을까 _ by최재식 ㅣ 2020 가을 카오스강연 'Ai X' 6강

최재식

카오스재단카오스강연
  • 뇌인지과학

[강연] AI / 머신러닝 _ by오혜연, 강명주 | 2020 봄 카오스강연 '첨단기술의 과학' 3강 | 3강

인공지능은 인간이 어렵게 느끼는 복잡한 지식 탐색이나 독해 능력에서 놀라운 성과를 보여줍니다. IBM의 왓슨이 퀴즈쇼에서 우승하거나 머신러닝 모델이 고난도 독해 평가에서 인간을 앞서는 사례가 이를 증명합니다. 하지만 정작 인간에게 너무나 쉬운 일상적인 대화나 사진 속 상황을 파악하는 일에는 서툰 모습을 보이기도 합니다. 이러한 역설은 인공지능이 언어를 이해하는 방식이 인간의 직관이나 경험과는 근본적으로 다르다는 점을 시사하며, 기술 발전의 새로운 과제를 던져줍니다. 일상적인 대화가 인공지능에게 어려운 이유는 데이터의 부재와 상황의 모호성에 있습니다. 우리가 나누는 대화는 대부분 기록되지 않는 사적인 영역이며, 그 안에는 대화 상대와의 관계나 장소, 계절 같은 수많은 외부 맥락이 생략되어 있습니다. 인공지능은 방대한 데이터를 학습하여 확률적으로 다음 단어를 예측하지만, 데이터에 명시되지 않은 인간의 본능적인 사회적 감각까지 완벽히 따라 하기는 어렵습니다. 결국 문제 정의가 명확하지 않은 영역에서 인공지능의 한계가 드러나는 것입니다. 최신 언어 모델인 BERT는 문맥을 양방향으로 파악하며 비약적인 발전을 이루었지만, 여전히 데이터에 내재된 편향성 문제를 안고 있습니다. 인공지능은 인터넷상의 방대한 문서를 학습하며 인간의 고정관념이나 당연하게 여겨지는 상식의 부재를 그대로 흡수합니다. 예를 들어 '노란 바나나'라는 표현이 드문 이유는 바나나가 당연히 노랗기 때문이지만, 인공지능은 이를 학습하지 못해 편향된 결과를 낼 수 있습니다. 이는 기술적 완성도를 넘어 윤리적이고 사회적인 성찰이 필요한 지점입니다. 인공지능과 딥러닝의 눈부신 발전 밑바탕에는 견고한 수학적 토대 자리 잡고 있습니다. 흔히 인공지능을 전산학의 전유물로 생각하기 쉽지만, 사실 미분과 선형대수학 같은 수학적 원리가 없었다면 현대의 인공지능은 존재할 수 없었을 것입니다. 과거 뉴턴이나 오일러가 정립한 이론들이 수 세기를 지나 오늘날 데이터를 처리하고 최적의 해를 찾는 핵심 도구로 부활한 셈입니다. 산업이 고도화될수록 복잡한 현상을 모델링하고 해결하는 수학의 역할은 더욱 중요해지고 있습니다. 수학의 힘은 영화 산업의 시뮬레이션 기술에서도 명확히 드러납니다. '겨울왕국'의 자연스러운 눈 입자나 '아이언맨'의 역동적인 물의 흐름은 모두 나비에-스토크스 방정식과 같은 복잡한 물리 법칙을 수학적으로 풀어낸 결과입니다. 슈퍼컴퓨터조차 직접 풀기 어려운 거대한 행렬 방정식을 수치적인 방법으로 근사하여 해결함으로써, 우리는 가상 세계에서 실제와 다름없는 물리적 현상을 구현할 수 있게 되었습니다. 이는 수학이 추상적인 이론을 넘어 현실을 재창조하는 도구임을 보여줍니다. 딥러닝의 핵심은 수많은 데이터를 통해 최적의 가중치를 찾아내는 최적화 과정에 있습니다. 수백만 차원의 복잡한 함수에서 오차를 최소화하는 지점을 찾는 일은 마치 거대한 산맥에서 가장 낮은 골짜기를 찾는 것과 같습니다. 이 과정에서 인공지능은 행렬 연산을 반복하며 스스로 특징을 학습하지만, 왜 그런 결과가 도출되었는지 논리적으로 설명하기는 여전히 어렵습니다. 이러한 '블랙박스' 문제를 해결하고 시스템의 신뢰성을 확보하기 위해 수학자들은 지금도 치열한 연구를 이어가고 있습니다. 미래의 인공지능은 단순히 높은 정확도를 기록하는 것을 넘어, 자신의 판단 근거를 인간에게 논리적으로 설명할 수 있는 '설명 가능한 AI(XAI)'로 진화해야 합니다. 이를 위해서는 데이터 기반의 학습과 수학적 논리가 완벽하게 통합되어야 하며, 다양한 분야의 전문가들이 소통하며 창의적인 해결책을 모색해야 합니다. 인공지능이 인간의 언어를 완벽히 이해하고 수학적으로 투명해지는 날, 우리는 기술이 주는 혜택을 더욱 안전하고 풍요롭게 누리게 될 것입니다.

[강연]  AI / 머신러닝 _ by오혜연, 강명주 | 2020 봄 카오스강연 '첨단기술의 과학' 3강

강명주, 오혜연

카오스재단카오스강연
  • 뇌인지과학

[강연] 인공지능의 실체와 미래 (4) _ by조성배 | 2017 가을 카오스 강연 '미래과학' 4강 | 4강 ④

인공지능에 대한 대중의 공포는 영화 속 지배자의 모습에서 기인하는 경우가 많습니다. 하지만 현실의 인공지능은 위협적이라기보다 때로는 답답한 존재에 가깝습니다. 자율주행 로봇이 길 위의 신문지를 장애물로 오인해 멈춰 서는 사례처럼, 인공지능은 상황의 맥락을 완벽히 파악하는 데 한계가 있습니다. 현재의 기술 수준에서 인공지능은 인간의 명령을 수행하는 과정에서 발생하는 불확실성과 소통의 부재로 인해 우리에게 불편함을 주는 단계에 머물러 있습니다. 인공지능 그 자체보다 더 위험한 요소는 이를 다루는 인간의 의도에 있습니다. 자동차가 편리한 이동 수단이지만 테러의 도구가 될 수 있듯이, 인공지능 역시 악의를 가진 누군가에 의해 악용될 때 진정한 위협이 됩니다. 기술은 가치 중립적이지만 그것을 사용하는 목적에 따라 결과는 판이하게 달라집니다. 따라서 인공지능의 위험성을 논할 때는 기계의 자의식보다는 기술을 오남용하지 못하도록 막는 제도적 장치와 인간의 윤리적 책임에 더 집중해야 합니다. 데이터 기반의 인공지능은 우리가 제공한 정보를 학습하며 성장합니다. 문제는 학습 데이터 자체가 인간 사회의 편견과 불평등을 내포하고 있다는 점입니다. 특정 지역의 범죄율 데이터를 학습한 알고리즘이 사회 구조적 문제를 간과한 채 특정 집단을 잠재적 범죄자로 낙인찍는 사례는 인공지능 과신의 위험성을 잘 보여줍니다. 인공지능이 내놓은 결과가 항상 합리적이고 객관적일 것이라는 맹신을 버리고, 그 이면의 데이터가 공정한지 비판적으로 검토하는 태도가 필요합니다. 초지능의 출현 가능성에 대해서는 전문가들 사이에서도 의견이 갈리지만, 하드웨어와 데이터의 비약적인 발전은 인간의 지능을 뛰어넘는 존재의 등장을 예고하고 있습니다. 인공지능이 스스로 인공지능을 설계하는 단계에 이르면 지능의 폭발적 성장이 일어날 수 있습니다. 이러한 변화는 단순히 산업의 효율성을 높이는 수준을 넘어 인간의 정의와 존재 방식에 근본적인 질문을 던지게 될 것입니다. 초지능 시대는 우리가 예상하는 것보다 더 빠르게 현실로 다가올 수 있습니다. 4차 산업혁명은 가상 세계와 물리적 세계의 융합을 핵심으로 합니다. 우버나 에어비앤비처럼 물리적 자산을 직접 소유하지 않고도 디지털 플랫폼을 통해 세상을 혁신하는 비즈니스 모델이 그 증거입니다. 이러한 변화는 산업 현장을 넘어 우리의 일상과 인간 자체의 모습까지 바꾸어 놓을 파급력을 지니고 있습니다. 기술의 융합이 가져오는 폭발적인 창출력은 기존의 경제 구조를 해체하고 새로운 가치를 만들어내며 인류를 전례 없는 변화의 소용돌이로 이끌고 있습니다. 기술의 발전이 장밋빛 미래만을 보장하는 것은 아닙니다. 산업혁명의 역사에서 보듯 급격한 변화는 소외된 계층을 만들어내며 사회적 갈등을 유발하기도 합니다. 인공지능 기술이 소수의 전유물이 되지 않고 많은 사람이 혜택을 누릴 수 있는 방향으로 나아가야 합니다. 기술이 인간을 대체하는 것이 아니라 인간의 능력을 보조하고 삶의 질을 높이는 도구로 쓰일 때, 비로소 인공지능 시대는 인류 전체의 행복을 위한 진정한 진보로 기록될 수 있을 것입니다. 인공지능이 인간의 감정과 자유의지를 모방할 수는 있겠지만, 타인의 고통에 공감하고 자신을 희생하는 헌신은 여전히 인간만의 고유한 영역으로 남을 것입니다. 뇌과학적으로 자유의지가 허상일지라도, 우리가 스스로 선택하고 책임지며 타인과 연결되려는 의지는 기계가 대체할 수 없는 가치입니다. 미래를 준비하는 가장 좋은 방법은 코딩 기술을 익히는 것보다 현재 내 곁에 있는 사람들에게 진심을 다하고, 인간다움의 본질인 공감과 소통의 능력을 기르는 것입니다.

[강연] 인공지능의 실체와 미래 (4) _ by조성배 | 2017 가을 카오스 강연 '미래과학' 4강

강성철, 장동선, 조성배

카오스재단카오스강연
  • 물리학