설명가능한AI

7 Contents

[카오스 짧강] 2026 카오스콘서트 예습하기: 컴퓨터비전과 딥러닝의 현재와 미래_PART 3

인공지능이 만능처럼 보이지만, 학습 과정에서 의도치 않은 오류가 발생하곤 합니다. 예를 들어 0과 9를 구별하는 학습을 시킬 때, 인공 신경망은 우리가 원하는 숫자의 형태가 아닌 배경색 같은 '쉬운 단서'에 집중할 수 있습니다. 이를 통해 학습 데이터에서는 높은 정확도를 보이지만, 배경이 바뀐 새로운 데이터가 들어오면 속수무책으로 틀리게 됩니다. 이는 데이터를 아주 정교하게 설계하지 않으면 인공지능이 인간의 의도와는 완전히 다른, 가장 효율적인 지름길만을 찾으려 한다는 점을 시사합니다. 따라서 딥러닝 모델의 신뢰성을 확보하기 위해서는 단순한 결과값뿐만 아니라 학습의 방향성 자체를 세밀하게 점검하는 과정이 필수적입니다. 학습 데이터 자체의 불완전성도 큰 문제입니다. 사람이 데이터를 직접 레이블링하기에 정답이 틀리거나 모호한 경우가 빈번합니다. 실제로 '렌즈 캡'으로 분류된 이미지가 전혀 엉뚱한 물체인 경우도 있으며, 물체의 영역을 지정하는 방식 또한 주관적일 수 있습니다. 더 큰 문제는 데이터의 편향성입니다. 특정 사물은 데이터가 넘쳐나지만 대다수의 사물은 데이터가 부족한 불균형이 존재하며, 이는 인종이나 성별에 대한 사회적 편견으로 이어지기도 합니다. 흑인을 범죄 위험군으로 높게 예측하거나 요리하는 남성을 여성으로 판단하는 등의 사례는 인공지능이 데이터 속에 숨겨진 인간의 편견을 그대로 학습하고 강화할 수 있음을 보여줍니다. 인공지능은 데이터의 맥락을 완벽히 이해하지 못하는 한계가 있습니다. 홍수 상황에서 침수된 차를 보고도 그저 '길가에 주차된 자동차'라고 설명하는 식입니다. 이는 기계가 학습하지 못한 예외적인 상황에 직면했을 때, 가장 확률이 높은 보편적인 답안을 선택하기 때문입니다. 또한 인공지능은 적대적 공격에 매우 취약합니다. 인간의 눈에는 보이지 않는 미세한 노이즈를 섞는 것만으로도 판다를 긴팔원숭이로 오인하게 만들 수 있습니다. 이러한 취약성과 결과의 도출 과정을 설명할 수 없는 '블랙박스' 문제는 인공지능을 의료나 자율주행 같은 안전이 직결된 분야에 전적으로 도입하기 어렵게 만드는 주요한 원인이 됩니다. 기술적 한계를 넘어선 윤리적, 사회적 부작용에 대한 우려도 깊어지고 있습니다. 딥러닝 학습을 위해 수집되는 방대한 개인 정보는 늘 유출과 오용의 위험에 노출되어 있습니다. 특히 딥페이크 기술은 연예인 합성 음란물 같은 범죄에 악용되며 심각한 인권 침해 문제를 야기하고 있습니다. 자율주행 자동차가 사고 직전 보행자와 탑승자 중 누구를 보호해야 하는지에 대한 윤리적 딜레마도 여전히 사회적 합의가 필요한 난제입니다. 이러한 문제들은 기술의 발전을 이끌어온 연구자들에게조차 깊은 회의감을 안겨주며, 실제로 유명한 알고리즘 개발자가 군사적 전용이나 사생활 침해를 우려해 연구 중단을 선언하는 사례까지 발생하고 있습니다. 마지막으로 간과하기 쉬운 문제는 환경에 미치는 악영향입니다. 고성능 딥러닝 모델 하나를 학습시키는 데 배출되는 이산화탄소는 자동차 다섯 대가 평생 내뿜는 양과 맞먹습니다. GPU 사용량이 폭발적으로 늘어남에 따라 막대한 전력이 소모되고, 이는 결국 지구 온난화를 가속화하는 요인이 됩니다. 지난 몇 년간 컴퓨터 비전과 딥러닝은 비약적인 성장을 거두었으나, 이제는 화려한 성과 뒤에 숨겨진 그늘을 직시해야 할 때입니다. 앞으로의 인공지능 발전은 단순히 지능을 높이는 것에 그치지 않고, 기술적 결함 보완과 사회적 가치 실현, 그리고 환경적 지속 가능성을 동시에 고려하는 방향으로 나아가야 할 것입니다.

[카오스 짧강] 2026 카오스콘서트 예습하기: 컴퓨터비전과 딥러닝의 현재와 미래_PART 3
카오스재단카오스 짧강(짧은 강연)
  • 지구환경과학
  • 뇌인지과학
  • 융합

[인터뷰] 박건웅_예측을 넘어 인과관계를 해석하는 데이터 사이언스🧑‍💻📊🖥️|제31회 서울대 자연과학 공개강연_"세상을 바꾼 과학, 과학이 여는 미래"

현대 데이터 과학의 핵심은 단순히 정보를 수집하는 것을 넘어, 데이터 이면에 숨겨진 복잡한 관계를 파악하는 데 있습니다. 특히 그래피컬 모델과 네트워크 분석은 변수들 사이의 함수 관계나 인과관계를 규명하는 데 초점을 맞춥니다. 기존의 인공지능이 주로 상관관계에 기반하여 미래를 예측했다면, 이 연구 분야는 원인이 바뀌었을 때 결과가 어떻게 변하는지 그 시스템 자체를 이해하고자 합니다. 이러한 접근은 인공지능이 인간의 의사결정 과정을 보다 정교하게 보조하고 대체할 수 있는 지식의 토대가 됩니다. 현재 우리가 사용하는 인공지능은 여러 한계점을 지니고 있습니다. 가장 큰 문제는 데이터의 편향성으로, 주로 선진국 위주의 데이터가 수집되다 보니 보편적인 판단을 내리는 데 어려움이 있습니다. 또한 모델이 지나치게 복잡해지면서 결과가 도출된 이유를 인간이 이해하지 못하는 '블랙박스' 현상이 발생합니다. 이는 고성능 컴퓨팅 자원의 과도한 사용으로 이어져 환경 문제까지 야기하고 있습니다. 따라서 다음 세대의 인공지능은 이러한 불투명성과 비효율성을 극복하는 방향으로 진화해야 합니다. 미래의 인공지능은 단순히 예측 성능을 높이는 것을 넘어, '설명 가능한 AI'를 지나 '해석 가능한 AI' 혹은 '인과관계 AI'로 나아가야 합니다. 이는 특정 변수가 결과에 어떤 영향을 미쳤는지 단순히 나열하는 수준을 넘어, 왜 그런 결과가 초래되었는지 논리적으로 설명할 수 있는 능력을 의미합니다. 데이터가 생성되는 시스템 자체를 이해하는 방법론이 개발된다면, 인공지능은 단순한 도구를 넘어 인간의 논리적 사고를 뒷받침하는 강력한 파트너로서 그 역할을 수행하게 될 것입니다. 인과관계를 추론하는 그래피컬 모델은 다양한 실무 분야에서 혁신적인 변화를 이끌어낼 수 있습니다. 신약 개발 과정에서는 약물이 인체 면역 시스템에 미치는 영향을 분석하여 치료 효과를 극대화하고, 예상치 못한 부작용을 사전에 예측하는 데 활용됩니다. 사회 정책 분야에서도 특정 정책이 사회 전반에 미치는 파급 효과를 분석하여 의도한 목표를 달성할 수 있는지, 혹은 예기치 못한 사회적 부작용이 발생하지는 않을지 미리 판단할 수 있게 해줍니다. 이는 데이터 기반의 정밀한 의사결정을 가능케 합니다. 과학자의 길을 걷기 위해서는 연구가 세상을 어떻게 바꿀지에 대한 거시적인 시각을 갖는 것이 중요합니다. 하지만 장기적인 레이스를 완주하기 위해서는 자신만의 스트레스 관리법 또한 필수적입니다. 운동이나 등산과 같은 신체 활동은 연구 과정에서 쌓인 스트레스를 해소하고 다시 몰입할 수 있는 에너지를 제공합니다. 결국 좋아하는 일을 지속할 수 있는 힘은 학문적 열정과 건강한 생활 습관의 균형에서 비롯됩니다. 이러한 균형은 과학자로서의 삶을 더욱 풍요롭고 지속 가능하게 만들어 줄 것입니다.

[인터뷰] 박건웅_예측을 넘어 인과관계를 해석하는 데이터 사이언스🧑‍💻📊🖥️|제31회 서울대 자연과학 공개강연_"세상을 바꾼 과학, 과학이 여는 미래"

박건웅

카오스재단서울대자연과학공개강연
  • 수학

인공지능 AI 기반 사이버 공격 자동분석 시스템 - KISTI 김규일

디지털 환경으로의 급격한 전환이 가속화되면서 사이버 위협은 과거와 비교할 수 없을 정도로 지능화되고 대형화되는 추세에 직면해 있습니다. 기존의 인력 기반 보안 관제 시스템으로는 매일 쏟아지는 수만 건에 달하는 공격 시도를 실시간으로 탐지하고 정확하게 대응하는 데 물리적인 한계가 따를 수밖에 없습니다. 이에 따라 KISTI 과학기술 사이버 안전센터는 지난 2005년부터 17년 이상 축적해 온 방대한 보안 데이터와 고도의 분석 노하우를 집약하여, 지능형 위협에 능동적으로 대처할 수 있는 인공지능 기반 사이버 공격 자동 분석 플랫폼을 새롭게 선보이게 되었습니다. 개발된 분석 플랫폼은 실시간으로 발생하는 사이버 위협을 신속하고 정확하게 자동 분석하는 것을 최우선 과제로 삼아 설계되었습니다. 인공지능 모델의 생성부터 현장 적용까지의 과정을 대폭 간소화하였으며, 다양한 데이터 환경에서도 원활하게 작동할 수 있도록 공유성과 확장성을 동시에 고려한 것이 특징입니다. 특히 데이터 수집부터 특징 추출, 정규화, 그리고 모델 생성 및 검증에 이르는 전 주기를 하나의 유기적인 플랫폼으로 통합했습니다. 이러한 선순환 체계를 구축함으로써 보안 관제의 전 과정을 자동화하고, 폭발적으로 증가하는 사이버 공격에 대한 방어 역량을 비약적으로 강화했습니다. 이 시스템이 가진 가장 큰 경쟁력 중 하나는 독보적인 양질의 데이터셋 구축 능력에 있습니다. 2005년부터 현재까지 축적된 1,500억 건 이상의 방대한 원천 데이터와 수백만 건의 정교한 레이블링 정보는 인공지능 학습을 위한 대체 불가능한 자산이 됩니다. 일반적인 데이터와 달리 보안 관제 데이터는 노이즈가 많고 중복된 정보가 섞여 있어 모델링에 어려움이 많지만, 전용 정제 알고리즘을 통해 이를 효율적으로 해결했습니다. 최적화된 전처리 과정을 거쳐 추출된 양질의 데이터셋은 인공지능 모델의 성능을 결정짓는 핵심적인 밑거름이 되어 분석 결과의 신뢰도를 보장합니다. 기술적 측면에서는 공격자의 잠재적인 행위 패턴을 파악하기 위해 정적인 정보에 국한되지 않고 시공간 정보를 반영한 동적인 흐름을 정밀하게 추적합니다. RNN이나 CNN과 같은 최신 딥러닝 모델은 물론, 기존의 다양한 머신러닝 기법들을 자유롭게 조합하여 활용할 수 있는 유연한 구조를 갖추고 있습니다. 또한 하이퍼파라미터 최적화와 주요 특징 추출 기능을 자동화된 서치 기능으로 제공하여, 보안 전문가가 일일이 설정을 변경하지 않아도 시스템이 스스로 최적의 성능을 도출합니다. 이는 복잡한 인공지능 기술을 실무 현장에 누구나 쉽고 빠르게 도입할 수 있도록 돕는 핵심 기술입니다. 해당 플랫폼은 99% 이상의 높은 탐지 정확도를 기록하며 실제 보안 관제 현장에 즉각적으로 투입되어 그 실효성을 입증하고 있습니다. 설명 가능한 인공지능(XAI) 기술을 도입하여, 내부 연산 과정을 투명하게 공개함으로써 운영자가 분석 결과를 전적으로 신뢰할 수 있는 환경을 조성했습니다. 보안 인력의 업무 부하를 획기적으로 줄이는 동시에 제로데이 공격과 같은 미지의 위협까지도 탐지할 수 있는 이 시스템은, 다수의 지식재산권과 특허 기술을 기반으로 국가 과학기술 연구 인프라를 보호하는 든든한 방패 역할을 수행할 것입니다.

인공지능 AI 기반 사이버 공격 자동분석 시스템  - KISTI 김규일
한국과학기술정보연구원
  • 융합
  • 공학·기술

인공지능이 의사들과 친해지려면? ㅣ 김휘영교수(연세대학교) [토요과학강연#1-2부]

인공지능이 의료 현장에서 의사들의 진정한 파트너로 거듭나기 위해서는 단순히 결과를 도출하는 것을 넘어 그 과정을 설명할 수 있는 능력이 필수적입니다. 현재의 기술 수준으로는 인공지능이 왜 특정 진단을 내렸는지, 혹은 왜 오류를 범했는지 스스로 명확하게 설명하지 못하는 한계가 존재합니다. 실수를 통해 배우고 원인을 파악하는 인간의 사고 과정처럼, 인공지능 또한 자신의 판단 근거를 제시할 수 있어야 의료 사고 발생 시 책임 소재를 분명히 하고 기술적 개선을 이룰 수 있습니다. 이러한 '설명 가능한 인공지능' 기술은 의료진이 인공지능의 진단을 신뢰하고 최종적인 결정을 내리는 데 있어 핵심적인 역할을 할 것입니다. 의료 인공지능은 스스로 사고하는 독립적인 존재라기보다, 복잡한 데이터를 처리하여 유의미한 결과를 도출하는 정교한 분석 체계로 이해해야 합니다. 따라서 최종적인 진단과 치료 결정은 인공지능의 분석 결과를 바탕으로 전문적인 지식을 갖춘 의사가 직접 수행해야 합니다. 특히 학습 데이터의 편향성 문제는 인공지능 활용 시 주의 깊게 살펴봐야 할 윤리적 쟁점입니다. 특정 인종이나 성별에 치우친 데이터로 학습된 알고리즘은 실제 의료 현장에서 오진이나 편견 섞인 결과를 초래할 위험이 있기 때문입니다. 기술적 완결성 못지않게 공정하고 객관적인 데이터 확보가 의료 인공지능의 신뢰도를 결정짓는 중요한 요소가 됩니다. 의사들이 인공지능의 진단을 수용하기 위해서는 단순한 결과 통보가 아닌, 구체적이고 타당한 근거가 제시되어야 합니다. 예를 들어 폐암 진단 시 단순히 확률만을 제시하는 것이 아니라, 흉부 엑스레이 영상에서 어느 부위에 결절이 관찰되는지, 환자의 가족력과 흡연 기간이 어떻게 고려되었는지를 상세히 시각화하여 보여주는 식입니다. 결핵이나 관절염 진단에서도 병변 부위를 색상으로 표시하여 보여주면 의료진은 인공지능의 판단을 직관적으로 검증할 수 있게 됩니다. 이러한 방식은 진단의 정확도를 높일 뿐만 아니라, 의료진이 인공지능의 분석 결과를 바탕으로 더 확신 있는 치료 계획을 수립하는 데 커다란 도움을 줍니다. 인공지능이 높은 정확도를 기록하더라도, 정작 엉뚱한 단서를 보고 정답을 맞힌다면 실제 의료 현장에서는 심각한 위험을 초래할 수 있습니다. 예를 들어 심장 비대증을 진단할 때 심장의 크기나 형태를 보는 대신, 환자들에게 흔히 나타나는 수술 자국을 근거로 판단하는 경우가 발생할 수 있습니다. 이는 결과적으로는 맞을지 몰라도 의학적으로는 타당하지 않은 추론입니다. 따라서 인공지능이 스스로 학습 과정에서 중요하지 않은 정보에 현혹되지 않고, 질환의 핵심적인 특징에만 집중하도록 만드는 '자기 집중 학습' 알고리즘이 중요합니다. 본질적인 단서를 포착하는 능력은 인공지능이 단순한 통계 도구를 넘어 의학적 통찰을 제공하는 단계로 나아가게 합니다. 단일 질환만을 판별하는 좁은 범위를 넘어, 여러 질환을 동시에 이해하고 소량의 데이터로도 효율적으로 학습하는 '메타 학습'은 의료 인공지능의 미래 방향성입니다. 인간이 적은 수의 사진만 보고도 새로운 대상을 인식하듯, 인공지능도 다양한 의학 지식을 통합적으로 습득하여 진단의 범위를 넓혀가야 합니다. 이러한 진보는 수백 장의 영상을 일일이 대조해야 하는 의료진의 업무 시간을 획기적으로 단축하며, 장기적으로는 정확한 조기 진단을 통해 사회 전체의 의료비 부담을 줄이는 긍정적인 효과를 가져올 것입니다. 기술적 고도화와 사회적 가치 창출이 조화를 이룰 때, 인공지능은 비로소 인류의 건강 증진을 위한 진정한 동반자가 될 수 있습니다.

인공지능이 의사들과 친해지려면? ㅣ 김휘영교수(연세대학교) [토요과학강연#1-2부]
서울시립과학관[과학강연] 21년 토요과학강연
  • 생명과학
  • 뇌인지과학
  • 융합

KISTI | 우리 몸이 보내는 바이오 시그널로 질병 빠르고 간편히 진단한다!

우리 몸은 끊임없이 미세한 바이오 시그널을 내보내고 있습니다. 뇌파, 심전도, 근전도와 같은 이러한 바이오 시그널은 건강 상태를 나타내는 중요한 지표가 됩니다. 최근에는 이러한 시계열 데이터를 기계 학습으로 모델링하여 질병을 예측하고 진단하는 기술이 주목받고 있습니다. 기존에는 방대한 양의 데이터를 분석하는 데 막대한 시간과 노력이 소요되었으나, 이 기술은 실시간으로 데이터를 측정하고 동시에 진단할 수 있는 획기적인 변화를 가져왔습니다. 바이오 시그널 학습 모델이 구축되면 진단 과정이 매우 단순해집니다. 고사양의 장비 대신 간단한 센서와 통신 장비만으로도 실시간 진단이 가능해지기 때문입니다. 이는 무겁고 비싼 의료기기를 소형화 및 휴대화할 수 있는 기반이 됩니다. 마치 우리가 집에서 체중계나 혈압계를 사용하듯, 언제 어디서나 자신의 건강 상태를 점검할 수 있는 휴대용 의료 환경이 열리는 것입니다. 환자들은 더 이상 진단을 위해 긴 시간 대기하며 고통받지 않아도 됩니다. 인공지능 진단에서 가장 중요한 문제 중 하나는 결과가 도출되는 과정을 이해하기 어렵다는 '블랙박스' 현상입니다. 하지만 본 기술은 가시화 기법을 통해 정상인과 질환자의 시그널 차이를 명확하게 보여줍니다. 질병 진단에 필요한 유효 패턴의 출현 빈도와 형태를 분석함으로써, 설명 가능한 인공지능(XAI) 기술을 통해 인공지능이 왜 그러한 결론을 내렸는지 설명이 가능해집니다. 이는 의료 현장에서 신뢰도를 높이는 필수적인 요소로 작용하며, 의료진이 보다 정밀한 조기 진단을 내릴 수 있도록 돕습니다. 이러한 혁신적인 기술을 개발하는 과정에는 많은 현실적인 어려움이 따랐습니다. 특히 치매 환자의 뇌파와 같은 실제 의료 데이터를 확보하는 것이 가장 큰 장벽이었습니다. 의료 데이터의 수집과 공유에 관한 법적 규제가 까다로운 데다, 연구자들 사이에서도 데이터를 공유하려는 문화가 충분히 정착되지 않았기 때문입니다. 하지만 이러한 한계를 극복하고 구축된 데이터 모델은 현재 질병 진단의 정확도를 높이는 소중한 자산이 되었으며, 후속 연구를 위한 중요한 토대가 되었습니다. 바이오 시그널 분석 기술의 잠재력은 단순히 의료 분야에만 국한되지 않습니다. 시계열 데이터를 다루는 특성상 환경 모니터링, 금융 시장 분석, 물류 시스템 최적화 등 방대한 분야로 확장이 가능합니다. 연구팀은 이 기술을 더욱 발전시켜 인공지능이 개인의 주치의 역할을 수행하는 '인공지능 주치의'를 개발하는 것을 최종 목표로 삼고 있습니다. 일상 속에서 우리의 건강을 돌보고 위험을 미리 알려주는 똑똑한 동반자의 등장이 머지않은 미래의 모습이 될 것입니다.

KISTI | 우리 몸이 보내는 바이오 시그널로 질병 빠르고 간편히 진단한다!
한국과학기술정보연구원
  • 생명과학
  • 뇌인지과학
  • 융합
  • 공학·기술

[석학인터뷰] 최재식_지능에 대한 호기심, 인공지능 개발의 원동력 | 2020 가을 카오스강연 'Ai X'

인간 지능에 대한 호기심은 단순한 지적 탐구를 넘어 세상을 바꾸는 강력한 동기가 됩니다. 인공지능 알고리즘이 공장을 자동 제어하고, 인간 수준의 번역을 수행하는 언어 모델이 등장하면서 우리는 기술의 진보를 실감하고 있습니다. 이러한 변화는 연구자의 지적 호기심을 충족시킬 뿐만 아니라 사회가 필요로 하는 실질적인 혁신을 이끌어냅니다. 인공지능은 이제 단순한 도구를 넘어 우리 삶의 방식을 근본적으로 변화시키는 핵심 동력으로 자리 잡고 있습니다. 최근 인공지능 연구의 두 축은 미래를 예측하는 시스템과 그 의사결정 과정을 설명하는 기술입니다. 예측 시스템은 부동산 가격이나 주식 시장의 변동을 파악하는 등 다양한 분야에 응용됩니다. 하지만 딥러닝처럼 복잡한 시스템은 내부 의사결정 과정을 파악하기 어렵다는 한계가 있습니다. 이를 보완하기 위해 등장한 설명 가능한 인공지능은 시스템이 언제 확실한 결정을 내리는지, 혹은 언제 불완전할 수 있는지를 명확히 알려줌으로써 인공지능의 신뢰성을 높이는 역할을 합니다. 설명 가능한 인공지능은 특히 사람의 생명과 재산에 직결되는 '미션 크리티컬 시스템'에서 필수적입니다. 의료 처방, 국방 시스템, 자율주행 자동차와 같이 안전이 최우선인 분야에서는 인공지능이 왜 그런 결정을 내렸는지 검증하는 과정이 반드시 필요합니다. 아무리 성능이 뛰어난 시스템이라도 그 작동 원리를 알 수 없다면 실제 현장에 적용하기 어렵기 때문입니다. 따라서 설명 가능한 기술은 인공지능이 우리 사회의 핵심 인프라로 안착하기 위한 필수적인 검증 도구라고 할 수 있습니다. 인공지능의 복잡한 의사결정 과정을 분석하기 위해 연구자들은 입력 데이터 중 결과에 가장 큰 영향을 미친 요소를 판별하는 데 집중합니다. 이는 마치 보이지 않는 내부를 들여다보는 돋보기나 현미경과 같은 도구를 개발하는 과정과 같습니다. 이러한 기술을 통해 특정 시스템이 어떤 상황에서 안전하고 어떤 입력 데이터에 취약한지를 객관적으로 검증할 수 있습니다. 결국 설명 가능한 인공지능은 블랙박스와 같았던 알고리즘의 내부를 투명하게 공개하여 기술의 완성도를 높이는 데 기여합니다. 진정한 인공지능 전문가가 되기 위해 필요한 것은 수학적 능력이나 프로그래밍 기술 이전에 인간 지능에 대한 깊은 호기심입니다. '지능이란 무엇인가' 혹은 '사람이라면 어떻게 행동했을까'라는 근원적인 질문을 던지고 이를 알고리즘으로 구현하려는 의지가 중요합니다. 이러한 호기심은 연구 과정에서 마주하는 기술적 난관을 극복하게 만드는 원동력이 됩니다. 인공지능 연구는 결국 인간을 이해하려는 노력의 연장선이며, 그 과정에서 얻는 깨달음이 미래 사회를 설계하는 밑거름이 됩니다.

[석학인터뷰] 최재식_지능에 대한 호기심, 인공지능 개발의 원동력 | 2020 가을 카오스강연 'Ai X'

최재식

카오스재단카오스강연
  • 뇌인지과학

[강연] AI / 머신러닝 _ by오혜연, 강명주 | 2020 봄 카오스강연 '첨단기술의 과학' 3강 | 3강

인공지능은 인간이 어렵게 느끼는 복잡한 지식 탐색이나 독해 능력에서 놀라운 성과를 보여줍니다. IBM의 왓슨이 퀴즈쇼에서 우승하거나 머신러닝 모델이 고난도 독해 평가에서 인간을 앞서는 사례가 이를 증명합니다. 하지만 정작 인간에게 너무나 쉬운 일상적인 대화나 사진 속 상황을 파악하는 일에는 서툰 모습을 보이기도 합니다. 이러한 역설은 인공지능이 언어를 이해하는 방식이 인간의 직관이나 경험과는 근본적으로 다르다는 점을 시사하며, 기술 발전의 새로운 과제를 던져줍니다. 일상적인 대화가 인공지능에게 어려운 이유는 데이터의 부재와 상황의 모호성에 있습니다. 우리가 나누는 대화는 대부분 기록되지 않는 사적인 영역이며, 그 안에는 대화 상대와의 관계나 장소, 계절 같은 수많은 외부 맥락이 생략되어 있습니다. 인공지능은 방대한 데이터를 학습하여 확률적으로 다음 단어를 예측하지만, 데이터에 명시되지 않은 인간의 본능적인 사회적 감각까지 완벽히 따라 하기는 어렵습니다. 결국 문제 정의가 명확하지 않은 영역에서 인공지능의 한계가 드러나는 것입니다. 최신 언어 모델인 BERT는 문맥을 양방향으로 파악하며 비약적인 발전을 이루었지만, 여전히 데이터에 내재된 편향성 문제를 안고 있습니다. 인공지능은 인터넷상의 방대한 문서를 학습하며 인간의 고정관념이나 당연하게 여겨지는 상식의 부재를 그대로 흡수합니다. 예를 들어 '노란 바나나'라는 표현이 드문 이유는 바나나가 당연히 노랗기 때문이지만, 인공지능은 이를 학습하지 못해 편향된 결과를 낼 수 있습니다. 이는 기술적 완성도를 넘어 윤리적이고 사회적인 성찰이 필요한 지점입니다. 인공지능과 딥러닝의 눈부신 발전 밑바탕에는 견고한 수학적 토대 자리 잡고 있습니다. 흔히 인공지능을 전산학의 전유물로 생각하기 쉽지만, 사실 미분과 선형대수학 같은 수학적 원리가 없었다면 현대의 인공지능은 존재할 수 없었을 것입니다. 과거 뉴턴이나 오일러가 정립한 이론들이 수 세기를 지나 오늘날 데이터를 처리하고 최적의 해를 찾는 핵심 도구로 부활한 셈입니다. 산업이 고도화될수록 복잡한 현상을 모델링하고 해결하는 수학의 역할은 더욱 중요해지고 있습니다. 수학의 힘은 영화 산업의 시뮬레이션 기술에서도 명확히 드러납니다. '겨울왕국'의 자연스러운 눈 입자나 '아이언맨'의 역동적인 물의 흐름은 모두 나비에-스토크스 방정식과 같은 복잡한 물리 법칙을 수학적으로 풀어낸 결과입니다. 슈퍼컴퓨터조차 직접 풀기 어려운 거대한 행렬 방정식을 수치적인 방법으로 근사하여 해결함으로써, 우리는 가상 세계에서 실제와 다름없는 물리적 현상을 구현할 수 있게 되었습니다. 이는 수학이 추상적인 이론을 넘어 현실을 재창조하는 도구임을 보여줍니다. 딥러닝의 핵심은 수많은 데이터를 통해 최적의 가중치를 찾아내는 최적화 과정에 있습니다. 수백만 차원의 복잡한 함수에서 오차를 최소화하는 지점을 찾는 일은 마치 거대한 산맥에서 가장 낮은 골짜기를 찾는 것과 같습니다. 이 과정에서 인공지능은 행렬 연산을 반복하며 스스로 특징을 학습하지만, 왜 그런 결과가 도출되었는지 논리적으로 설명하기는 여전히 어렵습니다. 이러한 '블랙박스' 문제를 해결하고 시스템의 신뢰성을 확보하기 위해 수학자들은 지금도 치열한 연구를 이어가고 있습니다. 미래의 인공지능은 단순히 높은 정확도를 기록하는 것을 넘어, 자신의 판단 근거를 인간에게 논리적으로 설명할 수 있는 '설명 가능한 AI(XAI)'로 진화해야 합니다. 이를 위해서는 데이터 기반의 학습과 수학적 논리가 완벽하게 통합되어야 하며, 다양한 분야의 전문가들이 소통하며 창의적인 해결책을 모색해야 합니다. 인공지능이 인간의 언어를 완벽히 이해하고 수학적으로 투명해지는 날, 우리는 기술이 주는 혜택을 더욱 안전하고 풍요롭게 누리게 될 것입니다.

[강연]  AI / 머신러닝 _ by오혜연, 강명주 | 2020 봄 카오스강연 '첨단기술의 과학' 3강

강명주, 오혜연

카오스재단카오스강연
  • 뇌인지과학