설명가능

3 Contents

[강연] 세상을 바꾼 데이터와 인공지능_by박건웅 l 제 31회 서울대 자연과학 공개강연_"세상을 바꾼 과학, 과학이 여는 미래" | 1강

데이터는 현대 인공지능을 움직이는 핵심 원료입니다. 과거에는 실험을 통해 소량의 데이터를 얻었지만, 이제는 누구나 정보를 생산하는 빅데이터 시대에 살고 있습니다. 유튜브와 SNS를 통해 쏟아지는 방대한 데이터는 인공지능이 더 똑똑하게 판단할 수 있는 기반이 됩니다. 마치 자동차가 휘발유를 동력 삼아 앞으로 나아가듯, 인공지능 역시 양질의 데이터를 바탕으로 우리 삶의 생산성을 높이고 새로운 가치를 창출하고 있습니다. 데이터의 힘은 스포츠 분야에서도 증명됩니다. 과거 농구 선수들은 직관에 의존해 슛을 던졌지만, 이제는 기대 득점 데이터를 기반으로 전략을 짭니다. 스테픈 커리와 같은 선수는 성공 확률이 낮더라도 기대 득점이 높은 3점 슛에 집중하여 현대 농구의 패러다임을 바꾸었습니다. 데이터를 통해 중거리 슛보다 골밑이나 3점 라인이 효율적임을 깨달은 팀들은 승리 확률을 높이기 위해 철저히 계산된 위치에서 경기를 운영하고 있습니다. 인공지능은 아이가 학습하듯 수많은 시행착오를 거치며 발전합니다. 자율 주차 프로그램이 수십만 번의 사고를 겪으며 주차 방식을 익히는 과정은 인공지능의 학습 원리를 잘 보여줍니다. 하지만 데이터의 양만큼이나 중요한 것이 맥락의 이해입니다. 단순히 색상이나 형태만으로 사물을 인식하면, 특정 상황에서 사람을 초밥으로 오인하는 오류를 범할 수 있습니다. 따라서 기계가 인간처럼 사고하기 위해서는 단순한 인식을 넘어선 고도화된 지능이 필요합니다. 최근 인공지능의 비약적인 성공은 하드웨어와 데이터 규모의 승리라고 볼 수 있습니다. 과거에는 최적의 모델을 설계하는 데 집중했다면, 지금은 엄청난 양의 데이터와 고성능 컴퓨터, 그리고 막대한 전력을 투입해 모델의 복잡도를 높이는 방식이 주를 이룹니다. GPT 시리즈처럼 모델이 거대해질수록 인공지능은 더욱 정교한 결과물을 내놓습니다. 하지만 이러한 방식은 데이터 생산의 한계와 에너지 소비 문제라는 현실적인 벽에 부딪히고 있습니다. 인공지능의 신뢰성은 입력되는 데이터의 질에 좌우됩니다. '쓰레기를 넣으면 쓰레기가 나온다'는 말처럼, 편향되거나 오염된 데이터는 잘못된 결과를 초래합니다. 인터넷 데이터의 대부분이 특정 국가나 계층에 집중되어 있다면, 인공지능은 전 세계의 다양한 문화를 공정하게 반영하지 못합니다. 또한 의도적으로 조작된 데이터는 구글 맵의 교통 정보를 왜곡하듯 시스템 전체를 혼란에 빠뜨릴 수 있으므로 데이터의 신뢰성 확보는 매우 중요한 과제입니다. 현재 인공지능이 직면한 가장 큰 숙제 중 하나는 인과 관계 추론입니다. 인공지능은 기저귀와 맥주가 함께 팔린다는 상관관계는 잘 찾아내지만, '왜' 그런 현상이 발생하는지에 대한 근본적인 이유는 설명하지 못합니다. 아이스크림 소비량과 익사 사고의 상관관계를 보고 아이스크림 판매를 금지하는 오류를 범하지 않으려면, 단순한 예측을 넘어 원인과 결과를 분석하는 능력이 필요합니다. 이를 위해 우리는 인공지능이 내린 판단의 근거를 이해할 수 있어야 합니다. 미래의 인공지능은 단순히 예측의 정확도를 높이는 것을 넘어, 데이터 오염과 개인정보 침해, 에너지 문제 등을 해결하는 방향으로 나아가야 합니다. 이를 위해서는 통계학이나 수학 같은 기초 과학의 역할이 무엇보다 중요합니다. 기초 지식을 바탕으로 인공지능의 한계를 극복하고 해석 가능한 모델을 만들어낼 때, 인공지능은 비로소 인간과 공존하며 진정한 도움을 주는 존재가 될 것입니다. 끊임없는 연구와 도전을 통해 우리는 더 나은 인공지능 시대를 열어갈 수 있습니다.

[강연] 세상을 바꾼 데이터와 인공지능_by박건웅 l 제 31회 서울대 자연과학 공개강연_"세상을 바꾼 과학, 과학이 여는 미래"

박건웅

카오스재단서울대자연과학공개강연
  • 수학

[강연] AI의 사고과정을 설명할 수 있을까 _ by최재식 ㅣ 2020 가을 카오스강연 'Ai X' 6강 | 6강

인공지능(AI) 기술은 자율주행, 금융, 의료 등 우리 삶의 핵심적인 영역으로 깊숙이 침투하고 있습니다. 하지만 시스템이 복잡해질수록 그 내부 작동 원리를 파악하기 어려워지는 '블랙박스' 문제가 발생합니다. 만약 AI가 중대한 결정을 내렸을 때 그 이유를 설명하지 못한다면, 예상치 못한 오류가 발생했을 때 인간의 생명과 재산에 심각한 위협이 될 수 있습니다. 따라서 AI가 내린 결론의 근거를 사람이 이해할 수 있는 방식으로 제시하는 '설명 가능 인공지능(XAI)' 기술은 이제 선택이 아닌 필수적인 요소로 자리 잡고 있습니다. 유럽연합의 일반 데이터 보호 규정(GDPR)은 자동화된 의사결정에 대해 설명을 요구할 권리를 법적으로 보장하고 있습니다. 이는 AI가 대출 심사나 채용 등에서 편향된 판단을 내리지 않도록 감시하는 중요한 장치가 됩니다. 실제로 특정 딥러닝 모델이 성적 지향이나 인종과 같은 민감한 정보를 학습하여 편견을 가질 수 있다는 연구 결과는 설명 가능성의 중요성을 시사합니다. 기업들은 이제 알고리즘의 투명성을 확보하지 못할 경우 막대한 벌금을 부과받을 수 있으며, 이는 기술적 신뢰를 넘어 사회적 윤리를 지키는 토대가 됩니다. 복잡한 딥러닝 모델을 설명하기 위한 대표적인 방법 중 하나는 '계층별 관련성 전파(LRP)' 기술입니다. 이는 AI가 최종 결정을 내리는 데 있어 입력 데이터의 어떤 부분이 가장 큰 기여를 했는지 역추적하는 방식입니다. 예를 들어, 자율주행 자동차가 핸들을 왼쪽으로 꺾었다면 도로의 특정 픽셀이나 장애물이 그 결정에 얼마나 영향을 미쳤는지 수치화하여 보여줄 수 있습니다. 수천만 개의 뉴런이 얽힌 복잡한 구조라도 각 레이어의 기여도를 분석함으로써, 우리는 블랙박스 내부의 논리적 흐름을 시각적으로 확인하고 검증할 수 있게 됩니다. 인공지능(AI) 내부를 들여다보는 연구는 마치 해부학 실습처럼 정교하게 진행되고 있습니다. 특정 레이어의 노드들이 어떤 사물에 반응하는지 분석해 보면, 놀랍게도 딥러닝 내부에는 비행기, 하늘, 식물 등 특정 물체를 전담해서 인식하는 유닛들이 존재함을 알 수 있습니다. 이는 AI가 단순히 데이터를 암기하는 것이 아니라, 스스로 유의미한 특징을 추출하여 세상을 이해하고 있음을 보여줍니다. 이러한 내부 구조의 가시화는 AI가 학습 과정에서 무엇을 중요하게 여기는지 파악하게 해주며, 모델의 성능 개선과 오류 수정을 위한 결정적인 단서를 제공합니다. 고차원 공간에서 작동하는 생성 모델의 내부를 탐색하기 위해 로봇 공학의 알고리즘을 도입하기도 합니다. 수천 차원의 복잡한 경계면을 효율적으로 찾아내는 기술을 통해, AI가 생성하는 이미지의 미세한 변화가 어떤 노드의 영향인지 정확히 짚어낼 수 있습니다. 예를 들어 안경의 유무나 배경의 색감 변화가 결정되는 경계 지점을 찾아냄으로써, 모델의 작동 범위를 명확히 규정하는 것이 가능해집니다. 이러한 정밀한 분석 도구는 AI가 단순히 결과를 내놓는 수준을 넘어, 그 결과가 도출되는 전체적인 지형도를 인간에게 제시하는 역할을 수행합니다. 설명 가능 인공지능(XAI)은 실제 산업 현장에서도 혁신적인 성과를 거두고 있습니다. 거대한 용광로인 고로의 온도를 예측하고 제어하는 시스템에 이 기술을 적용한 사례가 대표적입니다. 숙련된 조업자들은 처음에는 AI의 판단을 불신하기도 했지만, AI가 특정 센서값과 압력을 근거로 제시하며 이유를 설명하자 기술을 신뢰하고 협업하기 시작했습니다. 그 결과 연료 절감과 생산성 향상을 동시에 달성하며 국가 핵심 기술로 지정되는 쾌거를 이루었습니다. 이는 기술적 완성도만큼이나 인간과의 소통과 신뢰 형성이 산업 현장에서 얼마나 중요한지를 증명합니다. 인공지능(AI)의 미래는 인간의 지능을 대체하는 것이 아니라 보완하고 확장하는 '증강 지능'의 방향으로 나아가고 있습니다. 설명 가능 인공지능(XAI)은 AI가 잘하는 것과 못하는 것을 명확히 구분해 줌으로써, 기술에 대한 막연한 두려움이나 과도한 기대를 걷어내는 역할을 합니다. 이는 과거 AI 기술이 한계에 부딪혀 겪었던 'AI 빙하기'를 방지하고, 지속 가능한 기술 발전을 이끄는 안전장치가 될 것입니다. 결국 인간과 AI가 서로의 사고 과정을 이해하고 협력할 때, 우리는 더욱 안전하고 효율적인 인공지능(AI) 시대를 맞이할 수 있을 것입니다.

[강연] AI의 사고과정을 설명할 수 있을까 _ by최재식 ㅣ 2020 가을 카오스강연 'Ai X' 6강

최재식

카오스재단카오스강연
  • 뇌인지과학

[석학인터뷰] 최재식_지능에 대한 호기심, 인공지능 개발의 원동력 | 2020 가을 카오스강연 'Ai X'

인간 지능에 대한 호기심은 단순한 지적 탐구를 넘어 세상을 바꾸는 강력한 동기가 됩니다. 인공지능 알고리즘이 공장을 자동 제어하고, 인간 수준의 번역을 수행하는 언어 모델이 등장하면서 우리는 기술의 진보를 실감하고 있습니다. 이러한 변화는 연구자의 지적 호기심을 충족시킬 뿐만 아니라 사회가 필요로 하는 실질적인 혁신을 이끌어냅니다. 인공지능은 이제 단순한 도구를 넘어 우리 삶의 방식을 근본적으로 변화시키는 핵심 동력으로 자리 잡고 있습니다. 최근 인공지능 연구의 두 축은 미래를 예측하는 시스템과 그 의사결정 과정을 설명하는 기술입니다. 예측 시스템은 부동산 가격이나 주식 시장의 변동을 파악하는 등 다양한 분야에 응용됩니다. 하지만 딥러닝처럼 복잡한 시스템은 내부 의사결정 과정을 파악하기 어렵다는 한계가 있습니다. 이를 보완하기 위해 등장한 설명 가능한 인공지능은 시스템이 언제 확실한 결정을 내리는지, 혹은 언제 불완전할 수 있는지를 명확히 알려줌으로써 인공지능의 신뢰성을 높이는 역할을 합니다. 설명 가능한 인공지능은 특히 사람의 생명과 재산에 직결되는 '미션 크리티컬 시스템'에서 필수적입니다. 의료 처방, 국방 시스템, 자율주행 자동차와 같이 안전이 최우선인 분야에서는 인공지능이 왜 그런 결정을 내렸는지 검증하는 과정이 반드시 필요합니다. 아무리 성능이 뛰어난 시스템이라도 그 작동 원리를 알 수 없다면 실제 현장에 적용하기 어렵기 때문입니다. 따라서 설명 가능한 기술은 인공지능이 우리 사회의 핵심 인프라로 안착하기 위한 필수적인 검증 도구라고 할 수 있습니다. 인공지능의 복잡한 의사결정 과정을 분석하기 위해 연구자들은 입력 데이터 중 결과에 가장 큰 영향을 미친 요소를 판별하는 데 집중합니다. 이는 마치 보이지 않는 내부를 들여다보는 돋보기나 현미경과 같은 도구를 개발하는 과정과 같습니다. 이러한 기술을 통해 특정 시스템이 어떤 상황에서 안전하고 어떤 입력 데이터에 취약한지를 객관적으로 검증할 수 있습니다. 결국 설명 가능한 인공지능은 블랙박스와 같았던 알고리즘의 내부를 투명하게 공개하여 기술의 완성도를 높이는 데 기여합니다. 진정한 인공지능 전문가가 되기 위해 필요한 것은 수학적 능력이나 프로그래밍 기술 이전에 인간 지능에 대한 깊은 호기심입니다. '지능이란 무엇인가' 혹은 '사람이라면 어떻게 행동했을까'라는 근원적인 질문을 던지고 이를 알고리즘으로 구현하려는 의지가 중요합니다. 이러한 호기심은 연구 과정에서 마주하는 기술적 난관을 극복하게 만드는 원동력이 됩니다. 인공지능 연구는 결국 인간을 이해하려는 노력의 연장선이며, 그 과정에서 얻는 깨달음이 미래 사회를 설계하는 밑거름이 됩니다.

[석학인터뷰] 최재식_지능에 대한 호기심, 인공지능 개발의 원동력 | 2020 가을 카오스강연 'Ai X'

최재식

카오스재단카오스강연
  • 뇌인지과학