설명가능성

2 Contents

[강연] 컴퓨터비전과 딥러닝의 현재와 미래 _ by한보형 | 2020 가을 카오스강연 'Ai X' 5강 | 5강

컴퓨터 비전은 이미지나 비디오의 내용을 컴퓨터가 자동으로 이해하게 만드는 기술입니다. 과거에는 사람이 데이터의 특징을 직접 정의해 주어야 했지만, 딥러닝의 등장으로 인공지능이 스스로 데이터에서 중요한 정보를 추출하는 법을 학습하게 되었습니다. 특히 여러 계층으로 구성된 인공 신경망은 복잡한 시각 정보를 계층적으로 파악하며, 인간의 시각 체계를 모방하는 수준까지 발전했습니다. 이러한 기술적 도약은 기계가 세상을 바라보는 방식을 근본적으로 변화시켰으며, 단순한 데이터 나열을 넘어선 의미 있는 정보 추출을 가능하게 했습니다. 시각 정보를 처리하는 데 가장 핵심적인 도구는 합성곱 신경망(CNN)입니다. 이는 이미지 필터를 적용하듯 공간 정보를 보존하며 특징을 추출하는 방식입니다. 반면, 시간에 따라 변화하는 비디오나 음성 같은 시계열 데이터에는 순환 신경망(RNN)이 주로 사용됩니다. RNN은 이전 단계의 출력이 다시 입력으로 들어가는 구조를 통해 데이터의 흐름과 맥락을 파악합니다. 이 두 구조는 현대 컴퓨터 비전이 공간과 시간이라는 두 축의 정보를 정밀하게 이해할 수 있도록 돕는 기반이 되며, 다양한 시각적 태스크를 수행하는 핵심 엔진 역할을 합니다. 컴퓨터 비전의 대표적인 응용 분야로는 물체 검출과 의미론적 분할이 있습니다. 'YOLO'와 같은 알고리즘은 이미지 속 물체의 위치를 실시간으로 파악하며, 이미지 분할 기술은 각 픽셀이 어떤 사물에 해당하는지 정밀하게 구분해 냅니다. 이러한 기술은 자율 주행 자동차가 도로 상황을 파악하고 장애물을 피하는 데 필수적인 역할을 합니다. 인공지능은 이제 단순히 사물을 보는 것을 넘어, 장면 전체의 구조와 맥락을 파악하여 안전한 주행을 가능케 하는 지능형 시스템으로 진화하고 있으며, 이는 미래 모빌리티 산업의 핵심이 되고 있습니다. 최근에는 이미지와 언어를 동시에 다루는 기술이 주목받고 있습니다. 이미지의 내용을 문장으로 설명하는 이미지 캡셔닝 기술이나, 이미지에 대한 질문에 답하는 시각적 질의응답(VQA)이 대표적입니다. 또한 생성적 적대 신경망(GAN)은 가짜와 진짜를 구별하는 경쟁 과정을 통해 실제와 구분이 불가능한 고해상도 이미지를 만들어냅니다. 이는 인공지능이 단순히 정보를 수동적으로 인식하는 단계를 지나, 새로운 콘텐츠를 창조하고 인간과 고차원적인 소통을 나눌 수 있는 가능성을 보여주는 사례로, 예술과 산업 전반에 걸쳐 새로운 영감을 불어넣고 있습니다. 화질 개선 및 영상 처리 분야에서도 딥러닝은 놀라운 성능을 발휘합니다. 흑백 사진을 자연스러운 컬러로 복원하거나, 심한 노이즈가 섞인 이미지에서 원래의 형체를 찾아내는 기술이 실용화되었습니다. 또한 낮은 프레임의 영상을 부드러운 고프레임 영상으로 변환하는 프레임 보간 기술은 영상 제작 현장에서 혁신을 일으키고 있습니다. 이러한 기술들은 인공지능이 사전에 학습한 방대한 시각적 패턴을 바탕으로 부족한 정보를 추론하여 인간의 눈보다 더 정밀하게 이미지를 재구성할 수 있음을 증명하며, 오래된 기록물의 복원이나 고화질 콘텐츠 제작에 기여합니다. 강화 학습은 인공지능이 시행착오를 통해 최적의 행동을 배우게 합니다. 벽돌깨기 같은 고전 게임부터 바둑의 알파고, 복잡한 전략이 필요한 스타크래프트의 알파스타까지 인공지능은 인간의 한계를 뛰어넘는 전략을 스스로 터득해 왔습니다. 특히 보이지 않는 영역의 정보를 추정해야 하는 게임 환경에서의 성공은 인공지능의 판단 능력이 얼마나 정교해졌는지를 잘 보여줍니다. 이러한 학습 방식은 단순히 게임에 그치지 않고, 향후 복잡한 변수가 존재하는 현실 세계의 물류 시스템이나 로봇 제어 문제를 해결하는 데에도 중요한 열쇠가 될 것으로 기대됩니다. 하지만 인공지능의 눈부신 발전 뒤에는 해결해야 할 과제도 산적해 있습니다. 학습 데이터에 포함된 인종이나 성별에 대한 편향이 결과에 반영되거나, 딥페이크 기술이 악용되어 사회적 혼란을 야기하기도 합니다. 또한 방대한 모델을 학습시키는 과정에서 발생하는 막대한 탄소 배출은 환경적인 부담으로 작용합니다. 따라서 기술적 완성도를 높이는 것만큼이나 윤리적 가이드라인을 마련하고 사회적 합의를 이끌어내는 노력이 병행되어야 합니다. 진정한 인공지능의 완성은 기술의 효율성과 인간의 보편적 가치가 조화를 이룰 때 비로소 가능해질 것입니다.

[강연] 컴퓨터비전과 딥러닝의 현재와 미래 _ by한보형 | 2020 가을 카오스강연 'Ai X' 5강

한보형

카오스재단카오스강연
  • 융합

[강연] AI / 머신러닝 _ by오혜연, 강명주 | 2020 봄 카오스강연 '첨단기술의 과학' 3강 | 3강

인공지능은 인간이 어렵게 느끼는 복잡한 지식 탐색이나 독해 능력에서 놀라운 성과를 보여줍니다. IBM의 왓슨이 퀴즈쇼에서 우승하거나 머신러닝 모델이 고난도 독해 평가에서 인간을 앞서는 사례가 이를 증명합니다. 하지만 정작 인간에게 너무나 쉬운 일상적인 대화나 사진 속 상황을 파악하는 일에는 서툰 모습을 보이기도 합니다. 이러한 역설은 인공지능이 언어를 이해하는 방식이 인간의 직관이나 경험과는 근본적으로 다르다는 점을 시사하며, 기술 발전의 새로운 과제를 던져줍니다. 일상적인 대화가 인공지능에게 어려운 이유는 데이터의 부재와 상황의 모호성에 있습니다. 우리가 나누는 대화는 대부분 기록되지 않는 사적인 영역이며, 그 안에는 대화 상대와의 관계나 장소, 계절 같은 수많은 외부 맥락이 생략되어 있습니다. 인공지능은 방대한 데이터를 학습하여 확률적으로 다음 단어를 예측하지만, 데이터에 명시되지 않은 인간의 본능적인 사회적 감각까지 완벽히 따라 하기는 어렵습니다. 결국 문제 정의가 명확하지 않은 영역에서 인공지능의 한계가 드러나는 것입니다. 최신 언어 모델인 BERT는 문맥을 양방향으로 파악하며 비약적인 발전을 이루었지만, 여전히 데이터에 내재된 편향성 문제를 안고 있습니다. 인공지능은 인터넷상의 방대한 문서를 학습하며 인간의 고정관념이나 당연하게 여겨지는 상식의 부재를 그대로 흡수합니다. 예를 들어 '노란 바나나'라는 표현이 드문 이유는 바나나가 당연히 노랗기 때문이지만, 인공지능은 이를 학습하지 못해 편향된 결과를 낼 수 있습니다. 이는 기술적 완성도를 넘어 윤리적이고 사회적인 성찰이 필요한 지점입니다. 인공지능과 딥러닝의 눈부신 발전 밑바탕에는 견고한 수학적 토대 자리 잡고 있습니다. 흔히 인공지능을 전산학의 전유물로 생각하기 쉽지만, 사실 미분과 선형대수학 같은 수학적 원리가 없었다면 현대의 인공지능은 존재할 수 없었을 것입니다. 과거 뉴턴이나 오일러가 정립한 이론들이 수 세기를 지나 오늘날 데이터를 처리하고 최적의 해를 찾는 핵심 도구로 부활한 셈입니다. 산업이 고도화될수록 복잡한 현상을 모델링하고 해결하는 수학의 역할은 더욱 중요해지고 있습니다. 수학의 힘은 영화 산업의 시뮬레이션 기술에서도 명확히 드러납니다. '겨울왕국'의 자연스러운 눈 입자나 '아이언맨'의 역동적인 물의 흐름은 모두 나비에-스토크스 방정식과 같은 복잡한 물리 법칙을 수학적으로 풀어낸 결과입니다. 슈퍼컴퓨터조차 직접 풀기 어려운 거대한 행렬 방정식을 수치적인 방법으로 근사하여 해결함으로써, 우리는 가상 세계에서 실제와 다름없는 물리적 현상을 구현할 수 있게 되었습니다. 이는 수학이 추상적인 이론을 넘어 현실을 재창조하는 도구임을 보여줍니다. 딥러닝의 핵심은 수많은 데이터를 통해 최적의 가중치를 찾아내는 최적화 과정에 있습니다. 수백만 차원의 복잡한 함수에서 오차를 최소화하는 지점을 찾는 일은 마치 거대한 산맥에서 가장 낮은 골짜기를 찾는 것과 같습니다. 이 과정에서 인공지능은 행렬 연산을 반복하며 스스로 특징을 학습하지만, 왜 그런 결과가 도출되었는지 논리적으로 설명하기는 여전히 어렵습니다. 이러한 '블랙박스' 문제를 해결하고 시스템의 신뢰성을 확보하기 위해 수학자들은 지금도 치열한 연구를 이어가고 있습니다. 미래의 인공지능은 단순히 높은 정확도를 기록하는 것을 넘어, 자신의 판단 근거를 인간에게 논리적으로 설명할 수 있는 '설명 가능한 AI(XAI)'로 진화해야 합니다. 이를 위해서는 데이터 기반의 학습과 수학적 논리가 완벽하게 통합되어야 하며, 다양한 분야의 전문가들이 소통하며 창의적인 해결책을 모색해야 합니다. 인공지능이 인간의 언어를 완벽히 이해하고 수학적으로 투명해지는 날, 우리는 기술이 주는 혜택을 더욱 안전하고 풍요롭게 누리게 될 것입니다.

[강연]  AI / 머신러닝 _ by오혜연, 강명주 | 2020 봄 카오스강연 '첨단기술의 과학' 3강

강명주, 오혜연

카오스재단카오스강연
  • 뇌인지과학