할루시네이션

7 Contents

AI 에이전트로 바꾸다 : 코딩 몰라도 시작하는 공공 오픈소스 도전기

행정 업무의 효율성을 높이기 위해 시작된 AI의 활용은 처음부터 순탄했던 것은 아니었습니다. 챗GPT를 통해 법령 정보를 찾았을 때 존재하지 않는 조문을 안내받는 '환각(Hallucination)' 현상을 겪으며, 오히려 AI의 한계를 극복하고 실무에 적용할 수 있는 도구를 직접 개발하겠다는 결심을 하게 된 것입니다. 소위 '바이브 코딩'이라 불리는 방식으로 시작된 이 여정은 2026년 법령 MCP와 코닥(Kodoc)이라는 결과물로 이어졌습니다. 이는 단순한 기술적 호기심을 넘어 실제 공직 사회에서 마주하는 불편함을 해결하려는 절박함에서 비롯된 혁신의 시작점이었습니다. 공공 부문에서 낭비되는 시간을 AI로 절감한다면 연간 약 3조 6천억 원에 달하는 경제적 가치를 창출할 수 있다는 데이터는 행정 혁신의 필요성을 증명합니다. 이러한 노력을 인정받아 광진구는 AI 오픈소스 도구를 행정 업무에 도입한 실적으로 국무총리상을 수상하는 쾌거를 이루기도 했습니다. 이는 개별 공무원의 '딴짓'으로 치부될 수 있었던 시도가 국가적인 정책 사례로 주목받으며 공공 데이터의 가치를 재발견하게 된 중요한 계기가 되었습니다. 단순한 비용 절감을 넘어 공직 사회 전반에 AI를 대하는 새로운 시각을 제시한 사례라 할 수 있습니다. 특히 행정 현장에서 가장 큰 벽이었던 한글(HWP) 문서와 PDF 파일의 데이터 추출 문제를 해결하는 과정은 매우 치열했습니다. 오픈 데이터 로더 벤치마크에서 초기 낮은 순위였던 성적을 PDF 파싱 기술의 고도화를 통해 세계 1위 수준으로 끌어올린 성과는 주목할 만합니다. 이제는 한글(HWP)이나 PDF 문서의 표 서식을 99% 이상 유지하며 텍스트를 파싱할 수 있게 되었고, 이는 곧 RAG 시스템 구축 시 데이터의 정확도를 비약적으로 향상시키는 근간이 되었습니다. 이러한 기술적 완성도는 현장 공무원들이 AI를 업무의 보조 수단으로 신뢰할 수 있게 만드는 핵심적인 토대가 되었습니다. 실제 업무 현장에서는 법령, 통계, 건축물대장 등 흩어져 있는 방대한 정보를 AI 에이전트가 단 몇 분 만에 취합하여 보고서 초안을 작성하는 단계까지 발전했습니다. 과거 수 시간이 소요되던 9쪽 분량의 보고서 작성이 단 10분 만에 완료되며, 출처까지 정확히 명시된 결과물을 제공함으로써 담당자의 최종 검토 효율을 극대화합니다. 이는 단순히 속도의 문제를 넘어 사람이 직접 수행할 때 발생할 수 있는 누락이나 오류를 예방하는 효과를 가져옵니다. AI가 단순 반복 업무를 대신하면서 공무원들은 더 본질적이고 가치 있는 행정 서비스에 집중할 수 있게 된 것입니다. 오픈소스 정신은 한 개인의 성취를 넘어 전국적인 변화를 끌어내는 원동력이 되었습니다. 수천 개의 깃허브 별과 동료 개발자들의 기여는 혼자서는 해결할 수 없었던 수많은 버그를 뚫고 나가는 힘이 되었고, 이러한 연대는 실제 40여 곳 이상의 언론 보도와 인공지능 전략회의 사례 소개로 이어졌습니다. '중요한 건 꺾여도 그냥 하는 마음'으로 지속해온 이 활동은 결국 서울시 최초의 AI 전문가 제도 도입이라는 조직적 변화까지 끌어냈습니다. 현장의 불편함을 외면하지 않고 AI라는 도구를 통해 스스로 해결책을 찾아가는 공직자들의 노력이 더 나은 행정의 미래를 만들고 있습니다.

AI 에이전트로 바꾸다 : 코딩 몰라도 시작하는 공공 오픈소스 도전기
한국전자통신연구원오픈소스 테크데이
  • 융합
  • 공학·기술

AI시대의 시민의식과 윤리는 어떻게 가져가야 할까요? │선을 넘는 과학자들

AI 대전환의 시대에 접어들며 과학 기술은 우리 삶의 필수적인 요소가 되었습니다. 우리는 매일 AI에게 길을 묻고 글의 교정을 맡기며 다양한 추천 정보를 소비하며 살아갑니다. 하지만 기술에 대한 의존도가 높아질수록 정작 그 기술의 본질과 원리를 제대로 이해하는 사람은 드물다는 역설적 상황에 놓여 있습니다. AI가 내놓는 답변이 과연 이성적으로 공정하게 생성된 것인지, 그리고 기술적 오류로 인한 책임은 누구에게 있는지에 대한 진지한 고민이 필요한 시점입니다. 이제 단순한 활용 능력을 넘어 AI 시대를 살아가는 시민으로서 갖춰야 할 윤리적 기준과 소양이 무엇인지 탐구해야 합니다. 생성형 AI가 만들어내는 결과물의 기본값은 사실 '허구'에서 시작한다는 점을 명심해야 합니다. 개발자들 사이에서 '생성은 페이크다'라는 말이 나올 정도로, AI는 확률적 메커니즘에 따라 그럴듯한 답변을 만들어내는 데 최적화되어 있습니다. 이 과정에서 저해상도 이미지를 왜곡하거나 존재하지 않는 사실을 마치 실제처럼 설명하는 할루시네이션(환각) 현상이 빈번하게 발생합니다. 세종대왕이 맥북을 던졌다는 식의 천연덕스러운 거짓말은 기술적 한계와 과도한 최적화 설정이 빚어낸 결과입니다. 따라서 AI의 답변을 맹신하기보다는 그 이면의 허구성을 판별할 수 있는 비판적 시각이 반드시 뒷받침되어야 합니다. 딥페이크 기술은 사실과 거짓의 경계에 있는 대표적인 기술적 산물입니다. 역사적 인물을 재현하는 등 교육적인 목적으로 활용될 때는 혁신적인 도구가 되지만, 사기나 비윤리적인 의도가 개입될 때는 사회적 재앙이 될 수 있습니다. 기술 자체는 가치 중립적일지라도 그것을 사용하는 인간의 목적에 따라 그 성격이 완전히 달라지는 것입니다. 점차 정교해지는 기술로 인해 인간의 눈으로는 진짜와 가짜를 구분하기 힘든 '역튜링 테스트'의 시대가 도래하고 있습니다. 이는 디지털 세상에서 상호 신뢰를 무너뜨릴 수 있는 위협 요소이기에, 기술의 오남용을 방지하기 위한 사회적 합의와 윤리 가이드라인 마련이 시급합니다. AI의 공정성 문제는 결국 학습 데이터의 질에 달려 있습니다. 쓰레기를 넣으면 쓰레기가 나온다는 원칙처럼, AI가 인간 사회의 편향된 데이터를 학습하면 그 결과물 역시 특정 인종이나 성별에 대한 차별을 내포하게 됩니다. 예를 들어 교수 이미지를 생성할 때 주로 백인 남성을 그리는 현상은 인터넷상에 존재하는 기존 데이터의 편향성을 반영한 결과입니다. 이러한 편향성을 완전히 제거하는 것은 불가능에 가깝지만, 이를 완화하려는 노력은 계속되어야 합니다. 용도에 맞는 적절한 학습 데이터를 선별하고 AI의 편향성을 주기적으로 측정하는 평가 체계를 도입하여 기술의 공정성을 확보해야 합니다. 알고리즘이 제공하는 맞춤형 정보는 우리를 '에코 챔버(반향실 효과)'에 갇히게 만듭니다. 내가 좋아하는 소리만 반복해서 듣다 보면 그것이 유일한 진리라고 믿는 확증 편향이 강화됩니다. 유튜브 추천 시스템 등을 통해 내 생각과 일치하는 정보만 소비하다 보면 다른 의견을 수용할 기회는 사라지고 사고의 유연성은 퇴보하게 됩니다. 지식의 생산과 소비가 민주화된 것은 긍정적이지만, 전문성이 결여된 정보가 다수의 논리에 의해 진실로 둔갑하는 현상은 경계해야 합니다. 비인간 에이전트가 지식 생산의 주체로 등장한 오늘날, 우리는 알고리즘의 맹목적인 추종자가 아닌 주체적인 사고자로 남아야 합니다. 교육 현장에서의 AI 도입은 새로운 기회이자 도전입니다. 디지털 기기 노출이 아이들의 문해력 형성을 방해한다는 우려 속에, 아날로그 교육으로의 회귀를 선택하는 사례도 늘고 있습니다. 지식 전달의 측면에서 AI 튜터는 효율적일 수 있으나, 인간 교사가 지닌 가치와 정서적 교감을 온전히 대체할 수는 없습니다. 중요한 것은 AI가 할 수 없는 영역, 즉 질문하는 능력과 비판적 사고력을 길러주는 교육입니다. 기술을 활용하되 학습의 주도권까지 기술에 넘겨주어서는 안 됩니다. 디지털 활용과 아날로그 수업 사이의 균형을 찾는 노력이 미래 교육의 핵심적인 방향이 되어야 할 것입니다. 결국 AI 시대를 살아가는 우리에게 가장 필요한 것은 '알고 쓰는' 능력, 즉 AI 리터러시입니다. AI가 사고를 외주화하고 인간의 뇌를 퇴화시키는 '제2의 바보 상자'가 되지 않도록 주의해야 합니다. 기술이 주는 효율성에 매몰되어 상상하고 사유하는 즐거움을 잊어서는 안 됩니다. 글자를 읽고 이미지를 떠올리는 전통적인 훈련은 디지털 시대에도 여전히 유효한 가치를 지닙니다. AI와의 공존은 피할 수 없는 현실이지만, 그 주도권은 항상 인간에게 있어야 합니다. 기술적 대전환의 파도 속에서 인간다움을 유지하며 지혜롭게 기술을 활용하는 성숙한 시민성이야말로 미래 사회의 진정한 경쟁력이 될 것입니다.

AI시대의 시민의식과 윤리는 어떻게 가져가야 할까요? │선을 넘는 과학자들
국립과천과학관선을 넘는 과학자들🔬
  • 융합

제9회 인공지능 융합콘서트 강연 - AI가 그리는 나의 꿈

인공지능(AI)은 이제 우리의 일상 속에서 그림을 그리고 노래를 만들며 영상 편집까지 돕는 만능 도구로 자리 잡았습니다. 하지만 AI는 스스로 알아서 모든 것을 완벽하게 해내지는 못합니다. 우리가 머릿속에 그린 이미지를 구체적이고 자세하게 설명해 주어야만 비로소 원하는 결과물을 얻을 수 있습니다. 결국 AI를 얼마나 잘 활용하느냐는 우리가 얼마나 논리적이고 상세하게 명령을 내릴 수 있는지에 달려 있습니다. 기술의 발전보다 중요한 것은 이를 제어하는 인간의 소통 능력입니다. AI의 지능이 높아지기 위해서는 막대한 데이터 학습이 필요하지만, 역설적으로 이를 제대로 다루기 위해서는 인간 역시 더 많이 공부해야 합니다. AI는 때때로 '환각(Hallucination)'이라고 불리는 오류를 범하며 당당하게 거짓 정보를 제공하기도 합니다. 이러한 오류를 걸러내고 올바른 방향으로 이끌기 위해서는 풍부한 독서와 지식 습득이 필수적입니다. AI보다 더 똑똑해져야만 비로소 AI를 단순한 도구가 아닌 강력한 조력자로 부릴 수 있는 진정한 주도권이 생깁니다. 현재 우리가 접할 수 있는 AI들은 저마다 독특한 성격을 가지고 있습니다. 예술적 감각이 뛰어난 챗GPT부터, 세상에서 가장 똑똑한 학자 스타일로 불리는 클로드, 그리고 구글의 방대한 인프라를 바탕으로 무궁무진한 활용도를 자랑하는 제미나이까지 다양합니다. 단순히 유행하는 도구를 쓰는 것에 그치지 않고, 수학적 지식이 필요할 때나 예술적 영감이 필요할 때 등 상황에 맞춰 가장 적합한 AI를 선택해 활용하는 것이 현대 사회에서 필수적인 디지털 문해력의 핵심입니다. 소프트웨어를 넘어 하드웨어와 결합한 AI 로봇의 등장도 눈여겨봐야 합니다. 현대자동차의 아틀라스나 보스턴 다이내믹스의 스팟처럼 인간의 신발을 정리하고 쓰레기를 버리는 등 실생활을 돕는 로봇들이 실용화 단계에 접어들었습니다. 비록 아직은 수건을 개는 속도가 사람보다 느릴지라도, 머지않은 미래에 AI는 화면 속 텍스트를 넘어 우리 물리적인 공간을 직접 관리하는 존재가 될 것입니다. 이러한 변화는 인간이 더 가치 있고 창의적인 일에 집중할 수 있는 환경을 만들어 줄 것입니다. 성공적인 AI 활용을 위해서는 '프롬프트'라고 불리는 주문서 작성이 중요합니다. 단순히 '강아지를 그려줘'라고 말하기보다, 주인공이 누구인지, 무엇을 하고 있는지, 배경과 화풍은 어떠한지를 명확히 규정해야 합니다. 특히 콜론(:)이나 대괄호([]) 같은 기호를 활용해 세부 묘사를 추가하면 AI는 훨씬 정교한 결과물을 내놓습니다. 지브리나 픽사 같은 특정 스타일을 지정하는 것만으로도 이미지의 분위기는 완전히 달라지며, 이는 사용자의 기획력이 결과물의 수준을 결정함을 보여줍니다. 이미지나 음악을 생성할 때 반드시 주의해야 할 점은 개인정보 보호와 보안 설정입니다. 챗GPT와 같은 서비스는 사용자의 대화 내용을 학습 모델 개선에 활용하기 때문에, 중요한 개인정보가 유출되지 않도록 설정을 변경하는 과정이 선행되어야 합니다. 또한 무료 버전의 경우 생성 횟수에 제한이 있는 경우가 많으므로, 무분별하게 명령을 내리기보다는 신중하게 기획된 프롬프트를 사용하는 습관이 필요합니다. 기술을 안전하게 다루는 법을 아는 것이 진정한 전문가의 자세입니다. AI가 만든 창작물은 현재 저작권 보호를 받기 어렵다는 법적 한계가 존재합니다. 누구나 내가 만든 이미지를 가져다 쓸 수 있다는 점은 단점일 수 있지만, 역으로 누구나 창작의 주체가 될 수 있는 기회의 장이 열렸음을 의미하기도 합니다. 기술적인 구현은 AI가 담당하더라도, 그 안에 담길 독창적인 상상력은 여전히 인간의 영역입니다. 결국 더 넓은 세상을 경험하고 책을 읽으며 쌓은 상상력이 AI 시대를 살아가는 우리에게 가장 강력한 무기가 될 것입니다.

제9회 인공지능 융합콘서트 강연 - AI가 그리는 나의 꿈
국립광주과학관과학행사
  • 융합

오픈소스 및 데이터를 활용한설명가능한 의사결정 지원 인공지능 기술 연구

한국전자통신연구원(ETRI)은 지난 10년간 진행된 '엑소브레인' 과제의 성과를 바탕으로, 언어 지능 기술의 패러다임 변화에 맞춘 새로운 연구를 이어가고 있습니다. 과거에는 텍스트를 이해하는 인코더 중심의 모델이 주를 이루었으나, 챗GPT의 등장 이후 생성형 인공지능 모델의 중요성이 급격히 커졌습니다. 이에 따라 연구 방향도 대기업 중심의 거대 모델 개발보다는 오픈소스와 오픈 모델을 효과적으로 활용하여 특정 도메인에 최적화된 성능을 내는 방향으로 진화하고 있으며, 허깅페이스와 같은 생태계를 통해 연구 환경이 빠르게 변화하고 있습니다. 이번 과제의 핵심은 법률, 금융과 같은 전문 분야에서 종사자들의 의사결정을 돕는 '설명 가능한 인공지능'을 개발하는 것입니다. 기존의 인공지능이 단순히 질문에 대한 정답 단락을 찾아주는 방식이었다면, 이제는 생성형 인공지능 모델을 활용해 전문가들에게 필요한 정보를 논리적인 설명 형태로 제공하는 것을 목표로 합니다. 특히 인공지능의 내부 동작 과정을 알기 어려운 '블랙박스' 문제를 해결하기 위해, 도출된 결과에 대한 명확한 근거와 신뢰도 높은 자연어 설명을 덧붙임으로써 실무 현장에서의 활용성을 높이고자 합니다. 현재 챗GPT와 같은 초거대 언어 모델(LLM)은 범용 인공지능(AGI)을 향한 첫걸음으로 평가받지만, 여전히 할루시네이션(환각)이라 불리는 거짓 정보 생성 문제에서 자유롭지 못합니다. 이를 해결하기 위해 모델이 가진 내부 지식에만 의존하지 않고, 외부의 신뢰할 수 있는 문서를 먼저 검색한 뒤 그 내용을 바탕으로 답변을 생성하는 '검색 증강 생성(RAG)' 기술이 주목받고 있습니다. ETRI는 이러한 RAG 기술을 바탕으로 문장 단위의 사실성 검증 기능을 강화하여, 인공지능이 생성한 답변이 실제 사실과 부합하는지 판단하는 기술적 장치를 마련하고 있습니다. 전문 지식 서비스의 품질을 높이기 위해서는 영어 중심의 오픈 모델을 한국어와 특정 도메인에 맞게 최적화하는 과정이 필수적입니다. 이를 위해 한국어 사전을 확장하고 인스트럭션 튜닝을 거쳐 라마(Llama)나 미스트랄(Mistral) 같은 모델이 한국어 맥락을 정확히 이해하도록 재학습시킵니다. 특히 법률 판례 분석에서는 사례 간의 유사점과 차이점을 추론하고 어려운 법률 용어를 해석해 주는 기능을 구현하고 있습니다. 이러한 기술은 법률뿐만 아니라 금융 상담 분야에서도 데이터 기반의 협업을 통해 상담 평가 및 지식 제공 서비스로 확장되고 있습니다. 결론적으로 현대의 언어 지능 연구는 인프라부터 모델, 데이터에 이르기까지 오픈소스 생태계와의 긴밀한 연계 없이는 불가능한 구조가 되었습니다. 파이토치나 파이썬 같은 개발 환경은 물론이고, AI 허브의 공공 데이터와 공개된 언어 모델들을 기초 자산으로 삼아 그 위에 특화된 서비스 기술을 얹는 전략이 중요합니다. ETRI는 축적된 검색 기술과 사실성 검증 노하우를 기술 이전을 통해 산업계에 확산시킴으로써, 중소기업들이 고가의 장비나 방대한 데이터 없이도 고품질의 인공지능 서비스를 개발할 수 있도록 지원하는 가교 역할을 수행하고 있습니다.

오픈소스 및 데이터를 활용한설명가능한 의사결정 지원 인공지능 기술 연구
한국전자통신연구원오픈소스 테크데이
  • 뇌인지과학
  • 융합
  • 공학·기술

두 남자가 Sora에 대해 설명하는 영상 만들어줘! 동영상📹 생성 AI Sora 공개😮(With 한국지능정보사회진흥원 정원모 수석연구원) | 요즘과학

오픈AI가 공개한 동영상 생성 인공지능 '소라(Sora)'는 텍스트 입력만으로 최대 1분 분량의 고화질 결과물을 만들어내며 전 세계를 놀라게 했습니다. 일본어로 하늘을 뜻하는 그 이름처럼, 현실의 제약을 넘어 무한한 창의성을 발휘하겠다는 포부를 담고 있습니다. 특히 빗물에 비친 네온사인이나 선글라스 너머의 풍경까지 사실적으로 묘사하는 기술력은 인공지능이 우리 삶에 얼마나 깊숙이 들어왔는지를 실감하게 합니다. 이는 단순한 기술적 진보를 넘어 콘텐츠 제작의 패러다임을 바꾸는 신호탄이 되고 있습니다. 기존의 생성 모델들은 프레임 간의 일관성이 부족해 결과물 속 사물의 위치나 형태가 어색하게 변하는 한계가 있었습니다. 하지만 소라는 모든 장면을 프레임 단위로 쪼개어 분석하고, 물리 법칙과 빛의 흐름, 앞뒤 장면의 연관성을 정교하게 고려해 이미지를 생성합니다. 이러한 방식 덕분에 전체적인 맥락이 이어지는 자연스러운 표현이 가능해졌으며, 이는 영화 제작과 같이 고도의 정교함이 필요한 상업적 분야에서도 인공지능을 활용할 수 있는 환경을 조성했습니다. 소라의 등장은 관련 산업 전반에 거대한 변화를 예고하고 있습니다. 과거에는 대규모 인력과 막대한 비용이 투입되어야 했던 특수 효과나 그래픽 작업이 이제는 개인의 아이디어만으로도 구현 가능해졌기 때문입니다. 이제는 결과물을 어떻게 촬영하고 만드느냐는 기술적 숙련도보다, 어떤 이야기를 어떻게 담아낼 것인가에 대한 스토리텔링 능력이 더욱 중요해지는 시대가 되었습니다. 인공지능에 효율적으로 일을 시키기 위해 본질적인 전략을 세우고 창의적인 기획에 집중하는 능력이 핵심 경쟁력이 될 것입니다. 기술의 비약적인 발전 뒤에는 해결해야 할 과제들도 산재해 있습니다. 인공지능이 물리 법칙에 어긋나는 결과물을 생성하는 '할루시네이션(환각)' 현상이나, 딥페이크를 활용한 가짜 정보 및 음란물 제작 등 사회적 부작용에 대한 우려가 큽니다. 개발사는 이를 방지하기 위해 '레드팀'을 운영하며 부적절한 요청을 차단하는 방안을 마련 중이지만, 우회적인 질문을 통한 악용 가능성을 완전히 배제하기는 어렵습니다. 따라서 기술 공개에 앞서 안전성을 확보하고 윤리적인 가이드라인을 정립하는 노력이 반드시 병행되어야 합니다. 인공지능이 인간의 업무 능력을 상당 부분 대체하기 시작하면서 일자리 변화에 대한 막연한 두려움이 커지고 있는 것이 사실입니다. 특히 초급 기술자들의 역할이 줄어드는 '사다리 걷어차기' 현상은 우리가 직면한 현실적인 고민입니다. 그러나 역사적으로 인류는 거대한 산업적 변화 속에서도 새로운 환경에 적응하며 발전해 왔습니다. 다가올 인공지능 시대를 대비하는 가장 현명한 자세는 기술을 두려워하기보다 적극적으로 배우고 활용하여, 인공지능을 자신의 능력을 확장하는 도구로 삼는 것입니다.

두 남자가 Sora에 대해 설명하는 영상 만들어줘! 동영상📹 생성 AI Sora 공개😮(With 한국지능정보사회진흥원 정원모 수석연구원) | 요즘과학
국립과천과학관요즘과학👏
  • 융합

[EOST2023] 패널토의: 오픈소스가 만드는 LLM의 미래는?

인공지능 기술의 비약적인 발전 배경에는 오픈소스 커뮤니티의 헌신적인 노력이 자리 잡고 있습니다. 특히 LLM(거대언어모델) 분야에서 오픈소스는 기술의 민주화를 이끌며 전 세계 연구자들이 지식을 공유하고 협력하는 장을 마련했습니다. 이러한 협력은 단순히 업무를 분담하는 차원을 넘어, 서로의 코드를 리뷰하고 아이디어를 융합하며 개인과 기술이 동시에 성장하는 선순환 구조를 만들어냅니다. 커뮤니티를 통한 지식의 팽창은 곧 인공지능 생태계의 근간이 됩니다. LLM의 고질적인 한계로 지적되는 할루시네이션은 RAG(검색 증강 생성) 기술을 통해 보완되고 있습니다. 신뢰성이 중요한 전문 분야에서는 모델이 단순히 답변을 생성하는 것에 그치지 않고, 답변의 근거가 되는 원문 규정이나 문서를 함께 제시하는 시스템적 접근이 필수적입니다. 비록 인공지능이 100% 오류를 차단하기는 어렵지만, 사용자가 직접 답변의 근거를 확인하고 검증할 수 있는 환경을 제공함으로써 기술의 실무 적용 가능성과 신뢰도를 점진적으로 높여가고 있습니다. 과거의 연구 방식이 타인의 논문을 처음부터 끝까지 재현하는 장인 정신에 기반했다면, 현대의 인공지능 연구는 공개된 소스코드를 바탕으로 새로운 아이디어를 빠르게 실험하고 적용하는 효율성을 지향합니다. 이는 연구 속도를 획기적으로 높여 기술의 상용화 주기를 단축하는 계기가 되었습니다. 또한 ChatGPT와 같은 도구는 사용자마다 각기 다른 답변과 해결책을 제공함으로써, 우리 사회가 우려하는 획일화가 아닌 오히려 지식의 다양성을 증진하는 예기치 못한 긍정적 효과를 보여주고 있습니다. 많은 전문가가 오픈소스 LLM이 언제쯤 클로즈드 모델인 GPT-4의 성능을 추월할 것인지 주목하고 있습니다. 과거 스테이블 디퓨전이 이미지 생성 분야에서 보여준 폭발적 성장 사례처럼, 오픈소스 커뮤니티의 집단지성은 기술적 도약을 가능케 하는 막강한 저력을 지니고 있습니다. 특히 컨트롤넷과 같은 혁신적인 제어 기술이나 모델 내부의 창발적 현상을 규명하는 연구가 결합한다면, 오픈소스 모델은 단순한 추종을 넘어 특정 전문가 영역에서 독보적인 활용 가치를 증명할 것입니다. 모든 산업 영역에서 범용적인 거대 모델이 반드시 필요한 것은 아닙니다. 네트워크 장비 제어나 보안이 중시되는 산업 현장과 같이 자원 효율성이 중요한 환경에서는 파라미터 수를 최적화한 sLLM(소형 거대언어모델)이 더 현실적인 대안이 됩니다. 도메인 특화 데이터를 학습하고 특정 작업에 최적화된 소형 모델은 온사이트 배포에 유리하며, 이는 복잡한 비즈니스 로직에 실질적으로 투입되어 유의미한 운영 성과를 내는 핵심적인 역할을 수행할 것으로 기대됩니다. 인공지능 기술의 등장은 언어의 장벽을 허물고 정보 습득의 속도를 비약적으로 가속화하고 있습니다. 실시간 통역과 고도화된 번역 기술은 연구자들이 글로벌 지식에 접근하는 비용을 획기적으로 낮춰주었으며, 이는 비영어권 국가의 연구 역량을 강화하는 데 크게 기여하고 있습니다. 이제 연구자에게 중요한 역량은 방대한 데이터를 어떻게 효율적으로 정리하고 자신의 연구에 창의적으로 녹여낼 것인가 하는 지식 관리 능력이며, 인공지능은 이를 뒷받침하는 강력한 조력자가 되었습니다. 정부출연연구기관과 같은 공공 영역에서는 기업이 간과하기 쉬운 사회적 약자 보호나 공익적 목적의 인공지능 활용 전략을 수립해야 합니다. 개별 연구원이 AI 에이전트의 도움을 받아 연구 보고서 작성이나 기술 동향 분석을 효율적으로 수행할 수 있는 인프라 구축이 시급합니다. 각 기관이 프롬프트 엔지니어링이나 데이터 사이언스 전문 인력을 확보하여 연구 현장의 생산성을 극대화하고, 안전한 인공지능 활용을 위한 규제 검증 절차를 마련하는 것이 미래의 핵심 과제입니다.

[EOST2023] 패널토의: 오픈소스가 만드는 LLM의 미래는?
한국전자통신연구원오픈소스 테크데이
  • 융합
  • 공학·기술

제2회 인공지능오딧세이 포럼 '인공지능 챗 GPT시대, 진정한 창의성이란?' 제2부 : 챗 GPT의 저작권, 교육, 윤리

챗GPT의 등장은 법조계에 거대한 질문을 던지고 있습니다. 특히 지식재산권 분야에서는 인간의 사상이나 감정이 직접적으로 담기지 않은 인공지능의 결과물을 법적 저작물로 인정할 수 있는지가 논의의 중심에 있습니다. 현행법상 저작물은 인간의 창작물로 정의되기에, 인공지능이 만든 성과를 보호하기 위해서는 기존 법체계를 개정하거나 새로운 법적 틀을 마련해야 한다는 목소리가 높습니다. 이러한 법적 질서의 재편은 인공지능이 우리의 삶을 바꾸는 과정에서 발생할 수 있는 혼란을 방지하고 질서를 유지하는 데 필수적인 요소가 될 것입니다. 인공지능 학습을 위해 대규모 데이터를 수집하고 활용하는 과정에서도 저작권 충돌이 빈번하게 발생하고 있습니다. 웹 스크래핑을 통한 데이터 수집은 창작자의 허락 없이 이루어지는 경우가 많아 마이크로소프트나 오픈AI를 상대로 한 소송으로 이어지기도 합니다. 저작권을 강하게 보호하여 인간의 창작 의욕을 고취할 것인지, 아니면 데이터 활용의 자율성을 높여 인공지능 산업 발전을 도모할 것인지에 대한 합리적인 균형점을 찾는 것이 시급한 과제입니다. 이는 단순히 법적 문제를 넘어 우리 사회의 창작 생태계를 결정짓는 중대한 결정이 될 것입니다. 교육 현장 역시 인공지능이라는 거대한 변화의 파도 앞에 새로운 길을 모색하고 있습니다. 수학 수업에서 사고력을 높이기 위해 계산기 사용을 허용하듯이, 챗GPT를 무조건 금지하기보다는 교육적으로 어떻게 슬기롭게 활용할지 고민해야 합니다. 단순히 정해진 코딩 기술을 습득하는 과거의 방식에서 벗어나, 인공지능을 도구로 삼아 새로운 콘텐츠를 생산하고 이를 비판적으로 분석할 수 있는 능력을 길러주어야 합니다. 이와 더불어 기술을 올바르게 사용하기 위한 디지털 인성과 윤리 교육이 학교 현장에서 더욱 중요해지고 있습니다. 인공지능은 예술과 음악 등 인간의 고유한 창의적 영역으로 여겨졌던 활동에서도 놀라운 성과를 보여주며 인간보다 뛰어난 결과물을 내놓기도 합니다. 하지만 방대한 데이터를 바탕으로 확률적인 답변을 생성하는 과정에서 발생하는 '할루시네이션(환각)', 즉 그럴싸한 거짓말은 여전히 해결해야 할 기술적 한계로 남아 있습니다. 이러한 허위 정보가 정치적 선동이나 사회적 혼란을 야기할 수 있는 만큼, 기술 발전의 잠재력을 누리는 동시에 그로 인한 피해를 최소화하기 위한 사회적 대책과 전문가들의 대안적 연구가 반드시 병행되어야 합니다. 미래의 일자리 지형은 더 이상 특정 직업의 틀에 고착되지 않을 것입니다. 자동차가 등장했을 때 육상 선수의 속도보다 운전 능력이 중요해졌듯이, 이제는 방대한 정보를 이해하고 활용하는 능력이 생존의 핵심 역량이 되었습니다. 과거의 암기 위주 학습에서 벗어나, 쏟아지는 정보 속에서 가치 있는 데이터를 캐치하고 이를 자신의 목적에 맞게 재해석하는 능력을 발굴하는 데 집중해야 합니다. 10년 뒤의 직업을 미리 걱정하기보다는, 어떤 환경에서도 변화에 적응하고 정보를 다룰 수 있는 기초적인 내공을 쌓는 것이 더욱 실질적인 준비가 될 것입니다. 글로벌 플랫폼 시장에서의 경쟁력 확보 역시 한국 사회가 직면한 중요한 쟁점입니다. 한국은 독자적인 포털과 워드 프로세서 생태계를 지켜낸 저력이 있지만, 인공지능 시대에도 이러한 '수성' 방식이 유효할지는 미지수입니다. 자칫 국내 시장의 특수성에만 안주할 경우 일본의 사례처럼 '갈라파고스 현상'을 겪으며 기술적 고립에 빠질 위험이 있습니다. 따라서 인공지능 경쟁에서는 한국어 특화라는 강점을 전략적으로 활용하는 동시에, 세계 시장을 겨냥한 보편적인 기술력을 확보하여 글로벌 표준과 끊임없이 호흡하며 경쟁력을 키워나가야 합니다. 인공지능과 공존하는 시대에 인간의 생존 전략은 인공지능을 적이 아닌 든든한 동료로 만드는 데 있습니다. 인공지능이 평균적인 수준의 결과물을 빠르게 만들어낸다면, 인간은 그 위에 자신만의 전문성과 통찰력을 담아 완성도를 극대화하는 역할을 수행해야 합니다. 모든 분야를 인공지능보다 잘하려 애쓰기보다는, 자신이 가장 잘하는 단 하나의 분야를 깊게 탐구하여 인공지능이 대체할 수 없는 고유한 영역을 확보하는 것이 중요합니다. 인공지능이 제공하는 50점짜리 결과물을 90점 이상의 가치로 바꾸는 인간의 기획력이 일자리의 미래를 결정할 것입니다.

제2회 인공지능오딧세이 포럼 '인공지능 챗 GPT시대, 진정한 창의성이란?' 제2부 : 챗 GPT의 저작권, 교육, 윤리
국립광주과학관강연&포럼
  • 융합