벤치마크

3 Contents

거대언어모델 개발의 전 과정을 하나로 통합한 플랫폼, AIDE

인공지능(AI) 기술이 산업 전반을 혁신하며 거대언어모델(LLM)의 역할이 나날이 확대되고 있습니다. 방대한 텍스트를 학습해 인간처럼 소통하는 LLM은 무한한 가능성을 지녔지만, 이를 실제로 개발하는 과정은 결코 만만치 않습니다. 데이터의 수집과 정제, 모델 학습과 정교한 평가에 이르기까지 막대한 시간과 비용, 전문 지식이 필수적이기 때문입니다. 이러한 장벽을 허물기 위해 KISTI는 연구자와 기업이 기술적 한계에 부딪히지 않고도 독자적인 언어 모델을 성공적으로 구축할 수 있도록 돕는 강력한 도구를 설계했습니다. 이 플랫폼은 채팅 기능과 사용자의 문서를 활용한 맞춤형 질의응답 시스템인 검색증강생성(RAG) 등 실용적인 도구들을 제공합니다. 특히 2025년에는 단일 머신에서도 구동할 수 있도록 경량화되어 사용자의 편의성을 대폭 높였습니다. 이러한 기술력은 실제 현장에서도 빛을 발하고 있습니다. 국방 분야에서는 행정 및 군수 정비 지원 AI를 구축하고, 위성 운영 분야에서는 시스템 모니터링과 이상 상태 감지에 활용되어 업무 효율성을 극대화하고 있습니다. 이는 사용자가 데이터만 있다면 최첨단 인공지능(AI)을 즉시 실무에 도입하여 성과를 낼 수 있음을 보여줍니다. AIDE는 KISTI의 다른 지능형 플랫폼들과 결합하여 더욱 강력한 시너지를 창출합니다. 과학기술 정보를 직접 검색하는 KISTI-MCP, 문서의 표와 이미지를 종합적으로 분석하는 DOREA, 그리고 25종 이상의 도구로 모델을 공정하게 평가하는 SpectraBench가 그 예입니다. 이러한 통합적인 생태계는 연구 기관과 기업이 안전하고 신속하게 맞춤형 AI를 개발하여 최신 정보를 업무에 반영할 수 있는 최적의 환경을 제공합니다. KISTI는 앞으로도 과학기술 데이터와 인공지능(AI)의 결합을 통해 대한민국의 AI 혁신을 선도하며 미래를 함께 만들어 나갈 계획입니다.

거대언어모델 개발의 전 과정을 하나로 통합한 플랫폼, AIDE
한국과학기술정보연구원키스티 이런 곳입니다👾
  • 융합
  • 공학·기술

[EOST2023] 오픈소스 LLM : 개인이 LLM을 소유하는 시대

오픈소스 LLM 시장은 지난 1년 사이 폭발적인 성장을 거듭해 왔습니다. 수많은 연구자와 개발자들이 각자의 모델을 공개하며 성능을 뽐내고 있지만, 정작 실제 비즈니스 시스템에 성공적으로 적용된 사례는 그리 많지 않은 실정입니다. 겉으로 보기에는 수천 개의 모델이 경쟁하며 생태계가 활성화된 것처럼 보임에도 불구하고, 대다수의 사용자는 여전히 ChatGPT나 바드와 같은 폐쇄형 모델에 의존하고 있습니다. 이는 오픈소스 LLM이 가진 기술적 잠재력과 실제 현업에서의 실용성 사이에 큰 괴리가 존재함을 시사합니다. 이러한 격차를 줄이고 오픈소스 LLM을 실질적으로 활성화하기 위해서는 단순한 성능 경쟁을 넘어 시스템 도입을 용이하게 하는 구체적인 전략이 필요합니다. 현재 오픈소스 LLM의 성능을 가늠하는 주된 지표는 허깅페이스의 'Open LLM 리더보드'와 같은 벤치마크 점수입니다. 하지만 이러한 학술적인 지표들이 실제 사용자가 느끼는 만족도와 항상 일치하지는 않습니다. 텍스트 생성은 정답이 하나로 정해진 것이 아님에도 불구하고, 현재의 평가 방식은 정해진 답안과의 유사성만을 따지는 경우가 많아 전반적인 답변의 질을 측정하기엔 한계가 있습니다. 특히 최근에는 모델의 성능을 높이기 위해 GPT-4가 생성한 데이터를 학습에 활용하는 사례가 늘어나면서 데이터 오염 문제가 심각해지고 있습니다. 이는 특정 벤치마크 점수만 기형적으로 높을 뿐, 실제 대화 상황에서는 기대 이하의 성능을 보이는 모델들이 양산되는 원인이 되기도 합니다. 모델을 실제로 사용해보려 할 때 마주하는 가장 큰 장벽 중 하나는 하드웨어 장벽입니다. 7B급의 작은 모델은 일반적인 환경에서도 구동이 가능하지만, 높은 지능을 기대할 수 있는 70B급 모델은 일반 개인이 감당하기 힘든 고가의 하드웨어 장비를 요구합니다. 또한 모델을 성공적으로 로드하더라도 온도 설정이나 스톱 토큰과 같은 생성 파라미터를 최적화하는 과정은 비전문가에게 매우 까다로운 작업입니다. 모델 제작자가 명확한 가이드라인을 제공하지 않는 경우가 많아, 사용자는 시행착오를 반복하며 최적의 값을 직접 찾아내야만 합니다. 이러한 기술적 복잡성과 하드웨어 인프라의 부재는 오픈소스 LLM이 대중적으로 확산되는 데 결정적인 걸림돌로 작용하고 있습니다. 이러한 문제를 해결하기 위해 등장한 'LMS-Bot' 프로젝트는 누구나 쉽게 LLM을 배포하고 체험할 수 있는 환경을 제공하는 데 주력하고 있습니다. 이 프로젝트는 단순한 코드 공유를 넘어, 개발자들이 자주 사용하는 디스코드와 같은 플랫폼을 통해 모델과 직접 대화할 수 있는 인터페이스를 구축했습니다. 특히 시스템의 가용 자원을 자동으로 파악하여 8비트나 4비트 양자화 모델 중 구동 가능한 최적의 설정을 제안해 줌으로써 기술적 진입 장벽을 대폭 낮췄습니다. 모델별로 최적화된 설정을 YAML 형식으로 미리 정의해 두었기 때문에, 사용자는 복잡한 파라미터 조정 없이도 모델의 실제 성능을 즉각적으로 확인할 수 있습니다. 이는 환경 설정의 어려움을 해결하는 핵심 열쇠가 됩니다. 앞으로의 오픈소스 LLM 생태계는 클라우드 기반의 유연한 자원 활용과 서빙 프레임워크의 최적화 방향으로 발전해 나갈 것입니다. TGI나 vLLM과 같은 고성능 서빙 도구를 활용하여 개별 사용자가 필요한 순간에만 GPU 자원을 할당받아 모델을 구동하는 방식은 하드웨어 비용 부담을 획기적으로 줄여줄 수 있습니다. 더 나아가 단순한 텍스트 대화를 넘어 웹 검색 결과나 외부 도구를 결합하여 답변의 신뢰도를 높이는 시도들도 계속되고 있습니다. 최근에는 LLM을 활용해 캐릭터를 설정하고 배경음악과 이미지가 포함된 완성도 높은 이야기를 창작하는 등 창의적인 영역으로의 확장성도 확인되고 있습니다. 오픈소스 LLM이 가진 자유로움이 기술적 편리함과 결합될 때 비로소 진정한 AI 민주화가 실현될 것입니다.

[EOST2023] 오픈소스 LLM : 개인이 LLM을 소유하는 시대
한국전자통신연구원오픈소스 테크데이
  • 융합
  • 공학·기술

[포럼] Quantum Technology: Next Game Changer? (차세대 신기술과 혁신성장동력으로서 양자정보기술)

양자 기술은 현대 과학의 가장 심오한 영역인 양자 역학을 기반으로 하며, 우리 시대를 바꿀 차세대 게임 체인저로 주목받고 있습니다. 원자와 전자 같은 미시 세계의 원리를 이용하는 이 기술은 단순히 계산 속도를 높이는 것을 넘어, 기존의 디지털 방식으로는 해결할 수 없었던 복잡한 문제들을 풀 수 있는 열쇠를 제공합니다. 인류가 달에 첫발을 내디뎠던 아폴로 11호의 순간처럼, 양자 기술은 우리가 한 번도 가보지 못한 새로운 세상을 열어줄 역사적인 전환점이 될 것입니다. 양자 역학의 핵심은 중첩과 얽힘이라는 독특한 현상에 있습니다. 중첩은 하나의 입자가 동시에 여러 상태로 존재할 수 있음을 의미하며, 얽힘은 멀리 떨어진 입자들이 서로 긴밀하게 연결되어 정보를 공유하는 현상을 말합니다. 이러한 특성을 활용한 큐비트는 기존 컴퓨터의 비트가 가진 0과 1의 한계를 뛰어넘어 기하급수적인 연산 능력을 발휘하게 합니다. 비록 직관적으로 이해하기 어려운 신비로운 영역이지만, 이는 자연의 본질을 가장 정확하게 설명하는 원리이자 미래 기술의 근간이 됩니다. 현재 우리는 '잡음이 있는 중간 규모 양자 장치', 즉 NISQ 시대를 지나고 있습니다. 수십 개에서 수백 개의 큐비트를 가진 장치들이 등장하며 기존 슈퍼컴퓨터의 성능을 위협하고 있지만, 여전히 외부 환경과의 상호작용으로 발생하는 오류를 극복해야 하는 과제가 남아 있습니다. 양자 시스템은 매우 민감하여 아주 작은 간섭에도 정보가 손실될 수 있기 때문에, 이를 보호하기 위한 양자 오류 수정 기술과 더 정밀한 하드웨어 개발이 필수적입니다. 이는 21세기 과학 기술이 직면한 가장 거대한 도전 중 하나로 평가받습니다. 양자 컴퓨팅의 잠재력은 다양한 산업 분야에서 혁신을 예고하고 있습니다. 특히 자연의 복잡한 분자 구조를 모방하는 능력을 통해 신약 개발, 배터리 설계, 촉매 개선 등 화학 및 재료 과학 분야에서 획기적인 발전을 가져올 것입니다. 또한 금융 포트폴리오 최적화, 물류 네트워크 관리, 머신러닝의 고도화 등 방대한 데이터를 처리해야 하는 영역에서도 양자 기술은 강력한 도구가 될 것입니다. 이러한 변화는 하루아침에 이루어지기보다 점진적으로 우리 삶의 방식을 근본적으로 바꾸어 놓을 것입니다. 전 세계적으로 양자 기술 생태계는 과학의 영역을 넘어 공학적 실현 단계로 빠르게 진입하고 있습니다. IBM과 같은 거대 기업부터 수백 개의 혁신적인 스타트업들이 하드웨어와 소프트웨어 솔루션을 앞다투어 내놓고 있으며, 클라우드를 통해 누구나 양자 컴퓨터에 접근할 수 있는 환경이 조성되었습니다. 과거 트랜지스터가 보청기와 라디오를 통해 대중화되었듯, 양자 기술 또한 우리가 예상치 못한 '킬러 애플리케이션'을 통해 일상에 스며들 것입니다. 이제는 기술의 원리를 넘어 그 유용성과 접근성에 집중해야 할 때입니다. 양자 기술은 연구실 안의 수식에만 머물지 않고 예술과 대중 문화로 그 영역을 넓히고 있습니다. 개별 원자를 움직여 만든 세계에서 가장 작은 영화나 양자 역학의 원리를 시각화한 예술 작품들은 대중이 미시 세계의 경이로움을 경험하게 합니다. 또한 빛의 입자인 광자를 이용한 양자 컴퓨터 연구나 실리콘 포토닉스 기술의 발전은 양자 정보 처리를 더욱 현실적인 단계로 끌어올리고 있습니다. 이러한 다각적인 접근은 양자 기술이 단순한 도구를 넘어 인류의 상상력을 자극하는 새로운 문화적 코드가 될 수 있음을 보여줍니다. 미래의 양자 시대는 이미 우리 앞에 와 있으며, 한국 또한 우수한 인재와 연구 자금을 바탕으로 이 거대한 흐름에 동참하고 있습니다. 초기에는 불확실성으로 가득했던 양자 정보 과학 분야가 이제는 국가의 미래 성장을 이끌 핵심 동력으로 자리 잡았습니다. 젊은 과학자들의 도전 정신과 산학연의 긴밀한 협력은 한국이 양자 기술의 주도권을 확보하는 데 결정적인 역할을 할 것입니다. 양자 기술이 가져올 혁신은 디지털 혁명 그 이상의 가치를 창출하며, 인류의 지속 가능한 발전을 위한 새로운 비전을 제시할 것입니다.

[포럼] Quantum Technology: Next Game Changer? (차세대 신기술과 혁신성장동력으로서 양자정보기술)

김정상, 손영익, 손훈, 이준구, 조엘, Andreas J. Heinrich(안드레아스 하인리히), Jerry M. Chow(제리 초우), John Preskill(존 프레스킬)

카오스재단카오스크로스
  • 물리학
  • 수학