파인튜닝

5 Contents

[카오스 짧강] 2026 카오스 콘서트 예습하기: 음악과 인공지능의 만남_PART 4

인공지능이 K-팝의 영역으로 발을 넓히며 새로운 창작의 가능성을 열고 있습니다. '뉴럴 K-팝티스트'라고 명명된 이 기술은 가창을 생성하는 생성자와 그 결과물을 평가하는 판별자가 서로 경쟁하며 학습하는 적대적 신경망 모델을 기반으로 합니다. 특히 사람의 발성 구조를 분석하여 고유한 음색과 가창 스타일을 독립적으로 분리해내는 것이 핵심입니다. 이러한 구조 덕분에 적은 양의 데이터만으로도 특정 가수의 목소리를 완벽하게 재현하며 고품질의 가창 신호를 생성할 수 있게 되었습니다. 이 기술은 우리가 그리워하는 과거의 목소리를 현재로 소환하는 마법을 부리기도 합니다. 이미 세상을 떠난 가수의 목소리를 복원하여 그가 부른 적 없는 현대의 곡을 노래하게 하거나, 다른 가수의 곡을 전혀 새로운 느낌으로 재해석하는 것이 가능해졌습니다. 더 나아가 인공지능 가수 모델은 언어의 장벽도 허물고 있습니다. 모국어가 아닌 외국어 데이터가 부족하더라도 학습된 기저 모델을 활용하면 한국어, 영어, 일본어 등 다양한 언어로 정확하게 발음하며 노래하는 가창 모델을 구축할 수 있습니다. 음악과 춤은 떼려야 뗄 수 없는 불가분의 관계에 있으며, 인공지능은 이 둘 사이의 정교한 연결 고리를 파악하는 데에도 활용됩니다. 전문가들이 창작한 안무 데이터를 기반으로 음악의 특징과 동작 간의 상관관계를 학습하는 알고리즘이 개발되었습니다. 수많은 K-팝 댄스 동영상에서 인물의 골격 정보만을 추출하여 복잡한 환경 요인을 배제하고 순수한 동작 데이터에 집중합니다. 이를 통해 새로운 음악이 주어졌을 때 그 리듬과 비트에 최적화된 안무를 자동으로 생성해내는 수준에 이르렀습니다. 인공지능이 생성한 안무는 예술적 영역이기에 정량적인 수치로 평가하기 어렵지만, 실제 사용자들을 대상으로 한 정성 평가에서 원곡 안무에 버금가는 높은 호응을 얻고 있습니다. 특히 음악의 핵심 요소인 비트와 리듬에 맞춰 동작이 유기적으로 변화하는 과정은 실제 안무가의 창작물과 비교해도 손색이 없을 만큼 자연스럽습니다. 실제로 이러한 알고리즘을 활용해 제작된 댄스 콘텐츠는 온라인상에서 긍정적인 반응을 이끌어내며, 인공지능이 창작의 도구로서 충분한 잠재력을 갖추고 있음을 증명하고 있습니다. 인공지능 기술의 발전이 예술가들의 설 자리를 빼앗을 것이라는 우려도 있지만, 본질적으로 인공지능은 인간의 창의성을 돕는 보조적인 역할을 수행합니다. 단순하고 반복적인 작업이나 고된 연산 과정을 인공지능이 대신 처리함으로써, 창작자는 본연의 창의적인 가치에 더욱 몰두할 수 있게 됩니다. 결국 인공지능은 예술 창작의 진입 장벽을 낮추어 누구나 자신의 창의성을 발휘할 수 있는 풍성한 음악 생태계를 만드는 데 기여할 것이며, 인간과 기술이 공존하는 새로운 예술의 시대를 열어갈 것입니다.

[카오스 짧강] 2026 카오스 콘서트 예습하기: 음악과 인공지능의 만남_PART 4
카오스재단카오스 짧강(짧은 강연)
  • 융합

AI 기반 단백체 분석: 전이학습을 이용한 Nt-arginylation PTM 동정

단백질의 운명은 종종 그 N-말단에 노출된 잔기의 종류에 따라 결정되는데, 이를 ‘N-말단 법칙(N-end rule)’ 혹은 ‘N-데그론 경로’라고 부릅니다. 특히 아지닌이 N-말단에 부착되는 아지닐화는 진핵생물의 ATE1 효소에 의해 수행되며, 이는 단백질의 분해뿐만 아니라 세포 내 항상성 유지에 필수적인 역할을 수행합니다. 최근 연구에 따르면 아지닐화는 심혈관 질환이나 신경 퇴행성 질환과도 밀접한 관계가 있으며, 특히 세포 스트레스 상황에서 오토파지를 유도하거나 신호 물질로서 기능하며 생존에 필수적인 역할을 담당하고 있습니다. 하지만 아지닐화 단백질을 정밀하게 프로파일링하는 과정에는 많은 위양성 결과가 발생하는 기술적 한계가 존재했습니다. 질량 분석기를 이용한 분석 시, 단백질 절단 효소인 트립신에 의해 생성된 조각들이 실제 생물학적 아지닐화와 질량값이 매우 유사하여 데이터상에서 혼동을 일으키기 때문입니다. 이로 인해 기존의 검색 방식으로는 진짜 아지닐화 신호와 효소 절단에 의해 우연히 발생한 가짜 신호를 명확히 구분하기 어려웠으며, 이는 연구 결과의 신뢰도를 저해하고 후속 생물학적 기전 연구를 방해하는 주요한 걸림돌이 되어 왔습니다. 연구팀은 이러한 위양성 문제를 해결하기 위해 대규모 언어 모델 기반의 인공지능 기술과 ‘분자 프록시’라는 독창적인 전략을 도입했습니다. AI 모델을 학습시키기 위해서는 충분한 양의 정답 데이터가 필요하지만 실제 아지닐화 데이터는 그 양이 매우 적습니다. 이를 극복하기 위해 트립신 절단으로 생성된 아지닌 개시 펩타이드가 내생적 아지닐화와 화학적으로 동일하다는 특징을 활용했습니다. 이를 통해 약 2만 개의 학습 데이터를 확보할 수 있었고, 이는 기존 인공지능 모델을 아지닐화 분석에 가장 적합한 형태로 파인 튜닝하는 강력한 토대가 되었습니다. 전이 학습을 거친 AI 모델은 MS2 스펙트럼과 펩타이드의 리텐션 타임을 매우 정밀하게 예측해내는 성과를 거두었습니다. 특히 N-말단 수식화의 핵심 특징인 b-이온의 강도 분포를 정확하게 예측함으로써, 기존 모델으로는 판별이 불가능했던 미세한 질량 오차와 위양성 신호들을 효과적으로 필터링했습니다. 그 결과 전체 후보군 중에서 실제 아지닐화된 진짜 데이터만을 높은 신뢰도로 가려낼 수 있었으며, 이는 고가의 표준 물질 합성에 의존하지 않고도 데이터 분석 알고리즘만으로 단백질 수식화 연구의 정밀도를 획기적으로 끌어올린 혁신적인 사례입니다. 필터링을 통해 선별된 사이트들은 구조생물학적으로도 매우 유의미한 특징을 나타냈습니다. 알파폴드 분석 결과, 실제 아지닐화가 발생하는 부위는 대부분 단백질의 구조가 고정되지 않은 무질서 영역에 위치하고 있었으며, 이는 효소의 접근이 용이한 부위라는 생물학적 타당성을 뒷받침합니다. 또한 미토콘드리아 내 대사 효소나 특정 시그널 펩타이드 부위에서 아지닐화가 빈번하게 관찰되었는데, 이는 아지닐화가 단백질을 단순히 제거하는 신호를 넘어 특정 세포 소기관 내에서 단백질의 기능을 정밀하게 조절하는 중요한 제어 장치로 기능하고 있음을 시사합니다. 이 혁신적인 AI 예측 모델은 표준 물질 없이도 타겟 단백질을 정밀하게 분석할 수 있는 PRM 기술로 그 응용 범위를 넓혔습니다. 인공지능이 예측한 전하와 리텐션 타임 값을 활용하면 합성이 까다로운 수식화 펩타이드 표준물질을 제작하지 않고도 질량 분석기가 타겟 신호를 정확히 포착하도록 유도할 수 있습니다. 이를 통해 세포 스트레스 자극에 따른 아지닐화의 변화를 시간대별로 추적하는 멀티플렉싱 분석이 가능해졌으며, 캐스페이즈와 같은 절단 효소의 기질들이 실시간으로 어떻게 아지닐화되어 단백질 운명이 결정되는지를 성공적으로 규명해냈습니다. 이번 연구는 적은 양의 데이터만으로도 전이 학습 기반의 인공지능을 통해 고난도의 단백질 수식화를 규명할 수 있는 고효율 연구 방법론을 제시했습니다. 이러한 기술적 진보는 아지닐화뿐만 아니라 데이터 확보가 어려워 연구가 지체되었던 다양한 번역 후 수식화 연구 분야에 광범위하게 적용될 수 있는 범용성을 갖추고 있습니다. 앞으로 이 기술은 질병과 관련된 단백질의 미세한 변형을 조기에 발견하고, 복잡한 생명 현상을 분자 수준에서 더욱 명확하게 이해함으로써 새로운 치료 타겟을 발굴하는 데 중추적인 역할을 할 것으로 기대됩니다.

AI 기반 단백체 분석: 전이학습을 이용한 Nt-arginylation PTM 동정
생물학연구정보센터학술웨비나
  • 생명과학
  • 융합

[강연] 최적화 이론, 인공지능 시대에 비상하다 2_by 권도현 | 2024 카오스강연 '세상에 나쁜 수학은 없다' 시즌2 8강 두 번째 이야기 | 8강 ②

인공지능 학습의 핵심은 최적의 해를 찾는 과정이며, 이를 위해 확률적 경사하강법(SGD)이라는 기법이 널리 사용됩니다. 기존의 경사하강법이 단순히 가장 가파른 내리막길만을 따라갔다면, 확률적 경사하강법(SGD)은 약간의 무작위성을 부여하여 탐험을 시도합니다. 이러한 무작위성은 학습 과정에서 마주치는 지역 최소해라는 웅덩이에서 벗어날 수 있는 기회를 제공합니다. 때로는 조금 돌아가거나 오르막을 오르는 선택이 결국 더 깊고 낮은 최적점을 찾는 열쇠가 되기도 하며, 이는 복잡한 함수 구조를 가진 인공지능 모델에서 필수적인 전략입니다. 방대한 데이터를 다루는 현대 인공지능에게 효율성은 필수적인 요소입니다. 모든 데이터를 한꺼번에 계산하여 미분하는 방식은 시간과 자원 면에서 불가능에 가깝기 때문입니다. 확률적 경사하강법(SGD)은 데이터를 작은 단위로 쪼개어 학습시키는 방식을 통해 이 문제를 해결합니다. 예를 들어 백만 개의 데이터가 있다면 이를 만 개씩 나누어 순차적으로 학습하며 모델을 업데이트합니다. 이러한 방식의 학습은 연산 속도를 획기적으로 높일 뿐만 아니라, 실제 성능 면에서도 매우 우수한 결과를 보여준다는 것이 여러 사례를 통해 증명되었습니다. 생성형 인공지능의 비약적인 발전 뒤에는 적대적 생성 신경망(GAN)과 같은 정교한 구조가 자리 잡고 있습니다. 이는 생성자와 판별자라는 두 개의 네트워크가 서로 경쟁하며 발전하는 방식입니다. 생성자가 실제와 유사한 이미지를 만들어내면, 판별자는 그것이 진짜인지 가짜인지 구분하려 노력합니다. 이 과정에서 생성자는 판별자를 속이기 위해 더욱 정교한 결과물을 만들어내고, 판별자는 이를 더 잘 잡아내기 위해 날카로워집니다. 이러한 상호 작용은 결국 인공지능이 실사에 가까운 고품질의 데이터를 생성할 수 있게 만드는 강력한 원동력이 됩니다. 수학적 관점에서 생성 모델의 목표는 실제 데이터의 확률 분포와 모델이 생성한 분포 사이의 차이를 최소화하는 것입니다. 이를 위해 최적 운송 이론에서 유래한 '와서스타인 거리'라는 개념이 활용됩니다. 이는 진흙을 구멍에 채우는 택배 문제처럼, 한 분포를 다른 분포로 옮기는 데 드는 최소 비용을 계산하는 방식입니다. 2017년경 정립된 이 이론적 토대는 인공지능이 단순히 데이터를 흉내 내는 수준을 넘어, 수학적으로 정교하게 최적화된 상태에 도달할 수 있도록 돕는 중요한 이정표가 되었으며 대학원생의 연구가 혁신을 일으킨 사례로도 유명합니다. 최근에는 노이즈 상태에서 단계적으로 이미지를 복원해 나가는 확산 모델(Diffusion Model)이 생성형 인공지능의 대세로 떠오르고 있습니다. 이는 한 번에 결과를 내기보다 시간을 쪼개어 미세하게 조정해 나가는 방식으로, 더욱 정밀한 제어가 가능하다는 장점이 있습니다. 인공지능은 이제 아기가 세상을 배우듯 비지도 학습에서 언어 학습으로, 그리고 더 복잡한 추론의 단계로 진화하고 있습니다. 이러한 발전은 인간의 고유 영역이라 여겨졌던 창작과 전문 지식의 영역까지 확장되며 우리 삶의 패러다임을 근본적으로 바꾸고 있으며, 로보틱스와 같은 물리적 영역으로의 확장도 기대되고 있습니다.

[강연] 최적화 이론, 인공지능 시대에 비상하다 2_by 권도현 | 2024 카오스강연 '세상에 나쁜 수학은 없다' 시즌2 8강 두 번째 이야기

권도현

카오스재단카오스강연
  • 수학

과학기술 전문인데 한국어도 잘하는 AI🦢

한국과학기술정보연구원(KISTI)에서 개발한 ‘코니(KONY)’는 과학기술정보에 특화된 거대언어모델입니다. 백조의 순우리말인 고니에서 이름을 따온 이 모델은 KISTI가 보유한 방대한 논문과 연구 보고서 등 전문적인 학술데이터를 체계적으로 분석하고 생성하는 데 최적화되어 있습니다. 기존의 범용 모델들과 달리 과학기술분야의 깊이 있는 전문 지식을 다루며, 연구자들이 실제 현장에서 필요로 하는 고도의 분석 서비스를 지원하기 위해 탄생한 독보적인 모델이라 할 수 있습니다. 생성형 AI의 등장은 사회 전반에 큰 변화를 불러왔지만, 과학기술분야에서는 여전히 한국어 지원이 부족하고 전문적인 정보를 정확하게 제공하는 모델이 절실했습니다. KISTI는 이러한 공백을 메우기 위해 과학기술정보의 유통과 분석을 통합적으로 지원할 수 있는 자체 모델 개발에 착수했습니다. 이는 단순히 문장을 생성하는 것을 넘어, 국내 연구 환경에 최적화된 신뢰할 수 있는 데이터를 기반으로 학술정보의 가치를 극대화하고 국가 경쟁력을 강화하는 중요한 발판이 될 것입니다. 코니(KONY)는 대국민 서비스인 ScienceON과 NTIS에 적용되어 지능형 과학기술정보 서비스를 제공할 예정입니다. 또한 예산이나 전문 인력이 부족한 중소기업과 공공기관이 거대언어모델을 원활하게 활용할 수 있도록 기술적인 지원을 아끼지 않을 계획입니다. 이미 국회와 군 등 다양한 기관에서 높은 관심을 보이고 있으며, 이는 특화된 거대언어모델에 대한 사회적 수요가 얼마나 큰지를 잘 보여줍니다. 코니(KONY)는 공공의 이익을 위해 폭넓게 활용될 준비를 마치고 점차 그 영역을 넓혀가고 있습니다. 향후 코니(KONY)는 성능 개량을 거쳐 정기적인 업데이트를 진행할 예정이며, 올해 7월에는 오픈소스 커뮤니티를 통해 대중에게 전격 공개될 계획입니다. 기존의 레거시 시스템과 유연하게 결합할 수 있는 모듈을 추가하고, 사용자 피드백을 바탕으로 한층 세밀한 튜닝 과정을 거치게 됩니다. 이는 단순히 기술적 진보를 넘어, 다양한 산업 현장과 공공 영역에서 실질적인 도구로 활용될 수 있는 범용성을 확보하기 위한 중요한 단계가 될 것이며 더 고도화된 성능을 기대하게 합니다. 궁극적으로 코니(KONY)는 단순한 거대언어모델을 넘어 ‘공학박사 수준’의 지능을 갖춘 AI를 지향합니다. 사용자 피드백을 반영한 정교한 인스트럭션 튜닝과 방대한 데이터셋 관리를 통해 모델의 완성도를 높여갈 것입니다. ‘데이터로 세계로 미래로’라는 슬로건 아래, 코니(KONY)는 대한민국 과학기술의 미래를 밝히는 힘찬 날갯짓을 시작했습니다. 연구자들의 든든한 조력자로서 과학기술 생태계에 새로운 활력을 불어넣고, 지식 정보의 새로운 기준을 제시할 코니(KONY)의 성장이 더욱 기대되는 시점입니다.

과학기술 전문인데 한국어도 잘하는 AI🦢
한국과학기술정보연구원연구원 소식💌
  • 융합
  • 공학·기술

[EOST2023] 오픈소스 LLM : 개인이 LLM을 소유하는 시대

오픈소스 LLM 시장은 지난 1년 사이 폭발적인 성장을 거듭해 왔습니다. 수많은 연구자와 개발자들이 각자의 모델을 공개하며 성능을 뽐내고 있지만, 정작 실제 비즈니스 시스템에 성공적으로 적용된 사례는 그리 많지 않은 실정입니다. 겉으로 보기에는 수천 개의 모델이 경쟁하며 생태계가 활성화된 것처럼 보임에도 불구하고, 대다수의 사용자는 여전히 ChatGPT나 바드와 같은 폐쇄형 모델에 의존하고 있습니다. 이는 오픈소스 LLM이 가진 기술적 잠재력과 실제 현업에서의 실용성 사이에 큰 괴리가 존재함을 시사합니다. 이러한 격차를 줄이고 오픈소스 LLM을 실질적으로 활성화하기 위해서는 단순한 성능 경쟁을 넘어 시스템 도입을 용이하게 하는 구체적인 전략이 필요합니다. 현재 오픈소스 LLM의 성능을 가늠하는 주된 지표는 허깅페이스의 'Open LLM 리더보드'와 같은 벤치마크 점수입니다. 하지만 이러한 학술적인 지표들이 실제 사용자가 느끼는 만족도와 항상 일치하지는 않습니다. 텍스트 생성은 정답이 하나로 정해진 것이 아님에도 불구하고, 현재의 평가 방식은 정해진 답안과의 유사성만을 따지는 경우가 많아 전반적인 답변의 질을 측정하기엔 한계가 있습니다. 특히 최근에는 모델의 성능을 높이기 위해 GPT-4가 생성한 데이터를 학습에 활용하는 사례가 늘어나면서 데이터 오염 문제가 심각해지고 있습니다. 이는 특정 벤치마크 점수만 기형적으로 높을 뿐, 실제 대화 상황에서는 기대 이하의 성능을 보이는 모델들이 양산되는 원인이 되기도 합니다. 모델을 실제로 사용해보려 할 때 마주하는 가장 큰 장벽 중 하나는 하드웨어 장벽입니다. 7B급의 작은 모델은 일반적인 환경에서도 구동이 가능하지만, 높은 지능을 기대할 수 있는 70B급 모델은 일반 개인이 감당하기 힘든 고가의 하드웨어 장비를 요구합니다. 또한 모델을 성공적으로 로드하더라도 온도 설정이나 스톱 토큰과 같은 생성 파라미터를 최적화하는 과정은 비전문가에게 매우 까다로운 작업입니다. 모델 제작자가 명확한 가이드라인을 제공하지 않는 경우가 많아, 사용자는 시행착오를 반복하며 최적의 값을 직접 찾아내야만 합니다. 이러한 기술적 복잡성과 하드웨어 인프라의 부재는 오픈소스 LLM이 대중적으로 확산되는 데 결정적인 걸림돌로 작용하고 있습니다. 이러한 문제를 해결하기 위해 등장한 'LMS-Bot' 프로젝트는 누구나 쉽게 LLM을 배포하고 체험할 수 있는 환경을 제공하는 데 주력하고 있습니다. 이 프로젝트는 단순한 코드 공유를 넘어, 개발자들이 자주 사용하는 디스코드와 같은 플랫폼을 통해 모델과 직접 대화할 수 있는 인터페이스를 구축했습니다. 특히 시스템의 가용 자원을 자동으로 파악하여 8비트나 4비트 양자화 모델 중 구동 가능한 최적의 설정을 제안해 줌으로써 기술적 진입 장벽을 대폭 낮췄습니다. 모델별로 최적화된 설정을 YAML 형식으로 미리 정의해 두었기 때문에, 사용자는 복잡한 파라미터 조정 없이도 모델의 실제 성능을 즉각적으로 확인할 수 있습니다. 이는 환경 설정의 어려움을 해결하는 핵심 열쇠가 됩니다. 앞으로의 오픈소스 LLM 생태계는 클라우드 기반의 유연한 자원 활용과 서빙 프레임워크의 최적화 방향으로 발전해 나갈 것입니다. TGI나 vLLM과 같은 고성능 서빙 도구를 활용하여 개별 사용자가 필요한 순간에만 GPU 자원을 할당받아 모델을 구동하는 방식은 하드웨어 비용 부담을 획기적으로 줄여줄 수 있습니다. 더 나아가 단순한 텍스트 대화를 넘어 웹 검색 결과나 외부 도구를 결합하여 답변의 신뢰도를 높이는 시도들도 계속되고 있습니다. 최근에는 LLM을 활용해 캐릭터를 설정하고 배경음악과 이미지가 포함된 완성도 높은 이야기를 창작하는 등 창의적인 영역으로의 확장성도 확인되고 있습니다. 오픈소스 LLM이 가진 자유로움이 기술적 편리함과 결합될 때 비로소 진정한 AI 민주화가 실현될 것입니다.

[EOST2023] 오픈소스 LLM : 개인이 LLM을 소유하는 시대
한국전자통신연구원오픈소스 테크데이
  • 융합
  • 공학·기술