Loading...

MLOps

2 Contents
최신순

EOST2022 TANGO, 신경망 자동생성 통합개발 프레임워크

TANGO(탱고)는 클라우드부터 온디바이스까지 다양한 환경에 최적화된 신경망을 자동으로 생성하고 운영하는 통합 개발 프레임워크입니다. '저코드(Low-code)' 방식을 지향하여 인공지능 전문 지식이 부족한 사용자도 코딩 없이 신경망을 구축할 수 있도록 설계되었습니다. 이는 가트너가 제시한 '인공지능의 민주화(AI 민주화)'와 맥을 같이하며, 기술의 진입 장벽을 낮추어 산업 전반에 인공지능의 혜택이 고루 돌아가게 하는 것을 목표로 합니다. 전문가뿐만 아니라 일반 사용자도 인공지능을 쉽게 다룰 수 있는 대중화의 발판을 마련하고 있습니다. 인공지능 개발 과정은 데이터 수집부터 배포까지 매우 복잡한 단계를 거칩니다. 특히 적절한 신경망 모델을 선정하거나 수많은 하이퍼파라미터를 최적화하는 일은 전문가에게도 쉽지 않은 과제입니다. 초깃값 설정이나 학습률 조절 등은 마치 수많은 버튼이 달린 리모컨처럼 복잡하여 진입 장벽이 높았습니다. TANGO는 이러한 어려움을 해결하기 위해 MLOps와 AutoML 기술을 결합하여 데이터 준비부터 배포까지의 과정을 자동화했습니다. 이를 통해 도메인 지식은 풍부하지만 소프트웨어 코딩에 익숙하지 않은 전문가들도 효율적으로 결과물을 도출할 수 있습니다. TANGO의 핵심적인 차별점은 산업 현장의 수요가 높은 객체 검출(Detection) 기술에 특화되어 있다는 점입니다. 기존의 자동 생성 도구들이 주로 단순한 분류(Classification) 문제에 집중했다면, TANGO는 복잡한 이미지 속에서 물체의 위치와 종류를 정확히 찾아내는 검출 기능을 강화했습니다. 또한, 구글이나 아마존처럼 특정 클라우드에 종속되지 않고 공장 내 엣지 서버나 스마트 기기 같은 온디바이스 환경으로의 자유로운 배포를 지원합니다. 이는 다양한 하드웨어 가속기 환경에서도 신경망이 최적의 성능을 낼 수 있도록 돕는 강력한 범용성을 제공합니다. 기술적 유연성을 확보하기 위해 TANGO는 도커(Docker) 기반의 모듈러 구조를 채택하고 있습니다. 데이터 라벨링, 신경망 시각화, 백본 네트워크 탐색 등 각 개발 단계를 독립적인 모듈로 구성하여 필요에 따라 기능을 확장하거나 교체할 수 있습니다. 모듈 간의 연결은 표준 규약을 통해 이루어지며 전체 파이프라인은 REST API로 관리됩니다. 이러한 개방형 구조는 서로 다른 기업이나 연구자들이 자신의 알고리즘을 쉽게 통합하고 협업할 수 있는 생태계를 조성합니다. 덕분에 최신 기술이 빠르게 반영되는 유기적인 개발 환경 유지가 가능해집니다. 현재 TANGO 프로젝트는 깃허브(GitHub)를 통해 소스 코드를 공개하고 지속적으로 업데이트를 진행하고 있습니다. 정부 과제의 일환으로 추진되는 이 프로젝트는 내년까지 완전한 통합 도구 개발을 마무리하고 본격적인 실용화 단계로 진입할 예정입니다. 국내 클라우드 및 인공지능 소프트웨어 기술의 자생력을 강화하고 글로벌 시장에서 경쟁력을 확보하는 것이 궁극적인 지향점입니다. 누구나 참여할 수 있는 오픈소스 생태계 내에서 많은 사용자가 기술을 검증하고 새로운 알고리즘을 기여함으로써, 대한민국이 인공지능 기술 강국으로 도약하는 중요한 기반이 될 것입니다.

EOST2022 TANGO, 신경망 자동생성 통합개발 프레임워크
한국전자통신연구원오픈소스 테크데이
  • 융합
  • 공학·기술

EOST2020

오늘날 인공지능과 고성능 컴퓨팅 기술은 전례 없는 속도로 발전하고 있습니다. 이러한 성장의 이면에는 하드웨어와 소프트웨어 스택의 비약적인 진보, 그리고 방대한 인터넷 자원을 활용한 빅데이터 컴퓨팅의 결합이 자리 잡고 있습니다. 특히 자연어 처리와 같은 딥러닝 분야에서는 요구되는 연산 자원의 양이 매년 수십 배에서 수백 배씩 폭증하는 추세입니다. 이는 단순한 기술적 진보를 넘어 하드웨어 제조사와 소프트웨어 개발자, 그리고 연구자들이 서로 긴밀하게 영향을 주고받으며 만들어낸 상호작용의 결과물이라 할 수 있습니다. 딥러닝의 핵심인 복잡한 행렬 연산을 효율적으로 처리하기 위해 GPU의 중요성은 더욱 강조되고 있습니다. 범용적인 명령 처리에 최적화된 CPU와 달리, GPU는 단순한 행렬 연산을 병렬로 처리하는 데 특화되어 있어 AI 워크로드에서 탁월한 효율을 보여줍니다. 이에 따라 대규모 하드웨어 자원을 효율적으로 관리하기 위한 MLOps 방법론이 필수적으로 대두되었습니다. 데이터 전처리부터 모델 훈련, 그리고 실제 서비스 서빙에 이르기까지 모든 과정을 자동화하고 일원화하는 플랫폼의 도입은 현대 AI 연구의 핵심 과제가 되었습니다. Backend.AI는 이러한 요구에 부응하여 탄생한 오픈소스 기반의 클라우드 리소스 관리 플랫폼입니다. 이 플랫폼은 GPU 자원을 가상화하여 분할 사용하게 하거나, 여러 노드를 하나의 번들로 묶어 거대한 머신러닝 워크로드를 처리하는 스케줄링 기능을 제공합니다. 시스템은 크게 물리 자원을 관리하는 에이전트와 전체적인 워크로드를 배정하고 추적하는 매니저로 구성됩니다. 이를 통해 사용자는 초기 모델 개발 단계의 적은 자원부터 서비스 확장에 따른 대규모 자원까지 유연하게 시스템 규모를 조절하며 효율적인 연구 환경을 구축할 수 있습니다. Backend.AI의 뿌리는 오픈소스 문화에 깊이 닿아 있습니다. 개발 초기 단계부터 코드를 투명하게 공개함으로써 기술적 신뢰도를 확보하고, 글로벌 시장에서의 인지도를 높이는 전략을 취했습니다. 2015년 프로토타입 개발을 시작으로 꾸준히 발전해 온 이 프로젝트는 현재 AGPL 및 MIT 라이선스를 채택하여 누구나 자유롭게 기술을 검증하고 기여할 수 있는 생태계를 조성했습니다. 회사보다 코드가 더 오래가는 것을 목표로 삼아 프로젝트 자체에 생명력을 불어넣고, 오픈소스 커뮤니티와 함께 성장하며 지속 가능한 개발 환경을 만들어가고 있습니다. 현재 Backend.AI는 오픈소스 버전을 중심으로 클라우드 서비스와 엔터프라이즈 에디션이라는 세 가지 형태로 제공되고 있습니다. 누구나 자신의 서버 팜에 직접 설치하여 클러스터를 구축할 수 있는 것은 물론, 복잡한 관리가 필요한 대규모 기관을 위해 보안과 로그 관리 기능이 강화된 솔루션도 지원합니다. 특히 폐쇄망 환경을 위한 패키지 저장소인 레저보어(Reservoir)와 같은 독자적인 프로젝트를 통합하여 어떠한 환경에서도 제약 없이 AI 연구에 매진할 수 있도록 돕습니다. 앞으로도 사용자 피드백을 적극 수용하여 누구나 쉽고 빠르게 AI 모델을 개발할 수 있는 환경을 선도해 나갈 것입니다.

EOST2020
한국전자통신연구원
  • 융합
  • 공학·기술