Loading...

온디바이스AI

4 Contents
최신순

국산 AI 반도체 연계 오픈소스 온 디바이스 로봇지능 SW 플랫폼

최근 AI 기술의 흐름은 클라우드 중심에서 온디바이스 환경으로 빠르게 전환되고 있습니다. 네트워크 연결 없이도 현장에서 즉각적인 데이터 처리가 가능한 온디바이스 방식은 보안성과 실시간 응답성 면에서 큰 장점을 가집니다. 특히 로봇 지능 분야에서는 이러한 기술적 수요가 매우 높으며, 하드웨어와 소프트웨어의 밀접한 결합이 필수적입니다. 현재 이 시장은 주로 해외 기업들이 장악하고 있지만, 국내 기술력을 바탕으로 한 AI 반도체와 소프트웨어 플랫폼을 구축하려는 노력이 활발히 진행 중입니다. 국산 AI 반도체를 활용한 최적화된 시스템 소프트웨어 스택 개발은 기술 자립을 위한 중요한 과제입니다. 온디바이스 환경에서 고성능 모델을 구동하기 위해서는 단순한 경량화를 넘어선 하드웨어 최적화 기술이 필요합니다. 대규모 서버 기반으로 설계된 기존 모델들은 자원이 제한된 임베디드 보드에서 제 성능을 발휘하기 어렵기 때문입니다. 특히 특정 하드웨어 제조사가 제공하는 소프트웨어 개발 키트에만 의존하게 되면, 개발자가 자신만의 독창적인 솔루션을 구축하는 데 많은 제약이 따르게 됩니다. 이러한 문제를 해결하기 위해 국산 AI 반도체의 성능을 극대화하면서도 유연하게 적용할 수 있는 솔루션 개발이 강조되고 있습니다. 이는 임베디드 시스템의 특수성을 고려하여 하드웨어 가속을 효율적으로 관리하는 핵심 기술이라 할 수 있습니다. 로봇 시스템의 운영체제인 ROS를 온디바이스 급으로 최적화하는 과정은 기술적으로 매우 도전적인 분야입니다. 서버급 사양을 요구하는 방대한 소프트웨어 볼륨을 소형 장치에서도 원활히 동작하도록 최적화해야 하기 때문입니다. CPU와 GPU, 그리고 AI 반도체인 NPU를 동시에 활용하는 파이프라이닝 가속화 기술은 다수의 AI 서비스가 동시에 구동될 때도 실시간 응답성을 강력하게 보장합니다. 이러한 통합 플랫폼 구축을 통해 로봇의 자율적 판단과 상황 인식 능력을 한 단계 더 끌어올릴 수 있으며, 이는 다양한 산업 환경에서 로봇이 지능적으로 활동하는 기반이 됩니다. 실제 산업 현장에 적용되는 순찰 로봇 지능은 이론적인 연구를 넘어 고도의 실증 과정을 거치고 있습니다. 사족보행 로봇을 활용한 공장 순찰 업무는 비정형 객체 탐지나 실시간 상황 설명 등 복잡한 지능형 서비스가 요구됩니다. 연구실 수준의 실험에 그치지 않고 실제 수요처를 방문해 데이터를 수집하고 프로토타이핑을 진행하는 이유입니다. 이를 위해 CNN 계열의 인식 모델뿐만 아니라 최신 트랜스포머 기반 기술들을 국산 NPU에 최적화하여 탑재하고 있습니다. 현장의 다양한 위험 요소를 탐지하고 관리하는 자율 보행 기술은 로봇 미들웨어와 하드웨어의 긴밀한 상호작용을 통해 완성도를 높여가고 있습니다. 공개 소프트웨어로 진행되는 이러한 프로젝트는 기술적 성과를 외부와 공유하며 생태계를 확장하는 데 목적이 있습니다. 개발된 소프트웨어 스택은 MIT나 BSD 라이선스를 적용하여 외부 개발자 그룹과 협업할 수 있는 채널을 마련하고 있습니다. 특히 AI 기술은 변화의 속도가 매우 빠르기 때문에, 최신 VLM이나 LLM 계열의 모델을 지원할 수 있는 확장성이 중요합니다. 향후에는 AI 반도체와 소프트웨어 엔진이 더욱 밀접하게 결합하여 대형 언어 모델의 전처리 및 후처리 과정까지 효율적으로 지원할 계획입니다. 국내외 수요에 맞춘 지속적인 고도화를 통해 온디바이스 로봇 지능의 새로운 표준을 제시하고자 합니다.

국산 AI 반도체 연계 오픈소스 온 디바이스 로봇지능 SW 플랫폼
한국전자통신연구원오픈소스 테크데이
  • 융합
  • 공학·기술

EOST2022 TANGO, 신경망 자동생성 통합개발 프레임워크

TANGO(탱고)는 클라우드부터 온디바이스까지 다양한 환경에 최적화된 신경망을 자동으로 생성하고 운영하는 통합 개발 프레임워크입니다. '저코드(Low-code)' 방식을 지향하여 인공지능 전문 지식이 부족한 사용자도 코딩 없이 신경망을 구축할 수 있도록 설계되었습니다. 이는 가트너가 제시한 '인공지능의 민주화(AI 민주화)'와 맥을 같이하며, 기술의 진입 장벽을 낮추어 산업 전반에 인공지능의 혜택이 고루 돌아가게 하는 것을 목표로 합니다. 전문가뿐만 아니라 일반 사용자도 인공지능을 쉽게 다룰 수 있는 대중화의 발판을 마련하고 있습니다. 인공지능 개발 과정은 데이터 수집부터 배포까지 매우 복잡한 단계를 거칩니다. 특히 적절한 신경망 모델을 선정하거나 수많은 하이퍼파라미터를 최적화하는 일은 전문가에게도 쉽지 않은 과제입니다. 초깃값 설정이나 학습률 조절 등은 마치 수많은 버튼이 달린 리모컨처럼 복잡하여 진입 장벽이 높았습니다. TANGO는 이러한 어려움을 해결하기 위해 MLOps와 AutoML 기술을 결합하여 데이터 준비부터 배포까지의 과정을 자동화했습니다. 이를 통해 도메인 지식은 풍부하지만 소프트웨어 코딩에 익숙하지 않은 전문가들도 효율적으로 결과물을 도출할 수 있습니다. TANGO의 핵심적인 차별점은 산업 현장의 수요가 높은 객체 검출(Detection) 기술에 특화되어 있다는 점입니다. 기존의 자동 생성 도구들이 주로 단순한 분류(Classification) 문제에 집중했다면, TANGO는 복잡한 이미지 속에서 물체의 위치와 종류를 정확히 찾아내는 검출 기능을 강화했습니다. 또한, 구글이나 아마존처럼 특정 클라우드에 종속되지 않고 공장 내 엣지 서버나 스마트 기기 같은 온디바이스 환경으로의 자유로운 배포를 지원합니다. 이는 다양한 하드웨어 가속기 환경에서도 신경망이 최적의 성능을 낼 수 있도록 돕는 강력한 범용성을 제공합니다. 기술적 유연성을 확보하기 위해 TANGO는 도커(Docker) 기반의 모듈러 구조를 채택하고 있습니다. 데이터 라벨링, 신경망 시각화, 백본 네트워크 탐색 등 각 개발 단계를 독립적인 모듈로 구성하여 필요에 따라 기능을 확장하거나 교체할 수 있습니다. 모듈 간의 연결은 표준 규약을 통해 이루어지며 전체 파이프라인은 REST API로 관리됩니다. 이러한 개방형 구조는 서로 다른 기업이나 연구자들이 자신의 알고리즘을 쉽게 통합하고 협업할 수 있는 생태계를 조성합니다. 덕분에 최신 기술이 빠르게 반영되는 유기적인 개발 환경 유지가 가능해집니다. 현재 TANGO 프로젝트는 깃허브(GitHub)를 통해 소스 코드를 공개하고 지속적으로 업데이트를 진행하고 있습니다. 정부 과제의 일환으로 추진되는 이 프로젝트는 내년까지 완전한 통합 도구 개발을 마무리하고 본격적인 실용화 단계로 진입할 예정입니다. 국내 클라우드 및 인공지능 소프트웨어 기술의 자생력을 강화하고 글로벌 시장에서 경쟁력을 확보하는 것이 궁극적인 지향점입니다. 누구나 참여할 수 있는 오픈소스 생태계 내에서 많은 사용자가 기술을 검증하고 새로운 알고리즘을 기여함으로써, 대한민국이 인공지능 기술 강국으로 도약하는 중요한 기반이 될 것입니다.

EOST2022 TANGO, 신경망 자동생성 통합개발 프레임워크
한국전자통신연구원오픈소스 테크데이
  • 융합
  • 공학·기술

EOST2022 리눅스재단 오픈소스 On-Device AI 프레임워크 개발, 제품화 그리고 공개 협업

삼성전자의 함명주 연구원은 리눅스 재단의 프로젝트인 'NNStreamer'와 그로부터 파생된 'NNStreamer-Trainer' 과제를 소개하며 오픈소스 활동의 가치를 조명합니다. 2009년부터 리눅스 커널 메인테이너로 활동해온 그는 온디바이스 AI 앱 개발을 위한 프레임워크를 개발하고 이를 오픈소스화하여 리눅스 재단에 기부했습니다. 이는 단순한 취미가 아닌 삼성리서치의 공식 업무로서, 제품 탑재와 학술적 성과를 동시에 추구하며 오픈소스 생태계 발전에 기여하고 있습니다. NNStreamer는 리눅스 미디어 프레임워크의 표준인 GStreamer를 기반으로 하여 AI 서비스를 하나의 파이프라인으로 설계할 수 있게 돕습니다. 복잡한 인공신경망을 필터 형태로 연결하는 이 구조는 C 언어로 직접 멀티스레딩을 구현하는 것보다 우수한 성능을 보여줍니다. TV나 방송국 시스템에서 검증된 필터들을 재활용할 수 있으며, 하드웨어 가속까지 지원되어 효율적인 미디어 처리가 가능하다는 점이 이 프레임워크가 가진 가장 강력한 기술적 특징입니다. 이 기술은 실제 산업 현장에서 강력한 힘을 발휘하고 있습니다. 자동차 공장에서 웨어러블 센서와 모바일 카메라를 연동해 작업의 정확도를 판별하거나, 삼성과 LG의 스마트 TV, BBC의 방송 시스템 등에 폭넓게 활용되고 있습니다. 또한 무인 매장이나 3D 프린터 불량 감시 서비스 등 다양한 외부 업체들도 NNStreamer를 통해 사업을 진행하고 있습니다. 이는 온디바이스 AI가 개별 기기를 넘어 여러 장치 간의 유기적인 협업으로 확장될 수 있음을 구체적으로 보여줍니다. NNStreamer에서 파생된 'NNStreamer-Trainer'는 민감한 개인정보를 보호하면서 기기별 맞춤형 학습을 가능하게 하는 온디바이스 학습 프레임워크입니다. 모든 데이터를 클라우드로 보내는 대신, 로봇 청소기가 각 가정의 고유한 환경에 맞춰 스스로 최적화되는 방식입니다. 현재 TensorFlow Lite보다 적은 오버헤드로 동일한 정확도를 유지하며 더 빠른 학습 속도를 기록하고 있습니다. 이는 조만간 실제 제품 출시를 앞두고 있어 기술적 완성도와 실용성을 동시에 입증하고 있습니다. 기업이 오픈소스를 지향해야 하는 이유는 단순히 브랜드 이미지 제고나 라이선스 의무감 때문만은 아닙니다. 오픈소스화는 코드의 품질을 극한으로 끌어올리고 개발자의 역량을 강화하는 실질적인 수단이 됩니다. 불특정 다수의 철저한 코드 리뷰를 견뎌내야 하기에 더 완벽한 코드가 탄생하며, 이는 실력 있는 개발자들을 유인하고 유지하는 '데브렐(DevRel)' 측면에서도 큰 이점을 가집니다. 결국 오픈소스는 더 좋은 소프트웨어를 만들기 위한 기업의 가장 전략적인 선택인 셈입니다. 대기업 내부의 고질적인 문제인 '사일로 현상'을 해결하는 데도 오픈소스는 효과적입니다. 내부 부서 간에도 기술 신뢰도가 낮아 도입을 주저하는 경우가 많지만, 외부 시장에서 먼저 검증받은 오픈소스는 내부 설득의 강력한 근거가 됩니다. 또한 프로젝트의 모든 기획 단계와 권한을 파운데이션에 양도함으로써 외부 기여자의 신뢰를 얻어야 합니다. 특정 기업의 소유물이 아닌 공공의 자산으로 인정받을 때 비로소 진정한 의미의 기술 생태계가 구축될 수 있기 때문입니다. 오픈소스 생태계는 단순히 코드를 공개하는 것에서 끝나지 않습니다. 사용자가 나타나기까지 수년간 대학 강의를 개설하고 학회에서 논문을 발표하는 등 꾸준한 노력이 필요합니다. 삼성전자의 이번 사례 역시 2018년부터 5년 넘게 지속해온 활동의 결과물입니다. 이제는 개발자들이 직접 문제를 리포트하고 기능 구현에 참여하는 능동적인 커뮤니케이션이 절실합니다. 개발자들의 활발한 피드백과 협업만이 프레임워크를 더욱 건강하게 발전시킬 수 있는 유일한 동력이 될 것입니다.

EOST2022 리눅스재단 오픈소스 On-Device AI 프레임워크 개발, 제품화 그리고 공개 협업
한국전자통신연구원오픈소스 테크데이
  • 융합
  • 공학·기술

EOST2021 전원 불안정 감내 자율적 에너지기반 컴퓨팅 시스템SW 원천기술

기존의 컴퓨팅 환경은 전원이 안정적으로 공급되거나 배터리를 통해 지속적인 전력이 보장되는 상황을 가정하여 설계되었습니다. 하지만 최근 사물인터넷(IoT) 기술의 확산과 함께 전력망이 닿지 않는 곳에서도 스스로 에너지를 생산하여 동작하는 에너지 독립적 컴퓨팅에 대한 수요가 급증하고 있습니다. 이러한 흐름에 맞춰 등장한 '에너지 드리븐 컴퓨팅'은 전력 공급이 불안정한 극한 환경에서도 중단 없이 연산을 지속할 수 있도록 돕는 차세대 기술입니다. 이는 에너지 하베스팅 기술과 비휘발성 메모리(NVM)의 발전을 기반으로 하여, 전원이 끊기더라도 실행 데이터를 안전하게 보관하고 다시 복구할 수 있는 혁신적인 토대를 마련하고 있습니다. 이 기술이 가장 절실하게 요구되는 분야는 사람의 손길이 닿기 어려운 오지나 거대 규모의 네트워크 환경입니다. 수많은 기기가 연결되는 '매시브 IoT' 환경에서는 기기마다 배터리를 일일이 교체하는 것이 사실상 불가능하기에 자율적으로 에너지를 관리하는 시스템이 필수적입니다. 또한, 운영 실패율이 높고 예측하기 어려운 에너지 소모가 발생하는 초소형 큐브 위성 분야에서도 에너지 드리븐 기술은 미션 성패를 가르는 핵심적인 역할을 수행합니다. 더불어 온디바이스 AI 환경에서는 희소 자원을 효율적으로 관리하여 통신 의존도를 낮추고 프라이버시 문제를 해결하며 기기 자체적으로 안정적인 학습과 추론을 수행할 수 있게 합니다. 에너지 드리븐 컴퓨팅의 중추적인 소프트웨어 기술은 '인터미턴트 컴퓨팅(Intermittent Computing)'이라 불리는 간헐적 연산 제어 기술입니다. 이 기술은 전원이 끊겼을 때 연산이 처음으로 되돌아가 무한히 반복되는 초기화 현상인 '스태그네이션'을 방지하는 진행 보장성을 목표로 합니다. 또한, 비휘발성 메모리를 메인 메모리로 사용할 때 발생하는 데이터 불일치 문제를 해결하여 메모리 일관성을 유지하며, 특정 미션을 정해진 시간 내에 처리해야 하는 수행 적시성을 확보합니다. 이를 통해 시스템은 가용 에너지가 축적될 때마다 작업을 이어가며 전력 환경이 열악한 상황에서도 소프트웨어의 신뢰성과 완결성을 보장하게 됩니다. 안정적인 시스템 구축을 위해 하드웨어와 소프트웨어를 유기적으로 결합한 통합 플랫폼 연구가 활발히 진행되고 있습니다. 전원 상태를 실시간으로 인지하고 에너지를 최적화하여 관리하는 초소형 운영체제(OS)와 이를 지원하는 전용 컴파일러가 전체적인 시스템 소프트웨어의 골격을 형성합니다. 여기에 더해 물리적인 하드웨어가 준비되지 않은 상황에서도 응용 소프트웨어의 기능을 검증할 수 있는 시뮬레이션 도구와 에너지 소모량을 정밀하게 예측하는 에너지 프로파일러, 그리고 실행 오류를 검출하는 런타임 디버깅 도구가 패키지로 구성됩니다. 이러한 환경은 개발자가 다양한 전력 변화 시나리오를 미리 시험하고 대비할 수 있도록 돕는 중요한 역할을 합니다. 한국전자통신연구원(ETRI)은 국내외 연구진 및 전문 기업들과 협력하여 이 핵심 기술들을 오픈소스로 공개하는 전략을 추진하고 있습니다. 하드웨어와 소프트웨어 설계도를 투명하게 공개하여 전 세계 개발자들이 참여하는 자생적인 기술 생태계를 구축하고, 이를 통해 기술의 완성도를 상용 수준으로 끌어올리는 것이 최종 목표입니다. 연구 초기에는 내부 협업을 통해 품질을 검증하고, 이후 실제 적용 사례와 통합 프레임워크를 순차적으로 공개하여 극한 환경에서의 컴퓨팅 난제를 해결해 나갈 것입니다. 이러한 노력은 미래 산업의 기술적 주도권을 확보하고 다양한 도메인에서 에너지 제약을 극복하는 혁신적인 계기가 될 전망입니다.

EOST2021 전원 불안정 감내 자율적 에너지기반 컴퓨팅 시스템SW 원천기술
한국전자통신연구원오픈소스 테크데이
  • 융합
  • 공학·기술