Loading...

NPU

4 Contents
최신순

2023 ETRI Technology Report 6 Artificial Intelligence Computing Research Laboratory (Cho Il Yeon)

인공지능 시대를 지탱하는 핵심은 고성능 인공지능 컴퓨팅 기술입니다. 한국전자통신연구원의 인공지능컴퓨팅연구소는 인공지능 서비스와 알고리즘 구동에 최적화된 하드웨어 시스템을 연구합니다. 이는 인공지능 학습을 위한 중대형 서버와 슈퍼컴퓨터부터, 휴대폰이나 가전기기에 탑재되는 초소형 인공지능 반도체 칩과 모듈까지 아우르는 폭넓은 범위를 포함합니다. 단순히 성능을 높이는 것에 그치지 않고, 시스템이 사회적으로 안전하게 활용될 수 있도록 정보 보안 기술과 미래형 양자 컴퓨팅 기술까지 통합적으로 개발하며 최적의 컴퓨팅 생태계를 구축하고 있습니다. 대한민국은 독자적인 시스템 개발 역량을 꾸준히 축적해 왔습니다. 과거 최초의 국산 PC 개발부터 국가 전산망 주전산기 구축에 이르기까지, 우리 기술로 하드웨어와 운영 체제를 만들어온 역사가 있습니다. 최근에는 순수 국내 기술로 2,506 테라플롭스급 성능을 갖춘 슈퍼컴퓨터 개발에 박차를 가하고 있습니다. 이러한 기술 자립은 기상 예측이나 국방 분야에서 외부 유출 걱정 없이 데이터를 처리하는 데 결정적인 역할을 합니다. 하이엔드급 고난도 기술을 통해 국가 데이터 주권을 확보하는 것이 이 연구의 핵심적인 지향점이라 할 수 있습니다. 인공지능은 이제 범죄를 예방하고 사회 안전망을 강화하는 도구로 진화하고 있습니다. 지능형 CCTV와 빅데이터 분석을 결합하여 위험 상황을 미리 예측하는 기술이 대표적인 사례입니다. 특정 지역에서 발생하는 행동 패턴을 인공지능이 분석하여 실종자를 추적하거나 범죄 발생 가능성을 감지해 경찰에 알리는 방식입니다. 이는 사후 수사 중심이었던 치안 체계를 선제적 대응 체계로 전환하는 혁신을 가져옵니다. 또한 해킹 위협으로부터 시스템을 완벽하게 보호하기 위해 양자 기술을 활용한 정보 무결성 연구도 병행하며, 사용자가 안심하고 누릴 수 있는 디지털 환경을 조성하고 있습니다. 챗GPT와 같은 생성형 인공지능의 등장은 컴퓨팅 기술의 패러다임을 바꾸어 놓았습니다. 특정 기능만 수행하던 기존의 딥러닝과 달리, 범용 인공지능을 학습하기 위해 천문학적인 규모의 데이터와 연산 능력이 필요해졌기 때문입니다. 이에 따라 기존의 연산 장치를 대체할 수 있는 인공지능 전용 반도체인 NPU와 메모리 내 처리 기술인 PIM이 차세대 핵심 기술로 급부상하고 있습니다. 특히 프로세서와 메모리를 하나로 결합해 데이터 이동 효율을 극대화하는 PIM 기술은 저전력 고효율 시스템 구현의 열쇠가 됩니다. 우리 연구진은 이러한 하드웨어 혁신과 최적화 역량을 바탕으로 글로벌 시장 경쟁력을 강화하고 있습니다. 기술 개발의 궁극적인 지향점은 결국 사람을 향해야 합니다. 따뜻한 ICT는 장애인을 위한 수어 인식이나 노약자의 복약 시간을 챙겨주는 사소하지만 필수적인 기술을 통해 삶의 질을 향상시키는 데 기여합니다. 또한 개인정보를 안전하게 보호하고 국가 인프라가 결함 없이 작동하도록 돕는 안전한 ICT 역시 기술의 중요한 사명입니다. 연구자로서의 목표는 단순히 차가운 기계를 만드는 것이 아니라, 사회를 더욱 따뜻하고 안전하게 만드는 도구를 개발하는 것입니다. 사람의 안전을 지키고 사회적 가치를 더하는 기술이야말로 미래 사회를 이끌어갈 진정한 혁신의 원동력이 될 것입니다.

2023 ETRI Technology Report 6 Artificial Intelligence Computing Research Laboratory (Cho Il Yeon)
한국전자통신연구원ETRI 테크놀로지 리포트
  • 융합
  • 공학·기술

[2023 ETRI Technology Report 6] 인공지능컴퓨팅연구소 조일연 소장

인공지능 컴퓨팅 연구소는 현대 과학기술의 핵심인 인공지능(AI) 서비스와 알고리즘 구현에 필수적인 컴퓨터 시스템을 전문적으로 연구하는 곳입니다. 인공지능 학습과 실행에 가장 최적화된 하드웨어 구조를 설계하고, 이에 걸맞은 인공지능 반도체(NPU)를 개발하는 것이 연구소의 주된 임무입니다. 대형 서버와 국가적 자산인 슈퍼컴퓨터부터 휴대폰 등 모바일 기기용 반도체 칩 및 모듈에 이르기까지, 정보통신 기술의 근간이 되는 시스템 전반을 아우르며 지능형 사회의 기반을 튼튼히 다지고 있습니다. 국내 독자 기술을 바탕으로 한 슈퍼컴퓨터 개발은 국가 데이터 주권 및 기술 경쟁력과 직결되는 매우 중요한 과제입니다. 현재 256 테라플롭스급의 고성능 시스템 구축을 목표로 연구에 매진하고 있으며, 이는 기상 예측 시스템의 정밀도를 높이거나 국방 및 보안 분야에서 국산 기술의 자립도를 확보하는 결정적인 계기가 될 것입니다. 우리만의 원천 기술로 만든 시스템을 사용함으로써 국가적 기밀 데이터를 외부 유출 없이 안전하게 보호하고 관리할 수 있다는 점에서도 큰 의미를 지닙니다. 미래의 치안 및 보안 시스템은 범죄 발생 후 범인을 추적하는 고전적인 단계를 넘어, 위험 상황을 사전에 감지하고 예측하는 방향으로 진화하고 있습니다. 지능형 CCTV와 빅데이터 분석 기술을 결합하여 실종자 동선을 실시간으로 추적하거나 범죄 가능성이 높은 정황을 인공지능이 먼저 인지하여 경찰에 알리도록 돕습니다. 더불어 양자 기술을 활용해 해킹 시도로부터 정보를 완벽하게 보호하는 무결성 보안 체계를 장기적으로 구축하여, 누구나 안심하고 활동할 수 있는 안전한 사이버 세상을 만들고자 합니다. 최근 챗GPT의 등장으로 인해 한 가지 특정 기능만 수행하던 기존의 딥러닝 방식에서 인간처럼 범용적인 지능을 학습하는 시대로 인공지능의 패러다임이 급격히 변화하고 있습니다. 이에 따라 막대한 양의 데이터를 동시에 처리하기 위한 인공지능 반도체(NPU)와, 메모리와 연산 장치를 하나로 통합하여 데이터 이동 비용을 획기적으로 줄이는 차세대 칩 개발이 전 세계적인 화두가 되었습니다. 이러한 혁신적 하드웨어는 서비스 속도를 비약적으로 높여 인공지능 산업의 경쟁력을 결정짓는 핵심 요소가 될 것입니다. 정보통신 기술의 진정한 가치는 단순히 기술의 고도화에 머무는 것이 아니라 사람을 향하는 '따뜻한 ICT 기술'을 구현할 때 완성됩니다. 초고령 사회를 대비하여 노약자의 건강과 약 복용 시간을 챙기고, 청각 장애인의 소통을 돕는 수어 인식 기술이나 거동이 불편한 분들을 위한 보조 장치를 개발하는 것은 인공지능이 수행해야 할 본질적인 역할입니다. 기술의 발전이 소외된 이들을 포용하고 사회 안전망을 강화하여, 궁극적으로 모든 인류의 삶의 질을 높이는 것이 연구자가 지향해야 할 최종 목표이자 소명입니다.

[2023 ETRI Technology Report 6] 인공지능컴퓨팅연구소 조일연 소장
한국전자통신연구원ETRI 테크놀로지 리포트
  • 융합
  • 공학·기술

Session II : 지능형반도체의 동향과 전망 / 정무경 SK사피온코리아 CTO

인공지능의 핵심 기술인 딥러닝은 1950년대에 이미 개념이 등장했으나, 오랜 시간 'AI 겨울'이라 불리는 정체기를 겪었습니다. 이러한 정체기를 극복하고 오늘날의 폭발적인 성장을 이룬 결정적인 요인은 방대한 데이터의 확보와 이를 뒷받침할 반도체 기술의 발전입니다. 과거에는 학습에만 수년이 걸렸던 복잡한 신경망 연산이 병렬 처리에 최적화된 하드웨어를 만나면서 단 며칠, 혹은 몇 시간 만에 가능해졌고, 이는 연구 효율을 비약적으로 높이며 새로운 지능의 시대를 열었습니다. 인공지능 연산의 본질은 수많은 데이터를 가중치와 곱하고 더하는 거대한 행렬 연산으로 요약됩니다. 범용적인 작업을 수행하는 CPU는 제어 장치가 비대하여 이러한 단순 반복 연산을 처리하는 데 효율이 떨어지는 한계가 있었습니다. 이를 보완하기 위해 등장한 GPU가 병렬 처리의 길을 열었다면, 최근 주목받는 NPU는 아예 행렬 연산만을 위해 최적화된 전용 하드웨어 구조를 가집니다. NPU는 데이터 흐름을 극대화하여 딥러닝 모델의 추론과 학습 속도를 혁신적으로 가속하며 인공지능 반도체의 표준으로 자리 잡고 있습니다. 인간의 뇌는 약 1,000억 개의 뉴런과 이를 연결하는 수백조 개의 시냅스로 구성되어 물리적으로 완벽한 3차원 구조를 이룹니다. 반면 현대의 반도체 공정은 미세화의 한계에 직면해 있으며 평면적인 연결 구조로 인해 뇌의 복잡성을 모사하기에 여전히 부족합니다. 이를 극복하기 위해 여러 개의 반도체 다이를 하나로 묶는 '칩렛' 기술이나 반도체를 수직으로 쌓아 올리는 3D 적층 기술이 급격히 발전하고 있습니다. 이는 물리적 공간의 한계를 넘어 데이터 전송 효율을 높이고 인간의 신경망에 한 걸음 더 다가가려는 시도입니다. 거대 언어 모델이 등장함에 따라 메모리 용량과 대역폭의 부족 문제는 인공지능 발전의 새로운 병목 현상으로 떠올랐습니다. 방대한 파라미터를 메모리에서 프로세서로 읽어오는 과정에서 발생하는 지연 시간과 전력 소모는 전체 시스템 성능을 저하시키는 주요 원인입니다. 이러한 문제를 해결하기 위해 메모리 내부에서 직접 연산을 수행하는 PIM 기술이 각광받고 있습니다. 데이터를 프로세서로 옮기지 않고 저장된 위치에서 즉시 처리함으로써, 데이터 이동을 최소화하고 성능과 에너지 효율을 동시에 확보하는 것이 이 기술의 핵심 목표입니다. 인공지능의 확산은 막대한 에너지 소모라는 과제를 안겨주었습니다. 한정된 전력 내에서 더 높은 지능을 구현하기 위해서는 기존의 디지털 연산 방식을 넘어 아날로그 컴퓨팅과 뉴로모픽 기술로의 전환이 필요합니다. 아날로그 방식은 트랜지스터 수천 개가 담당하던 연산을 단일 메모리 셀에서 처리할 수 있게 하여 효율을 극대화하며, 뉴로모픽 반도체는 생물의 신경망 작동 방식을 그대로 흉내 내어 초저전력 지능을 지향합니다. 이러한 혁신적인 반도체 기술들은 미래 인공지능이 우리 삶의 모든 영역에 자연스럽게 스며드는 기반이 될 것입니다.

Session II : 지능형반도체의 동향과 전망 / 정무경 SK사피온코리아 CTO
한국과학기술정보연구원2022 미래유망기술 컨퍼런스
  • 뇌인지과학
  • 융합
  • 공학·기술

ETRI, 세계 최고 성능 AI 반도체 NPU 칩 'AB9' 개발

4차 산업혁명의 핵심인 AI 기술이 발전하면서 전 세계적으로 고성능 AI 반도체 개발 경쟁이 치열해지고 있습니다. 과거에는 컴퓨터의 두뇌 역할을 하는 CPU나 모바일의 AP가 주로 쓰였지만, 인간처럼 복잡한 학습과 추론을 수행하는 딥러닝 연산에는 한계가 있었습니다. 특히 AI 구현을 위해서는 높은 연산 성능뿐만 아니라 전력 효율성도 매우 중요합니다. 지나친 전력 소모는 발열 문제를 일으켜 자율주행차나 빅데이터 서버와 같은 정밀한 기기에 적용하기 어렵기 때문입니다. 이에 따라 저전력 고성능의 새로운 반도체 설계가 필수적인 과제로 떠올랐습니다. 한국전자통신연구원(ETRI)은 이러한 한계를 극복하고 세계적 수준의 NPU(신경망 처리장치) 기술을 확보하는 데 성공했습니다. 연구진이 개발한 칩은 1초에 40조 번의 계산이 가능한 40테라플롭스급의 강력한 연산 능력을 자랑하면서도, 전력 소모는 소형 형광등 하나 수준인 15와트에 불과합니다. 이는 기존 상용 제품보다 전력당 연산 효율을 최대 25배까지 높인 획기적인 결과입니다. 500원 동전 크기의 작은 칩 하나가 자율주행차를 제어할 수 있을 만큼의 지능을 갖춘 셈이며, 28나노 공정을 통해 상용화가 가능한 수준의 기술력을 완성했습니다. 이번 성과가 더욱 주목받는 이유는 뛰어난 가격 경쟁력과 확장성에 있습니다. 수백만 원에서 천만 원대에 달하던 기존 GPU와 달리, 연구진의 칩은 수십만 원대로 공급이 가능해 AI 시스템 구축 비용을 획기적으로 낮출 수 있습니다. 10년 이상의 연구 노하우가 집약된 이 기술은 현재 이동통신사와 자동차, 로봇 제조 기업 등으로 기술 이전이 진행 중입니다. 연구진은 앞으로 연산 능력을 120테라플롭스까지 끌어올리고 추론과 학습이 동시에 가능한 차세대 칩을 개발할 계획입니다. 순수 국내 기술로 탄생한 NPU가 국내 전 산업의 지능화와 혁신을 선도하는 핵심 기반이 되기를 기대합니다.

ETRI, 세계 최고 성능 AI 반도체 NPU 칩  'AB9' 개발
한국전자통신연구원
  • 융합
  • 공학·기술