비용절감

2 Contents

[EOST2023] 거대 인공지능 모델의 고효율 학습을 위한 자동 최적 3D 병렬화 프레임위크

거대 언어 모델(LLM)의 시대가 도래하면서 인공지능 모델의 크기는 개별 GPU의 처리 용량을 훌쩍 넘어섰습니다. 엔비디아의 '메가트론'을 넘어서겠다는 포부를 담은 '옵티머스 프라임' 프로젝트는 이러한 거대 모델을 여러 개의 GPU에서 효율적으로 다루기 위한 연구에서 시작되었습니다. 여러 장의 GPU를 마치 하나의 거대한 장치처럼 활용하여 학습과 추론의 효율성을 극대화하는 것이 이 프로젝트의 핵심 목표입니다. 인공지능 연구에 필요한 자본력은 갈수록 거대해지고 있으며, 이는 기술 개발의 강력한 진입 장벽으로 작용합니다. 온프레미스 클러스터를 구축하거나 클라우드 자원을 활용하는 모든 과정에서 막대한 비용이 소요되는데, 이때 하드웨어 자원의 잠재력을 최대한으로 끌어내지 못하면 경제적 손실은 더욱 가중됩니다. 따라서 소프트웨어적으로 인프라 활용 효율을 높이는 기술은 단순히 성능 향상을 넘어 전체적인 개발 비용 절감과 직결되는 핵심적인 요소입니다. 현대 인공지능의 연산량과 메모리 요구량은 하드웨어의 발전 속도를 압도하며 급증하고 있습니다. 수천억 개의 파라미터를 가진 모델을 학습시키기 위해서는 테라바이트 단위의 메모리가 필요하지만, 단일 서버로는 이를 감당할 수 없어 필연적으로 통신 지연과 분할의 문제가 발생합니다. 모델을 어떻게 잘라 배치하고 통신 시간을 어떻게 숨길 것인가 하는 문제는 시스템 엔지니어링 측면에서 매우 복잡하고 정교한 최적화 전략을 요구하게 됩니다. 과거에는 모델 개발자가 수동으로 병렬화 코드를 작성해야 했지만, 이제는 이를 자동화하려는 시도가 이어지고 있습니다. ETRI는 파이토치 2.0 생태계와 연동하여 모델 구조를 분석하고 최적의 병렬화 전략을 자동으로 도출하는 엔진을 개발 중입니다. 이는 마치 데이터베이스에서 쿼리문을 입력하면 시스템이 알아서 최적의 실행 계획을 짜주는 것과 같습니다. 개발자는 모델의 로직에만 집중하고, 복잡한 분산 처리는 소프트웨어 계층에서 해결하는 구조입니다. ETRI는 현재 개발 중인 고효율 학습 엔진을 오픈 소스로 공개하여 국내외 개발자들과 함께 생태계를 고도화해 나갈 계획을 세우고 있습니다. 단순히 기존의 외국산 소프트웨어를 가져다 쓰는 관행을 넘어, 우리만의 독자적인 인프라 기술을 확보하고 다양한 기여자들이 협력하여 최적화 엔진을 발전시키는 것이 필수적입니다. 이러한 노력을 통해 대한민국 인공지능 하부 구조의 기술 자립과 효율성을 동시에 달성할 수 있을 것으로 기대됩니다.

[EOST2023] 거대 인공지능 모델의 고효율 학습을 위한 자동 최적 3D 병렬화 프레임위크
한국전자통신연구원오픈소스 테크데이
  • 융합
  • 공학·기술

[코로나TALK-18] 트럼프는 틀렸다! 지금 데이터가 가장 중요한 이유 _장원철 교수 | 18강

코로나19라는 전 지구적 위기 상황에서 데이터는 단순한 숫자를 넘어 방역의 핵심 지표로 활용되었습니다. 인도의 사례를 보면, 확진자가 수백 명에 불과하던 초기 단계에서 데이터 과학자들의 예측 모델을 근거로 13억 인구에 대한 전국 봉쇄라는 과감한 결단을 내렸습니다. 이는 감염병의 기하급수적인 증가 추세를 미리 파악하고 선제적으로 대응한 결과로, 만약 이러한 데이터 기반의 의사결정이 없었다면 인도의 확진자 수는 예측치인 2,000만 명을 훨씬 상회하며 통제 불능의 재앙으로 이어졌을 것입니다. 데이터는 정책의 효과를 검증하고 미래를 설계하는 데에도 결정적인 역할을 합니다. 인도의 전국 봉쇄는 단기적인 확산 억제를 넘어 사회적 거리두기와 여행 금지 등 다양한 방역 전략이 결합되었을 때 비로소 장기적인 효과를 거둘 수 있음을 보여주었습니다. 특히 누적 확진자 수의 증가 폭을 완만하게 조절하는 '플래트닝 더 커브(Flattening the curve)' 전략은 의료 시스템의 붕괴를 막는 핵심이 되었으며, 이는 정교한 데이터 분석을 통해 각국 정부가 방역의 강도를 조절하는 과학적 근거가 되었습니다. 정보의 홍수 속에서 올바른 정보를 선별하기 위해 데이터 시각화의 중요성은 더욱 커지고 있습니다. 단순히 누적 검사 횟수만을 강조하는 그래프는 실제 방역 현황을 왜곡할 수 있으며, 매일 시행되는 신규 검사 수와 양성률을 함께 살펴봐야 정확한 진단이 가능합니다. 시각화는 복잡한 통계 수치를 직관적인 그림이나 지도로 변환하여 대중이 감염병의 확산 경로와 위험도를 쉽게 이해하도록 돕습니다. 이는 잘못된 정보로 인한 혼란을 방지하고 사회적 합의를 이끌어내는 강력한 도구가 됩니다. 뉴욕 타임스와 파이낸셜 타임스 같은 주요 언론들은 로그 스케일과 스무딩 스플라인 기법을 활용해 국가별 확진 추세를 정교하게 시각화했습니다. 로그 스케일은 확진자 수가 급격히 차이 나는 국가들을 동일한 선상에서 비교할 수 있게 해주며, 변동성이 큰 일일 데이터를 매끄러운 곡선으로 표현함으로써 전체적인 유행의 흐름을 명확히 보여줍니다. 이러한 시각적 분석은 바이러스가 특정 도시에서 시작해 비행기 경로를 타고 전 세계로 퍼져나가는 과정을 입체적으로 묘사하여 방역의 사각지대를 찾아내는 데 기여합니다. 대규모 인원을 효율적으로 검사하기 위한 방안으로 1943년에 제안된 '집단 검사(Group Testing)' 기법이 다시 주목받고 있습니다. 이는 여러 사람의 샘플을 하나로 섞어 검사한 뒤, 양성이 나올 경우에만 해당 그룹을 세분화하여 재검사하는 방식입니다. 이 방법은 감염자가 적은 집단에서 검사 횟수를 획기적으로 줄여 시간과 비용을 절감할 수 있게 합니다. 과거 성병 검사를 위해 고안된 오래된 통계적 아이디어가 현대의 분자 진단 기술과 결합하여 팬데믹 상황을 타개할 새로운 해결책으로 부활한 셈입니다. 미국의 코넬 대학교와 스탠퍼드 대학교 병원은 이러한 집단 검사 시스템을 도입하여 캠퍼스 정상화를 시도하고 있습니다. 수만 명의 구성원을 주기적으로 검사하기 위해서는 막대한 비용이 발생하지만, 집단 검사 알고리즘을 적용하면 검사 효율을 극대화할 수 있습니다. 특히 유병률이 낮은 환경에서는 한 번에 수십 명의 샘플을 섞어 검사함으로써 전체 검사 비용을 10분의 1 수준으로 낮추는 것이 가능합니다. 이는 경제 활동을 유지하면서도 감염원을 조기에 발견하여 격리할 수 있는 현실적인 대안이 되고 있습니다. 현대 통계학자와 데이터 과학자들은 이제 연구실이라는 '뒤뜰'을 벗어나 사회의 중요한 의사결정이 이루어지는 '앞뜰'에서 활약하고 있습니다. 코로나19 대응 과정에서 보여준 데이터 기반의 예측과 시각화, 그리고 효율적인 검사 알고리즘은 공공보건 정책의 신뢰도를 높이는 데 결정적인 역할을 했습니다. 시시각각 변하는 데이터 속에서 숨겨진 진실을 찾아내고 이를 바탕으로 최선의 선택을 내리는 과정은, 앞으로 우리가 마주할 수많은 사회적 난제를 해결하는 데 있어 가장 강력한 무기가 될 것입니다.

[코로나TALK-18] 트럼프는 틀렸다! 지금 데이터가 가장 중요한 이유  _장원철 교수

장원철

카오스재단코로나19 과학토크
  • 생명과학
  • 융합