EOST2022 리눅스 커널 오픈소스와 kakao icloud
퍼블릭 클라우드 환경에서 하이퍼바이저의 성능과 안정성은 가상 머신(VM)의 품질을 결정짓는 핵심적인 요소입니다. 서비스 제공자들은 하이퍼바이저의 부하를 줄이기 위해 다양한 전략을 사용하는데, 그중 하나가 CPU가 담당하던 기능을 스마트닉과 같은 하드웨어로 전가하는 오프로드 기술입니다. 또한, 알고리즘 최적화를 위해 SIMD와 같은 명령어를 활용하기도 합니다. SIMD는 하나의 명령어로 여러 데이터를 동시에 처리함으로써 데이터 처리 효율을 극대화하며, 암호화나 필터링 작업 등에서 성능을 대폭 향상시키는 데 기여합니다. 커널 영역에서 TLS 암복호화를 수행하는 kTLS는 사용자 공간에서 처리할 때보다 약 9%의 성능 향상을 제공하는 효율적인 기술입니다. 일반적인 TLS 과정 중 핸드셰이킹은 사용자 라이브러리에서 진행되지만, 실제 데이터가 오가는 레코드 프로토콜 단계는 커널의 네트워킹 스택 내 ULP 레이어에서 처리됩니다. 이를 통해 데이터 이동 과정의 오버헤드를 줄일 수 있으며, 만약 하드웨어가 TLS 오프로드를 지원한다면 CPU 자원을 비약적으로 아껴 전체적인 시스템 성능을 드라마틱하게 개선할 수 있는 강력한 인터페이스를 갖추게 됩니다. 국내에서 공공 및 민간 분야에 필수적으로 사용되는 블록 암호화 알고리즘 ARIA는 국제 표준으로서의 위상도 함께 갖추고 있습니다. 이를 kTLS에서 지원하게 되면 국내의 수많은 사용자들에게 고성능의 암호화 옵션을 제공할 수 있다는 큰 장점이 있습니다. ARIA는 128비트 블록 길이를 기반으로 하며, 현재 커널 내에 알고리즘을 병합하고 kTLS에서 이를 설정할 수 있는 컨트롤 플레인을 구축하는 작업이 진행되었습니다. 이는 단순히 코드를 이식하는 것을 넘어 국내 암호화 기술이 오픈소스 생태계의 표준 성능 이점을 누릴 수 있게 하는 중요한 도약입니다. 리눅스 커널 커뮤니티, 특히 크립토 서브시스템은 매우 보수적인 운영 방침을 고수하고 있습니다. 새로운 암호화 알고리즘을 커널에 포함시키기 위해서는 해당 기술이 왜 반드시 커널 수준에서 구현되어야 하는지에 대한 명확한 활용 사례가 증명되어야 합니다. ARIA의 경우에도 단순히 국제 표준이라는 점을 넘어, kTLS와의 연동을 통한 성능 향상이라는 실질적인 근거를 제시함으로써 메인테이너들을 설득할 수 있었습니다. 이러한 과정은 기술적 완성도만큼이나 오픈소스 커뮤니티와의 긴밀한 소통과 정당성 확보가 얼마나 중요한지를 잘 보여줍니다. ARIA 알고리즘의 최종적인 성능 향상은 SIMD 최적화를 통해 완성되었습니다. AVX, AVX2, 그리고 AVX-512 버전을 개발하여 기존 C 언어 구현체 대비 적게는 3~4배에서 많게는 10배 이상의 비약적인 속도 향상을 이루어냈습니다. 특히 512비트 블록을 한 번에 처리하는 최신 명령어를 활용함으로써 대규모 트래픽 환경에서도 안정적인 암호화 서비스가 가능해졌습니다. 국제 표준과 실질적인 활용 사례를 바탕으로 진행된 이번 작업은 오픈소스 생태계에 기여함과 동시에 국내 암호화 기술의 활용 범위를 넓히는 뜻깊은 성과로 평가받고 있습니다.
