[기고] DPU: 데이터 전용 칩으로 지루한 작업 해결

[테크월드뉴스=서유덕 기자] 인프라처리장치(IPU)로도 알려진 데이터처리장치(DPU)는 보이지 않는 곳에서 클라우드 컴퓨팅 작업을 처리하기 위해 만들어졌다. DPU는 패킷 분석(Packet Inspection)과 하이퍼바이저(Hypervisor) 관리 같은 정확하고 시간에 민감한 보안 작업을 수행함으로써 비디오 스트리밍을 가능하게 만든다. 또 인공지능(AI) 알고리즘이 예측하지 못한 트렌드를 파악할 수도 있다.

이것이 바로 전문 프로세서가 업계에서 흥미롭게 바라보며 인기를 얻는 이유다. 이제 네트워크와 스토리지, 보안 작업은 인스턴스에 필요한 자원에 대해 서버 CPU 사이클의 30% 만큼 소모할 수 있다.

클라우드 컴퓨팅 작업에 최적화한 전용 프로세서는 중앙처리장치(CPU)보다 성능이 우수하다. 고객이 CPU 사이클을 인프라 작업 대신 더 가치 있는 워크로드에 집중할 수 있는 기회를 제공하고 전력과 운영비 측면에서 총소유비용(TCO)을 효율적으로 낮춘다.

최근 DPU 분야에서 주목할 만한 발표 사례들은 아래와 같다.

DPU와 IPU는 클라우드 네트워크 제어의 지점이 되고 있다. 이를 통해 보안과 결합성(composability) 측면에서도 획기적인 개선이 진행되고 있다. 보안 관점에서 이 같은 기술은 시스템 보안에서 표준이 된다.

안전하고 검증된 소프트웨어 부팅이든 위협을 감지하거나 수신되는 모든 네트워크 트래픽에 대한 심층 패킷 분석(DPI, Deep Packet Inspection)이든 DPU가 없는 클라우드 규모에서는 그 어떤 것도 실용적이지 않다.

DPU: 혁신의 10년

네트워크와 보안, 스토리지 기능을 처리하기 위해 DPU와 유사한 시스템을 개발하려는 노력은 10여 년 전부터 시작됐다. 예를 들어 지난 2014년 아마존웹서비스(AWS)는 Arm 기반 칩을 설계하는 스타트업 안나푸르나랩스(Annapurna Labs)와 협력해 스토리지 작업을 가속화하기 위한 시스템을 개발하기 시작했다. 그 다음 해 AWS는 안나푸르나 랩스를 인수했다. 이어 2017년에는 하이퍼바이저 관리와 VPC(Virtual Private Cloud), EBS(Elastic Block Storage), 고성능 네트워킹 등 광범위한 작업 목록을 관리하기 위한 니트로 시스템(Nitro System)을 출시했다. 참고로 니트로 시스템은 니트로 카드(Nitro Card)와 니트로 보안 칩(Nitro Security Chip), 니트로 하이퍼바이저(Nitro Hypervisor)를 포함한 세 가지 핵심 요소들로 구성돼 있다. 이후 니트로는 현 EC2 인스턴스와 AWS 아웃포스트(Outpost), 맥(Mac) 인스턴스의 일부가 됐다.

니트로 시스템은 단지 고객 경험만을 개선한 것이 아니다. 아마존 최고기술책임자(CTO) 버너 보겔스(Werner Vogels)는 “니트로 시스템이 AWS에 혁신을 위한 더 많은 대역폭을 제공한다”고 말했다. 실제로 니트로 출시 이후 AWS에서 사용할 수 있는 인스턴스 수는 4배 증가했다.

데이터 처리 장치(DPU)의 구조

DPU는 AWS 니트로와 FPGA 같은 ‘SmartNIC’에서 진화한 것이다. 관리 작업을 오프로드하기 위해 클라우드 운영에 통합됐다. DPU는 오프로드 디바이스가 아니다. DPU는 호스트 OS와 독립적으로 자체 운영체제(OS)를 부팅하고 자체 메모리와 스토리지를 관리하는 동일한 수준의 전용 프로세서다.

DPU는 P4 같은 프로그래밍 가능한 패킷 프로세싱 성능을 보안 부팅의 기반과 고속 네트워킹, 적정 성능의 저전력 범용 코어에 추가한다. 이 작업을 별도의 도메인으로 분할하면 성능을 향상하고 클라우드 공급업체가 수행할 수 있는 작업의 범위를 확장할 수 있다. 만약 CPU가 최고경영자(CEO)라면 DPU는 최고운영책임자(COO) 역할을 한다고 볼 수 있다.

하이퍼스케일 클라우드 공급업체가 현재 이 같은 제품의 주요 소비자다. 그러나 이 기술은 엔터프라이즈 데이터센터와 고성능 컴퓨팅 연구소에도 확산될 것이다. VM웨어는 프로젝트 몬터레이(Project Monterey)를 통해 ESXi 하이퍼바이저를 DPU로 옮긴다. 이로써 강화된 가상화 서비스를 구현하기 위해 전문 하드웨어의 이점을 인식하고 있다.

엔터프라이즈와 통신 시장에서 DPU 도입이 늘고 클라우드 네이티브 소프트웨어를 사용할 수 있게 될 것이다. 한편 프로젝트 카시니(Project Cassini)와 Arm 시스템레디(SystemReady)는 개발자와 하드웨어 제조업체, 고객사에게 스택 전반에 걸쳐 상호 운용성(interoperability)을 위한 최적의 경로를 제공한다.

다음 개척지

DPU 기술은 다른 시장과 사용 사례로도 확산될 가능성이 높다. AI와 머신러닝(ML), 그리고 하이엔드 로보틱스나 자율주행 같은 새로운 애플리케이션이 요구하는 보안 사항은 설계자가 제품 설계에 특화된 데이터 처리를 채택하도록 유도할 수 있다.

디바이스 아키텍처 또한 점점 복잡해질 것이다. 예를 들어 엔비디아의 블루필드4는 1초에 1000조번 연산하기 위해 많은 CPU와 GPU를 탑재할 것이다. 어느 시점에는 신경망처리장치(NPU)가 DPU의 일부가 될 수도 있을 것으로 보인다.

이처럼 DPU 기술은 앞으로 주목할 만한 가치가 충분히 있는 영역이다.

글: 에디 라미레즈(Eddie Ramirez) Arm 인프라 사업부 부사장
자료제공: Arm(www.arm.com)