젠슨 황 CEO, ‘AI 시대’를 이끄는 엔비디아의 기술력 소개

‘GTC 2020’서 고속 컴퓨팅, 데이터센터, 자율주행 협업 설명

[테크월드=김경한 기자] 엔비디아(NVIDIA)는 지난 10월 5일부터 9일까지 온라인으로 ‘GTC 2020’을 진행했다. 이번 GTC는 40개 주제 영역에서 지난 GTC보다 400개가 더 많은 1천 개 이상의 세션이 진행됐다. 또한 사상 최초로 영어, 중국어, 한국어, 일본어, 히브리어에 이르는 다양한 언어가 제공됐다.

젠슨 황(Jensen Huang) CEO는 온라인으로 진행한 기조연설을 통해 ‘인공지능AI) 시대’에 대한 비전을 제시했다. 그는 AI 시대가 전속력으로 다가오고 있음을 강조하며, AI 시대의 발전을 주도하고 있는 엔비디아의 다양한 기술력과 제품을 소개했다.

젠슨 황 CEO는 먼저 “자동화는 산업의 생산성과 성장을 이끌며, 궁극적으로 대변혁을 견인한다”고 밝혔다. 그러면서 “AI가 만든 소프트웨어는 사람이 만든 것보다 훨씬 더 병렬화되고 수백만 배 더 연산 집약적이다. 따라서 AI를 위해 컴퓨팅을 완전히 재발명해야 하는데, 엔비디아는 칩, 시스템, 알고리즘, 도구, 생태계 모두에서 풀 스택 컴퓨팅회사로서 가속 컴퓨팅의 성공적 발전을 돕고 있다”고 강조했다.

그는 “개발자 입장에서는 아키텍처 호환성과 설치 가능한 디바이스가 많아야 하는데, 엔비디아는 10억 개 이상의 CUDA 호환 GPU를 출하했다. CUDA SDK(소프트웨어 개발 키트)는 2000만 번 다운로드됐고, 올해에만 600만 번 다운로드됐다”고 말했다. 이를 통해 1800개의 애플리케이션이 EUCA로 가속되고 있으며, 6500개의 스타트업이 엔비디아를 기반으로 하고 있다.

젠슨 황 CEO는 이번 GTC에서는 신약개발부터, 고속 컴퓨팅, 기업의 데이터센터, 엣지, 자율주행 장치까지 AI 시대에 엔비디아 기술과 제품이 어떻게 컴퓨팅을 혁신하고 있는지를 설명했다.

첫째, 엔비디아는 최첨단 컴퓨팅 인프라를 의료 연구에 접목하기 위한 영국에서 가장 빠른 슈퍼컴퓨터 케임브리지-1(Cambridge-1) 구축 계획을 공개했다. 400페타플롭의 AI 성능을 자랑하는 케임브리지-1은 세계에서 가장 빠른 30대 슈퍼 컴퓨터 중 하나가 되어 영국 AI 및 의료 분야에서 엔비디아의 학계, 업계 및 스타트업과의 협업을 주도할 것으로 기대된다. 엔비디아는 또한 세계 최초의 AI 신약개발 연구소를 건설하기 위한 GSK와의 협업을 발표했다.

둘째, AI 시대가 시작됐고 엔비디아는 전력으로 새로운 컴퓨팅을 발전시키고 있다. DGX 슈퍼POD는 준비된 AI 인프라로서 AI 연구원의 생산성을 즉시 높일 수 있다. 엔비디아 클라라 디스커버리는 의료 연구자를 위한 가속과 AI 도구 라이브러리다. 젠슨 황 CEO에 따르면, 엔비디아 AI 추론 컴퓨팅은 몇 년마다 10배씩 성장하고 있고 올해는 클라우드에서 CPU 전체 컴퓨팅을 앞질렀다. 수백 개의 회사가 엔비디아 AI 추론으로 서비스를 운영한다. 마이크로소프트 오피스, 아메리칸 익스프레스, 텐센트 등이다. 엔비디아 대화형 AI는 응답 속도가 두 배 빠르고 비용은 1/3이며 CPU에서 실행하는 것보다 훨씬 자연스러운 음성을 제공한다. 엔비디아 멀린(Merlin) 추천 시스템이 오픈 서비스 중이다.

셋째, 엔비디아는 데이터센터가 새로운 컴퓨팅 단위임을 인지하고, 프로그래밍 가능한 단일 칩 데이터센터 인프라인 블루필드(BlueField) 2 DPU(테이터 처리 장치)를 개발했다. 현대의 데이터센터는 소프트웨어 정의 기반으로 뛰어난 유연성과 적응성을 구현하고 있지만, 이는 엄청난 부하를 발생시킨다. 데이터센터 인프라 구동은 CPU 코어의 20~30%를 소비할 수 있다. 또한, 동서 트래픽 혹은 데이터센터 내 트래픽과 마이크로서비스가 늘어나면서 이 부하는 급격히 증가하고 있다. 이에 엔비디아는 글로벌 데이터센터 OS 플랫폼인 VM웨어와의 주요 파트너십을 발표했고, VM웨어를 블루필드에 포팅(Porting, 이식)하고 있다. 젠슨 황 CEO는 언젠가 전 세계 3000만~4000만 개의 기업 서버가 DPU로 가속될 것으로 전망했다. 블루필드는 엄청난 로드맵을 가지고 있는데, 향후 수년 동안 처리량을 거의 1000배 증가시킬 계획이다.

넷째, 엔비디아는 AI와 데이터 분석을 전 세계 기업에게 제공하고 있다. 최근 엔비디아는 VM웨어와 두 번째 파트너십을 발표했다. VM웨어 가상화를 기업 AI에 필요한 가상화, 수평 확장, 컨테이너 마이크로서비스 등 3가지 컴퓨팅 분야에 제공한다. 데이터로부터 예측 모델을 관리, 보안, 분석, 학습할 수 있는 하이브리드 클라우드 데이터 플랫폼인 클라우데라(Cloudera)는 엔비디아 래피즈와 엔비디아 AI 등으로 가속화된 스파크(Spark)를 통해 클라우데라 데이터 플랫폼(Cloudera Data Platform)을 가속화할 예정이다.

다섯째, 엔비디아 EGX와 파트너 네트워크가 전 세계에서 가장 거대한 산업들이 AI 서비스를 만들고 운영할 수 있도록 돕고 있다. 제조, 물류, 소매, 의료 분야에서 EGX의 성공적인 테스트를 수행하고 있다.

여섯째, 자율주행 장치를 위해 소프트웨어를 만드는 AI 시스템을 만들고, 이를 실행하는 로보틱스 컴퓨터를 만들었다. 엔비디아 EGX 플랫폼은 PCIe 카드 하나로 엔비디아 암페어 아키텍처 GPU와 블루필드2 DPU를 결합할 수 있도록 확장되고 있다. 이러한 업데이트는 기업들에게 안전하고 가속화된 데이터센터를 구축할 수 있는 공통 플랫폼을 제공한다.

젠슨 황 CEO는 최근 400억 달러에 인수하기로 합의한 ARM과의 협력 방안을 제시했다. 그는 “엔비디아는 자사의 가속 기술과 AI 컴퓨팅 기술을 ARM 생태계에 제공할 것이고, 이는 모든 컴퓨터에 적용될 것으로 기대된다”고 밝혔다. 이어 “2019년에 엔비디아는 CUDA와 과학 컴퓨팅 스택을 ARM에 포팅한다고 발표한 바 있는데, 훌륭한 성능을 냈고 HPC 커뮤니티의 반응은 환상적이었다”며, 엔비디아는 ARM 플랫폼을 발전시키기 위한 주요 계획을 발표했다.