바이두∙텐센트, 엔비디아 튜링 T4 클라우드 GPU 채택

[테크월드=정환용 기자] 엔비디아(Nvidia)는 중국의 바이두(Baidu)와 텐센트(Tencent)를 포함한 글로벌 기술 기업들이 엔비디아 튜링(Turing) T4 클라우드 GPU(이하 T4)를 기반으로 한 제품과 서비스를 출시하며, T4의 채택이 가속화되고 있다고 밝혔다. 실제로 T4는 서버 GPU 중 가장 빠른 채택률을 보이고 있다.

중국의 인터넷 기업 바이두, 텐센트, 징둥닷컴(JD), 아이플라이텍(iFLYTEK)은 자체 하이퍼스케일 데이터센터를 확장∙가속화하기 위해 T4를 도입했다. 인스퍼(Inspur), 레노버(Lenovo), 화웨이(Huawei), 수곤(Sugon), 인스퍼 파워 시스템(IPS), H3C 등의 컴퓨터 제조업체들은 T4를 탑재한 새로운 서버를 발표했다.

엔비디아 T4는 의료, 금융, 소매업을 포함한 광범위한 분야에 걸쳐 엔터프라이즈와 하이퍼스케일을 위한 고성능 컴퓨팅(HPC) 시장의 핵심인 AI 추론과 훈련을 가속화하는데 사용되고 있다. 최근 개최된 HPC 컨퍼런스인 슈퍼컴퓨팅 2018(SC18)에서 T4가 출시 두 달 만에 전 세계 컴퓨터 제조업체가 제공하는 57가지 서버 설계에 적용됐다고 발표한 바 있다. 또한, 구글 클라우드(Google Cloud)도 구글 클라우드 플랫폼 고객을 위해 T4를 채택했고, 델(Dell EMC), HPE, IBM, 레노버, 슈퍼마이크로(Supermicro) 등이 T4를 채택했다.

새로운 엔비디아 튜링 아키텍처 기반의 T4 GPU는 다중 정밀 튜링 텐서(Tensor) 코어와 새로운 RT 코어가 특징이다. 가속화된 컨테이너형 소프트웨어 스택과 결합되면 높은 성능을 제공한다. 인스퍼, 화웨이, 레노버, 수곤, IPS, H3C 등 T4를 사용하고 있는 중국 서버기업들은, 올해 말 다양한 시스템을 선보일 예정이다.

▲인스퍼: NF5280M4, NF5280M5, NF5288M5, NF5468M5
▲레노버: 씽크시스템(ThinkSystem) SR630, SR650
▲화웨이: G2500, 2288 HV5, 5288V5, G530 V5, G560 V5
▲수곤: X580-G30, X745-G30, X780-G30, X780-G35, X785-G30, X740-H30
▲IPS: FP5295G2
▲H3C: 유니서버(Uniserver) G4900G3

퍼블릭∙엔터프라이즈 클라우드 환경에서 요구되는 고유한 확장성을 충족시키도록 설계된 T4는 처리량(throughput), 사용률, 사용자 동시성(Concurrency)을 극대화시켜 고객들이 사용자 및 데이터 폭증에 효과적으로 대응하도록 지원한다. 70W 소형 폼팩터로 표준 서버나 오픈 컴퓨트 프로젝트(Open Compute Project) 하이퍼스케일 서버 설계에 적합한 유연성을 제공하며, 서버 설계는 단일 노드에서 1개부터 20개의 GPU를 지원한다.

T4가 가진 다중정밀 기능은 네 가지 정밀 수준에서 다양한 AI 워크로드를 위한 성능을 제공한다. 이를 통해 FP32에서 8.1Tflops, FP16에서 65Tflops, INT8에서 130TOPS, INT4에서 260TOPS의 성능을 구현한다. AI 추론 워크로드의 경우 T4 GPU 2개를 탑재한 서버로 CPU 전용 서버 54개를 대체할 수 있다. 또한, AI 훈련을 위해서는 T4 GPU 2개를 탑재한 서버로 이중 소켓 CPU 전용 서버 9개를 대체할 수 있다.

이안 벅(Ian Buck) 엔비디아 엑셀레이티드 컴퓨팅 담당 부사장 겸 총괄은 “T4의 없는 성능을 고려할 때 전 세계 기업들이 이를 빠른 속도로 채택하는 것은 당연한 일”이라며, “지금까지 퍼블릭, 프라이빗 클라우드가 대규모의 컴퓨팅 집약적인 워크로드를 비용 효율적으로 처리하는데 요구되는 성능과 에너지 효율성을 제공하는 GPU는 볼 수 없었다. 규모가 관건인 시장에서 T4의 채택은 더욱 가속화될 것으로 기대된다”고 설명했다.