EPNC(월간 전자부품 뉴스) UPDATED. 2018.9.21 금 17:17

상단여백
HOME 뉴스 e비즈니스
엔비디아, AI 데이터센터 플랫폼 ‘엔비디아 텐서RT 하이퍼스케일’ 공개테슬라 T4 GPU와 새로운 텐서RT 소프트웨어로 구성
양대규 기자 | 승인 2018.09.14 10:02

[EPNC=양대규 기자] 엔비디아는 음성, 비디오, 이미지, 추천 서비스를 위한 고성능의 추론 가속화 기능을 제공하는 인공지능(AI) 데이터센터 플랫폼을 출시했다. 엔비디아 텐서RT(TensorRT) 하이퍼스케일 추론 플랫폼은 엔비디아 튜링(Turing) 아키텍처와 일련의 새로운 추론 소프트웨어를 기반으로 하는 엔비디아 테슬라(NVIDIA Tesla) T4 GPU로 구성된다. 엔드-투-엔드 애플리케이션 위한 낮은 레이턴시(지연시간)와 빠른 성능을 제공하는 이 플랫폼을 통해 하이퍼스케일 데이터센터 내에서 향상된 자연어 상호작용과 검색 시 관련 결과를 나열하기 보다는 직접 답변을 제공하는 등 새로운 서비스를 제공할 수 있다.

엔비디아 테슬라 T4 GPU

엔비디아 이안 벅(Ian Buck) 가속 컴퓨팅 담당 부사장 겸 총괄은 “우리 고객들은 모든 제품과 서비스가 AI를 통해 향상되고 진화될 미래를 마주하고 있다. 엔비디아 텐서RT 하이퍼스케일 플랫폼은 이를 보다 효율적이고 빠른 속도로 구현하기 위해 탄생한 것”이라고 설명했다.

대규모 데이터센터는 매일 수십억 건의 음성 쿼리, 번역, 이미지, 비디오, 추천, 소셜 미디어 상호작용을 처리한다. 각 애플리케이션은 이러한 처리가 실행되는 서버에 위치한 서로 다른 유형의 신경 네트워크를 필요로 한다. 엔비디아 텐서RT 하이퍼스케일 플랫폼은 실시간 추론 소프트웨어와 CPU보다 최대 40배 빠른 속도로 쿼리를 처리하는 테슬라 T4 GPU를 통해 데이터 처리량(Throughput)과 서버 활용도를 극대화한다.

엔비디아는 AI 추론 산업이 향후 5년 내에 200억 달러 규모로 성장할 것으로 예상하고 있다.

#엔비디아#AI 데이터센터#텐서RT 하이퍼스케일#테슬라 T4 GPU

양대규 기자  yangdae@epnc.co.kr

<저작권자 © EP&C News, 무단 전재 및 재배포 금지>

양대규 기자의 다른기사 보기
icon인기기사
PREV NEXT

여백
여백
여백
여백
여백
여백
Back to Top