슈퍼마이크로, 컴퓨팅 환경에서 최첨단 AI 기능 구현 지원

[테크월드뉴스=박규찬 기자] 슈퍼마이크로컴퓨터가 AI 솔루션 포트폴리오 확장을 통해 공공 장소, 소매점 또는 산업 인프라와 같은 엣지 로케이션에서의 AI 성능 및 기능을 활용을 지원한다고 23일 밝혔다.

슈퍼마이크로의 애플리케이션 최적화 서버는 엔비디아 GPU를 탑재했으며 사전 훈련된 모델의 미세 조정이 수월하도록 지원하고 데이터가 생성되는 엣지에 AI 추론 솔루션을 배포해 응답 시간 및 의사 결정의 개선을 돕는다.

슈퍼마이크로 찰스 리앙(Charles Liang)  사장 겸 CEO는 “슈퍼마이크로는 가장 광범위한 엣지 AI 솔루션 포트폴리오를 보유하고 고객의 엣지 환경에 맞춰 사전 훈련된 모델을 지원할 수 있다"며 “슈퍼마이크로는 기업이 에지 로케이션에서 AI 데이터를 처리해 경쟁력을 구축할 수 있도록 업계에 최적화된 솔루션을 지속 제공하고 있다”고 덧붙였다.

이어 그는 “슈퍼마이크로 하이퍼-E 서버는 5세대 인텔 제온 프로세서 2개를 기반으로 최대 3개의 엔비디아 H100 텐서 코어 GPU 탑재가 가능하며 이로 인해 엣지 AI에 탁월한 성능을 제공한다”며 “여기에는 최대 8TB의 메모리가 탑재돼 에지 로케이션에서 데이터센터 수준의 AI 처리 능력을 발휘할 수 있도록 한다”고 덧붙였다.

슈퍼마이크로의 최첨단 서버는 처리가 필요한 데이터를 클라우드로 다시 전송하는 과정 없이 각 에지에서 필요한 정보를 다시 불러올 수 있도록 지원한다. 고객은 엔비디아 AI 엔터프라이즈를 통해 에지 로케이션에서 직접 성능 최적화 및 사전 훈련된 거대언어모델(LLM)을 활용할 수 있다. 이를 통해 데이터 원천과 가까운 위치에서 실시간으로 정확한 의사결정을 내릴 수 있다.

엔비디아 월드와이드 OEM 어카운트 케빈 코너스(Kevin Connors) 부사장은 “에지에서의 AI 활용에 대한 관심은 헬스케어, 소매, 제조, 자동차 등 산업 전반에서 증가하고 있다"며 “새로운 슈퍼마이크로 포트폴리오는 엔비디아 인증 시스템을 통과했으며 엔비디아 AI 플랫폼을 기반으로 최고 수준의 가속 컴퓨팅 인프라를 제공하도록 설계됐다. 또한 엔비디아 AI 엔터프라이즈 소프트웨어가 탑재 돼있어 에지 AI 워크로드 실행을 용이하게 한다”고 말했다.