그래프코어, IPU-POD 시스템에 슈퍼마이크로 울트라 서버 결합

[테크월드뉴스=서유덕 기자] 그래프코어는 지능처리장치 IPU-POD 구성에 슈퍼마이크로의 AS-1124US-TNRP를 채택할 수 있게 됐다고 30일 발표했다.

AS-1124US-TNRP는 슈퍼마이크로의 기업용 울트라 서버로, 3세대 AMD EPYC 프로세서가 탑재돼 높은 성능을 발휘한다. 그래프코어는 슈퍼마이크로 서버가 AI 애플리케이션의 가속화는 물론 개발자의 AI 모델 개발과 확장을 돕는 전반적인 머신 인텔리전스 성능 향상에 기여할 것으로 기대된다고 밝혔다.

IPU-POD 시스템 내 IPU-M2000과 호스트 서버는 여러 비율로 구성 가능해 각기 다른 머신 인텔리전스 워크로드가 요구하는 서버 요건에 따른 TCO(총 소유비용)를 최적화할 수 있다. 예를 들어, 컴퓨터 비전과 같은 서버 집약적인 애플리케이션의 경우, 자연어 처리 워크로드보다 더 높은 서버 대 IPU 비율을 적용하는 방식이다.

IPU-POD는 그래프코어의 스케일 아웃 머신 인텔리전스 솔루션으로, 1페타플롭(PetaFlops)의 1U(유닛) 데이터센터 AI 블레이드 IPU-M2000을 중심으로 인증을 받은 다양한 호스트 서버와 스위치로 구성된다. IPU 패브릭은 포플라 소프트웨어 플랫폼으로 수집된 커뮤니케이션과 컴퓨팅을 기반으로 고대역폭 연결성을 제공한다. IPU-POD는 현재 그래프코어의 2세대 IPU 콜로서스(Colossus) Mk2 GC200 4개로 가동되는 IPU-M2000 1개의 POD4, 4개로 이루어진 POD16, 16개로 이루어진 POD64 구성으로 제공 중이다.

IPU-M2000 4개가 호스트 서버에 직접 연결된 IPU-POD16 DA(Direct Attach)는 IPU 성능 테스트, 개념 증명 개발, 파일럿 등을 시작하는 AI 엔지니어들에게 적합한 IPU 시스템이다. IPU-POD64는 16개의 IPU-M2000, 1~4대의 호스트 서버와 2개의 스위치로 구성되며, 대형 모델 스케일 아웃과 생산 모델에 적합하다.

톰 윌슨 그래프코어 제품 관리 부사장은 “업계에서 가장 신뢰받는 브랜드인 슈퍼마이크로의 고성능 울트라 서버는 그래프코어의 AI 특화 IPU와 스케일 아웃 시스템을 완벽하게 보완한다”며 “이번 슈퍼마이크로 서버 인증은 지속적인 고객 서비스 확장의 일환으로, 그래프코어가 유연함과 신뢰를 갖춘 서비스 제공에 초점을 맞추고 있음을 보여주는 것”이라고 덧붙였다.

그래프코어는 계속해서 슈퍼마이크로의 서버 인증을 진행할 계획이며, 추가적으로 인증되는 서버들은 그래프코어의 인증 서버 리스트에 지속적으로 업데이트될 예정이다. IPU-POD를 비롯한 그래프코어 제품에 대한 더욱 자세한 내용은 그래프코어 웹사이트에서 확인할 수 있다.