AMD 리사 수, “엔비디아 AI에서 선두 오래 유지 못할 것"

[테크월드뉴스=박예송 기자] 엔비디아는 현재 AI 시장의 선두주자로 여겨지고 있다. 그러나 AMD의 리사 수 CEO는 “AI 시장에서 절대적 우위를 점한 기업은 없다”며 엔비디아의 아성에 주눅 드는 기색이 없다. 또한 “AI 시장은 빠르게 변화하고 있으며 아직 초입단계에 있는 상황에서 앞으로의 AI의 발전은 이전과 다를 것”이라고 예측했다.

▶절대적 우위 기업 없는 AI 시장

지난해 캘리포니아에서 열린 코드 컨퍼런스에서 AMD 리사 수 CEO는 "AI 시장의 발전 속도가 워낙 빠르기 때문에 아직 경제적 해자를 형성한 기업이 없다"고 말했다. 현재 절대적인 우위를 점하고 있는 AI 칩 회사가 없다는 것이다.

경제적 해자는 경쟁 우위를 유지하는 기업의 능력을 의미한다. 해자란 과거 중세시대에 성 밖의 둘레를 파서 적의 침입에 대비하기 위해 만든 연못을 말한다. 예를 들어 구글은 2023년 1분기 기준 전 세계 검색 시장 점유율이 85%에 달하면서 경쟁사보다 절대적인 우위를 점하고 있다. AI 시장에서는 엔비디아가 그렇게 간주되기도 했다.

리사 수는 엔비디아의 H100이 AI 훈련 워크로드 측면에서 강점을 가지고 있다고 인정했다. 그러나 AI 시장은 한 칩 제품이 다른 칩 제품보다 더 나은 이분법적인 시장이 아니라고 설명했다. 어떤 제품은 AI 훈련에 탁월한 반면 어떤 제품은 AI 추론에 더 적합할 수 있다며 이는 전적으로 제조업체가 구성 요소를 어떻게 결합하는가에 달려 있다고 말했다.

리사 수는 AMD가 MI300을 통해 LLM 추론 작업에 탁월한 AI 추론 제품을 개발했다고 강조하며 앞으로 AMD는 AI 추론에서 큰 시장 수요를 창출할 것으로 예상했다. 때문에 리사 수는 현재 AI 시장에 경제적 해자와 같은 큰 장애물이 있지 않다고 말했다.

▶엔비디아 CUDA, 네트워크 효과 흔들릴 수도 있어

현재 엔비디아가 AI 칩 분야에서 큰 우위를 점하고 있는 것은 분명하다. 리사 수의 말에 따르면 하드웨어의 우위는 덧없을 수 있기 때문에 엔비디아가 AI 시장을 주도할 수 있었던 것은 쿠다(CUDA)의 네트워크 효과 덕분일 가능성이 크다.

쿠다는 엔비디아에서 개발한 GPU용 병렬 프로그래밍 아키텍처다. 쿠다를 활용한 cuDNN 라이브러리가 딥러닝 모델을 빠르게 구동하기 때문에 많은 AI 개발자가 이 라이브러리 위에 AI 모델을 쌓아올렸다. 쿠다의 DNN 라이브러리는 엔비디아 GPU만 사용할 수 있기에 엔비디아 GPU가 기본 하드웨어로 자리 잡았다.

그러나 리사 수는 엔비디아가 쿠다를 통한 완전한 네트워크 효과를 달성했다고 보지 않았다. 네트워크 효과는 사람들이 한 시장에서 선점된 기술이나 제품들을 의례히 사용하는 것으로 대표적인 예로는 마이크로소프트 오피스(Microsoft Office, 이하 오피스)가 있다.

오피스와 비교했을 때 쿠다는 네트워크 효과를 누리기엔 불리한 조건을 가지고 있다. 엔비디아의 GPU는 현재 칩당 3만 달러(약 4000만 원) 이상으로 비싼 가격을 지불해야 한다. 현재 개발에 가까운 단계에서는 이 비용이 용납될 수 있지만 앞으로 많은 기업에서 AI 도입이 활발해지면 높은 비용은 허들이 될 가능성이 있다.

AI 시스템에 수천 개의 칩이 필요하다는 점을 감안하면 대규모 클라우드 플랫폼 및 기타 AI 고객이 경쟁력 있는 다른 대안을 찾을 유인이 크다. 반면 오피스는 기업의 전체 비용 계획에서 볼 때 비싼 제품이 아니다.

또한 AI 붐은 불과 1년 전 오픈AI의 챗GPT 등장과 함께 본격적으로 시작되면서 비교적 초기 단계에 있다. 따라서 경쟁사들이 충분히 빠르게 움직인다면 엔비디아의 해자가 더 굳어지기 전에 강력한 오픈소스 경쟁 플랫폼이 등장할 수 있다.

▶이전과는 달라질 AI 발전

실제로 최근 두 차례의 AI 및 데이터센터 칩 프레젠테이션에서 인텔과 AMD는 모두 쿠다의 대안을 제시했다. 각 기업 소프트웨어 스택의 흥미로운 점은 소프트웨어 개발자가 쿠다로 작성된 프로그래밍 코드를 가져와 다른 하드웨어에서 사용할 수 있도록 다른 플랫폼으로 포팅(Porting)할 수 있는 기능을 갖추고 있다는 점이다.

AMD의 소프트웨어 스택은 ROCm이라고 불리며 MI300과 같은 AMD의 Instinct AI 칩 라인에 탑재될 예정이다. 중요한 점은 개발자가 다른 GPU의 코드를 포팅 할 수 있는 포팅 기능이 있다는 것이다.

인텔 또한 오픈소스 AI 프로그래밍 플랫폼인 SYCL를 통해 개발자가 쿠다에서 SYCL로 코드를 포팅할 수 있는 SYCLomatic이라는 툴을 지난해 출시했다. 이는 쿠다 코드의 90% 이상을 SYCL로 포팅할 수 있으며 약간의 조정만으로 다른 가속기에서 쿠다 코드가 호환되도록 만들 수 있다.

쿠다는 엔비디아의 GPU만 사용이 가능한 반면 AMD와 인텔의 소프트웨어는 쿠다 코드까지 호환될 수 있다는 점에서 포팅은 엔비디아에 대적할 강점이 될 것으로 보인다.

리사 수는 AI 업계의 경쟁은 생각보다 훨씬 더 개방적이라며 현재 엔비디아가 AI 분야의 선두주자이지만 향후 10년의 발전은 지난 10년과 크게 달라질 것이며 AI 개발 방식도 변화하고 있다고 말했다.