에지 AI를 위한 AI 반도체 시장의 부상

[테크월드=신동윤 기자] 인공지능(Artificial Intelligence, 이하 AI)를 구현하기 위해서는 강력한 컴퓨팅 성능이 필요하다. 높은 성능의 CPU와 대용량의 고속 메모리 등, 많은 자원을 필요로 하는 AI의 특성으로 인해 현재 구현되고 있는 대부분의 AI 서비스는 데이터센터에서 이뤄지고, 에지로 결과를 전달하는 과정을 거쳐야 했다. 다시 말해 클라우드가 AI의 전제 조건이었던 것이다.

하지만 이런 복잡한 구조는 네트워크와의 연결이 필수적인 요소가 되기 때문에, 복잡한 구조로 인한 지연이나 서비스 중단으로부터 자유로울 수 없는 구조를 갖고 있다.
이에 많은 업체들이 좀더 저렴하고, 가볍고 작고, 전력 소모를 최소화하면서도 충분한 성능을 제공할 수 있는 AI 반도체에 관심을 보이고 있다. 이를 위해 개발된 AI 반도체는 스마트폰이나 IoT 디바이스, 자율주행자동차 등에서도 충분히 활용할 수 있을 정도의 성능을 제공하면서 저전력을 제공하고 또 저렴해야만 한다.

에지까지 AI 영역의 확장
AI의 핵심인 인공신경망을 통해 학습하고 추론할 수 있는 AI 반도체는 향후 데이터센터는 물론이고 에지까지 AI의 영역을 확장할 수 있는 핵심 부품으로 향후 급격한 성장세를 보일 것으로 예상되고 있다. 가트너는 이미 지난 2018년에 이어 2019년에도 10대 전략 기술 트렌드 중 하나로 에지 디바이스를 선정한 바 있으며, 구글의 선다 피차이(Sundar Pichai) CEO는 ‘구글 I/O 2019’에서 “AI를 직접 스마트폰에서 운용해, 비서처럼 쓸 수 있는 날이 올 것”이라고 말한 바 있다.

AI 반도체 시장은 향후 에지 컴퓨팅에 대한 요구가 높아지면서 수요가 급증할 것으로 기대되고 있다. 이 때문에 아직 시장 초기 단계임에도 불구하고, 인텔은 물론 엔비디아, 퀄컴, Arm 등의 전통적인 프로세서 업체는 물론 자일링스, 래티스, 마이크로칩 등의 FPGA(Field Programmable Gate Array) 업체, 그리고 구글, IBM, 애플, 마이크로소프트, 화웨이 등의 IT 기업들이 경쟁에 뛰어들고 있다.
우리나라도 지난 4월 정부가 메모리 반도체에 치우친 국내 반도체 산업의 한계를 극복하기 위한 시스템 반도체 육성 계획을 발표하면서 ‘차세대 지능형 반도체’를 개발하겠다는 계획을 발표했다. 과학기술정보통신부는 이 사업에 들어갈 1조 원 가운데 2475억 원을 AI 반도체 설계에 투자하기로 했으며, 2405억 원을 추가 투자해 현재 사용되는 반도체에 들어가는 트랜지스터를 대체할 신개념 소자도 개발하겠다고 밝혔다.
AI 반도체는 일반적으로 데이터센터 서버 또는 에지 디바이스에서 인공신경망 알고리즘만을 전문으로 계산하도록 최적화된 반도체로 정의할 수 있다.
여기에는 주로 기존 반도체 아키텍처 기반의 AI 연산 전용 가속 프로세서(Accelerator)가 대부분을 차지하지만, 대규모 병렬연산을 위한 NPU(Neural Processing Unit)도 포함하고 있다.

향후 ASIC이 시장의 대세로 자리잡을 것
글로벌 컨설팅 업체인 맥킨지는 다양한 학습과 자연어 처리, 추론에 이르는 다양한 분야에 적용될 AI 반도체 시장이 해마다 18%씩 성장해 2025년에는 전체 반도체 수요의 20%를 차지할 것이라고 예측했다.
또한 딜로이트는 2016년 AI 반도체 판매량을 약 10만 대로 계산했다. 이때는 거의 대부분을 GPU가 차지했었으나, 2018년 AI 반도체 판매량 분석시에는 전체 약 80만 대에서 GPU가 50만 대, FPGA 20만 대, ASIC(Application Specific Integrated Circuits) 10만 대로 다변화된 양상을 보여줬다. 이런 딜로이트의 분석의 GPU의 독주를 FPGA와 ASIC이 저지할 것이라는 기대감을 낳게 했으며, 트랙티카(Tractica)의 분석에 의하면 2025년에 이르면 전체 AI 반도체 중 ASIC이 가장 큰 부분을 차지하게 될 것으로 보인다.
시장조사기관인 트랙티카(Tractica)는 AI 반도체 시장이 2017년 16억 달러에서 2025년이면 663억 달러 규모로 성장할 것으로 예측하고 있다. 트랙티카에 의하면, 매출 측면에서는 ASIC 시장이 2025년까지 최대 규모가 될 것이며, 그 뒤를 GPU와 CPU가 이을 것으로 전망하고 있다.

또한 에지 컴퓨팅 시장에서 AI 가속 프로세서의 사용은 전체 시장 기회의 3/4 이상을 차지할 만큼 빠른 성장과 광범위한 수요를 예상하고 있다. 특히 스마트폰이나 자율주행자동차, 스마트카메라, 자율로봇, 양자컴퓨터 등의 분야에서 사용이 확산되면서 AI 반도체의 수요를 이끌 것으로 예측했다.

엔비디아가 AI 반도체 시장의 대부분 차지
AI 반도체로는 가장 대표적인 것이 GPU이며, 이외에 ASIC과 FPGA 등이 있다. GPU는 수천 개의 코어를 활용해 대량 연산을 병렬로 처리할 수 있다는 점에서 CPU에 비해 AI에 적합한 구조를 갖고 있다. 또한 FPGA는 회로 프로그래밍과 재구성을 통해 용도에 맞춰 최적화할 수 있어, AI와 같이 빠른 기술 발전이 이뤄지고 있는 분야에서 다양한 시도를 해볼 수 있다는 것이 장점이다.
반면 ASIC은 특정한 용도에 맞춰 주문 제작된 반도체로 빠른 속도와 높은 에너지 효율 등을 장점으로 갖추고 있지만 설계비용이 높고 특정 연산에 기능이 한정돼 있어서 범용성이 낮다는 한계를 갖고 있다.
GPU 분야의 선두 기업인 엔비디아(NVIDIA)는 이미 2000년대 초반부터 GPU의 유용함을 인식하고 AI 반도체를 개발하기 시작해, 현재 수많은 자율주행차, 영상 인식, 클라우드의 AI 서비스 등에 엔비디아의 GPU가 사용되고 있다.
가트너의 추산에 따르면 현재 AI 반도체 시장의 3/4 수준을 엔비디아가 차지하고 있다고 보고 있다. 엔비디아는 여기에 기존의 범용 AI 반도체 외에도 맞춤형 기반의 AI 반도체 시장까지도 넘보고 있으며, 이런 시도를 통해 지난해 데이터센터 대상의 AI 반도체로 매출 30억 달러를 기록했다.
범용 연산 처리 기반의 GPU와는 달리 FPGA와 ASIC는 특정 목적에 맞춰진 연산 처리만 수행하는 프로세서로, 최근 AI 프로세서로 활용되고 있다. 이미 마이크로소프트는 ‘프로젝트 카타펄트(Project Catapult)’를 통해 FPGA를 자체 클라우드 센터에 구현한 바 있으며, 구글은 ASIC 방식으로 AI 프로세서인 TPU(Tensor Processing Unit)를 발표했다.
한편 인간의 뇌 신경 구조를 모방해 만들어진 NPU도 차세대 AI 프로세서로 주목받고 있다. NPU는 특히 인간의 학습 방식에 착안해 만들어진 딥러닝(Deep Learning)에 적합한 구조를 갖고 있다는 평가를 받고 있다. 퀄컴은 이미 2 013년 제로스(Zeroth)라는 NPU를 개발했으며, IBM도 2014년 트루노스(TrueNorth)를, 그리고 2018년에는 삼성전자가 뉴로모픽을 적용한 AP인 엑시노스 9820을 발표한 바 있다.

이외에도 많은 스타트업과 기존 IT 업계의 선두주자인 HPE, 아마존, 구글, 인텔 등 많은 업체들이 AI 반도체 시장에 뛰어들면서 AI 반도체 시장은 상당기간 혼전을 면치 못할 것이다. 특히 서로 다른 방식의 AI 반도체가 수많은 업체들로부터 쏟아져 나오면서 고객들은 오히려 어떤 방식의, 어떤 제품을 선택해야 할 지, 너무나 많은 선택지로 인해 혼란을 겪게 될 수도 있을 것이다.