딥엑스, 초저전력 온디바이스 AI 반도체 개발 나서

[테크월드뉴스=박규찬 기자] 딥엑스가 LLM 및 생성형 AI를 실용화시킬 초저전력 온디바이스 AI 반도체 개발 나선다.

딥엑스는 생성형 AI를 인류가 상용화할 수 있는 결정적인 기술로 ‘거대 AI의 연합 구동(Federated Operation of LLM)’이라고 정의하고 기술 개발에 나서는 반면 2월 말에 열리는 MWC 2024 참가해 글로벌 협력사와의 제휴를 확장할 계획이라고 6일 밝혔다.

현재 국내 및 유럽 이동통신사, 글로벌 데이터센터 기업들과 제휴를 맺으면서 네트워크 및 클라우드 시스템과의 호환성 및 최적화를 추진 중에 있다.

딥엑스는 지난 CES 2024에서 1세대 온디바이스 AI 반도체 기술을 선보이며 3개 부문의 CES 혁신상 수상, 5000명 이상의 관람객이 부스를 방문하며 종합 AI 반도체 원천기술 기업의 글로벌 리더로서 입지를 굳혔다.

이번 성과는 딥엑스의 고객사 기술 협력 프로그램인 EECP의 고객 수가 두 배로 늘며 70여 글로벌 기업과 협력하게 돼 딥엑스의 온디바이스 AI 솔루션에 대한 산업계 수요가 증가하고 있음을 입증했다. 딥엑스는 이런 성과를 오는 2월 26일부터 29일까지 바르셀로나에서 열리는 MWC 2024전시회에도 이어나 갈 계획이다.

아울러 딥엑스는 서버의 초거대 AI와 온디바이스의 거대 AI를 연합구동하는 기술을 개발해 개인화 기기에서 지능은 초거대 AI의 수준으로 전력은 수 와트로 구동할 수 있는 온디바이스 AI 반도체를 내년 하반기에 선보일 예정이다.

이런 배경에는 작은 크기의 AI 모델뿐 아니라 거대언어모델(LLM) 및 생성형 AI와 같은 초거대 AI를 널리 보편화할 수 있는 근본적인 솔루션은 온디바이스 AI이라는 점이 대두되고 있기 때문이다.

최근 챗GPT, 제미나이 등 LLM 서비스를 위해 엔비디아의 GPGPU 기반 솔루션이 가장 가성비 높은 솔루션으로 주목받고 있지만 거대 AI 모델의 상용화가 확대됨에 따라 전 세계에서 소모되는 GPU의 전력 에너지가 한 나라의 전력 에너지를 넘어서는 수준에 이르렀다.

이 서비스가 일상화된다면 전력 요구량과 비용은 인류가 감당할 수 없는 치명적인 수준에 이르게 될 것이다. 이에 마이크로소프트, 아마존, 메타, 구글, 오픈AI 등은 GPU를 대체하고 자사의 AI 알고리즘 수행에 최적화된 자체 칩을 제작하는 상황이다.

딥엑스의 AI 반도체 원천기술은 온디바이스에서 AI 구동 시 고성능, 저전력, 경제성을 획기적으로 향상시키는데 최적화돼 있다. 이와 같은 강점을 차세대 기술에도 적용해 딥엑스는 생성형 AI를 인류가 상용화하는 데 결정적인 기술로 ‘거대 AI의 연합 구동(Federated Operation of LLM)’이라 정의하고 핵심기술로 개발할 계획이다.

회사에 따르면 이 기술은 서버의 초거대 AI와 온디바이스의 거대 AI 모델간 협력을 통해 데이터센터에만 의존하는 것보다 에너지 소모, 탄소 배출 및 비용을 작게는 10배에서 1000배까지도 저감할 수 있을 것으로 기대된다.

딥엑스 김녹원 대표는 “딥엑스는 AI 구동을 위한 전력과 비용 효율에서 글로벌 초격차 원천 기술을 보유하고 있으며 국제적 인정도 받았다”며 “올해 하반기부터 양산되는 4개의 AI 반도체로 구성된 1세대 제품을 통해 글로벌 시장 공략을 본격화하면서 AI Everywhere 시대를 열어가겠다”고 말했다.

이어 그는 “후속으로 5W 이하에서 초거대 AI 수준의 인공지능 서비스가 가능한 신기술을 개발해 챗GPT로 촉발된 거대 인공지능 기술이 과학의 영역을 넘어 인류가 널리 사용할 수 있게 하는 핵심기술을 제공하겠다”며 “이를 통해 글로벌 시장을 선도하는 종합 AI 반도체 회사가 되도록 도전하겠다”고 덧붙였다.