엔비디아, AI 가속 위한 최신 개발자 도구와 앱 선보여

[테크월드뉴스=박규찬 기자] 엔비디아가 GTC에서 PC와 워크스테이션에서 AI를 가속하는 도구와 소프트웨어 개발 키트를 소개했다고 22일 밝혔다.

엔비디아의 RTX AI 플랫폼에는 윈도우 개발자가 AI 가속 PC와 워크스테이션에서 최고의 성능을 발휘하는 최첨단 생성형 AI 기능의 개발을 지원하는 도구와 소프트웨어 개발 키트가 포함된다.

매년 개최되는 엔비디아의 기술 콘퍼런스 GTC에서는 업계의 저명인사, 개발자, 연구자로 구성된 드림팀이 모여 서로에게 지식을 전수하고 AI와 가속 컴퓨팅의 미래에 박차를 가하고 있다.

이번 GTC 전시장에서 강력한 LLM을 데이터에 빠르고 쉽게 연결할 수 있는 기술 데모이자 개발자 레퍼런스 프로젝트인 챗 위드 RTX(Chat with RTX)가 새로운 기능과 모델을 선보였다.

RTX PC기반 생성형 AI 콘테스트 우승자는 지난 18일에 발표됐다. 엔비디아 텐서RT-LLM으로 가속화된 아웃룩LLM, 로켓 리그 봇챗, 클라라는 생성형 AI 무대의 AI 디코디드 강연에서 주목받았다. 다른 두 개의 AI 디코디드 강연에서는 생성형 AI를 활용한 콘텐츠 제작과 챗 위드 RTX에 대한 심층 분석이 다뤄졌다.

또 엔비디아 NIM 마이크로서비스가 RTX PC와 워크스테이션에 출시될 예정이다. 이는 업계 표준 API로 사전 구축된 컨테이너를 제공해 개발자가 RTX PC와 워크스테이션에 배포를 가속화하도록 지원한다. AI 모델의 사용자 맞춤화와 최적화 워크플로우 관리를 간편하게 만드는 개발자 툴킷인 엔비디아 AI 웨크벤치가 이제 RTX 개발자를 위해 정식으로 제공된다.

이런 에코시스템 통합과 툴은 새로운 윈도우 앱과 기능 개발을 가속화할 것으로 기대된다. 이번 콘테스트 수상작은 그러한 콘텐츠의 모습을 미리 엿볼 수 있도록 영감을 주는 작품이다.

앞으로 챗RTX(ChatRTX)로 이름이 변경될 챗 위드 RTX는 검색 증강 생성(RAG), 엔비디아 텐서 RT-LLM 소프트웨어, 엔비디아 RTX 가속 기능을 사용한다. 이를 통해 RTX 기반 윈도우 시스템에 로컬 생성형 AI 기능을 제공할 수 있다. 사용자는 로컬 파일을 데이터세트로서 미스트랄이나 라마 2와 같은 개방형 LLM에 빠르고 쉽게 연결하며 쿼리를 통해 상황에 맞는 답변을 빠르게 얻을 수 있다.

챗RTX에는 텍스트 외에도 음성과 이미지, 새로운 모델에 대한 지원이 곧 추가된다. 사용자는 AI로 음성 언어를 처리하는 자동 음성 인식 시스템인 위스퍼(Whisper)를 통해 챗RTX와 대화할 수 있게 된다. 이 기능을 사용할 수 있게 되면 챗RTX는 음성 언어를 이해하고 텍스트로 응답할 수 있다.

또 사진을 위한 지원도 추가될 계획이다. 오픈AI의 CLIP이 통합되면 개인 라이브러리에서 단어나 용어, 혹은 구문을 검색해 사진을 찾을 수 있다.

구글의 젬마 외에도 향후 업데이트를 통해 챗GLM2(ChatGLM2)가 지원될 예정이며 개발자는 깃허브에서 개발자 레퍼런스 프로젝트의 최신 버전부터 시작해 볼 수 있다.

엔비디아 RTX 개발자 콘테스트에서 엔비디아 생성형 AI는 개발자들이 윈도우 앱이나 플러그인을 구축할 수 있게 지원했다.

출품작 평가에 쓰인 세 가지 기준은 소셜 미디어에 게시한 짧은 데모 동영상, 프로젝트의 영향력 과 사용 편의성, 프로젝트에서 엔비디아의 기술 스택의 효과적인 사용 정도였다. 세 명의 우승자에게는 각각 엔비디아 딥 러닝 인스티튜트 GenAI/LLM 과정의 수강권이 주어졌다. 또 향후 개발 작업에 사용할 수 있는 지포스 RTX 4090 GPU를 비롯해 GTC 참가권이 부여됐다.

로켓 리그 봇챗 브라이언 카피(Brian Caffey) 개발자는 “거의 실시간으로 게임 이벤트에 메시지로 반응하는 봇과 대결하면 새로운 차원의 재미를 느낄 수 있다”며 “이번 개발자 콘테스트에 참가해 AI와 게임을 통합하는 접근법을 공유하게 돼 기쁘고 나의 프로젝트 대상은 RTX 하드웨어로 로켓 리그 게임을 하는 모든 플레이어들이다”고 말했다.

아웃룩LLM은 아웃룩 사용자에게 이메일 작성과 같은 생성형 AI 기능을 RTX PC와 워크스테이션의 이메일 클라이언트에서 안전하게 비공개로 제공한다. 이 기능은 텐서RT-LLM을 통해 제공되는 로컬 LLM을 사용한다.

인기 게임인 로켓 리그을 위한 로켓 리그 봇챗은 봇이 골을 넣거나 세이브를 하는 등의 게임 활동에 대한 기록을 기반으로 게임 안에서 상황에 맞는 채팅 메시지를 보낼 수 있는 플러그인이다. 봇 플레이어와의 오프라인 게임에서만 사용하도록 설계된 이 플러그인은 설정 메뉴를 통해 다양한 방식으로 구성될 수 있다.

클라라는 일반적인 영어 지침을 실행 명령어로 변형함으로써 파워쉘의 명령줄 인터페이스를 향상하도록 설계됐다. 이 확장 프로그램은 로컬에서 빠르게 실행되며 사용자가 파워쉘 컨텍스트를 유지하도록 한다. 이 확장 기능이 활성화되면 사용자는 영어 지침을 입력한 다음 탭 버튼을 눌러 클라라를 호출할 수 있다. 설치는 간단하며 스크립트 기반과 수동 설정 모두에 대한 옵션 기능이 있다.

한편 이번 GTC는 블랙웰 플랫폼의 출시부터 지구 기후를 위한 디지털 트윈까지 인상적인 소식들을 전했으며 RTX PC와 워크스테이션의 사용자와 개발자가 생성형 AI의 미래를 엿볼 수 있는 기회를 제공했다.