FPGA로 도둑잡는다! AI 가속기 활용한 영상 보안 플랫폼 ‘티뷰’
상태바
FPGA로 도둑잡는다! AI 가속기 활용한 영상 보안 플랫폼 ‘티뷰’
  • 선연수 기자
  • 승인 2019.11.06 09:36
  • 댓글 0
이 기사를 공유합니다

알베오 기반 AIX 적용 AI 기술 사례 발표

[테크월드=선연수 기자] 지난 1일 자일링스와 SK텔레콤(이하 SKT)이 공동 기자간담회를 열어 자일링스의 FPGA(Field Programmable Gate Array) 솔루션인 알베오(ALVEO)를 적용한 인공지능(AI) 스피커 누구(NUGU), 음성 인식 기업형 솔루션 바네사 스피치 노트(Vanessa Speech Note)에 대한 실적을 공개하고, 새롭게 협업할 영상 인식 솔루션 티뷰(T view)를 소개하는 자리를 가졌다.

 

왼쪽부터 차례로 SKT 티뷰 개발 신승호 팀장, SKT 정무경 머신러닝클라우드 개발 팀장, SKT 이강원 클라우드 랩실장, 자일링스 아태지역 세일즈 부문 샘 로간 부사장, 자일링스 데이터센터 프로덕트 마케팅 부문 아담 스크라바 디렉터

트랜지스터가 점점 작아지고 CPU 클럭 스피드가 점점 빨라지면서, 연산 처리 성능에는 한계점이 찾아왔다. 이에 병렬 프로세싱이 도입되고 멀티 이중 코어 바람이 불며 한 단계 발전했으나, 점점 늘어나는 코어에 이를 감당할 수 있는 기술이 필요하게 된다. 이제는 CPU가 아닌 아예 새로운 하드웨어와 AI 소프트웨어의 적용이 시도되고 있다.

자일링스 아태지역 세일즈 부문 샘 로간(Sam Rogan) 부사장은 “자일링스는 기술 흐름에 따라가기 위해 FPGA를 하드웨어 기술로 채택했다. 이는 GPU 대비 전력 소모가 작고 지연 시간이 짧으며, 뉴럴 네트워크의 발전 주기를 쫓기 어려운 회로 고정형 ASIC(Application Specific Integrated Circuit)이나 ASSP(Application-Specific Standard Product)에 비해, 기술 발전에 맞춰 회로를 수정할 수 있다는 장점을 가진다”고 설명했다.

이어진 실제 알베오 적용 사례 발표에 앞서 SKT 박진효 ICT 기술센터장은 “통신사가 왜 AI 가속기를 만드느냐?”라고 운을 떼며, “최근 통신사들은 통신에서 비통신 분야를 많이 강화해나가고 있다. SKT의 경우 ADT캡스와 같은 보안 업체를 인수했으며, 11번가를 통한 커머스 사업, 미디어 등 다양한 분야를 시도하고 있다”고 전했다.

 

“AIX로 4배 높은 비용 효율 달성할 것”

SKT 이강원 클라우드 랩실장

SKT 이강원 클라우드 랩실장은 “네트워크에 접속하는 모든 사람들이 자연스럽고 편하게, 언제 어디서나 지원받을 수 있는 유비쿼터스 AI 서비스 환경 구현”을 목표로 한다고 밝혔다. 이를 위한 SKT의 AI 추론 가속기가 ‘AIX(AI Inference Accelerator)’다. SKT는 3년 전부터 AIX를 개발을 해오고 있으며, 자일링스의 FPGA 위에 탑재하는 형식으로 기술을 활용하고 있다.

이강원 실장은 “작년에 자일링스와의 협업을 발표한 AI 스피커 누구는 기존 시스템 대비 3~5배의 가성비 개선을 보였으며, 콜센터 솔루션인 바네사 스피치 노트 역시 생명보험 기업과 은행에 공급함으로써 매출이 발생했다”고 설명했다. SKT 신승호 티뷰 개발 팀장은 “이번에 새롭게 적용하게 될 티뷰는 클라우드 기반 무단 침입 탐지 영상 보안 플랫폼으로 어마어마한 수의 카메라를 클라우드 상에서 처리하게 되는데, 이때 원가 경쟁력과 실시간성을 확보하는 게 관건”이라며, “기존의 티뷰에 AIX 가속기를 도입함으로써 원가는 약 4배, 실시간성은 2배 정도 높은 효율성을 나타낼 것”이라고 예상했다.

 

“실시간 AI 서비스 더욱 중요해져”

자일링스 데이터센터 프로덕트 마케팅 부문 아담 스크라바 디렉터

자일링스의 기술 발표를 진행한 자일링스 데이터센터 프로덕트 마케팅 부문 아담 스크라바(Adam Scraba) 디렉터는 “앞으로는 실시간 AI 서비스가 더 늘어나게 될 것이다. 아키텍처는 음성 처리에서 영상 처리의 영역까지 확대되고 있으며, 이는 네트워크와 스토리지가 서로 밀접한 관계가 되고 있음을 의미한다”고 설명했다. 이어 “SKT의 발표를 통해 봤을 때, 굉장한 수준의 처리량, 저지연, 그리고 전력 효율 관리가 주 과제다. 또한, 동시에 다양한 알고리즘을 지원할 수 있어야 한다”고 덧붙였다.

자일링스의 알베오는 서버나 클라우드에 관계없이 어떤 상황에서든 활용할 수 있다. 가속 요건에 따라 하드웨어를 변경하지않고도 다양한 작업부하에 최적화된 성능을 제공하며, 비용 또한 절감해주는 도메인 특화 아키텍처를 제공한다. 자일링스는 예시로 몬테카를로(Monte Carlo) 시뮬레이션 결과를 통해 알베오 U50이 GPU 대비 약 6배, CPU 대비 약 20배의 뛰어난 전력 효율을 보인다고 분석했다.

 

알베오로 AI 연산 작업부하 해결

자일링스의 알베오(Alveo) 가속기는 16nm 울트라스케일+(UltraScale+) 아키텍처를 기반으로 구현되며, 변화하는 알고리즘과 가속 요건에 최적화할 수 있어 자유롭게 적용할 수 있다. 제품을 교체하지 않아도 작업량 변경, 신규 표준 적용, 새로운 알고리즘의 최적화 등을 수행할 수 있다. 또한, 가속기 카드는 데이터센터 AI 작업부하에서 요구되는 성능과 유연성을 충족시킬 수 있도록 설계됐다.

 

자일링스 알베오 U50

지난 8월 출시한 알베오 U50은 단일 플랫폼으로 처리할 수 있도록 설계된 PCIe Gen 4를 지원하는 로우-프로파일(Low-Profile) 적응형 가속기 카드로, 클라우드 마이크로 서비스와 같은 새로운 동적 작업부하 문제를 해결해 처리량과 지연시간, 전력 효율을 10~20배까지 올릴 수 있는 제품이다.

 

자일링스 알베오 U250

작년에 출시한 알베오 U250은 머신러닝의 경우 고성능 CPU 대비 실시간 추론 처리량을 20배까지 높이고, 2ms 이하의 짧은 지연 시간을 갖는 애플리케이션에서는 고성능 GPU와 같은 고정 기능 가속기 대비 4배 이상 성능을 향상시킬 수 있다. 특히, 데이터베이스 검색 기능의 일부 애플리케이션에서는 CPU 대비 90배 이상의 성능을 발현할 수 있도록 가속화한다.

알베오 U250으로 구현된 SKT의 AIX 가속기와 티뷰 서비스는 현재 국내에 공급되고 있으며, 2020년 가을, 전세계 시장으로 공급을 확대할 예정이다. 티뷰는 SKT의 다른 라이선스 기업들의 리브랜딩 솔루션으로 먼저 상용화될 것으로 예상된다.


관련기사