NXP, 엣지 머신러닝 MCU 기반 글로우 NN 컴파일러 공개
상태바
NXP, 엣지 머신러닝 MCU 기반 글로우 NN 컴파일러 공개
  • 선연수 기자
  • 승인 2020.07.30 20:17
  • 댓글 0
이 기사를 공유합니다

[테크월드=선연수 기자] NXP 반도체(이하 NXP)가 글로우(Glow) 신경망(NN, Neural Network) 컴파일러를 위한 eIQ 머신 러닝(ML) 소프트웨어를 지원한다. NN 컴파일러 실행을 통해 NXP의 i.MX RT 크로스오버 MCU에서 적은 메모리 사용량(Footprint)으로 우수한 성능을 구현할 수 있을 것으로 기대된다.

 

페이스북(Facebook)이 개발한 글로우(Glow, Graph Lowering NN compiler)는 타깃별 최적화를 통합할 수 있다. NN 컴파일러로 글로우는 최적화되지 않은 신경망을 가져와 최적화가 잘된 코드를 생성한다.

더 높은 성능을 요구하고, 메모리 오버헤드를 추가하는 JIT(Just-in-time, 적시) 컴필레이션이 활용되는 일반 신경망 모델 프로세싱과는 차이를 보인다. 글로우에서 직접 최적화된 코드를 돌리면 프로세싱과 메모리 요건이 현격히 줄어드는 장점이 있다.

NXP는 글로우 오픈 소스 커뮤니티에서 적극적인 역할을 맡아 새로운 글로우 기능이 포괄적으로 채택되도록 지원한다. NN 오퍼레이터 라이브러리(Operator library)를 사용해 이 기능을 Arm 코어텍스(Cortex)-M 코어와 카덴스 텐실리카(Cadence Tensilica) HiFi 4 DSP에 적용함으로써, i.MX RT685, i.MX RT1050, RT1060의 추론 성능도 최적화했다.

이 기능은 NXP MCUXpresso SDK에서 무료로 제공되는 NXP eIQ 머신 러닝 소프트웨어 개발 환경(Machine Learning Software Development Environment)에 통합됐다.

eIQ에 글로우와 텐서플로우 라이트(TensorFlow Lite)에 대한 추론 지원도 포함된다. NXP는 두 가지 모두에 대해 정례적으로 벤치마킹 활동을 실행해 성능을 측정하고 있다. MCU 벤치마크에는 CIFAR-10와 같은 표준 NN 모델이 포함된다.



댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
0 / 400
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.