마이크로칩, 슈퍼플래시 기술로 AI 추론 컴퓨팅 전력 대폭 절감
상태바
마이크로칩, 슈퍼플래시 기술로 AI 추론 컴퓨팅 전력 대폭 절감
  • 이건한 기자
  • 승인 2019.08.12 13:13
  • 댓글 0
이 기사를 공유합니다

[테크월드=이건한 기자] 인공지능(AI) 프로세싱이 클라우드에서 네트워크 엣지로 이동하며 요즘은 배터리로 구동되던 고성능 임베디드 디바이스가 컴퓨터 비전, 음성 인식 등과 같은 AI 기능까지 수행해야 하는 상황이 됐다.

마이크로칩테크놀로지는 자회사인 실리콘 스토리지 테크놀로지(SST)를 통해 자사의 아날로그 메모리 기술인 멤브레인(MemBrain) 뉴로모픽(Neuromorphic) 메모리 솔루션을 적용해 소비전력을 대폭 줄임으로써 이러한 문제에 대처할 수 있다고 밝혔다. 

자료=마이크로칩
사진=마이크로칩

슈퍼플래시(SuperFlash) 기술을 바탕으로 신경망의 벡터 행렬 곱셈(VMM) 수행에 최적화된 마이크로칩의 아날로그 플래시 메모리 솔루션은, 아날로그 인메모리 컴퓨팅 접근방식을 통해 VMM의 시스템의 아키텍처를 개선해 엣지 디바이스에서의 AI 추론 기능을 끌어올린다.

현행 신경망 모델들의 경우 프로세싱에 필요한 시냅스(가중치)가 5000만 이상 필요할 수 있어 오프칩 DRAM 대역폭을 충분히 확보하기가 어려워지고, 이로 인해 신경망 컴퓨팅에 병목 현상이 발생해 전체 컴퓨팅 소비전력이 증가한다.

반면에 멤브레인 솔루션은 시냅스 가중치를 온칩 플로팅 게이트에 저장하므로 시스템 지연 시간이 유의미하게 개선된다. 기존 디지털 DSP, SRAM/DRAM 기반 접근 방식과 비교해 멤브레인 솔루션은 소비 전력이 10배에서 20배가량 낮고 BOM도 대폭 감소한다. 

SST 라이선스 사업부의 부사장인 마크 라이튼(Mark Reiten)은 “자동차, 산업과 소비자 시장을 대상으로 하는 기술 제조사들이 계속해서 신경망용 VMM을 구현하고 있기 때문에, SST의 아키텍처는 이들 전향적 솔루션들이 전력, 비용, 지연 시간 측면에서 효과를 거두는 데 도움을 준다”고 말했다.

 

 


관련기사