[테크월드=배유미 기자]
스마트폰에 탑재된 음성비서는 디바이스와 AI가 융합된 좋은 예시 중 하나다. 질문을 하면, 오디오는 녹음돼 음성인식과 언어 이해를 위한 클라우드로 보내진다. 클라우드에서 데이터 처리과정을 거친 후, 그 결과는 스마트폰으로 전달돼 사용자는 관련 정보를 파악할 수 있다.
이처럼 현재 우리가 사용하고 있는 디바이스 내 AI는 중앙 처리장치를 거친다. 하지만 이 AI가 중앙 처리장치를 거치지 않고 바로 단말에서 처리된다면, 좀 더 빠르고 효율적인 데이터 처리가 가능할 것이다.
이에 맞춰 최근 엣지에 적용된 머신러닝과 포그 컴퓨팅에 대한 연구가 진행되고 있다. 이 엣지에 적용된 머신러닝은 하드웨어와 소프트웨어의 전반적인 판도를 뒤바꿀 것으로 예상된다. 엣지 머신러닝은 어떻게 적용돼 가고 있는 지 알아보도록 하겠다.
프로세서 구조
프로세서 공급업체들이 IoT와 엣지 머신러닝을 주목하기 시작했다. Arm은 60Hz 비디오의 고성능 머신러닝과 객체 탐지에 초점을 맞춘 프로젝트 트리움(Project Triium) 프로세서 아키텍처를 공개했다. 인텔도 최대 18개 코어를 지원하는 엣지 애플리케이션용 제온(Xeon) 프로세서를 출시했다. 이처럼 각 프로세서 공급업체들은 머신러닝, 딥러닝 알고리즘에 초점을 맞춰 서비스를 선보이고 있다.
또한 그래픽 처리장치(GPU)도 복잡한 데이터 처리와 함께 인간의 뇌 기능을 모방한 네트워크인 신경망(Neural Network)을 가속화하기 위한 방향으로 생산되고 있다. 대표적인 예시로 구글은 처음부터 신경망 작업을 위해 설계된 맞춤형 애플리케이션 통합 회로(ASIC) 텐서 프로세싱 유닛(TPU)을 선보였다. 이는 차지하는 부피가 작고, 전력 소비량이 적어 엣지에 사용되기에 적합하다.
저장 구조
기존에는 비영구 데이터와 영구 데이터의 경계가 뚜렷했고, 이를 취급하는 메모리도 확실히 구분할 수 있었다. 그러나 IoT와 엣지의 등장으로 더 이상 데이터를 기존처럼 구분할 수 없게 됐다. 이에 따라 새로운 데이터 저장기술들이 등장하기 시작했다.
위 그림은 다양한 프로세서의 종류를 전력과 성능에 따라 분류한 것이다. 각각은 유형에 따라 적절하게 데이터를 읽고 쓰고 저장할 수 있으며, 머신러닝에 적용되는 데이터를 최적화할 수 있다. 다시 말해, 각 데이터의 종류별로 적절한 프로세서를 이용해 더 빠르고 정확하고 효율적으로 처리할 수 있도록 한다.
통신 기술
기존 엣지 솔루션의 경우에는 클라우드에 수집된 데이터를 분석하는 방식으로 처리가 진행됐다. 엣지 머신러닝은 결국 중앙에만 주어졌던 데이터 처리와 머신러닝 기능을 엣지에도 밀어내 각 디바이스에 자율성과 능동성을 부여하겠다는 것을 의미한다. 분석을 위해 굳이 데이터를 클라우드에 노출시키지 않아도 된다는 것이다.
자율적인 엣지 솔루션을 사용하기 위해서는 각 디바이스가 원활하게 소통할 수 있는 기술도 필요하다. 이에 따라 국소 예측과 빠른 데이터 전송을 지원할 수 있는 5G 기술의 중요성이 대두되고 있다. 이는 엣지에서 일부 머신러닝이 수행된 후 클라우드에서 완료되는 ‘하이브리드 솔루션’에서도 중요한 역할을 한다.
엣지 컴퓨팅의 성장은 5G 시장을 키우고, 대역폭 등의 기술 발전 또한 이끌 전망이다. 또한, 협대역 IoT(NB-IoT)나 저전력 광역 네트워크(LPWANs)와 같은 다른 기술들이 속도, 범위, 저전력 요구사항 등에서 기술적으로 보완할 것이다.
IoT, 엣지를 넘어 포그 컴퓨팅까지 등장하는 가운데, 세계 기술 제공자들과 머신러닝 엔지니어들은 이에 따른 요구사항을 충족시키기 위해 끊임없이 연구하고 있다. 또한, 축소되고 분산되는 플랫폼으로 머신러닝에 대한 접근방식도 변하고 있는데, 이를 통해 알고리즘과 데이터의 병합을 언제 어디서든 구현할 수 있을 전망이다. 유저의 최측근에 더욱 다가선 머신러닝 기술을 체험할 것을 기대해 보자.
그래도 삭제하시겠습니까?