EPNC(월간 전자부품 뉴스) UPDATED. 2019.1.16 수 18:45

상단여백
EPNC(월간 전자부품 뉴스)
HOME 마이크로사이트 MOUSER 뉴스레터
이제 머신러닝으로 인한 보안 문제에 대비해야 할 때
신동윤 기자 | 승인 2018.09.12 09:00

머신러닝은 광범위한 적용 분야에서 강력한 기술이라는 인식을 빠르게 쌓아가고 있다. 머신러닝 알고리즘, 특히 DNN(Deep Neural Network)은 초기 이미지 인식 기법과 비교했을 때, 엄청난 진보를 보여주고 있으며, 구글이 이를 텍스트 번역 서비스에 적용했을 때, 사용자들은 즉각적이고 획기적인 개선을 느낄 수 있었다. 머신러닝 기법은 이미 이메일 스팸 필터링이나 맬웨어 탐지, 보안 위협 탐지 등은 물론이고, 자율주행과 같은 새로운 기술이 적용되고 있는 영역에서 조용하지만 중요한 역할을 수행하고 있다. 하지만 머신러닝 기술에 대한 적절한 주의와 인식이 필요함에도 불구하고 많은 사람들이 놓치고 있다. 이를 충분히 준비하지 않는다면, 향후 머신러닝이 더욱 광범위하게 확산되고, 일상 생활 속으로 깊숙히 침투하게 됨에 따라 아마도 새로운 유형의 보안 위협이 발생하게 될 것이다.

지난 몇 년간 머신러닝 알고리즘에 대해 연구해 온 연구자들은 훈련된 머신러닝 모델이 데이터를 잘못 분류하도록 속일 수 있다는 것을 인지했다. 연구자들은 많은 다른 기술을 사용해, 입력 데이터를 조작해 모델을 속일 수 있고, 노이즈를 추가하는 등의 단순한 방법으로 머신러닝 모델을 바보로 만들 수 있다는 것을 확인했다. 보다 복잡한 방법에서, 입력 데이터의 미묘한 변경을 찾기 위해 대립 관계의 신경망을 사용하는 것은 오분류로 이어질 수 있다. 이런 잘못된 분류는 자율주행같은 분야에서 심각한 문제를 초래할 수 있다. 예를 들면 정지 신호를 속도 제한 신호로 잘못 분류한다면 간단한 법규 위반에서부터, 부상이나 사망 등 대형 사고로 이어질 수 있기 때문이다.

대부분의 경우 연구자들은 화이트 박스 모델에 이런 기술을 적용해 공격을 받는 신경망의 내부 동작을 완벽하게 파악할 수 있다. 이정도 수준의 가시성으로 결과를 바꿀 수는 없을 수도 있지만, 화이트박스 모델에서 발견되는 취약점이 실제 애플리케이션에 적용되는지에 대해서는 여전히 의문이 남아있다. 하지만 이런 의문점은 블랙박수 모델에서 공격이 성공하지 시작했을 때, 곧 사라졌는 데, 블랙박스 모델은 입력 데이터를 표시하고 추론 결과를 보여주는 기능만 포함하고 있었다.

이런 성공적인 블랙박스 공격에서 연구원은 두 모델이 동일한 입력 데이터를 받았을 때, 블랙박스 모델에 의해 생성된 결과를 모방하도록 훈련된 병렬 모델을 만들었다. 이 접근방법과 유사한 다른 방법들은 대규모의 입력 데이터 세트와 이에 대응하는 많은 공격을받는 모델에 대한 입력 쿼리를 필요로한다. 이런 문제 때문에, 공격자가 적용할 수 있는 입력 쿼리의 수에 제한이 있거나 출력 데이터나 세부 정보의 양에 제한이 있을 수 있는 실제 상황에서 블랙박스 공격과 같은 공격 방식이 실제로 적용될 수 있는 지 여부에 대한 질문이 남아있다. 연구자들에 의해 엄격한 제약 조건 속에서도 블랙박스 모델을 속여 데이터를 오분류하게 만들 수 있다는 사실을 알게된 지금은 그런 질문조차도 사라졌다.

이 화이트햇(White-hat) 공격이 특히 문제가 되는 이유는, 해커가 대부분의 사람들이 사소사거나 심지어 알아채지도 못하는 수준의 입력 수정으로 모델을 속일 수 있다는 것이다. 모델은 미세하게 변경된 사진을 사람이 인지하는 것과는 전혀 다르게 분류할 수도 있다. 마찬가지로, 음성의 오디오 스트림에 단어를 미묘하게 추가함으로써, 사람이라면 원래의 문장으로 듣게 될 오디오 스트림을 모델은 주입된 문구로 인지하게 만들 수도 있다.

본질적으로 DNN은 이런 종류의 취약점을 갖고 있으며, 심지어 이런 취약점의 보완을 매우 어렵게 만든다. DNN을 구성하는 여러 계층의 뉴런은 원래 입력에서 파생된 수많은 특징들 간의 복잡한 연관성을 구축하면서 입력을 분류해 나간다. 미시적인 영역에서 이런 과정이 어떻게 동작하는지에 대해서는 대부분의 사람들이 잘 알지 못한다. 실제로 DNN이 결과를 산출하는 방법에 대한 일반적인 이해는 지나치게 제한돼 있어, 최적의 모델 매개 변수나 아키텍처를 찾기 위한 일반화된 알고리즘이나 경험적인 방법 또한 존재하지 않는다. 경험이 많은 연구원들은 가능한 많은 대체 아키텍처를 시도하고, 설계를 계속 수정해 나가면서 결과를 가장 잘 드러낼 수 있는 최고의 모델을 찾는 것이 중요하다고 말한다.

DNN의 결과 산출 방식에 대한 이해의 부족은 바로 이를 악용할 수 있는 위협의 통로 역할을 한다. 또는 더 정확하게 해커에게 잠재적인 백도어를 제공하는 것이나 마찬가지다. 예를 들어, 이미지 인식 모델을 만드는 가장 효율적인 방법 중 하나인 커스텀 모델을 개발하기 위한 방법으로 가장 효율적인 방법 중 하나인, 미리 훈련된 다른 모델을 사용하는 것이다. 모델의 동작에 대한 세부적인 부분에 대한 이해의 부족으로 인해, 해커는 기존 모델(즉, 별다른 효과를 발휘하기 힘든)을 손상시키고, 사전 훈련된 모델의 저장소에 수정된 모델을 시드(Seed)하는 경우도 있다. 이후 개발자가 손상된 모델을 시작점으로 사용할 경우, 커스텀 모델은 해커에게 대상 애플리케이션과 관련 자원에 대한 백도어를 제공할 수 있다.

머신러닝 애플리케이션에서 이런 위협과, 위협의 완화는 이제 막 보안이 시작되는 단계에서 드러나고 있는 문제의 일부에 불과하다. 이런 보안 문제에 대한 가장 가능성이 높은 대처 방법은 바로 보안 위협에 있으며, 화이트햇 해커는 블랫햇 해커가 이런 머신러닝 모델을 손상시키는 데 사용하는 기술을 사용해 모델을 보호할 가능성이 높다. 지금 당장 우리가 할 수 있는 것은 이런 보안 위협이 어떤 문제를 야기할 것인가에 대해 인지하고 분류함으로써 대비하는 것이다. 머신러닝 모델 보안의 초기 단계에서는 이런 위협에 대한 대비는 일반적인 제품 개발에서 보안 취약점을 보완하는 적용되는 동일한 기반이, 머신러닝 모델의 도입과 커스텀 모델의 개발에도 동일하게 적용돼야 하는 필수사항이라는 점을 이해하는 것에서부터 시작해야 한다.

 

Written by 스티픈 에반크주크(Stephen Evanczuk) & Provided by 마우저 일렉트로닉스 (Mouser Electronics)

 

[편집자 주] 본 기사는 글로벌 전자부품 유통회사인 마우저 일렉트로닉스 (Mouser Electronics)의 후원을 바탕으로 진행되는 EPNC의 단독 외부 기고입니다.

#마우저#머신러닝#인공지능#DNN#보안#AI#Security

신동윤 기자  dyshin@techworld.co.kr

<저작권자 © EP&C News, 무단 전재 및 재배포 금지>

신동윤 기자의 다른기사 보기
PREV NEXT

  •                                            
여백
여백
여백
여백
여백
Another Article
마우저 일렉트로닉스, 최신제품 421종 이상 추가·공급
마우저 일렉트로닉스, 최신제품 421종 이상 추가·공급 [EPNC=양대규 기자] 마우저 일렉트로닉스는 신제품과 신기술을 신속하게 소개하는 유통기업이다. 신제품 소개(NPI) 부문을 주도하는 마우저는 제조사 750곳 이상의 최신 제품 공급과 신기술 제공을 제일 중요한 가치로 여겨 고객들이 첨단 제품을 이용해 제품 출시 시간을...
마우저, 인텔의 AI 추론 개발 플랫폼 ‘뉴럴 컴퓨트 스틱 2’ 공급
마우저, 인텔의 AI 추론 개발 플랫폼 ‘뉴럴 컴퓨트 스틱 2’ 공급 [EPNC=양대규 기자] 마우저 일렉트로닉스가 인텔(Intel) 뉴럴 컴퓨트 스틱 2(NCS 2)를 공급한다. NCS 2는 더욱 똑똑한 알고리즘을 개발하고 IoT(사물인터넷), 엣지 컴퓨팅 장치용 컴퓨터 비전 제품의 시제품 제작에 사용되는 차세대 AI(인공지능) 추론 ...
마우저, 산업 IoT의 기회와 장애물에 대한 전자책 발행
마우저, 산업 IoT의 기회와 장애물에 대한 전자책 발행 [EPNC=양대규 기자] 마우저 일렉트로닉스가 수상 경력이 있는 ‘협업을 통한 혁신’(Empowering Innovation Together)의 최신 시리즈인 ‘모든 것의 IoT’(All Things IoT)의 하나로 산업 자동화에 초점을 맞춘 새로운 전자책을 발행했다...
마우저, 마이크로세미의 PolarFire FPGA 공급
마우저, 마이크로세미의 PolarFire FPGA 공급 [EPNC=양대규 기자] 마우저 일렉트로닉스가 마이크로칩 테크놀로지의 자회사인 마이크로세미(Microsemi)의 PolarFire FPGA를 공급한다. 플래시 기반의 중거리 PolarFire FPGA로, 300K 논리 소자를 전달하며 기존 SRAM 기반의 FPGA보다 ...
마우저의 기술 전자잡지 ‘Methods’, IoT의 똑똑한 엣지 컴퓨팅 기술 다뤄
마우저의 기술 전자잡지 ‘Methods’, IoT의 똑똑한 엣지 컴퓨 [EPNC=양대규 기자] 마우저 일렉트로닉스가 기술과 솔루션 관련 전자잡지 Methods 최신호 2권 3호를 발행했다. 이번 최신호는 현재 클라우드에서 실행되는 데이터 가공, 의사 결정 작업을 처리하는 등 더욱 똑똑해지고 있는 에지 디바이스의 발전을 다룬다. ...
마우저, TI의 GaN 전력단 LMG3410R070 공급
마우저, TI의 GaN 전력단 LMG3410R070 공급 [EPNC=양대규 기자] 마우저 일렉트로닉스가 텍사스 인스트루먼트(Texas Instruments, TI)의 600V, 70mΩ, GaN(질화갈륨) 소재의 전력단 LMG3410R070을 공급한다. 초저 입·출력 정전용량을 갖춘 LMG3410R070은 산업·소...
IIoT 환경을 위한 Wi-Fi 메시 네트워크의 가능성
IIoT 환경을 위한 Wi-Fi 메시 네트워크의 가능성 IoT와 산업 분야에 특화된 IIoT의 성장에 대한 수많은 글들이 쏟아지고 있다. IIoT는 특히 4차 산업혁명이라고 불리는 새로운 트렌드를 이끌어 나갈 핵심 요소로 주목받고 있다. 소위 말하는 인더스트리 4.0은 비전을 통해 수많은 약속을 하고 있다. 이는 이전의 산...
마우저·이마하라, 새로운 시리즈 'All Things IoT' 방송 공개
마우저·이마하라, 새로운 시리즈 'All Things IoT' 방송 [EPNC=양대규 기자] 마우저 일렉트로닉스와 유명 엔지니어 그랜트 이마하라(Grant Imahara)가 수상 경력이 있는 ‘협업을 통한 혁신’(Empowering Innovation Together)의 새로운 시리즈 ‘모든 것의 IoT’(All Things IoT)의...
마우저, ‘홈오토메이션’ 관련 전자책 발행
마우저, ‘홈오토메이션’ 관련 전자책 발행 [EPNC=양대규 기자] 마우저 일렉트로닉스가 수상 경력이 있는 ‘협업을 통한 혁신’(Empowering Innovation Together)의 최신 시리즈 ‘모든 것의 IoT’(All Things IoT)의 하나로 홈오토메이션에 초점을 맞춘 새로운 전자책을 발행했다....
마우저, SamacSys와 PCB 설치 면적·회로 기호·3D 모델 무료 제공
마우저, SamacSys와 PCB 설치 면적·회로 기호·3D 모델 무 [EPNC=양대규 기자] 마우저 일렉트로닉스가 전 세계 전자부품 라이브러리 솔루션 부문의 선두기업인 SamacSys와 새로운 파트너십을 맺었다고 발표했다. 독일 뮌헨에서 개최된 electronica 2018에서 발표한 새로운 파트너십에 따라 마우저는 고객들에게 110만...
EPNC(월간 전자부품 뉴스)
icon
여백
여백
여백
신제품
여백
Back to Top