에임인텔리전스, 오픈AI 데브데이서 ‘AI 보안 기술’로 조명

[테크월드뉴스=양승갑 기자] 에임인텔리전스는 지난 13일 ‘오픈AI 데브데이 익스체인지 서울’에 공식 초청받았다고 17일 밝혔다.

에임인텔리전스는 자체 개발한 자율 AI 레드팀 에이전트 ‘Stinger’를 활용, AI 모델의 취약점을 자동으로 탐지·분석하는 테스트를 통해 마약 합성, 폭발물 제조, 금융사기 등 고위험 시나리오를 대상으로 수만 건의 AI 탈옥 시도를 통해 보안 허점을 정밀 검증할 수 있는 능력을 갖추고 있다.

에임인텔리전스는 오픈AI 가드레일에 기여한 아시아태평양 지역 유일 스타트업으로, 오픈AI 모델을 활용해 자동화된 레드팀 프레임워크와 방어전략을 구축해왔다.

또 에임인텔리전스의 ‘AIM Guard’는 한국어 기반 개인정보 식별 기술로, 주민등록번호·주소·전화번호 등 한국형 데이터 포맷을 100% 탐지했으며 유니코드 변조·전각문자 등 기존 시스템이 탐지하지 못하던 우회 공격까지 완벽히 차단한다. 이를 통해 AI 탈옥 방어와 개인정보 보호를 아우르는 이중(투트랙) 보안체계를 구축했다.

회사에 따르면 김경훈 오픈AI 코리아 대표는 ‘오픈AI 데브데이'에서 공식 발표 중 에임인텔리전스를 언급하며 기술력을 높이 평가했다.

김경훈 오픈AI 코리아 대표는 “에임인텔리전스는 기업들이 AI를 안전하게 도입할 수 있도록 관련 기술을 개발하는 스타트업으로, 오픈AI 가드레일을 기반으로 자동화된 레드티밍과 방어 전략 프레임워크를 제공하고 있다”고 말했다.

이어 “에임인텔리전스는 오픈AI 모델을 활용해 기업 맞춤형 개인정보 마스킹과 가드레일 솔루션을 지원하고 있으며 이런 기술은 국내 주요 기업들이 AI 기반 서비스를 보다 안전하게 확장하는 데 중요한 역할을 하고 있다”며 “AI 보안이라는 공통 과제를 스타트업이 기술적으로 풀어내는 대표적인 사례”라고 덧붙였다.

박하언 에임인텔리전스 최고기술책임자(CTO)는 “에임인텔리전스는 챗봇부터 자율 에이전트, 그리고 물리적 로봇까지 모든 형태의 지능 시스템을 안전하게 통제하는 통합 플랫폼을 구축해, 이른바 범용인공지능(AGI) 시대의 보안 표준을 만들어가고 있다”고 밝혔다.