[Tech Report] 디지털 전환을 넘어 ‘AI 전환’ 시대로…기술 도입 과제와 해결 방안

[업스테이지=이활석 CTO] 팬데믹 이후, 디지털전환 가속으로 AI 기술 도입의 중요성이 강조되면서 각 산업군에서 AI를 적용한 서비스 출시에 집중하고 있다. 구글, 넷플릭스 등 글로벌 기업은 딥러닝의 파워풀한 성능을 통해 서비스 경쟁력을 향상시키면서 기업 가치도 오르고 있다.

KDI가 지난해 1000개사를 대상으로 조사한 결과에 따르면 AI 기술 도입이 경영 및 성과에 도움이 됐다는 응답 비율이 77.8%에 육박한다. 반면, 비즈니스에 AI 기술을 잘 적용하고 있는가를 묻는 질문에는 ‘아니다’라는 답변이 74%로 조사됐다.

AI 기술 도입과 적용에 기업이 혼란을 겪는 이유는 도입과 운영의 목적이 일치하지 않기 때문이다. AI기술을 도입하려면 어떤 요소가 필요한지, 그리고 어려움을 겪는 이유가 무엇인지 살펴본다.

기업에서 AI를 도입하는 방법은 크게 세 가지가 있다. 기업 내부에서 AI 기술자를 확보해 필요한 기술을 개발하는 내재화와 System Integration(SI) 통해 내부에 AI 솔루션을 구축하는 방법, 그리고 이미 잘 만들어진 클라우드 기반의 솔루션이나 소프트웨어 형태의 설치형 솔루션을 활용하는 경우가 있다.

대부분의 기업은 세 가지 중 자사의 상황에 따라 문제를 정의하고 도입 방법을 선택한다. 다만 AI가 가진 특징으로 인해 특정 도입 방법을 선택하더라도 이를 지속하는데 어려움이 발생한다.

AI 도입의 어려움으로는 4가지가 가장 많이 언급된다.

첫 번째는 비즈니스에 적용되는 AI 모델 개발 및 유지 보수다. AI 모델 개발은 크게 ‘문제 정의 → 데이터 수집 → AI 모델 개발 → 실 서버 배포’의 4단계로 이뤄진다. 단계를 거쳐 AI 모델을 완성하더라도 반드시 유지 보수가 수행돼야 서비스 품질을 유지할 수 있다.

다만 AI 모델 개발 과정 중 어디에서 문제가 일어났는지 파악하기 어렵고, 원인을 알게 되더라도 이를 개선하기 위해 참고할 수 있는 사례가 많이 없어 시행착오를 겪는 것은 불가피한 상황이다. 일련의 과정들을 정상적으로 수행하기 위해서는 고급 인력과 비용, 시간이 절대적으로 필요합니다.

두 번째는 서비스에 적용이 가능한 수준의 AI 기술을 개발하기 어렵다는 점이다. 기업에서는 AI 모델을 개발할 때 외부에서 제공하는 AI 솔루션이나 오픈소스를 종종 사용한다. 기본 이상의 성능을 보이지만 고객이 사용하는 서비스의 개발이기 때문에 이를 훨씬 상회하는 성능을 구현해야 한다.

기본 이상의 성능을 만들기 위해서는 많은 노력과 노하우가 필요하기 때문에 AI를 다루는 전문 인력 체제를 갖추는 데에서 어려움을 겪는 사례가 있다.

앞서 언급된 어려움을 모두 극복하더라도 배포한 AI 모델을 유지 보수하는데 원인 파악이나 해결책에 대한 사례가 없어 어렵게 해결해야 하는 경우가 많다.

AI 기술을 유지 보수하기 위해서는 모델 모니터링이나 재학습, AB 테스트 등을 수행해야 한다. 이러한 과정은 보통 수동으로 작업하다 보니 적지 않은 비용이 들기 마련이고 수 차례 시행착오를 겪게 된다.

마지막으로 기술의 급격한 발전 속도다. 하루에 출간되는 AI 논문의 수는 800여 편에 이를 정도로 방대한 양의 논문을 모두 들여다보고 실제 데이터로 구현, 검증하는 과정을 거치기는 쉽지 않다.

많은 시간과 노력을 들여 최신 AI 기술을 따라야 하는지에 대한 의문도 나온다. 이유는 AI가 기술 퀀텀 점프가 빈번한 분야이기 때문이다. AI 기술을 도입하려는 기업에는 리스크로 작용한다.

예를 들어 한 기업이 OCR 기술을 통해 문서 손글씨 인식률을 60%까지 구현했다고 가정했을 때, 비즈니스에 기술을 적용하기 어렵다고 판단, 서비스에서 제외했지만 1개월 만에 인식률을 90%까지 끌어올릴 수 있는 기술이 등장하기도 한다. 빠르게 발전하는 AI 기술을 따라가지 못한다면 서비스 고도화는 여전히 미지수로 남는다.

AI를 성공적으로 도입하기 위해서는 우선 AI로 풀어가고자 하는 문제를 올바르게 정의하고, 적합한 도입 방법을 선택하는 것이 중요하다. 모호하거나 Task 단위로 구체화되지 않은 문제를 풀기 위해 AI를 적용하고자 한다면 실패할 가능성이 높아지기 마련이다.

앞서 언급된 3가지 AI 도입 방법(내재화, System Integration, 외부 솔루션)의 각 특징을 살펴보고 상황에 맞는 선택이 중요하다. 리소스가 많이 들더라도 자사만의 역량을 갖추고 싶다면 내재화 방식을 선택하고, 구체적인 Task는 외부 솔루션을 활용해야 한다. AI에서 찾아보기 힘든 케이스이지만, 한 번 설치한 이후 유지 보수나 업데이트가 필요 없는 문제가 있다면 SI를 활용하는 것도 방법이다.

도입 방법별로 각기 다른 장단점이 존재하지만, 가장 효과적인 AI 기술 도입을 위해서는 ▲올바른 문제 정의 ▲최신 AI 기술을 반영한 지속적인 모델 업데이트 ▲AI 전문 인재 확보 ▲학습을 위한 인프라 GPU 설비 등의 조건을 모두 충족하는 대안을 찾거나 AI를 전문으로 다루는 파트너사를 잘 선정해야 한다.

자사의 상황에 적합한 AI 도입 방법은 무엇인지를 고려하고 OCR 기술 적용에 앞서 해결이 필요한 부분이 있다면 전문 기업과 실마리를 찾아야 한다.

업스테이지의 경우 다양한 사례를 통해 획득한 AI 기술 도입의 필수적인 요소를 반영한 OCR Pack을 개발했으며 자체적으로 개발, 업데이트되는 Pre-trained model을 통해 기존 대비 25% 수준의 데이터만 보유해도 서비스할 수준의 성능을 확보할 수 있다.

노코드·로코드 기반의 AI 솔루션인 ‘AI Pack’은 AI 모델뿐만 아니라 핵심주기에 포함되는 업무도 포함해 하나의 제품으로 제공하여 소수의 인력으로 AI 도입이 가능하다.