“IBM 왓슨x는 신뢰·정확성 제공 및 지속적인 모니터링까지 지원”

[테크월드뉴스=박규찬 기자] 최근 전 세계적으로 산업 전반에 걸쳐 AI가 급부상하면서 기업들은 이를 HR, 마케팅 등 다양한 분야에 비즈니스 혁신을 위해 도입하고 있다. 이에 IBM은 AI 구축 플랫폼인 왓슨(Watson)x를 공개하며 기업들한테는 아직 낯선 AI 도입을 위해 구축 초기 단계부터 구축 후 지속적인 모니터링까지 통합적인 지원을 하고 있다.

최근 서울 여의도 한국IBM 오피스에서 진행된 테크월드뉴스와의 인터뷰에서 한국IBM 최석재 상무는 “현재 AI 구축을 위해 플랫폼 형태로 서비스를 제공하는 곳은 IBM이 유일하다”며 “많은 기업들이 AI 도입에 많은 관심을 보이고 있지만 어떻게 구축해야 하는지 혹은 우리 기업이 AI가 필요한 지에 대한 궁금증을 갖고 있는 기업들이 많다”고 설명했다.

한국IBM에서 데이터 & AI, 자동화 기술 영업팀을 총괄하고 있는 최석재 상무는 왓슨x를 통해 국내 기업들의 AI 구축에 힘쓰고 있다.

최 상무는 “IBM의 왓슨x 플랫폼은 이런 기업들을 위해 초기 구축 단계에서부터 구축 후 지속적인 모니터링까지 지원한다”며 “특히 각 기업에 맞는 AI 환경을 사전에 파악하고 이를 적용해 기업 특성에 맞는 AI를 구축할 수 있도록 지원하고 있다”고 말했다.

이어 그는 “IBM은 자사의 모델뿐만 아니라 다른 벤더사의 모델을 비롯해 오픈 소스 모델들을 모두 수용해 AI 프로그램을 만들 수 있도록 개방형 플랫폼을 채택하고 있어 다양한 모델을 한곳에서 테스트 해보고 모델을 만들 수 있는 편의성을 제공한다”고 덧붙였다.

한국IBM은 지난 20년간 데이터베이스, 데이터 통합, 데이터 웨어하우스, 분석 및 AI 영역의 전문성을 기반으로 금융, 제조, 유통, 통신, 공공 등 다양한 산업의 엔터프라이즈 고객의 데이터 및 AI 전환 여정을 성공적으로 지원해 왔다.

▶ IBM의 AI 구축 통합 플랫폼 '왓슨x'
왓슨x는 ▲왓슨x.ai ▲왓슨x.데이터 ▲왓슨x.거버넌스(governance)로 구성됐으며 기업이 AI를 개발하고 테스트하고 관리하는데 필요한 모든 기능들을 갖고 있다.

• 왓슨x.ai: 차세대 기업용 AI 스튜디오로 여러 모델들을 테스트해보고 나의 업무에 적합한 모델을 찾아내고 이를 갖고 AI 애플리케이션을 개발할 수 있다.
• 왓슨x.데이터: 데이터 웨어하우스의 고성능 처리 기술과 데이터 레이크의 유연성을 함께 제공하는 새로운 데이터 레이크하우스 솔루션이다. AI를 개발하기 위해 필요한 데이터를 여러 곳이 아닌 싱글 포인트로 제공할 수 있도록 설계됐다.
• 왓슨x.거버넌스(governance): 만들어진 AI를 항상 최적의 품질로 운영될 수 있도록 모니터링 할 수 있다.

최 상무는 “IBM은 과거에는 단순히 AI를 보조 수단으로 사용했다면 앞으로는 AI 기술이 중심이 돼 AI 프로그램을 개발하는 플랫폼 뿐만 아니라 IBM이 보유한 주요 제품들에 관련 AI 기술을 적극 도입해 제품의 역량을 확대하고 있다”고 말했다.

특히 IBM은 B2B 기업으로서 엔터프라이즈 AI에 집중하고 있다고 언급한 최 상무는 “오늘날 기업은 신뢰할 수 있는 데이터, 속도, 거버넌스를 통해 조직 전체에 AI를 활용하기 위한 전 과정을 아우르는 모든 기술과 서비스가 필하다”며 “아울러 모든 클라우드 환경(온프레미스, 퍼블릭 & 프라이빗 클라우드)에 걸쳐 실행할 수 있어야 한다”고 설명했다.
 
▶ 왓슨의 핵심은 ‘신뢰’와 ‘정확성’
왓슨은 고급 자연어 처리, 정보 검색, 지식 표현, 자동화된 추론 및 기계 학습 기술을 오픈 도메인 질문 응답 분야에 적용하기 위해서 질의응답 컴퓨팅 시스템을 시작으로 만들어졌고 이를 기반으로 2011년 왓슨은 미국 퀴즈 쇼 ‘Jeopardy!’에서 두 사람을 상대로 우승을 차지한 바 있다.

최 상무는 “오랜 역사를 가진 왓슨이 최근 왓슨x로 한 단계 진화했고 왓슨 브랜딩은 여전히 유지되며 현재 비즈니스의 요구조건을 반영해 IBM에서 발표한 AI 플랫폼이 왓슨x다”며 “왓슨x는 기존 머신러닝 및 최신 파운데이션 모델을 구축하고 개선할 수 있는 기업용 AI 및 데이터 플랫폼으로 비즈니스 전용으로 데이터가 어디에 있든 책임감 있고 투명하게 데이터를 활용한다”고 말했다. 

이어 그는 “왓슨x의 핵심은 신뢰다. 기업은 고객과 상호 작용할 때 AI가 거짓 정보를 사실처럼 꾸며내거나 부적절한 언어를 사용하지 않을 것이라는 확신을 가질 수 있어야 한다”며 “이에 IBM은 2024년 1분기 출시 예정인 고객의 정보유출을 미연에 방지하기 위해 온프레미스에 설치해 사용할 수 있는 버전을 제공하는 것도 특징”이라고 강조했다.

또한 작성된 모델이 실제 운영에 사용됐을 때 품질을 유지하고 관리할 수 있는 기능을 사용할 수 있어 신뢰성을 높여줄 수 있다고 언급한 최 상무는 “가장 큰 장점은 이런 기능들을 클라우드뿐만 아니라 On-Prem에서도 사용할 수 있는 것이 다른 타사와의 큰 차별점”이라고 덧붙였다.  
 
▲ 기업이 AI를 도입해야 하는 이유
“무엇보다도 업무 생산성 및 비용절감이 가장 큰 이유다”

최 상무는 기업이 AI를 도입해야 하는 이유에 대해 이같이 언급하며 “디지털 워커를 통해 일을 보다 빠르고 효율적으로 처리할 수 있다면 관련 업무에서 많은 사람을 대체할 수 있기 때문이다”고 강조했다.

이어 그는 “향후 기업들이 글로벌 경쟁력을 키우기 위해서는 AI 도입은 필수가 될 것”이라며 “왓슨은 손쉽게 다양한 LLM과 같은 AI 모델을 테스트하고 본인만의 애플리케이션을 개발할 수 있어 AI 개발 생산성이 높아진다”고 말했다.

특히 “개발된 AI 모델의 품질 및 규제준수 부분을 지속적으로 모니터링 할 수 있어 오류 및 잘못된 정보제공 등으로 인한 손해배상, 징벌적 규정에서 보다 안전해질 수 있다”고 덧붙였다.

▶  왓슨x 도입 사례
현재 IBM도 왓슨x를 도입하고 있으며 왓슨 오케스트레이트(Watson Orchestrate)의 AI 및 지능형 워크플로를 통해 IBM 내 승진 관련 업무를 혁신했다. 

이 업무는 많은 수작업이 필요하고 대량이자 다중 페르소나이며 반복적이어서 완료하는 데 기존에는 10주가 소요됐으나 왓슨x 도입 후 ▲IBM 컨설팅 사업부에서 5만 시간 절약 ▲승진 관련 업무 시간 5주로 단축 ▲비즈니스 파트너 시간 85% 절감 등의 결과를 보였다.

최 상무는 “현재 국내에서는 아직 왓슨x를 도입한 기업은 없으나 주요 기업에서 테스트를 진행하고 있으며 상당히 만족해 하고 있다”며 “해외의 경우에는 도입하고 있는 기업이 점차 늘어나고 있으며 그 효과는 확실하게 나타나고 있다”고 설명했다.

로이드 뱅킹 그룹(Lloyds Banking Group)에서 IBM은 몇 주 만에 개념 증명(Proof of Concept)을 통해 가상 비서 경험을 획기적으로 개선했음을 입증했다. LLM이 검색 실패를 줄이고 가상 비서 성능을 개선하며 고객을 위한 검색 성능을 개인화했으며 수동 작업은 80% 감소하고 자동화된 작업의 정확도는 90% 향상됐다.

브이그 텔레콤(Bouygues Telecom)은 콜센터 운영을 위해 왓슨x의 파운데이션 모델(Foundation Model)을 사용해 자동 통화 요약 및 내용 추출을 수행하고 즉각적이고 정확하며 실행 가능한 인사이트로 CRM을 업데이트했다. 이런 혁신을 통해 운영 개선으로 500만 달러 이상의 비용을 절감하고 통화 전후 작업의 30%를 줄였다.

 
▲ ‘AI for Business’
끝으로 최 상무는 챗GPT의 인기를 통해 또다른 ‘Netscape Moment’가 도래했다고 말하는 사람들이 많다. 그 만큼 올해는 AI가 개개인에 매우 친숙하게 다가오게 된 원년이라고 생각한다고 언급했다.

이어 그는 “아직 비즈니스에 AI를 다양하게 적용하기 위해서는 다양한 규제에 직면해야 하고 많은 시행착오를 겪어야 할 것으로 생각된다”며 “IBM은 오랜 시간 동안 ‘AI for Business’에 집중해 왔으며 조금 더 쉽게 비즈니스에 AI를 접목할 수 있는 방법을 알려드릴 수 있다“고 덧붙였다.