LG CNS, 기업 고객을 위한 생성형 AI 플랫폼 DAP GenAI 출시

[테크월드뉴스=윤소원 기자] LG CNS가 12일 기업 고객을 위한 생성형 AI 플랫폼 ‘DAP GenAI’를 출시했다고 밝혔다.

LG CNS는 ▲AI 서비스 ▲AI 프롬프트 ▲LLMOps 등 DAP GenAI의 3대 모듈을 통해 기업의 언어 AI 도입에 대한 해답을 제시한다. 고객은 DAP GenAI를 자체 서버, 클라우드 등 보유 중인 인프라에 설치하기만 하면 자유롭게 사용할 수 있다.

DAP GenAI는 기업이 가진 문서, 데이터베이스 등 내부 정보자산만을 활용하고 다양한 보안 필터 등을 적용할 수 있어 거짓이나 왜곡된 내용을 생성하는 할루시네이션 (Hallucination, 정보 왜곡현상)을 방지하고 보안 고민까지도 해결한다.

AI 서비스는 생성형 AI 서비스를 빠르게 기획·개발·배포·운영하고자 하는 기업에게는 최고의 선택지다. 고객은 오픈AI의 챗GPT, 앤트로픽의 클로드(Claude), 구글의 팜2(PaLM2), LG AI연구원의 엑사원(EXAONE) 등 LLM을 활용해 문서 요약, 분류와 같은 단순한 AI 서비스부터 상품 추천, 자료 기반의 보고서 작성 등과 같은 복잡한 영역의 서비스까지도 만들 수 있다.

예를 들어 금융사에서 소비자를 위한 보험상품 추천 AI 서비스를 개발하고 싶다면 ▲질문을 입력한 소비자 정보를 확인할 기업의 고객정보 데이터베이스 ▲알맞은 상품을 검색해주는 프롬프트 ▲추천과 답변에 적합한 LLM을 각각 선택해 설정하기만 하면 된다.

개발이 완료된 서비스는 플랫폼을 통해 실제 운영 환경에 맞춰 테스트도 가능하다. 이를 통해 발생할 수 있는 다양한 오류를 사전 파악해 해결함으로써 서비스 품질을 한층 높일 수 있다. 모든 서비스는 플랫폼을 통해 사내에 공유할 수 있어 이를 활용해 다양한 파생 서비스를 만들 수도 있다.

AI 서비스에는 기업의 생성형 AI 활용 최대 이슈인 내부 정보유출 방지를 위한 필터 기능도 탑재돼 있다. 고객은 서비스 개발 시 주민등록번호, 휴대전화번호와 같은 개인정보를 비식별화하는 등 LG CNS가 사전 등록한 보안 필터들을 활용할 수 있다.

또한 고객의 내부 보안 규정에 맞춰 필터를 직접 생성해 적용하는 것도 가능하다. 예를 들어 특정 기술정보나 비밀정보에 해당하는 단어와 문장을 식별해 답변하지 않도록 고객이 직접 필터를 만드는 식이다.

AI 프롬프트는 생성형 AI의 활용에 있어 가장 중요한 프롬프트를 만들 수 있는 모듈이다. 프롬프트가 중요한 이유는 질문을 어떻게 입력하는 지에 따라 AI가 출력하는 결과값이 크게 달라지기 때문이다. AI 프롬프트에는 AI가 정교한 답변을 할 수 있도록 명령어를 만드는 프롬프트 엔지니어링 노하우가 탑재돼 있다.

고객은 마케팅 문구 생성 등과 같이 LG CNS의 전문가들이 미리 구현해둔 프롬프트를 즉시 사용하거나 이를 기반으로 최적의 결과를 얻을 수 있는 새로운 프롬프트를 만들어 업무에 빠르게 적용할 수 있다.

LLMOps는 기업이 엑사원이나 다양한 오픈소스 LLM을 파인튜닝(Fine-tuning, 미세조정) 함으로써 비즈니스에 특화된 LLM을 만들 수 있도록 한다. 민감한 데이터를 다루는 금융, 공공 등 분야와 같이 프라이빗 LLM을 보유하고자 하는 고객을 위한 모듈이다. 고객은 원하는 LLM을 선택해 보유하고 있는 데이터를 학습시킬 수 있다.

은행을 예로 들면 보유한 대출·연금·펀드상품 등 다양한 데이터를 LLM에 학습시킴으로써 해당 은행의 정보만이 담긴 프라이빗 LLM을 만드는 것이다. 이 같은 프라이빗 LLM을 구축하면 내부 정보를 외부로 전송하지 않고도 다양한 AI 서비스를 만들 수 있다.

LLM을 학습시킬 때에는 파라미터 값을 별도 설정해 LLM의 성능도 유연하게 조정할 수 있다. 학습 과정은 실시간으로 모니터링 가능하다. 따라서 진행 상황을 보면서 학습을 멈추고 데이터를 조정하는 등의 개입을 할 수 있다.

LLMOps는 만들어진 모델들간 성능 비교도 지원한다. 예를 들어 A라는 LLM에 학습시켜 만든 모델과 B라는 LLM에 학습시킨 모델을 선택해 동일한 질문을 입력하고 그 결과값을 확인하는 식이다. 이를 통해 고객은 최적의 결과를 도출하는 LLM을 구현할 수 있다.

LG CNS는 고객이 상황별로 서비스 최적의 LLM을 선택해 활용할 수 있도록 DAP GenAI를 지속 고도화해나갈 계획이다. 복수의 LLM을 활용하는 고객 맞춤형 멀티 엔진(Multi-Engine) 전략의 일환이다.