업스테이지, 카카오톡 ‘AskUp’에 LLM ‘솔라’ 도입

[테크월드뉴스=양승갑 기자] 업스테이지는 자체 개발한 사전학습 대형언어모델(LLM) ‘솔라(SOLAR)’를 카카오톡 ‘AskUp’에 적용했다고 11일 밝혔다.

AskUp은 165만명의 유저가 활용하는 업스테이지가 개발한 카카오톡 챗봇 메신저로 사용자들이 다양한 주제에 대해 질문하고 답변을 받을 수 있다. AskUp은 챗봇, 이미지 생성, 광학문자인식(OCR) 등 다양한 AI 기능을 제공한다. 이용자는 카카오톡에서 AskUp 채널을 추가하면 서비스를 이용할 수 있다.

솔라는 업스테이지가 지난 12월 14일 공개한 107억 개의 매개변수를 가진 SLM(Small Language Model)이다. 허깅페이스 공개와 동시에 오픈 LLM 글로벌 1위를 차지했으며 이달 초에는 솔라를 기반으로 개발한 모델들이 상위 30위권을 모두 석권한 바 있다.

업스테이지는 솔라의 AskUp 적용으로 이용자들의 LLM의 활용성을 크게 향상시킬 수 있을 것으로 기대한다고 밝혔다. 솔라가 적용된 ‘AskUp은 내부 테스트 결과, GPT4를 상회하는 속도와 비슷한 수준의 성능으로 사용자의 질문에 대해 자연스러운 답변을 제공한다. 또한 문서나 이미지의 내용을 읽고 요약하거나 키워드를 기반의 검색을 수행할 수 있어 기대감을 높이고 있다.

업스테이지는 AskUp’에서 솔라의 비중을 점차 확대할 계획이다. 현재는 대화의 10%에 솔라를 도입했으며 향후 더 많은 비율로 확대해 활용도를 높일 예정이다.

업스테이지 김성훈 대표는 “솔라의 내부 테스트 결과 GPT3.5를 상회하고 GPT4의 사용성과 큰 차이가 없어 일상에서 더 유용하게 활용할 수 있도록 AskUp’에 적용했다”며 “지난달 솔라 공개 이후, 오픈소스 AI 업계의 뜨거운 관심을 받으며 글로벌 주요 사전학습 모델로 자리매김하게 됐는데 개발자 뿐 아니라 모두의 일상을 효율적으로 만드는데도 솔라가 기여하기를 희망한다”고 밝혔다.