kt ds, SaaS형 AI PoC 서비스 ‘ABC Lab’ 출시

AI 도입 시 겪는 비용과 보안, 인력 고민 모두 해결하는 SaaS형 서비스 출시

[SRT(에스알 타임스) 문재호 기자] KT그룹의 IT서비스 전문기업 kt ds가 AI 사전검증(PoC)를 지원하는 ‘구독형 소프트웨어(SaaS)’ 서비스 ‘ABC Lab’을 출시했다고 12일 밝혔다.

‘ABC Lab’은 기업 고객들이 AI 도입 시 겪는 비용, 보안, 인력 등에 대한 다양한 고민을 해결해 주는 MS Azure 기반의 SaaS형 서비스다. PC만 있으면 고성능 그래픽처리장치(GPU) 기반 시설(인프라)에서 운영되는 생성형 AI 솔루션을 온라인에서 저비용으로 손쉽게 이용할 수 있으며, 이를 통해 AI 기반의 업무 자동화를 먼저 경험하게 해 준다.

고객은 ‘ABC Lab’을 통해 자사 데이터에 직접 AI 아이디어를 적용하여 사전 검증하고, AI 적용 가능성과 효과를 미리 파악한다. 온·오프라인으로 수행한 PoC는 성공적인 AI 혁신을 도와 기업의 성과를 극대화한다.

‘ABC Lab’의 주요 특징으로는 △︎다양한 LLM(Large Language Model) 체험 △︎고객사에 특화된 LLM 파인튜닝 지원 △︎강력한 보안 및 데이터 관리 등이 있다.

'LLM 체험'에는 한국어 처리에 특화된 kt ds의 자체 오픈소스 모델인 ‘ktdsbaseLM’, MS Azure 상의 ChatGPT 등 상용 모델 뿐만 아니라, Meta의 ‘Llama’ 등 각종 오픈소스 모델까지 포함한 여러 거대언어모델(LLM)을 제공한다.

고객사의 데이터로 AI 모델을 훈련하는 파인튜닝 서비스로 고객사만의 맞춤형 LLM 모델을 만들어 지원한다. 데이터 분리가 가능한 멀티 테넌시 기능과 KT그룹의 엄격한 보안 규정을 적용해 기업의 데이터와 고객의 개인정보를 안전하게 관리하고 보호한다.

이 외에도 생성형 AI가 잘못된 정보로 생성하는 환각 효과를 줄이고, 답변의 정확성을 높이기 위해 RAG(Retrieval Augmented Generation) 방식이 결합된 서비스를 운영한다. 고객사의 정형·비정형 데이터를 RAG에 연결해 더 정확한 답변을 생성하도록 돕는다.

kt ds 김성우 기술혁신단장은 “통신, 금융, 공공 등 다양한 산업 도메인에서 성공적인 디지털 전환(DX) 경험을 바탕으로 AX 솔루션과 AI 기술 역량을 결합해 AI 도입에 필요한 체계적인 사전 시스템과 플랫폼을 구축했다”며 “높은 투자 비용과 사내 전문가 부재로 AI 도입을 주저하는 기업이라면 ‘ABC Lab’의 온·오프라인 PoC가 성공적인 AI 도입에 큰 도움이 될 것”이라고 강조했다.