SKT, AI 멀티엔진 시동…韓 ‘텔코 LLM’ 6월 출격한다

통신요금제 종류, 공시지원금·선택약정 등 전문용어 학습

[SRT(에스알 타임스) 선호균 기자] 통신 서비스를 잘 이해하는 똑똑한 ‘텔코 거대언어모델(LLM)’이 이르면 오는 6월 선보인다. 

SK텔레콤은 5G 요금제, T 멤버십, 공시지원금 등 한국의 통신 전문 용어와 인공지능(AI) 윤리가치와 같은 통신사의 내부 지침을 학습한 텔코 LLM을 개발중이라고 30일 밝혔다. 

SKT는 오는 6월 중 개발을 완료할 계획이다. 텔코 LLM은 GPT, 클로드와 같은 범용 LLM이 아닌 통신업에 특화된 LLM을 뜻한다. 

SKT는 오픈 AI, 앤트로픽 등과 협력을 통해 통신사의 서비스나 상품, 멤버십 혜택, 고객 상담 패턴 등 방대한 양의 데이터를 수집하고 정형·비정형 데이터를 선별해 이를 에이닷엑스, GPT, 클로드에 학습시킴으로써 통신에 특화된 LLM을 만들고 있다. 

여기서 비정형 데이터는 텍스트, 이미지, 오디오 또는 비디오 형식의 미리 정의된 구조나 모델로 구성되지 않은 데이터를 말한다. 

SKT의 텔코 LLM는 에이닷엑스(A.X), 오픈 AI의 GPT, 앤트로픽의 클로드 등 다양한 범용모델을 기반으로 튜닝했다. 이는 SKT의 멀티 LLM 전략의 하나다. 멀티(다중) LLM 전략은 통신사들이 AI 컨택센터(AICC), 유통망, 네트워크 운용, 사내 업무 등 활용처와 특정 업무마다 최적화된 LLM을 가져다 쓰는 것이라는게 SKT의 설명이다. 

에릭 데이비스 SKT AI 테크 콜라보레이션 담당은 “1개의 범용 LLM으로 통신사들이 하려는 다양한 서비스와 문제를 해결하는 것은 쉽지 않을 것”이라며 “통신 데이터와 도메인 노하우에 맞춰 조정하는 미세조정(파인튜닝)과 모델평가(벤치마킹)를 거쳐 다양한 텔코 LLM을 만들고 이를 상황에 맞게 골라 쓸 수 있도록 하는 것이 SKT만의 멀티 LLM 전략”이라고 말했다. 

한편, SKT는 범용 LLM보다 텔코 LLM은 통신 영역에서 높은 수준의 생성형 AI 작업을 수행할 수 있어 활용성이 높다고 강조했다. 범용 LLM은 통신사의 번호이동 방법이나 절차 등 전문지식을 제대로 학습하지 않아 요금제 추천 같은 고객 요구에 제대로 대응하기 어렵다. 

SKT는 통신 관련 데이터를 추가로 학습해 이 문제를 해결하게 하는데 이 과정을 텔코 LLM의 파인튜닝이라고 부른다. 

예를 들어 고객이 요금제를 문의하거나 부가서비스 변경을 요청하는 식의 상담 유형을 선택하는 영역에서 낮은 점수를 받으면 관련 데이터를 더 구축하는 방식으로 학습하는 식의 파인튜닝 과정을 통해 계속 고도화한다. 이 모든 과정이 계속 주기적으로 반복되면서 텔코 LLM을 더 똑똑하게 만든다.