KT, MS ‘AI 투어 인 서울’ 참가…한국형 AX 솔루션 공개

GPT-4o 기반 ‘한국적 AI’부터 보안 강화 퍼블릭 클라우드까지

[SRT(에스알 타임스) 문재호 기자] KT는 26일 마이크로소프트 ‘인공지능(이하 AI) 투어 인 서울(이하 AI 투어)’에 참가해 우리나라 산업 환경에 최적화된 클라우드, AI 모델 등의 다양한 ‘인공지능 전환(이하 AX)’ 솔루션’을 선보인다고 밝혔다.

방문객들은 AI 투어 전시장 프리미엄 파트너 존 내에 마련된 KT 전시관에서 국내 산업 환경을 반영한 실제적인 AX 노하우를 살펴볼 수 있다. KT가 마이크로소프트와 함께 추진해온 공동 개발 프로젝트 성과로 정책이나 규제 환경 등의 외부 요인을 고려했으며, 인프라부터 서비스까지 한 번에 제공한다는 점이 특징이다.

KT 전시관은 ▲한국적 AI 개념을 담은 GPT4o기반 커스텀 모델 ▲보안을 강화한 퍼블릭 클라우드 ‘KT 시큐어 퍼블릭 클라우드(SPC)’ ▲탄소 배출량 산출 자동화를 위한 ‘탄소 배출량 관리 어시스턴트’ ▲클라우드 자원을 필요에 따라 유연하게 할당하는 ‘구독형 그래픽처리장치(GPUaaS)’ ▲마이크로소프트 코파일럿 기반 업무 혁신 사례 ▲업무에 필요한 정보와 지식을 제공하는 대화 기반 AI 에이전트 ‘웍스 AI(이하 Works AI)’까지 총 6종의 AX 솔루션으로 구성됐다.

◆ ‘한국적 AI’ 개념 담은 ‘GPT-4o 기반 커스텀 모델’

KT의 ‘한국적 AI’는 단순히 잘 한국어를 처리하는 언어 모델을 넘어 한국인의 사고방식과 정서에 대한 이해를 바탕으로 한국인의 일상과 비즈니스 환경에서 유용하고 안전하게 활용할 수 있는 AI를 의미한다. KT는 한국의 역사와 철학, 사회를 기반으로 하는 방대한 고품질 데이터를 활용하여 마이크로소프트와 함께 상반기 상용화를 목표로 GPT-4o기반의 커스텀 모델을 개발하고 있다.

이번 전시에서는 몇 가지 상황 속에서 일반 언어 모델과 한국적 AI 모델이 어떻게 다른 결과물을 내놓는지 비교해볼 수 있다. 예를 들어, 한국 사회의 시대별 ‘부의 상징’을 묻는 질문에 더욱 통찰력 있는 답변을 생성할 수 있다. 기존 일반 언어모델이 글로벌 관점의 답변으로 1960년대 고급 자동차를 부의 상징으로 꼽은 반면, 한국적 AI 모델은 1960년대 한국은 경제회복이 시작되었던 시기로 공무원이나 번듯한 회사에서 직장을 구한 것 만으로도 부의 상징이라는 답변을 내놨다.

추가로 일반 언어모델은 영문 공고문을 한국어로 번역할 경우 “Home, Sweet Home” 과 같은 관용어를 “집, 달콤한 집”으로 직역하여 매끄럽지 않은 경우가 있었는데, 이번에 개선된 한국적 AI 모델은 “내 집처럼 편안하게” 와 같이 전체적인 문맥을 고려한 자연스러운 문구를 생성할 수 있다.

◆ KT SPC, 보안성 강화한 퍼블릭 클라우드

유럽의 일반데이터보호법(GDPR) 등 세계 각국은 자국 데이터의 해외 유출을 엄격히 통제하고 있어, 자국의 데이터 주권은 지키면서 퍼블릭 클라우드를 활용할 수 있는 소버린 클라우드가 최근 주목받고 있다.

소버린 클라우드는 특정 국가의 법률과 규제를 준수하며 데이터 주권을 보호하기 위해 데이터 저장·처리·운영 등을 해당 국가 내에서 제공하는 클라우드 서비스를 뜻한다.

이미 이탈리아, 스위스, 벨기에 등 유럽 국가를 중심으로 소버린 클라우드를 도입하고 있고 국내에서는 KT가 마이크로소프트와 함께 한국적 소버린 클라우드인 KT 시큐어 퍼블릭 클라우드를 출시했다.

KT 시큐어 퍼블릭 클라우드(이하 KT SPC)는 대규모 확장 가능한 하이퍼스케일 클라우드 컴퓨팅 서비스다. 기존 퍼블릭 클라우드 수준 이상의 사용 환경과 경험, 효율성을 제공하면서도 국내의 법률과 규제 및 기업 내부 통제 기준 준수를 전제로 높은 보안성과 데이터 주권을 확보해 금융이나 공공 영역에서도 안전하게 활용할 수 있다.

KT SPC는 기존 퍼블릭 클라우드 환경에서는 보호하지 못했던 ‘사용 중(in Use)인 데이터’ 영역까지 암호화하며, 하드웨어 보안 모듈인 ‘매니지드 HSM’ 서비스와 고객 관리키 등을 사용한다. 고객이 제어권을 갖기 때문에 데이터 유출 시에도 암호 해제가 불가능해 데이터의 전 생애주기 동안 강력한 보안성을 갖춘다.

이번 AI 투어에서는 KT디에스(이하 kt ds)의 멀티 클라우드 관리 플랫폼 ‘클라우드 위즈’를 KT SPC에 적용한 사례를 소개한다. 클라우드 위즈는 다양한 사업자가 제공하는 클라우드 서비스를 한 곳에서 관리할 수 있는 도구다. 필요한 서버나 네트워크 등의 IT 자원을 설정하고 배포해주는 ‘인프라 자동 배포’와 회사의 규칙이나 보안 정책을 자동으로 적용하는 ‘거버넌스 정책 관리’ 기능이 뛰어나다.

◆ GPU 없어도 AI 학습 및 추론 가능한 ‘GPUaaS’

KT클라우드(kt cloud)는 AI 학습과 추론을 위한 혁신적인 인프라 서비스 GPUaaS를 소개한다. 이는 AI 인프라를 필요로 하는 국내 공공기관, 기업이 실 사용량 토대로 GPU 자원을 탄력적으로 활용할 수 있는 구독형 인프라 서비스다.

kt cloud는 단기간 대용량, 고사양의 GPU 공급이 요구되는 학습 영역에 특화된 ‘AI 트레인’, 적은 양의 GPU를 끊김 없이 상시 공급해야 하는 추론 영역에 특화된 ‘AI 서브’ 등 엔비디아 기반의 다양한 상품 라인업을 통해 고객 수요에 신속히 대응해왔다.

특히 AI 트레인은 다수의 공공 및 민간 고객 이용 사례를 통해 대규모 GPU 노드 클러스터링과 동적할당 제어 기능의 실제 효용성을 검증했다. 올해 3분기 내에는 엔비디아 H200을 적용해 한층 강화된 성능을 구현할 계획이다.

kt ds는 임직원의 업무를 도와주는 AI 비서 ‘Works AI’를 선보인다. Works AI는 마이크로소프트 애저 네이티브(Azure Native) 기술을 기반으로 거대언어모델(LLM)을 활용해 개발됐다. 사내 ·외의 업무 지식과 정보를 한 곳에서 통합해 제공한다. 임직원 누구나 업무와 관련된 자료를 업로드하고 프롬프트 입력으로 손쉽게 AI 에이전트를 만들어 활용할 수 있다.

kt ds의 직원들은 실제로 Works AI를 통해 매일 업무 시작과 동시에 AI가 추천하는 업무 정보를 확인한다. 보고서 작성, 업무 정보 검색, 소프트웨어 개발 등에 이르기까지 다양한 업무에서 AI를 활용 중이다. AI를 일상적으로 활용할 수 있는 환경은 일의 능률과 효율을 높일 뿐만 아니라 이 같은 구성원들의 경험이 곧 고객 경험의 혁신으로 이어지는 선순환 체계의 시작점이다.

한편 이번 행사에서는 기업 내 IT 담당자 및 관련 산업 종사자를 대상으로 한 상세 설명회와 데모 시연도 진행된다. 또 KT는 전시관에서 자사의 AI 마스터브랜드 ‘K intelligence(케이 인텔리전스)’를 통해 방문객들에게 대한민국 대표 AICT(인공지능+정보통신기술) 기업으로서 KT의 존재감을 전한다. K intelligence는 지난 22일 출시한 신규 브랜드로 AX를 통해 대한민국의 일상을 다채롭게 혁신해 나가고자 하는 KT의 의지를 담았다.

KT 관계자는 “이번 전시를 통해 마이크로소프트와의 긴밀한 협력으로 달성한 기술적 성과를 공유하고, KT 그룹의 AX 혁신 사례를 선보일 것”이라며, “국내 산업계 AX 가속화를 위한 고민을 해결하는 데 유용한 인사이트를 제공하겠다”고 강조했다.