AI데이터센터·GPUaaS·엣지AI 등 3대 핵심 축 공개
판교에 ‘AI DC 테스트베드’ 오픈…국내 최초 ‘H200’ 도입도
[SRT(에스알 타임스) 문재호 기자] "지역 거점의 대규모 인공지능(AI) '데이터센터(DC)'를 기반으로 대한민국을 AI DC의 아시아 태평양 허브로 성장시키고자 합니다."
유영상 SK텔레콤(이하 SKT) 대표가 4일 코엑스에서 '미래를 향한 도약:차세대 AI를 위한 SK의 접근법' 주제 발표를 통해 “SKT는 ▲수도권 그래픽처리장치(GPU) 클라우드 서비스(GPUaaS) 제공 ▲'엣지 AI' 도입 등을 중심으로 전국의 AI 인프라를 구축하고, 이를 기반으로 국내외 파트너들과 함께 글로벌 시장에도 진출할 계획”이라며 이 같이 말했다.
유 대표는 우리나라가 세계 최고 수준의 ICT 인프라를 구축해 스마트폰과 통신장비 플랫폼 서비스에서 세계적인 성과를 이뤄냈듯이 AI 시대 성과를 내기 위해서 AI 인프라 고속도로(슈퍼하이웨이) 구축에 힘을 싣겠다고 강조했다.
이를 위해 SKT는 대규모 AI DC를 전국 주요 지역 거점에 구축하고 있다. 기업들의 높은 선호도에 불구하고 수도권 지역은 전력 부족으로 인해 대규모 DC 건축이 어렵기 때문이다. AI DC를 지역 거점에 구축하면 수소, 태양광, 풍력 등 지역의 재생에너지를 활용할 수 있고, 해저케이블을 통한 글로벌 확장도 용이하다.
SKT가 내달 판교에 문을 열 AI DC는 미래형 AI DC 모습을 미리 확인해 볼 수 있다는 설명이다. 이곳은 엔비디아 최신칩과 하이닉스 고대역폭메모리(HBM) 등 첨단 AI반도체와 차세대 액체 냉각 솔루션 3종을 비롯 GPU 가상화 솔루션, AI 에너지 최적화 기술 등이 모두 구현됐다.
유 대표는 AI DC가 막대한 경제적 파급 효과를 가져올 것이라고 했다. 1기가와트급 DC는 50조원의 신규 투자, 55만명의 고용 창출을 포함해 총 175조원의 경제적 효과를 불러올 것이라는 예상이다.
유 대표는 GPU 에저 서비스에 대해서도 설명했다.
현재 글로벌 기술기업(빅테크)들이 GPU 확보 전쟁 중이라 국내 기업들이 AI 서비스 구현에 필수적인 GPU를 구하기 무척 어려운 상황이다. 메타나 마이크로소프트는 엔비디아의 최신식 GPU H100을 15만개 이상 보유한 반면, 대한민국의 전체의 GPU H100은 2,000개에 불과한 것으로 알려진다. 이에 SKT는 AI를 도입을 계획하고 있지만 인프라 부족과 비용 부담을 호소하는 기업들에게 '서비스형 GPU(GPUaaS)를 제안하며 이를 해결하겠다는 구상이다. 이를 위해 SKT는 내달부터 GPU 클라우드 기업인 람다와 협력해 서울 가산 DC에서 GPUaaS 서비스를 시작할 예정이다. 내년 3월에는 국내 최초로 H200을 도입한다. H200은 엔비디아의 GPU H100의 성능을 뛰어넘는 엔비디아의 최신 AI용 GPU다.
유영상 대표는 "자사 GPUaaS가 기존 클라우드 대비 저렴한 가격으로 제공되지만 추론 성능은 3배 이상 더 빠르다"고 강조했다.
유 대표가 강조한 전국 AI 인프라 구축의 핵심 축은 엣지AI다. 엣지AI는 기존 클라우드 컴퓨팅처럼 DC에서 계산하는 것이 아닌, 데이터가 실제로 수집되는 곳에서 계산을 수행하는 엣지 컴퓨팅 환경에서 AI를 구현하는 기술이다. 엣지AI는 대규모 AI DC 대비 저지연, 보안 및 개인정보 보호 강화 측면에서 유리할 뿐만 아니라, ‘온디바이스AI’ 대비 대규모 AI 연산이 가능해 기존 AI 인프라와 상호 보완적인 기능이 가능할 것으로 주목받고 있다. 온디바이스AI는 이전까지 서버를 거치지 않고 AI를 구현하는 만큼 용량과 처리량에 한계가 있었다. 반면 엣지AI는 이동통신 서비스를 이용자와 가까운 곳에 서버를 위치시키는 '엣지 컴퓨팅' 방식을 차용해 서버를 통해 더 많은 데이터 처리가 가능할 것으로 예상된다.
유영상 SKT 대표는 "엣지AI가 DC와 온디바이스 AI 사이에서 상호 보완적 가치를 제공해 그 간극을 채워줄 것으로 기대한다"고 말했다.