하이퍼스케일러인 AWS, 구글 클라우드, 마이크로소프트 애저의 지배력은 10년 이상 클라우드 환경을 형성해 왔다. 기업은 IT 운영을 간소화하고 비용을 절감하고 혁신을 추진하기 위해 이들 플랫폼으로 몰려들었다. 한동안은 이 전략이 효과가 있었다. 확장성, 편의성, 워크로드를 지원하는 중앙집중식 플랫폼의 매력은 거부하기 어려웠다.

그러나 시대는 변한다. 많은 기업이 기존 및 미래의 워크로드, 특히 AI 기반 워크로드를 하이퍼스케일러에 의존하는 것을 다시 생각하고 있다. 이런 움직임은 한 가지 단순한 사실로 요약할 수 있다. 기업은 데이터와 데이터로 수행되는 작업을 더 잘 제어하고자 한다. 비용, 데이터 주권, 운영 제약 없이 혁신을 추진할 수 있는 자유를 얻고자 하이퍼스케일러를 넘어 시야를 확장하고 있다.

물론, 이런 패러다임의 변화가 하이퍼스케일러의 종말을 의미하지는 않는다. 하이퍼스케일러는 특정 사용례에서 여전히 중요한 역할을 할 것이다. 그러나 점점 더 많은 기업이 비용을 절감하고 통제권을 되찾고, 로컬 우선의 데이터 복귀 전략과 AI 기반 시스템을 통한 AI 혁신을 추진하기 위해 이기종 플랫폼을 채택하고 있다. 이런 변화는 지난 5년 동안 엔터프라이즈 IT 분야에서 가장 중요한 트렌드 중 하나이다.

이 다양화 트렌드가 왜 가속화되고 있는지, 그리고 기업 플랫폼의 미래에 어떤 의미를 지니는지 살펴보자.

비용 압박의 현실

클라우드 플랫폼이 주목을 받기 시작했을 때, 클라우드 플랫폼은 주로 비용 절감을 위한 솔루션으로 판매됐다. 하지만 오늘날 클라우드 경제의 현실은 기업에게 큰 부담이 되고 있다. 기업은 하이퍼스케일러가 일반적으로 온프레미스 인프라나 전문 플랫폼과 동일한 비용 절감이나 수익성을 제공하지 못한다는 사실을 깨닫고 있다. 안드레센 호로위츠의 2022년 보고서에 따르면, 상위 50위의 상장 소프트웨어 업체는 클라우드 플랫폼에 대한 높은 의존도로 인한 수익 감소로 최대 1,000억 달러의 시장 가치를 잃을 것으로 추정된다. 바클레이즈의 CIO 설문조사에 따르면, 워크로드를 내부로 이전할 계획인 기업의 비율은 2020년 43%에서 2024년 83%로 급격히 증가했다.

수년간 IT 책임자들은 “클라우드에서 시작하지 않는 것은 미친 짓이다”라는 말을 믿었다. 이 조언은 빠른 배포가 필요한 신규 프로젝트에는 타당했지만, 기존 플랫폼을 클라우드로 확장한 기업은 클라우드 비용이 예측 불가능하게 증가한다는 사실을 발견했다. TCO 분석에 따르면, 하이퍼스케일러에서 워크로드를 유지하는 것은 기업이 컴퓨팅 자원, 대역폭, 또는 스토리지를 확장해야 할 때 가격 급등을 초래한다. AI 훈련이나 분석과 같은 데이터 집약적 워크로드는 클라우드 비용을 더욱 급증시킬 수 있다. AI 컴퓨팅은 상당한 자원을 요구하기 때문에, 컴퓨팅과 스토리지를 임대하는 높은 비용은 장기적으로 문제점이 될 수 있다.

소유권이 중요한 이유

데이터에 대한 통제권은 하이퍼스케일러를 사용하는 기업에 주요한 문제점으로 대두되고 있다. 프로세스와 규정 준수 노력 및 고객 서비스를 지원하는 중요한 데이터를 하이퍼스케일러 플랫폼에 저장하는 기업은 이런 데이터에 피룡할 때 쉽게 액세스할 수 없다. 많은 하이퍼스케일러가 제한을 적용하거나 완전한 데이터 이동성을 지원하지 않으며, 이는 업체 더 종속성 또는 그에 대한 인식으로 인해 문제가 더욱 악화된다. SaaS 서비스는 데이터 검색 프로세스가 불투명해 다른 플랫폼으로 마이그레이션하거나 데이터를 새로운 솔루션에 재사용하는 것이 어렵다.

기업은 데이터를 내부에서 관리하는 것의 내재적 가치를 인식하고 있다. 금융, 의료, 제조업 등에서 실시간 데이터 처리는 운영 효율성에 필수적이다. 일부 AI 도구는 로컬에 저장된 데이터에 대한 빠른 접근이 필요하며, 하이퍼스케일러 API나 통합에 의존하는 것은 병목 현상을 초래한다. 한편, 유럽연합처럼 엄격한 개인정보 보호법이 있는 지역에서는 규정 준수 요구사항에 따라 더 엄격한 데이터 주권 전략이 요구된다.

또한, AI의 부상으로 기업은 로컬 데이터와 직접 연동되는 AI 에이전트를 활용할 수 있는 기회를 찾고 있다. 처리를 위해 데이터를 클라우드로 전송해야 하는 기존의 SaaS 기반 AI 시스템과 달리, 로컬 우선 시스템은 기업의 방화벽 내에서 작동하며 민감한 정보를 완벽하게 제어할 수 있다. 이를 통해 규정 준수 및 속도 문제를 모두 해결할 수 있다.

이기종 하이브리드 플랫폼

한 클라우드 서비스 업체가 완전히 지배하는 단일 플랫폼은 곧 과거의 일이 될 것이다. 미래는 하이퍼스케일러 서비스와 로컬 우선 시스템, 전문 플랫폼, 심지어는 송환된 워크로드를 위한 온프레미스 전략까지 균형을 이루는 하이브리드 및 고도의 이기종 인프라에 있다.

이기종 환경은 단지 이론에 그치지 않는다. 깃허브는 로컬 우선 기술과 클라우드 기반 협업을 결합한 가치를 입증했다. 메타의 라마나 딥시크처럼 로컬 운영을 위해 설계된 새로운 AI 플랫폼은 최첨단 애플리케이션이 클라우드에서 로컬로 옮겨질 수 있음을 보여준다. 이런 발전을 통해 기능 저하 없이 저렴한 비용으로 로컬 소유권을 확보할 수 있게 되었다. 더 많은 CIO와 IT 책임자가 이런 접근 방식을 채택함에 따라, 협업 도구, CRDT(Conflict-free Replicated Data Types) 시스템 및 기타 로컬 우선 기술의 관련성과 가용성이 크게 높아질 것으로 예상된다.

하이퍼스케일러는 기업 IT에서 계속 중요한 역할을 할 것이다. 퍼블릭 클라우드 플랫폼은 워크로드, 데이터 백엔드 및 수천 개의 다른 기능을 탄력적으로 확장하는 데 필수적이다. 그러나 더 이상 기본 선택지는 아니다. 기업은 클라우드의 유용성과 온프레미스, 로컬 우선, 대체 시스템의 제어 및 비용 절감을 균형 있게 조화시키는 장기적인 전략을 채택하고 있다.

앞으로 몇 년 동안 기업은 데이터 및 디지털 인프라와의 관계를 근본적으로 재구축할 것이다. 클라우드 기능과 로컬에서 제어되는 데이터를 균형 있게 조화시켜 더 빠르게 혁신하고 규정 준수 요구사항을 충족하며, 운영 비용을 절감하는 기업이 경쟁 우위를 차지할 것이다.

하이퍼스케일러는 그동안 큰 역할을 했지만, 그 자체가 결코 유일한 해결책으로 만들어진 것은 아니다. 기업 IT는 다양하며, 이를 지원하는 플랫폼도 마찬가지로 다양해야 한다. AI 워크로드, 규정 준수 요구사항, 비용 통제 압력 등 어떤 요인에 의해 주도되든, 기업은 이제 이런 변화를 실현하기 위한 도구, 동기, 전략을 갖추고 있다.
dl-itworldkorea@foundryco.com