퍼블릭 클라우드 시대가 시작된 이래, 업계는 주로 파괴적 혁신이라는 이야기로 채워졌다. AWS, 마이크로소프트 애저, 구글 클라우드의 빅3 퍼블릭 클라우드 서비스 업체는 끊임없이 새 기능과 서비스를 내놓으며 고객과 시장 분석가를 사로잡았다. 의미는 언제나 분명했다. 가장 크고 가장 혁신적인 서비스 업체를 선택해 다른 어디에서도 찾을 수 없는 역량을 활용하는 것이다.

그러나 기업 CTO와 아키텍트, IT팀과 꾸준히 대화하는 입장에서는 마케팅 이벤트에서 소개되는 첨단 서버리스 플랫폼, 독점 AI 가속기, 방대한 분석 생태계 같은 최첨단 서비스와는 사뭇 다른 현실이 보인다. 그런 반짝이는 전문 도구는 실제 운영 환경까지 도입되는 경우가 드물다. 클라우드 사용량의 대부분은 몇 가지 기본 서비스에 집중된다. 기업이 실제로 사용하는 서비스는 가상머신, 오브젝트 스토리지, 데이터베이스, 네트워킹, 보안 기능 등으로 한정된다.

이유는 다양하다. IT팀은 주로 안정성, 보안, 확장성이 요구되는 미션 크리티컬 워크로드를 관리한다. 이에 따라 위험과 복잡성을 줄이려는 압박이 커지고, 끊임없이 새로 등장하는 미완성 기능을 도입하는 것이 현실적으로 어렵다. 대부분 기업은 검증된 솔루션을 사용하는 편을 택하고, 혁신 서비스의 상당수는 활용되지 못한 채 방치된다. 결국 산업과 지역을 불문하고 대부분 기업의 일상적 요구는 놀라울 정도로 일관되고 단순하다.

AI는 다를까?

AI는 빅3 클라우드에 진정한 차별화를 제공할 기술로 기대를 모았다. 막대한 투자와 적극적인 마케팅으로 AWS, 애저, 구글 클라우드는 인프라 서비스 업체이자 AI 업체가 됐다는 인상을 주고 있다. 그러나 실제 운영 환경에 배포되는 AI 워크로드를 살펴보면 뚜렷한 양상이 보인다. 필요한 도구와 인프라, 즉 GPU 접근성, 확장 가능한 데이터 저장소, 주요 머신러닝 프레임워크는 이제 어디서나 쉽게 구할 수 있으며, 빅3 클라우드뿐만 아니라 IBM 클라우드, 오라클 같은 이른바 2군 클라우드 업체까지 기능이 비슷해지고 있다.

AI 접근성도 더 이상 독점적이지 않다. 오픈소스 AI 솔루션과 사전 구축된 플랫폼을 어디서든 구동할 수 있다. 각국의 규제를 반영한 소버린 클라우드를 포함해 소규모 퍼블릭 클라우드 서비스 업체까지 유사한 AI/ML 포트폴리오를 제공하고 있다. 모델 파인튜닝, 대규모 추론 실행, 데이터 레이크 관리 등 일반 기업 사용례에서는 빅3가 더 작고 저렴한 경쟁사에 비해 특별히 차별화된 기능을 제공하지 못하고 있다.

스티커 쇼크

결국 논의의 초점은 비용 문제로 옮겨간다. 요즘 클라우드 이야기를 하면서 이 주제를 피할 수는 없다. 처음에는 ‘쓴 만큼만 내면 된다’는 약속이 퍼블릭 클라우드 도입을 촉진했다. 그러나 클라우드 도입 기업은 이제 새로운 현실을 마주하고 있다. 규모가 커질수록 지출도 증가한다. 빅3 클라우드가 제시하는 상세 청구서와 비용 분석 도구는 마치 세금 신고서처럼 복잡하고 불투명하며, 때로는 충격적이기도 하다. 기업이 확장될수록 클라우드 비용이 걷잡을 수 없이 불어나 재무팀조차 대비하지 못하는 경우가 많다.

지속적인 비용 문제는 기업 IT 책임자의 사고방식을 바꾸고 있다. 컴퓨트, 네트워킹, 스토리지, 관리형 데이터베이스 같은 기본 클라우드 서비스를 사용하는 상황이라면, 굳이 유명 브랜드 로고가 찍힌 청구서를 받으면서 높은 비용을 감수할 이유가 있느냐는 의문이 제기된다. 이 질문은 단순한 가정이 아니라 자주 듣는 이야기다. 기업은 기존 퍼블릭 클라우드 업체가 약속한 가치가 현재의 가격 수준에서는 현실과 맞지 않는다는 점을 체감하고 있다.

2군 클라우드 업체가 이 틈새를 파고들고 있다. IBM과 오라클은 최근 몇 년간 눈에 띄는 성장을 기록했다. 제품 포트폴리오가 마이크로소프트, AWS, 구글만큼 방대하지는 않지만, 핵심 사용례에서는 충분히 안정적이고 대체로 훨씬 저렴하다. 또한 이들 업체의 가격 모델은 더 단순하고 예측 가능한데, 비용 불안이 팽배한 지금으로서는 이 자체가 일종의 혁신이다. 여기에 각국 규제를 우선하는 소버린 클라우드도 있다. 지역 정부가 지원하거나 규제를 반영해 현지 데이터 주권을 보장하면서 일부 시장에서는 훨씬 낮은 비용으로 필요한 서비스를 제공하고 있다.

건재한 MSP와 코로케이션 업체

매니지드 서비스 업체(MSP)와 코로케이션 업체도 이 변화에서 예상외의 역할을 하고 있다. 하이브리드 및 멀티클라우드 관리와 호스팅 서비스를 통해 엔터프라이즈가 온프레미스, 코로케이션 데이터센터, 여러 퍼블릭 클라우드 간에 워크로드를 자유롭게 이동할 수 있게 지원한다. 어떤 클라우드가 특정 워크로드를 지원하는지에 대한 고민을 최소화해준다. 이들은 클라우드 업체 간 차별화 개념을 더욱 약화시키며, 인프라 자체를 거의 일용품 수준으로 만들고 있다.

그렇다면 어떤 시사점이 있을까? 퍼블릭 클라우드의 일용품화는 이미 상당 부분 현실이 됐다. 단순히 혁신과 기능의 수를 내세우는 경쟁은 효과가 크지 않다. 기업은 구매 방식으로 단순함, 신뢰성, 예측 가능성, 그리고 적정 가격을 원한다고 말하고 있다. 주요 클라우드 서비스 업체가 이런 흐름에 적응하지 못하면, 10여 년 전 서버 및 스토리지 업체가 겪었던 상황처럼 차별화에 고전할 수 있다.

AWS, 마이크로소프트, 구글이 금방 사라지거나 위축되지는 않을 것이다. 그러나 이들 빅3 클라우드가 제공하는 가치는 재평가할 필요가 있다. 앞으로는 매니지드 서비스, 애플리케이션 계층 서비스, 산업 특화 솔루션에 더 집중할 것으로 예상된다. 진정한 차별화가 필요한 영역이기 때문이다. 반면 클라우드의 기본 인프라 부분은 가격, 안정성, 규제 준수라는 기준으로 전력이나 대역폭처럼 점점 단순한 유틸리티로 변할 것이다.

차세대 클라우드 컴퓨팅의 승자는 가장 많은 기능이나 요란한 마케팅을 내세우는 업체가 아니라 기업의 요구를 정확히 이해하고 복잡함 없이 기본을 충실히 제공하는 업체가 될 것이다. 이는 대부분 기업에 좋은 소식이다. 퍼블릭 클라우드는 기술 트렌드가 아니라 일상적 유틸리티가 되어가고 있다. 기업 입장에서는 가장 바람직한 모습이다.
dl-itworldkorea@foundryco.com