IT 책임자라면 누구나 단순한 클라우드 도입을 넘어 비용 절감과 효율성 강화를 위한 최적화 흐름을 외면할 수는 없을 것이다.

클라우드를 비용 효율적인 해법으로 보는 관점은 대규모 도입 시기 동안 IT 책임자의 상상력을 사로잡았다. 기업은 퍼블릭 클라우드 인프라의 확장성과 사용한 만큼만 비용을 지불하는 과금 구조를 활용해 큰 폭의 비용 절감을 기대했다. 하지만 컨설팅 업체 크레용의 2025 IT 비용 최적화 보고서가 보여주듯, 현실은 훨씬 더 복잡했다.

크레용의 보고서는 2,000명 이상의 IT 책임자에 대한 조사를 바탕으로 전 세계 IT 책임자의 94%가 클라우드 비용 최적화에 어려움을 겪고 있다고 밝혔다. 많은 기업이 퍼블릭 클라우드 자원 관리를 지나치게 단순하게 보고, 잘못된 관리, 오버프로비저닝, 자원 사용에 대한 가시성 부족 등으로 인해 불필요한 지출을 하고 있다.

이 같은 비효율은 단순한 클라우드 도입의 실수 차원을 넘어, IT 비용 최적화를 전체 비즈니스 목표와 연계하는 일이 얼마나 어려운지 보여준다. 설문 응답자의 57%는 클라우드 비용 최적화를 IT 지출 극대화의 핵심 수단으로 꼽았다. 이런 흐름은 클라우드 지출에 재무적 책임을 부여하는 핀옵스(FinOps)의 중요성이 커지고 있음을 보여준다.

여기에 AI와 자동화 도구 도입 증가까지 더해져 복잡성은 한층 높아지고 있다. 이들 기술은 혁신을 이끄는 동력이지만, 그에 따른 비용 역시 만만치 않다. 크레용의 보고서에 따르면, IT 책임자 40%는 향후 3년 내 AI 관련 비용 관리가 가장 큰 재무적 과제가 될 것이라고 내다봤다. 예산 한도를 넘지 않으면서도 성장을 지속하려면 강력한 비용 최적화 전략이 필수라는 점을 다시금 부각시키는 대목이다.

하이브리드 모델로의 전환

크레용 보고서에서 가장 주목할 만한 인사이트 중 하나는 퍼블릭 클라우드와 온프레미스 환경을 병행 운영하는 하이브리드 IT 인프라에 대한 관심이 커지고 있다는 점이다. 조사에 응한 IT 책임자의 94%는 온프레미스 인프라에 투자 의향을 밝혔으며, 전체 IT 예산의 약 37%를 이 영역에 배정할 계획이라고 답했다. 이런 변화의 핵심 요인은 ‘비용’이다. 많은 조직이 예측 가능한 자원 수요를 가진 워크로드의 경우 클라우드의 확장성이 큰 이점을 주지 못하며, 온프레미스 인프라가 더 저렴하다는 사실을 깨닫고 있다.

비용 외에도 ‘데이터 보안과 규제 준수’를 하이브리드 전환의 또 다른 이유로 든 응답자도 52%에 달했다. 특히 헬스케어나 금융처럼 규제가 엄격한 산업에서는 데이터 처리에 대한 통제를 강화해야 하며, 중요한 데이터를 온프레미스에 두면 클라우드보다 규제 대응이 쉬워지고 비용도 줄일 수 있다.

‘인프라에 대한 통제력’을 이유로 든 IT 책임자는 41%였다. 인프라 통제에 대한 요구는 오래된 주장이지만, 비용 최적화 전략과 맞물리며 다시 주목받고 있다. 요약하자면, 기업은 퍼블릭 클라우드가 모든 운영 요구를 충족하는지에 대한 본질적인 질문을 던지고 있다. 그리고 점점 더 많은 조직이 그 답으로 ‘그렇지 않다’를 선택하고 있다.

클라우드 기반 AI 지출

AI 도입 사례는 대부분 퍼블릭 클라우드 비용과 관련된 과제를 그대로 드러낸다. 크레용 보고서에 따르면, 전체 기업 중 60%는 IT 프로세스 자동화를 최적화하기 위해 AI를 활용하고 있으며, 45%는 비용 예측 분석을 위해 AI를 도입했다. 머신러닝 모델을 통해 자원 계획과 수요 예측을 고도화하려는 흐름이 명확하게 드러난다. 하지만 클라우드에서 대규모 AI 워크로드를 운영하는 일은 비용이 많이 들며, 특히 대규모 연산 모델을 활용하거나 특수 작업에 GPU를 사용하는 기업일수록 부담이 크다.

AWS, 마이크로소프트 애저, 구글 클라우드 같은 대형 퍼블릭 클라우드 서비스 업체는 AI에 최적화된 서비스와 상품을 속속 내놓고 있지만, 상당한 비용이 수반되는 경우가 많다. AI와 클라우드의 결합은 혁신을 가속화했지만, 동시에 클라우드 지출을 통제하기 어렵게 만들었다. 성능을 해치지 않으면서도 비용을 절감할 수 있는 클라우드 최적화 전략이 지금처럼 중요한 시점은 없다. 기술 복잡성이 높아질수록 재무 건전성 유지를 위한 전략이 더욱 절실하다.

클라우드 최적화의 미래

전체 응답자 중 41%가 여전히 IT 예산의 상당 부분을 클라우드 역량 확장에 배정하고 있는 만큼, 퍼블릭 클라우드는 앞으로도 기업 IT의 핵심 기반으로 남을 전망이다. AI 기반 자동화 같은 클라우드 서비스는 여전히 비즈니스 전환 전략의 중심이며, 퍼블릭 클라우드 인프라는 역동적이고 확장성이 높은 워크로드를 처리하는 데 최적의 환경이다. 따라서 기업은 클라우드 도입이 실질적인 비용 효율성을 제공하도록 만들어야 한다. 이를 위해 다음과 같은 접근 전략이 필요하다.

• 멀티클라우드 전략 간소화. 많은 기업이 안정성과 유연성을 확보하기 위해 멀티클라우드 전략을 유지하고 있지만, 다수의 클라우드 플랫폼을 동시에 운영하면 중복 비용이 발생하기 쉽다. 모든 클라우드 환경에서 자원 사용을 최적화하려면 효과적인 거버넌스 모델이 요구된다.
• 핀옵스 투자. 클라우드 자원 관리에 대한 재무적 통제와 책임을 강화하려면, 지출을 정밀하게 파악하고 절감 기회를 포착할 수 있는 도구를 도입해야 한다.
• 워크로드 중심 전략 채택. 모든 워크로드를 일괄적으로 클라우드로 이전하기보다는, 어떤 워크로드가 퍼블릭 클라우드에서 더 비용 효율적인지, 어떤 워크로드는 온프레미스에서 더 적합한지를 신중히 판단해야 한다.

클라우드의 핵심 매력 요소였던 확장성, 유연성, 효율성은 여전히 유효하다. 하지만 경험은 기업에 중요한 교훈을 남겼다. 퍼블릭 클라우드를 도입한다고 해서 비용이 저절로 줄어들지는 않는다는 점이다. 이제 기업은 클라우드 여정의 새로운 단계에 진입했다. 초점은 단순한 이전에서 최적화와 하이브리드로 이동했다. IT 책임자는 퍼블릭 클라우드와 온프레미스를 이분법적으로 나눌 것이 아니라, 두 환경 사이에서 효율적인 균형을 찾는 기회로 삼아야 한다.

클라우드 지출을 전략적으로 관리하는 방식을 채택하면, 기업은 재무적 건전성을 해치지 않으면서도 클라우드의 강점을 지속해서 활용할 수 있다. 클라우드 최적화와 하이브리드 IT 시대는 이제 막 시작됐다.
dl-itworldkorea@foundryco.com