기업이 클라우드 전략을 다시 생각할 수밖에 없는 “퍼펙트 스톰”이 다가오고 있다. 2025년에는 클라우드 아키텍처가 엔터프라이즈 클라우드 전략의 중심이 될 것이다.

먼저, 방 안의 코끼리, 즉 생성형 AI에 대해 이야기해야 한다. 생성형 AI 모델을 실행하는 데 필요한 컴퓨팅 요구 사항으로 인해 기존 클라우드 배포는 소꿉놀이용 음료수 가판대처럼 보인다. 가트너의 전망에 따르면, 엔터프라이즈 AI 워크로드는 2025년까지 전체 클라우드 인프라 용량의 30% 이상을 소비할 것으로 예상된다. AI 기반 클라우드 지출의 증가를 고려할 때, 이런 전환은 현재 진행 중이다.

필자가 수없이 강조한 것이지만, 여기서 퍼블릭 클라우드 비용이 기업의 새로운 골칫거리가 되고 있다. 지난 10년간의 ‘리프트 앤 시프트’ 잔치는 막대한 기술 부채를 초래했다. CFO는 클라우드 청구서를 보고 숨이 막힐 지경이다. 클라우드 서비스에 처음 예산의 두세 배를 지출하는 기업에 대해 이야기하고 있는데, 이는 AI 워크로드를 추가하기 전의 이야기이다.

요즘 필자가 가장 많이 받는 컨설팅 요청은 IT 부서가 퍼블릭 클라우드 자원에 왜 그렇게 많은 비용을 지출하고 있는지 파악해 달라는 것이다. 불과 10년 전만 해도 IT 인프라에 거의 관심이 없던 이사회, CEO, CFO가 이런 요청을 한다.

수요를 주도하는 투자자

여기서 흥미로운 점이 있다. 스마트 머니(Smart Money)는 자원 활용도를 최적화하여 클라우드 비용을 절감하는 데 초점을 맞추고 있다. 여기서 스마트 머니란 클라우드 아키텍처에 대한 더욱 정교한 접근 방식을 추구하는 기관 투자자를 말한다. 이들은 더 이상 ‘퍼블릭 클라우드에 올인’하는 스토리를 믿지 않는다. 대신 하이브리드 클라우드 아키텍처, 엣지 컴퓨팅의 통합, 클라우드 네이티브 최적화 패턴, 워크로드를 온프레미스 환경으로 되돌릴 수 있는 가능성에 관한 까다로운 질문을 던지고 있다.

이렇게 생각해 보자. LLM을 실행 중이고 민감한 데이터를 처리해야 하는 경우, 퍼블릭 클라우드 GPU 인스턴스에 프리미엄 요금을 지불할 것인가? 이것이 바로 프라이빗 클라우드 아키텍처의 르네상스가 일어나고 있는 이유이다. 이제 프라이빗 클라우드는 데이터 주권을 유지하면서 AI 워크로드를 지원하도록 설계되고 있다.

클라우드 업체들은 어떤가? 이런 변화에 뒤처지지 않기 위해 안간힘을 쓰고 있다. 전통적인 클라우드 서비스 업체는 더 나은 하이브리드 솔루션을 제공하기 위해 경쟁하고 있으며, 엔터프라이즈 솔루션 업체들은 마침내 사용 가능한 프라이빗 클라우드 플랫폼으로 힘을 합치고 있다. 컨설팅 업체들도 “지난 10년간 해온 일을 다시 생각해 보자”라는 메시지로 바꾸고 있다.

결론은 2025년이 단순히 클라우드가 진화하는 또 다른 해가 아니라는 것이다. 오히려 시스템 설계 방식에 근본적인 변화가 일어나는 해가 될 것이다. 혁신적인 기업은 이미 이런 변화에 대비하고 있으며, 기술 변화의 흐름에 뒤처질 수 있는 많은 기업도 이런 변화에 대비하고 있다.

2025년을 위한 계획

기업은 다가오는 클라우드 아키텍처 르네상스에 대비하기 위해 몇 가지 단계를 밟아야 한다. 희소식이 있다면, 이미 검증된 기존 기술에 새로운 개념과 프로세스를 도입하고 적용함으로써 기업의 목표를 달성할 수 있다는 것이다. 이 접근 방식에 마술 같은 것은 없다.

먼저, 집안을 정리하자. 향후 3~6개월은 현재의 클라우드 지출 및 활용 패턴을 심층적으로 분석하는 데 투자해야 한다. 경영진에게 보여주는 가공된 수치가 아니라 실제 수치를 말하는 것이다. AI/ML 워크로드 예측은 현재 예상치를 넘어 폭발적으로 증가할 것이다. 이 과정에서 퍼블릭 클라우드 배포에서 어떤 워크로드가 비용을 낭비하고 있는지 파악하면 놀랄 만한 사실을 발견하게 될 것이다.

다음으로, 합리적인 워크로드 배치 전략을 개발하자. 데이터 중력, 성능 요구사항, 규제를 고려해야 한다. 최신 트렌드를 따르는 것이 아니라 비즈니스 현실에 부합하는 결정을 내리는 것이 중요하다. 하이브리드 및 프라이빗 클라우드 투자에 대한 명시적인 ROI 모델을 만들자.

이제 기술 아키텍처에 대해 이야기해 보자. 데이터 파이프라인 최적화, 엣지 컴퓨팅 통합, AI/ML 인프라 요건 충족에 초점을 맞춰야 한다. 멀티클라우드 연결은 더 이상 선택 사항이 아니라 생존을 위한 필수 요건이다. 여기에 추가 과제도 있다. 철저한 보안 및 규정 준수 프레임워크도 유지하는 것이다.

조직적인 요소가 매우 중요한데, 대다수 기업이 이를 잘못 이해하고 있다. 인프라 전문가, 데이터 과학자, 재무 분석가, 보안 전문가가 결합된 클라우드 경제학 부서를 설립하기 바란다. 이 부서는 단순한 IT팀이 아니라 실질적인 가치를 창출해야 하는 비즈니스 부서이다. 투자 우선순위도 바뀌어야 한다. 자동화된 오케스트레이션 도구, 클라우드 관리 플랫폼, 데이터 패브릭 솔루션에 집중하자.

중요한 것은 돈이다

재무 관리는 극히 중요하다. 적절한 지불 거절 메커니즘을 구현하고 명시적인 TCO 모델을 개발하자. 직원들이 클라우드 지출에 대해 책임을 지도록 해야 한다. 협업 부서가 클라우드 사용의 실제 비용을 알게 되면 어떻게 달라지는지 놀랄 것이다. 핀옵스도 주목하자. 핀옵스에는 충분한 가치가 있지만, 일부 핀옵스 컨설턴트가 핀옵스를 설명하고 구현하는 방식은 잘못된 측정 지표로 이어지기 쉽다.

이런 전환은 평가 및 계획부터 시작해 파일럿 프로젝트를 거쳐 본격적인 구현에 이르기까지 12~24개월에 걸쳐 이루어져야 한다. 하지만 이것은 단순한 IT 프로젝트가 아니다. 모든 이해관계자의 동의가 필요한 비즈니스 혁신 이니셔티브라는 점을 잊지 말자.

2025년의 승자는 클라우드 서비스에 가장 많은 비용을 지출하는 기업이 아닐 것이다. 비즈니스 목표에 부합하는 지능적이고 유연한 클라우드 아키텍처를 구축하는 기업이 승자가 될 것이다. 시장에 떠밀려 허겁지겁 따라잡기에 나서지 않으려면, 지금 바로 시작해야 한다.
dl-itworldkorea@foundryco.com