AWS, 구글, 마이크로소프트와 같은 주요 클라우드 서비스 업체가 AI 개발과 배치 시장을 선두를 차지하기 위해 분주하다. 하지만 에이전틱 AI에 대한 퍼블릭 클라우드의 성장에 미치는 영향은 이들 업체의 야심 찬 전망과 다를 수 있다. 그 이유를 알아보자.

에이전틱 AI는 대규모 클라우드 자원을 필요로 하는 기술이라기보다는 건축학적 접근의 특성이 더 강하다. 에이전틱 AI는 AI 시스템이 목표를 향해 독립적으로 작업하고 결정을 내리고 자원을 관리할 수 있도록 한다. 에이전틱 AI 시스템의 분산적 특성은 다양한 인프라 유형에서 효과적으로 작동할 수 있다는 것을 의미하며, 종종 클라우드 서비스 업체가 막대한 투자를 하는 전문 GPU 클러스터가 필요없다.

마이그레이션 패턴은 하이브리드 접근 방식을 제안하는데, 이 방식에서는 워크로드가 온프레미스 환경, 프라이빗 클라우드, 그리고 AWS, 구글 클라우드 플랫폼 등을 포함한 다양한 퍼블릭 클라우드 서비스 업체 사이를 이동한다. 이런 유연한 배포 옵션은 에이전틱 AI가 빅3 클라우드의 대규모 퍼블릭 클라우드 서비스 채택을 촉진할 것이라는 기대에 반하는 것이다.

통합 vs. 중앙화

에이전트틱 AI는 대다수 사람의 생각과는 다르다. 필자가 볼 때, 에이전틱 AI는 우리가 익숙하게 알고 있는 무차별적인 AI 접근 방식과는 근본적으로 다르다. 에이전틱 AI는 강력한 계산기라기보다는 유능한 직원에 가깝다.

에이전틱 AI 시스템이 중앙집중식 처리 능력을 필요로 하지 않는다는 사실이 흥미롭다. 대신, 분산 네트워크처럼 작동하며, 표준 하드웨어에서 실행되고 다양한 환경에서 조정되는 경우가 많다. 자원을 현명하게 활용하고, 필요할 때 전문화된 SLM을 가져오고, 필요에 따라 외부 서비스와 통합하는 방식이다. 진정한 혁신은 강력한 성능이 아니라, 작업을 효율적으로 수행할 수 있는 더 지능적이고 자율적인 시스템을 만드는 것이다.

대형 클라우드 서비스 업체는 데이터 관리 및 하이브리드 클라우드 솔루션과 함께 AI/ML 기능을 강조하는 반면, 생성형 AI 시스템은 보다 분산된 접근 방식을 취할 가능성이 높다. LLM을 핵심 구성 요소가 아닌 외부 서비스로 통합한다. 이런 아키텍처 패턴은 중앙집중식 클라우드 자원보다 작고 특수 목적에 맞게 구축된 언어 모델과 분산 처리를 선호한다. 필자가 최근 고객을 위해 10여 건의 시스템을 구축하며 확인한 사실이다.

현대 IT 인프라의 다양한 환경은 에이전틱 AI 시스템을 배치하는 데 이상적인 플랫폼을 제공한다. 지역 서비스 업체, 독립 클라우드, 매니지드 서비스, 코로케이션 시설, 그리고 프라이빗 클라우드는 주요 퍼블릭 클라우드에 비해 더 비용 효율적이고 유연한 대안을 제공할 수 있다.

이런 분산형 접근 방식은 에이전틱 AI의 엣지 컴퓨팅, 로컬 처리, 그리고 하이브리드 아키텍처에 대한 요구와 완벽하게 일치한다. 이제 기업은 비용, 성능, 데이터 주권을 통제하면서 인프라의 적절한 조합을 활용하는 확장 가능한 AI 솔루션을 구축할 수 있다.

이런 분산 접근 방식의 효율성은 데이터 변경 및 처리를 처리하는 방식에서 분명하게 드러난다. 최신 시스템은 불필요한 I/O 작업을 피하면서 스토리지 서브 시스템과 직접 통합하면서 블록 수준의 작업을 거의 연속적으로 수행할 수 있다. 이런 효율성으로 인해 규모가 작은 전문 클라우드 서비스 업체가 하이퍼스케일러보다 더 매력적인 경우가 많다.

빅3 클라우드도 다양한 구성 요소 중 하나

SQL 서버 2025가 온프레미스 및 클라우드 환경 전반에 걸쳐 생성형 AI 기능을 통합하는 등 많은 진전이 있었지만, 하이퍼스케일러의 성장 패턴은 이들 업체의 기대와 일치하지 않을 수 있다. 에이전틱 AI의 분산적 특성과 비용 효율적인 전문 솔루션에 대한 필요성이 맞아 떨어지면서 대형 퍼블릭 클라우드 플랫폼에 집중되기보다는 더 광범위한 서비스 생태계에 걸쳐 성장이 확산될 것으로 보인다.

미래는 다양한 구성 요소가 서로 다른 환경 간의 중개자 역할을 하는 다리 구조가 될 것이다. 그러나 여러 클라우드와 플랫폼에 걸쳐 자원과 기능을 조정해야 한다. 이 접근 방식은 서비스 업체 통합보다 유연성과 효율성을 우선시하므로 에이전틱 AI 영역에서는 단일 클라우드 서비스 업체의 지배력을 제한하는 요인이 될 것이다.

AWS, 구글 클라우드, 마이크로소프트 애저는 에이전트틱 AI 환경에서 중요한 역할을 할 것이 분명하지만, 지배적 플랫폼보다는 분산된 아키텍처의 구성 요소 중 하나가 될 가능성이 더 크다. 에이전틱 AI 솔루션을 구현하는 기업은 단일 퍼블릭 클라우드로 통합하는 것보다 특정 요구 사항, 비용 및 성능 요구 사항을 최적화하는 멀티클라우드 전략을 전략을 채택할 가능성이 높다.

많은 기업이 AI 전략을 재평가하면서 퍼블릭 클라우드 서비스 업체에 대한 의존도 역시 다시 생각하고 있다. 하이퍼스케일러 인프라에서 AI 워크로드를 실행하는 데 드는 비용이 급격하게 증가했고, 특히 생성형 AI 시스템의 엄청난 비용 부담에 기업은 당황하고 있다. 10년 전, 클라우드로 전환한 기업의 많은 수가 비용 절감에 대한 기대가 무너져 대안을 모색했다.

동시에, 온프레미스 인프라 비용이 크게 감소했다. 소유 또는 임대 하드웨어의 경제성이 향상되고 현대적인 코로케이션 서비스 업체와 매니지드 서비스의 가용성이 높아지면서 기업은 더 이상 데이터센터의 일상적인 운영을 관리할 필요가 없다. 이런 변화는 확장성이나 성능을 희생하지 않으면서도 비용 관리와 유연성을 제공한다.

하이퍼스케일러는 이제 AI 생태계에서 자사의 위치를 다시 생각해야 한다. AI 인프라 시장이 정상화되면서 기업은 클라우드, 코로케이션, 매니지드 서비스, 전문 클라우드, 그리고 온프레미스 솔루션의 효율적인 조합을 찾고 있다. 퍼블릭 클라우드의 지배력에 대한 기존 가정보다는 지속 가능성, 주권, 그리고 자원 효율성을 우선시한다. 이는 하이퍼스케일러가 이런 변화를 수용하고 과도기의 관련성을 유지하기 위해 자사의 서비스를 조정해야 한다는 의미다. 그러나 업계가 적응하는 과정에서 초기에는 약간의 고통은 불가피할 것이다.
dl-itworldkorea@foundryco.com