클라우드가 널리 도입된 지 15년이 지나면서 명확한 프로젝트 유형이 정착됐다. 각 유형에는 성공과 실패를 가르는 구체적인 교훈이 축적돼 있다.

지난 15년 동안 클라우드 컴퓨팅은 핵심 기반 기술로 자리매김했다. 서버를 임대하는 수단으로 시작했지만, 현재는 기본적인 인프라 전환부터 혁신적인 AI 이니셔티브에 이르기까지 모든 것을 지원하는 복잡한 생태계로 진화했다. 수년에 걸쳐 수천 건의 기업 클라우드 프로젝트를 자문해온 경험에 비추어 보면, 대다수 프로젝트는 몇 가지 유형으로 수렴된다. 성공 여부는 과대 선전보다 각 프로젝트의 본질, 리스크, 비용, 교훈에 대한 이해에 달려 있다고 확신한다.

클라우드 마이그레이션

기업은 데이터센터의 기존 워크로드를 퍼블릭, 프라이빗, 하이브리드 환경으로 지속적으로 이전하고 있다. 리호스팅(lift and shift), 부분적 변경을 동반한 리플랫포밍, 클라우드 네이티브 아키텍처로의 전면 리팩토링 등의 방식이 활용된다. 목표는 대개 비용 절감, 확장성 확보, 하드웨어 갱신 주기 종료다. 리스크는 잘 알려져 있다. 의존성을 과소평가해 성능 문제나 통합 장애가 발생하는 사례가 많다. 데이터 이그레스 비용과 예상치 못한 운영 비용이 예상 절감액을 상쇄하기도 한다.

비용 구조는 편차가 크다. 초기 마이그레이션은 발견 미흡과 테스트 부족으로 예산 대비 20~50% 초과하는 경우가 많다. 적정 규모 조정과 예약 인스턴스 활용을 통해 지속 비용을 줄일 수 있지만, 관리가 부실하면 유휴 리소스로 인해 25~35%의 낭비가 발생한다. 이런 사례들은 인력, 교육, 변화 관리를 포함한 총소유비용(TCO)을 사전에 모델링하는 것이 얼마나 중요한지를 입증한다.

교훈 : 단순한 리프트 앤 시프트가 약속한 투자 수익률(ROI)을 실현하는 경우는 드물다. 마이그레이션을 단순한 이전이 아닌 현대화의 기회로 접근하는 기업이 성공한다. 거버넌스와 핀옵스 관행을 처음부터 체계적으로 갖추고, 전체를 한꺼번에 이전하는 대신 단계를 나눠 진행하면 비용 초과라는 위험을 줄일 수 있다. 비용 초과는 클라우드 마이그레이션 프로젝트에서 역사적으로 반복돼온 고질적인 문제다.

클라우드 네이티브 애플리케이션

개발팀은 쿠버네티스, AWS 람다(Lambda), 애저 펑션스(Azure Functions) 같은 플랫폼 위에 마이크로서비스, 서버리스 함수, 컨테이너화된 앱을 구축한다. 탄력성, 데브옵스(DevOps) 파이프라인, 관리형 서비스를 활용해 출시 시간을 단축하는 방식이다.

리스크는 아키텍처 복잡성과 기술 역량 부족에 집중된다. 마이크로서비스를 과도하게 세분화하면 운영 악몽을 초래하고, 반대로 설계가 미흡하면 확장이 불가능한 모놀리식 구조로 귀결된다. 분산 시스템은 지속적인 보안 관리가 필요하다. 신규 앱은 초기에는 순조롭지만, 팀이 가시성과 복원력보다 기능 개발을 우선시할 때 기술 부채가 쌓인다. 초기 비용은 사용량 기반이라 매력적으로 보이지만, 설계 미흡으로 인해 규모가 커질수록 급등하는 경우가 많다.

교훈 : 성공하는 팀은 CI/CD에 비용 인식을 내재화하고, 스팟 인스턴스를 전략적으로 활용하며, 처음부터 가시성을 고려해 설계한다. 클라우드 네이티브 개발은 규율 있는 아키텍처와 결합될 때 혁신을 가속화한다.

비즈니스 애널리틱스 프로젝트

기업은 데이터 레이크, 데이터 웨어하우스, 추출 변환 적재(ETL) 프로세스를 스노우플레이크(Snowflake), 빅쿼리(BigQuery), 레드시프트(Redshift) 같은 서비스로 이전하고 있다. 이를 통해 대규모 실시간 애널리틱스, 대시보드, 예측 모델링이 가능해진다. 주요 리스크는 데이터 그래비티(data gravity)와 품질 문제다. 페타바이트 규모의 데이터 이전은 비용이 많이 들고 복잡하며, 거버넌스가 부실하면 컴플라이언스 문제나 ‘쓰레기 입력, 쓰레기 출력(garbage in, garbage out)’ 결과로 이어진다. 레거시 시스템과의 통합이 가치 실현을 지연시키는 경우도 많다.

교훈 : 15년의 경험을 통해 중앙화된 데이터 전략이 분산된 전략보다 우수하다는 것이 입증됐다. 단, 도메인 소유권을 존중하는 데이터 메시(data mesh) 또는 데이터 패브릭(data fabric) 방식과 병행할 때만 그렇다. 비용 구조에는 스토리지, 쿼리 연산, 이그레스가 포함된다. 파티셔닝과 구체화된 뷰(materialized view)를 통한 최적화는 효과가 있지만, 많은 기업이 미사용 데이터에 비용을 낭비한다. 높은 비즈니스 가치가 있는 소규모 사용례부터 시작하고, 거버넌스를 나중에 덧붙이는 대신 초기부터 구축해야 한다는 점이 핵심 교훈이다.

AI 프로젝트

AI와 머신러닝 프로젝트는 현재 클라우드의 최전선을 형성하고 있다. 모델 학습, 추론 엔드포인트 배포, 애플리케이션에 머신러닝 통합 등이 포함된다. 관리형 서비스가 진입 장벽을 낮추고 있지만, 커스텀 요건을 충족하려면 GPU 클러스터나 특수 하드웨어가 필요한 경우가 많다. 리스크는 상당하다. 모델 드리프트, 설명 가능성 문제, 높은 연산 수요, 윤리적 우려 등이 그것이다. 프로덕션 배포 단계에서 확장성이나 비용 문제가 드러나면서, 개념 검증(PoC) 이후 프로젝트가 멈추는 사례가 많다. 클라우드 업체의 관리형 AI 서비스가 도움이 되지만, 기업은 여전히 핵심 비즈니스 프로세스와의 통합에 어려움을 겪고 있다.

비용은 특히 학습 단계에서 높게 발생한다. 추론은 최적화할 수 있지만, 청구 비용의 대부분을 차지하는 경우가 많다. AI는 독립적인 실험 프로젝트가 아닌 더 넓은 클라우드 네이티브 아키텍처의 일부로 접근할 때 성과를 낸다. 하이브리드 방식과 비용 통제가 필수다.

생성형 AI 프로젝트는 대규모 언어 모델(LLM), 이미지 생성, 코드 어시스턴트, 베드록(Bedrock), 오픈AI 연동, 파인튜닝된 오픈소스 모델 등을 활용하는 커스텀 에이전트를 다룬다. 기업은 근거 있는 응답을 위한 검색 증강 생성(RAG)과 에이전틱 워크플로를 실험하고 있다. 리스크로는 환각, 데이터 프라이버시 유출, 지식 재산권 문제, 토큰 비용 폭증 등이 있다. 초기 도입 기업 중 상당수가 인상적인 데모를 구축했지만, 프로덕션 단계에서 거버넌스와 컴플라이언스 장벽에 부딪혔다.

교훈 : 이 흐름을 지켜보면서 얻은 교훈은 명확하다. 범위가 좁고 비즈니스 가치가 높은 사용례부터 시작하고, 강력한 프롬프팅, 평가, 인간 감독 체계를 단계적으로 구축해야 한다. 비용 구조는 사용량 기반이며 볼륨이 늘어나면 빠르게 증가한다. 캐싱, 소형 모델, 하이브리드 온프레미스 추론을 통한 최적화가 도움이 된다. 생성형 AI는 독립적인 도구로 사용할 때보다 기존 워크플로에 내재화될 때 ROI가 가장 빠르게 실현된다.

기타 프로젝트 유형

레거시 메인프레임이나 모놀리식 애플리케이션의 현대화는 마이그레이션과 신규 개발의 중간 어딘가에 위치한다. 사물인터넷(IoT) 이니셔티브는 디바이스 관리와 엣지 애널리틱스를 위해 클라우드를 활용한다. 재해 복구 및 백업 프로젝트는 클라우드를 통해 복원력을 강화한다. 엣지 컴퓨팅 프로젝트는 사용자 또는 디바이스에 가까운 곳으로 처리를 이전한다. 컴플라이언스 중심의 소버린 클라우드(sovereign cloud) 구축은 데이터 레지던시 요건을 충족시킨다. 마지막으로, 지속 가능성 이니셔티브는 효율적인 아키텍처 구현을 통해 탄소 발자국 감소에 초점을 맞춘다.

교훈 : 각 방식에는 고유한 리스크와 비용 역학이 따른다. 현대화 작업은 숨겨진 의존성을 드러내는 경우가 많다. IoT는 안정적인 연결성을 요구한다. 엣지 컴퓨팅은 지연 시간을 고려해야 한다. 모든 유형에 걸친 교훈은 협상 레버리지와 리스크 분산을 위한 멀티 클라우드 전략의 가치를 강조한다. 다만 복잡성이 증가한다는 점은 감수해야 한다.

공통된 주제는?

대다수 프로젝트가 실패하는 원인은 기술 자체가 아니라 불충분한 계획, 기업 문화의 저항, 운영 현실에 대한 무관심에 있다. 비용 초과는 대개 핀옵스 규율의 부재에서 비롯된다. 보안과 컴플라이언스 문제는 지속적으로 발생하며 통합된 설계 고려가 필요하다. 기술 역량 부족은 진전을 가로막고, 이로 인해 업체 종속 우려에도 불구하고 관리형 서비스의 매력이 높아진다.

성공한 클라우드 사례에는 공통적인 특성이 있다. 강력한 경영진 후원, 반복적 납품, 교차 기능 팀, 지속적 최적화가 그것이다. 클라우드를 IT 프로젝트가 아닌 비즈니스 혁신으로 접근하는 기업이 최고의 성과를 낸다. 업타임이나 인스턴스 수가 아닌 매출 영향, 고객 만족, 출시 속도 같은 비즈니스 지표로 성과를 측정한다.

가용 용량 시장, 네오 클라우드(neocloud), AI 기반 운영 등이 새로운 선택지를 제시하면서 클라우드 환경은 계속 진화하고 있다. 그러나 클라우드의 기본 원칙은 변하지 않는다. 자사의 클라우드 성숙도와 목표에 맞는 프로젝트 유형을 선택해야 한다. 리스크를 철저히 파악하고, 비용을 현실적으로 모델링하며, 수천 건의 클라우드 구축 경험에서 도출된 교훈을 적용해야 한다.

조언 자체는 단순하게 들릴 수 있지만, 앞으로의 10년 동안 어떤 클라우드 프로젝트와 기업이 살아남을지를 결정하는 기준이 될 것이다. 규율 없이 과대 선전을 좇는 기업은 또 하나의 반면교사로 남을 뿐이다.
dl-itworldkorea@foundryco.com