마이크로소프트가 자체 인프라 투자를 철회하면서 오픈AI가 자체 데이터센터 구축을 고려하고 있는 것으로 알려졌다. 오픈AI는 정교한 AI 모델 개발에 필수적인 스토리지를 수용할 첫 번째 데이터센터를 구축하고 운영하는 것에 대해 비공개로 논의했다. 반면 마이크로소프트는 미국과 유럽의 데이터센터 프로젝트를 취소하면서 자체 데이터센터 구축에서 한걸음 물러섰다.

마이크로소프트는 지금까지 130억 달러를 투자한 오픈AI와 새로운 사업을 추진하지 않을 것으로 알려졌다. 양사 간의 배타적 파트너십은 1월에 수정됐다. 마이크로소프트는 새로운 용량에 대한 우선 구매권을 가지지만, 오픈AI는 애저 외에 다른 클라우드를 사용할 수 있다.

그러나 이런 변화는 양사 관계의 변화 이상으로 시장에 더 광범위한 영향을 미친다.

포레스터의 수석 애널리스트 앨빈 응우옌은 네트워크 월드와의 인터뷰에서 “이는 잠재적으로 큰 문제”라고 지적했다. 마이크로소프트가 서비스를 줄인다면, 시장 선택지가 제한된 상태에서 AI 서비스가 필요한 기업은 협상할 수 없는 조건의 다른 서비스 업체를 찾아야 한다는 것. 응우옌은 “만약 주요 업체가 서비스 범위를 줄이고 수요가 공급을 계속 앞지른다면, 기업은 결국 더 많은 비용을 지불하는 선택을 해야만 할 것”이라고 덧붙였다.

잠재적인 ‘과잉 공급 상황’

투자은행 TD 코웬의 애널리스트들에 따르면, 마이크로소프트가 미국과 유럽의 새로운 데이터센터 프로젝트에서 발을 빼고 있는데, AI를 구동하는 컴퓨팅 클러스터의 공급 과잉 때문이다. TD 코웬의 지난 2월 보고서를 통해 마이크로소프트가 미국에서 200MW 규모의 데이터센터 임대 계약을 취소했다며, 수요 예측치가 낮아진 “공급 과잉 상태에 있을 가능성이 있다”고 분석했다.

오픈AI는 자체 컴퓨팅 역량을 늘이고 하이퍼스케일러에 대한 의존도를 줄이기 위해 수십억 달러 규모의 데이터 스토리지 하드웨어와 소프트웨어를 구매하는 논의를 진행한 것으로 알려졌다. 이는 도널드 트럼프 미국 대통령이 향후 4년 동안 미국 내 AI 인프라를 구축하기 위해 5,000억 달러를 지원하는 스타게이트 프로젝트와도 일치한다.

업계 전문가들은 마이크로소프트와 오픈AI 간의 배타적인 파트너십이 완화된 현재, 이런 변화가 놀랄 일은 아니라고 말한다. 무어 인사이트 앤 스트래티지의 데이터센터 컴퓨팅 및 스토리지 담당 부사장 겸 수석 애널리스트인 매트 킴볼은 “클라우드 스토리지, 특히 AI와 관련된 스토리지는 비용이 엄청나게 많이 든다”라고 지적했다.

킴볼은 “저장 용량과 데이터 이동량이 증가함에 따라 이런 비용은 더욱 증가한다”라며, ”어떤 기업이라도 클라우드에서 저장 용량을 관리하는 것이 더 나은지, 아니면 온프레미스에서 관리하는 것이 나은지 비용 분석을 수행하고, 최저 비용으로 최고의 성능, 최고의 보안, 최고의 운영 효율성을 제공하는 방향으로 나아가는 것이 현명하다”라고 설명했다.

그러나 오픈AI가 데이터센터 사업에 뛰어든 것에는 의문을 제기했다. “데이터센터 환경을 구축, 강화, 관리하는 데는 소프트웨어 회사의 DNA에 없는 것들이 너무 많다”는 것이다. 예를 들어, 오픈AI가 GPU, CPU, 기타 아키텍처에 정통할지라도, 그것이 반드시 시설 관리와 일상적인 데이터센터 운영에 완전히 적용되는 것은 아니다.

한편, 마이크로소프트는 6월 30일에 종료되는 자사의 2025 회계연도에 데이터센터에 800억 달러를 투자할 계획이다. 특히, 그중 절반은 미국에 투자할 계획이라는 점에 주목해야 한다. 그리고 AI 분야에서는 마이크로소프트의 영향력을 무시할 수 없다. 응우옌은 “어떤 일이 일어나든 마이크로소프트가 향후 AI 역량 측면에서 오픈AI가 아니라 다른 방식으로 복수에 나선다고 해도 놀랍지 않을 것”이라고 덧붙였다.

시장 재편과 기업의 자체 AI 구축

일각에서는 데이터센터 건설 열풍이 거품이 될 수 있다고 경고한다. 그러나 다른 한편에서는 마이크로소프트와 오픈AI의 움직임이 근본적인 시장 재편을 예고하는 징후로 본다. 응우옌은 “시장 수요가 둔화되는 것은 아니다. 수요는 여전히 많고, 전력과 공간 측면에서 공급이 이를 충족할 수 없다”라며, “재배치가 많이 이뤄질 것이다. 과연 앞으로 누가 AI를 운영하게 될까?”라고 반문했다.

마이크로소프트가 AI 서비스를 축소하면, 구글, 메타, AWS 등이 부족한 공급을 보충하기 위해 서두를 것이다. 그러나 시장 선택의 폭이 좁아지면 자연스러운 공급과 수요의 순환으로 인해 비용이 상승할 수 있다.

한편, 기업은 자체적으로 데이터센터를 구축할 수도 있다. 물론, GPU는 여전히 비싸고 구하기 어렵지만, 하이퍼스케일러의 요구사항과 기업의 요구사항은 매우 다르다. 기업의 요구사항은 훨씬 적고, 가까운 곳에 데이터센터를 두기를 원한다. 응우옌은 이로 인해 “더욱 일반적인, 또는 덜 강력한 AI”가 탄생할 수 있다고 말했다. 소규모 모델은 고도로 정교한 모델만큼 많은 장비가 필요하지 않기 때문이다.

응우옌은 “AI 인프라와 얼마나 많은 비용을 지출해야 하는지, 얼마나 많은 전력과 냉각이 필요한지를 다시 설정하는 시점이 될 수 있다”라고 덧붙였다.
dl-itworldkorea@foundryco.com