프로덕션에 바로 투입할 수 있는 AI 인프라에 대한 엄청난 수요로 인해 서버 시장은 기록적인 성장을 경험하고 있다.

IDC 보고서에 따르면, 서버 시장은 2020년 이후 두 배 이상 성장해 2024년에는 2,357억 달러의 매출을 기록했다. 이 매출의 절반 이상이 내장 GPU를 탑재한 서버에서 발생했으며, 이 부문은 전년 동기 대비 193% 성장했다.

IDC의 글로벌 엔터프라이즈 인프라스트럭처 트래커 그룹 부사장인 리디체 페르난데스는 “시장에서 GPU의 광범위한 사용으로 인해 서버 지출이 폭발적으로 증가해 이전에는 볼 수 없었던 수준에 도달했다. 이는 지난 15년 동안 시장에서 볼 수 없었던 최고 수준의 지출이다”라고 밝혔다.

서버 시장은 2024년 4분기에 773억 달러의 매출을 기록하며 전년 대비 91% 증가해 2019년 이후 두 번째로 높은 성장률을 기록했다. 여기서 엔비디아는 2024년 4분기 내장 GPU 출하량의 90% 이상을 차지하며 서버 GPU 시장을 계속해서 지배하고 있다. 업체별로는 델 테크놀로지스와 슈퍼마이크로가 전체 서버 시장에서 가장 높은 시장 점유율을 차지했고, 그 뒤를 HPE, IEIT 시스템즈, 레노버, ODM 다이렉트가 따랐다.

특히, 시장 지출의 대부분을 차지하던 x86 서버가 비x86 서버에 잠식되고 있다. 2024년 4분기 x86 서버 매출은 전년 동기 대비 약 60% 증가한 548억 달러를 기록했고, 비x86 서버 매출은 262% 증가한 225억 달러를 기록했다.

엔비디아 블랙웰 칩에 대한 수요가 증가하고, 중국 정부가 화웨이와 같은 현지 제조업체를 지원하려는 움직임에 힘입어 비x86 성장이 가속화되고 있다. 페르난데스는 “ARM 기반의 블랙웰 칩과 내장 GPU에 대한 수요가 매우 높기 때문에 ARM 파이프라인은 계속 성장할 것으로 예상한다”라고 말했다.

더 오래 사용하는 인프라

서버 내장 GPU는 2024년에 더 널리 보급될 것으로 보인다. 지금까지는 대부분 서버 내장 GPU를 클라우드 서비스 업체와 하이퍼스케일러가 사용해 왔지만, 2025년에는 일반 기업도 이를 이용할 수 있게 될 것이다. 페르난데스는 “2025년은 강력한 투자가 이루어지는 해가 될 것으로 예상한다”라며, 공급에 대한 접근성이 ‘훨씬 더 좋아지고 있다’고 덧붙였다.

2024년 초반에는 GPU 수급에 걸린 시간이 36주에 이르렀다. 그러나 페르난데스는 “세계에서 가장 큰 구매자들은 이미 인프라를 갖추고 있기 때문에, 앞으로 더 많은 가용성이 확보될 것이다”라고 전망했다.

그러나 업계가 확보한 모든 인프라를 제대로 운용하기 시작하는 시점에 도달하면, 2026년부터 투자가 둔화될 수도 있다. 기업은 이미 더 적은 자원을 필요로 하는 다양한 AI 배포 단계로 이동하기 시작했다. 예를 들어, 초기 모델 훈련에는 상당한 인프라 투자가 선행되어야 하지만, 그 후 추론 및 미세 조정 단계에서 기존 인프라를 재활용할 수 있다.

자원이 부족한 소규모 기업들도 온프레미스 배포보다는 미리 패키지화된 클라우드 도구를 사용할 가능성이 높기 때문에 서버에 대한 수요가 더욱 감소할 것이다. 페르난데스는 “지난 2년 동안 우리가 목격했던 미친 듯한 두 자릿수 성장세를 기대하지는 않을 것”이라고 덧붙였다.

기술 혁신 역시 갱신 주기가 늘어나고 있다. 과거에는 최신 프로세서의 갱신 주기가 3년 정도였지만, 오늘날의 첨단 프로세서는 4~5년 정도 지속될 수 있다. 페르난데스는 “기업은 더 오래 지속될 수 있는 투자를 할 수 있고, 이를 통해 인프라를 수년에 걸쳐 효율성을 높이고 한 환경에서 다른 환경으로 이동할 수 있는 것으로 전환할 수 있다”라고 설명했다.

경제적 불확실성은 여전한 변수

물론 경제에 대한 우려는 항상 존재한다. 특히 트럼프 행정부가 막대한 관세를 부과하겠다고 선언한 지금 상황에서는 더욱 그렇다. 페르난데스는 세계 대부분의 지역에 대한 GDP 전망치가 하향 조정됐으며, 전면적인 관세 전쟁이라도 벌어지면 미주, 유럽연합, 일부 아시아 국가들의 지출이 확실히 둔화될 것이라고 지적했다. 그 결과로 발생하는 가격 인상은 제조업체가 흡수하지 못하고 최종 사용자에게 전가될 것이다.

페르난데스는 “그 결과 서버 출하량이 감소해 서버의 수는 줄어들겠지만, 구성은 더 견고해질 것이다. 또는 작년에 사용된 구성과 동일하지만, 가격이 조금 더 비쌀 수도 있다”라고 덧붙였다.
dl-itworldkorea@foundryco.com