퍼블릭 클라우드 컴퓨팅 세계는 전환점에 서 있다. AI와 기타 데이터 집약적인 워크로드로 인해 전 세계적으로 GPU 수요가 급증하면서 클라우드 서비스 업체는 중대한 도전에 직면했다. 공급 부족과 수요 증가를 고려할 때 GPU 수급 문제에 쉬운 해결책은 없다. 그렇다면 어떻게 해야 할까? 믿을 만한 곳이 없다면, 직접 만드는 것이 방법이다.

팬데믹으로 인한 공급망의 혼란과 고성능 칩 확보 경쟁의 심화로 GPU 부족이 더욱 심각해졌고, 대형 퍼블릭 클라우드는 내부로 눈을 돌릴 수밖에 없게 됐다. 마이크로소프트, AWS, 구글과 같은 하이퍼스케일러는 더 이상 기성품 하드웨어에 만족하지 않고 맞춤형 칩 개발에 앞장서고 있다. 처음에는 당명한 공급 부족에 대응하기 위해 시작된 이런 변화는 클라우드 산업, 더 나아가 CPU 및 GPU 시장을 재편할 수도 있다. 클라우드 서비스 업체가 칩 개발을 파고들면 들수록, 칩 시장의 경쟁은 가속화되고 오랜 산업 역학 관계도 무너질 것이다.

맞춤형 실리콘의 부상

퍼블릭 클라우드 서비스 업체는 항상 혁신가들이었다. 마이크로소프트를 예로 들어 보자. 마이크로소프는 연례 이그나이트 컨퍼런스에서 애저 플랫폼의 한계를 뛰어넘을 두 가지 새로운 칩을 공개했다. 애저 부스트 DPU(Data Processing Unit)는 AI 워크로드를 보다 효율적으로 지원하기 위해 데이터 처리를 최적화하도록 설계됐다. 애저 인테그레이티드 HSM(Hardware Security Model)은 암호화 및 키 관리 프로세스의 보안을 강화한다. 두 제품 모두 클라우드 생태계의 특정 과제인 성능 최적화와 보안을 해결하는 동시에 기존 GPU 및 CPU 공급망에 대한 의존도를 낮추는 것을 목표로 한다.

마이크로소프트만이 아니다. AWS는 머신러닝 학습용 트레이니엄(Trainium), 추론 워크로드용 인퍼런시아(Inferentia), 고급 가상화 및 보안을 위한 니트로(Nitro) 시스템 등 맞춤형 칩으로 입지를 다졌다. 구글은 몇 년 전 머신러닝 작업을 위한 맞춤형 솔루션으로 TPU(Tensor Processing Unit)를 출시했다. 이런 혁신이 결합되어 기존 GPU가 남긴 공백을 메우는 것뿐만 아니라 대규모 워크로드에 대한 기존 사고 방식을 재정의하고 있다.

다른 업체도 이에 발맞추고 있다. 엔비디아는 블루필드(Bluefield) 칩을 출시했으며, AMD는 펜산도(Pensando) 포트폴리오에 집중하고 있다. 그 결과, 특정 작업에 최적화된 맞춤형 가속기에 점점 더 의존하는 생태계가 형성되고 있으며, 소수의 칩 브랜드가 시장을 지배하던 시절과는 크게 달라졌다.

GPU 부족 문제 해결을 넘어

맞춤형 실리콘에 투자하는 동기는 분명하다. GPU는 성능은 뛰어나지만, 전력 소모량이 많고 가격이 비싸며, 범용적이어서 현대 클라우드 컴퓨팅의 미묘한 요구사항을 처리하기에는 무리다. 더구나 엔비디아의 GPU는 공급이 수요를 따라가지 못하고 있다. 맞춤형 칩과 같은 대체 솔루션은 가격 대비 성능, 에너지 효율, 냉각 요구사항을 더 잘 제어할 수 있다.

또한 맞춤형 칩을 사용하면 특정 워크로드에 대해 범용 프로세서보다 우수한 성능을 발휘하는 고도로 전문화된 시스템을 만들 수 있다. 예를 들어 마이크로소프트의 HSM, AWS의 니트로, 구글의 타이탄 같은 보안 칩은 맞춤형 하드웨어가 암호화 작업의 지연 시간을 줄이거나 하드웨어 수준에서 시스템 상태를 검증하는 등 틈새 문제를 어떻게 해결할 수 있는지 잘 보여준다. 보안을 전용 칩에 맡기면서 이들 업체는 클라우드 시장의 필수 요소인 확장성, 비용 절감, 고객 신뢰도 향상을 달성하고 있다.

맞춤형 칩은 많은 산업이 직면하고 있는 지정학적 문제의 해결책이기도 하다. 맞춤형 칩을 통해 퍼블릭 클라우드 서비스 업체는 기존 CPU 및 GPU 업체가 직면한 많은 생산 장애물을 피할 수 있다. 기존 공급망은 미국과 중국의 무역 분쟁, 대부분의 반도체 생산이 아시아에 집중되어 있다는 사실, 첨단 기술 제품에 대한 관세로 어려움을 겪고 있다. 클라우드 서비스 업체는 칩 생산 요구사항을 자체적으로 해결하고 파트너들과 함께 혁신을 추진함으로써 유리한 무기를 확보하고 있다.

이런 변화는 CPU/GPU 산업에 중대한 영향을 미칠 것이다. 우선, 직접적인 경쟁이 심화될 것이다. 인텔, AMD, 엔비디아는 수년 동안 칩 시장을 사실상 독점해 왔다. 그러나 퍼블릭 클라우드 서비스 업체가 맞춤형 실리콘 제품을 확대함에 따라 완전히 새로운 차원의 경쟁이 등장하고 있다. 클라우드 서비스 업체는 본질적으로 칩 제조업체로 변모하고 있다.

간접적인 경쟁도 치열해지고 있다. 클라우드 서비스 업체의 시장 진입으로 기존 칩 제조업체는 시장 점유율을 지키기 위해 더 빠르게 혁신을 추진해야 하는 압박을 받고 있다. AWS나 구글이 엔비디아에 의존하지 않고 차세대 컴퓨팅 성능을 제공할 수 있다면, 다른 기업이 언제까지 기존 하드웨어에 높은 가격을 지불할 수 있을까? 마찬가지로, 하이퍼 스케일러가 특화된 실리콘 설계에 대한 전문 지식을 쌓아가는 것은 기업이 반도체 제조업체와 협력해 맞춤형 하드웨어를 제작하는 더 광범위한 트렌드로 이어질 수 있다.

그뿐만이 아니다. 맞춤형 실리콘은 클라우드 산업을 넘어 완전히 새로운 혁신을 이끌어낼 수도 있다. 이런 칩이 자동차 자동화, 로봇 공학, 심지어 개인용 기기에 미칠 영향을 생각해 보자. 또한 맞춤형 가속기는 효율성과 전문화를 우선으로 하기 때문에, 고급 GPU 제조 및 운영과 관련된 비용도 절감해 다른 산업에도 이익을 가져다줄 수 있다.

실리콘 경쟁의 확대

자체 칩 개발은 많은 과제를 극복해야 한다. 반도체의 설계, 테스트 및 생산은 쉬운 일이 아니다. 클라우드 서비스 업체는 TSMC나 삼성 같은 업체가 지배하는 자본 집약적이고 위험 부담이 큰 분야에 진출하고 있다. 성공을 위해서는 제조업체 및 칩 설계자와 긴밀하게 협력해 전문적인 설계를 빠르고 저렴하게 대량 생산할 수 있도록 해야 한다.

더 중요한 것은 규제 감독이 곧 주요 문제로 부상할 수 있다는 점이다. 하이퍼스케일러가 하드웨어 생태계에 대한 통제권을 강화함에 따라 반경쟁적 행위에 대한 우려가 자연스럽게 제기될 것이다. 이들이 혁신을 억압하지 않으면서 이런 우려를 어떻게 해결하느냐가 맞춤형 칩의 미래에 결정적 역할을 할 것이다.

맞춤형 칩에 대한 투자 확대는 클라우드 및 반도체 산업 모두에 근본적인 변화를 의미한다. 이는 하이퍼스케일러가 클라우드 컴퓨팅 혁신을 주도하고 기본적인 하드웨어 생태계를 근본적으로 재편하는 시대의 시작을 알리는 신호이다. 그리고 이런 변화는 클라우드 플랫폼의 성능, 보안, 확장성을 향상시키는 것을 넘어, 간접적인 혁신, 산업 간 새로운 협력 관계, 지속되는 무역 장벽 해결 방안 등을 열어줄 수 있다.
dl-itworldkorea@foundryco.com