생성형 AI 거품 붕괴 또는 붕괴 직전이라는 소문이 점점 더 자주 들려오면서 대기업 이사회는 불안감을 드러내고 있다. CIO에게 생성형 AI 투자 보호 전략을 신속히 수립하라는 압박이 거세지고 있다.

인포테크 리서치 그룹 수석 리서치 이사 브라이언 잭슨은 “생성형 AI라는 거품은 불확실성을 더욱 가중시키는 요소다. 6개월 후에는 완전히 다른 국면을 맞이할 수도 있다”라며 “지금은 너무 많은 대형 업체가 이 파이를 나눠 가지려 하고 있다. 현재의 생성형 AI 비즈니스 모델은 상당히 보조금에 의존하고 있다”라고 분석했다.

IT 리더가 기업을 보호하기 위해 취할 수 있는 조치는 분명 존재한다. 그러나 문제는 ‘무엇으로부터 보호하느냐’는 점이다. 생성형 AI 거품이 실제로 붕괴할지조차 확신할 수 없을 뿐 아니라, 설령 붕괴한다 해도 누구도 그 형태조차 예측하지 못하고 있다.

현재로서는 거품 붕괴의 가장 유력한 원인만이 명확해 보인다. 2000년 여름 닷컴 버블 붕괴를 촉발한 요인과 동일하다. 수익성 있는 명확한 사업 계획 없이, 벤처캐피털(VC) 및 기타 투자자 지원에만 의존해 운영되던 기업이 핵심 원인이었다.

당시 붕괴로 전자상거래 자체가 사라진 것은 아니었다. 오히려 25년이 지난 지금, 전자상거래 비즈니스는 여전히 건재하다. 사라진 것은 애초에 투자를 받지 말았어야 할 무수한 소규모 업체들이었다.

AI 업체의 생존 가능성 평가

생성형 AI 거품 붕괴가 실제로 벌어진다면 어떤 모습일까? 이에 앞서 핵심 AI 업체를 세 가지 범주로 분류할 수 있다.

• 마이크로소프트, 아마존웹서비스, 구글/알파벳, 메타, 오라클, 애플, IBM 등 다각화된 대형 기업
• 오픈AI, 앤트로픽, 퍼플렉시티 등 순수 플레이어
• 이름을 언급하기 어려울 정도로 많은 소규모 업체

2000년 닷컴 버블 붕괴와 마찬가지로, 가장 위험에 처한 것은 다수의 소규모 업체다. 이가 시장에서 사라지는 방식은 다양할 수 있다. 대형 기업에 인수되거나 다른 소형 업체와 합병되거나, 혹은 완전히 사업을 종료할 수도 있다.

물론 닷컴 버블 때처럼, 일부 소규모 업체는 살아남을 수도 있다. 특히, 특정 산업군이나 지역, 또는 공급망 같은 기능 영역에 집중하는 등 특화된 서비스를 제공하는 경우가 이에 해당한다. 틈새 시장에 충분히 좁고 집중된 경우, 생존 가능성은 있다.

멕시코 유통 기업 알마세네스 디스트리부이도레스 데 라 프론테라(Almacenes Distribuidores de la Frontera) 기술 책임자 리카르도 카레온은 “작은 업체 중에는 법률이나 항공우주 같은 분야에 특화된 생성형 AI 솔루션을 제공하며, 특정 영역에 강한 가치를 주는 사례가 있다”라며 “좁은 문제를 잘 해결하고 그 틈새가 유의미하다면 성공할 수 있다”라고 설명했다.

CIO는 지금의 AI 업체 파트너가 살아남을 가능성이 있는지 분석해야 한다. 이는 대부분 매우 어려운 도박과도 같은 판단이 될 것이다.

대형 기업 및 하이퍼스케일러는 일반적으로 안전하다고 평가받는다. 다각화 덕분에 생존 가능성이 높기 때문이다. 그러나 CIO 입장에서 더 두려운 시나리오는 바로 비즈니스 모델 전환, 다시 말해 가격 급등이다.

거품 붕괴의 본질적인 원인을 여실히 드러내는 대목이다. 환각 등 데이터 신뢰성 문제를 떠나, 현재의 생성형 AI 모델은 제대로 작동하지 않아서가 아니라, 현재의 비즈니스 모델로는 수익을 낼 수 없기 때문이다. 확장을 통한 규모의 경제도 해결책이 되지 않는다.

문제는 가격이 급등할 경우 기업이 여전히 생성형 AI를 채택하려 할 것인가다. 이미 많은 기업이 ROI 확보에 고전하고 있는 상황에서 가격 인상은 분명 악재로 작용한다.

순수 플레이어는 예측이 더 어려운 존재다. 오픈AI와 앤트로픽은 생존 가능성이 높아 보이지만, 퍼플렉시티의 상황은 불확실하다. 다만, 모든 순수 플레이어는 지금보다 더 높고 새로운 가격 모델을 채택해야 할 가능성이 크다.

붕괴에 대비하는 전략

그렇다면 CIO는 생성형 AI 거품 붕괴가 실제로 일어났을 때에도 기업을 보호할 수 있는 방법을 어떻게 마련해야 할까?

잭슨은 첫 번째 조치로 다각화된 하이퍼스케일러와 협력하는 방안을 제시했다. “대형 기업과 협력하면, 설령 오픈AI가 사라지더라도 모델을 대체할 수 있다”라고 조언했다.

“두 번째 옵션은, 모델 위에 자체적인 제품을 구축하는 것이다. 그래야 LLM 부분이 없어지더라도 기업이 더 회복탄력성을 가질 수 있다”라고 말했다.

업계에서는 오픈소스를 해법으로 거론하는 목소리도 많다. 예컨대 캐피탈원은 자체 개발 애플리케이션을 오픈소스 모델 위에 구축하는 방식으로 생성형 AI 전략을 수립했다.

카레온은 “오픈소스 모델 위에 구축하면 미래를 스스로 소유할 수 있다”라며 “인프라 내에 배포해 데이터에 대한 완전한 통제권을 가질 수 있다”라고 전했다.

잭슨은 오픈소스 의존에 대해 다소 엇갈린 의견을 드러냈다. 긍정적인 면은 “자체 환경에 배포해 소유할 수 있다”는 점이다.

그러나 “오픈소스가 무제한으로 열려 있는 것은 아니며, 파생 저작물 허용이 안 되는 경우도 있다”라고 지적했다. “예를 들어 메타에 로열티를 지급해야 할 가능성이 있으며, 이는 오픈소스 환경에서 경계해야 할 함정”이라고 말했다.

지난해 워드프레스 지배권 분쟁 소송전은 오픈소스 의존의 위험성을 잘 보여주는 사례였다.

모델 종속성의 덫

카레온은 “단일 모델에 대한 과도한 의존이 더 큰 리스크”라고 지적했다. “GPT에서 제미나이, 클로드 등으로 쉽게 전환할 수 있도록 해야 한다. 모델은 API 관점에서 유사하게 동작하므로 그렇게 어렵지는 않다”라고 언급했다.

가트너 부사장 겸 애널리스트 셸 칼슨은 여러 모델 간 전환이 중요하다는 데는 동의했지만, 전환의 난이도에 대해서는 견해를 달리했다.

“API 호출을 내부 오픈소스 모델로 리디렉션할 수는 있다. 그 말은 이미 준비가 되어 있다는 뜻이다”라고 전제하면서도, “그러나 실제로는 코드를 많이 다시 써야 하고, 테스트도 많이 해야 한다”라고 지적했다.

AI 전문가이자 Aigo.ai 공동 창업자 스리니 파기디얄라는 CIO에게 현재의 생성형 AI 구성을 즉시 분석해 외부 모델 의존도를 점검하라고 조언했다. 필수 요소를 교체해보며 실제로 얼마나 종속돼 있는지, 얼마나 쉽게 전환이 가능한지를 실험해보는 것이 좋다고 했다.

이러한 테스트의 장점은 위험이 거의 없다는 것이다. 거품 붕괴가 당장 발생하지 않더라도, 의존도 현황을 파악하면 다양한 대안을 검토할 시간을 벌 수 있다. 향후 계약 협상에도 활용할 수 있는 데이터가 될 수 있다.

만약 거품 붕괴가 수익성과 현실적인 사업 계획의 중요성을 다시 일깨워주는 계기가 된다면, 2025년의 업계에는 오히려 긍정적인 일일 수도 있다.
dl-itworldkorea@foundryco.com