필자는 이미 이 기술을 꽤 오래 사용해왔고 주로 검색 엔진 대체 수단으로 유용한 점을 발견했지만, 모두가 기대하는 것만큼 만능은 아니다. 이 같은 회의적인 시각은 단순한 개인적 불만이 아니다. IBM이 최근 2,000명의 CEO를 대상으로 실시한 조사에 따르면, “지난 몇 년간 기대한 투자수익률(ROI)을 달성한 AI 프로젝트는 전체의 25%뿐”인 것으로 나타났다. 또한 “CEO 응답자의 52%만이 비용 절감을 넘어 생성형 AI 투자로부터 가치를 실현하고 있다”라고 답했다.

더욱이 “64%의 CEO가 기술 도입 시 가치에 대한 명확한 이해 없이도 뒤처질 위험 때문에 투자를 감행한다”라고 인정했으며, “기술 도입에 있어 ‘빠르지만 틀리는 것’이 ‘느리지만 정확한 것’보다 낫다고 생각하는 CEO는 37%에 불과하다”라고 밝혔다.

정말 그런가? ‘빠르게 움직이고 깨뜨려라’는 말은 모두 알지만, CEO는 정말로 막대한 비용을 들여서 두려움에 기반한 IT 결정을 내리는 것일까? CEO 평균보다 적은 연봉을 받겠다는 누구라도 내릴 수 있는 결정이 아닌가?

하지만 진지하게 바라보면, 업계 내 일부는 실제 사업 수치를 분석해본 결과 생성형 AI가 기대에 미치지 못하고 있음은 사실이다. 예를 들어, 마이크로소프트는 코파일럿을 최종 사용자 전략의 핵심으로 삼고 있지만, 사용자는 코파일럿을 외면하고 있다. 뉴커머(Newcomer) 보도에 따르면 “마이크로소프트 연례 임원 회의에서 CFO 에이미 후드는 지난 1년간 코파일럿 소비자 AI 도구의 주간 사용자 수가 약 2,000만 명으로 거의 변동이 없음을 보여주는 슬라이드를 공개”했다. 일종의 평준화(flatlining)로, 의료 드라마에서 알 수 있듯 매우 좋지 않은 신호다.

마이크로소프트 CEO 사티아 나델라도 AI에 대한 근본적인 문제가 있음을 인정했다. 그는 100억 달러 이상을 생성형 AI에 투자한 후에도 “AI 킬러 앱은 없다”라고 말했다. 나델라에게 조언하자면, 마이크로소프트 제품군에 코파일럿 기능을 무차별적으로 추가하는 것은 분명히 수익성 확보의 해법이 아니다.

여러 기업이 기술을 활용해 변화를 모색하는 가운데, 혁신을 지속 가능한 수익으로 전환하는 데는 여전히 큰 난관이 존재한다. 일부 분야에서 매출이 급증하고 투자도 활발하지만, 많은 생성형 AI 기업은 높은 운영비용과 장기적 재무 성공의 불확실성에 직면해 있다.

가장 두드러진 문제는 생성형 AI 운영에 드는 막대한 비용이다. 선두 기업인 오픈AI는 2024년에 약 90억 달러를 지출해 약 40억 달러의 매출을 올렸는데, 대부분 비용이 AI 모델 학습과 운영을 위한 컴퓨팅 파워에 쓰였다. 유명 기술 평론가 에드 지트론은 “오픈AI는 유료 고객 한 명당 손해를 보고 있으며, 구독자 수가 늘어도 수십억 달러를 태우고 있다”라고 말했다.

그렇다면 고객 수를 늘려 손실을 만회할 수 있지 않을까? 오픈AI는 지금까지 가장 성공한 생성형 AI 신생업체지만, 그렇다면 규모가 작은 다른 기업의 재무 상황은 어떨까?

일부 소규모 생성형 AI 기업, 예를 들어 정밀의학 분야에 AI를 적용하는 템퍼스 AI는 전년 대비 75%의 매출 증가를 보고하며 긍정적인 재무 흐름을 보이고 있다. 이들의 차별점은 생성형 AI가 모든 것을 마법처럼 개선할 것이라는 막연한 생각 대신, 구체적이고 명확한 비즈니스 사례에 집중했다는 점이다. 생성형 AI 도구를 성공적으로 활용하려는 이들에게 중요한 교훈이다.

엔비디아도 좋은 실적을 내고 있지만, 생성형 AI를 사용하는 기업이나 소비자에게 직접 판매하는 것이 아니라 AI 서비스를 제공하는 기업에 판매한다는 점에서 차이가 있다. 오픈AI, 앤트로픽 등 신생업체가 수십억 달러를 계속 유치하는 한 엔비디아도 큰 문제가 없겠지만, 벤처캐피털이 ‘끝없는 성장’이 아니라 ‘실질적 수익성’에 의문을 품기 시작하면 상황은 달라질 것이다.

1990년대 후반과 2000년대 초반의 닷컴 버블을 기억하는가? 지금의 생성형 AI라는 거품도 점점 커지고 있다. 모든 거품은 결국 터지게 마련이다.
dl-itworldkorea@foundryco.com