생성형 AI 열풍의 규모를 측정하는 방법은 크게 두 가지다. 하나는 재무적 지표, 다른 하나는 대중의 인식 수준이다. 두 가지 모두 첨단 기술 산업에서 보기 힘든 수준으로 높다. AI 확장을 뒷받침하기 위한 데이터센터 구축 투자 규모는 2025년 3,640억 달러에 이를 것으로 예상된다. 이는 클라우드 혁신조차 가벼운 애피타이저처럼 보이게 만든다.

동시에 대중의 관심은 챗봇의 매력과 유용성을 넘어 인공일반지능(artificial general intelligence, AGI)이라는 개념에 쏠려 있다. 많은 이들이 인류가 역사를 바꿀 컴퓨팅 파워의 폭발적 진화 직전에 서 있다고 믿고 있다.

AGI에 대한 기대가 AI에 대한 대중 인식의 한 축이라면, 그 반대편에는 생성형 AI가 결국 확률적 기술에 불과하다는 회의론이 자리한다. 일부 기술에 정통한 전문가는 대형 언어 모델(LLM)이 구축되는 방식 자체에 근본적인 한계가 있다고 지적한다. 모델의 크기를 키우는 것만으로는 극복할 수 없는 구조적 한계가 있다는 분석이다.

진실은 이 두 극단의 어딘가에 존재한다. 이미 일상적인 업무에서 생성형 AI 도구를 사용하고 있는 소프트웨어 개발자는 이 기술이 어디에서 강점을 발휘하고 어디에서 한계를 드러내는지 누구보다 잘 알고 있다. 지금 이 시점은 AI 열풍의 최전선에 서 있는 입장에서 생성형 AI의 현황을 되돌아볼 적기다.

닷컴과 닮은 꼴

2001년, 필자는 닷컴 스타트업의 주니어 엔지니어였다. 어느 날, 늘 지나던 사무실 칸막이 사이를 걷고 있는데, 한 가지 생각이 들어 문득 걸음을 멈췄다. “혹시, 이거 거품 아니야?”

특별히 예지력이 있었던 건 아니다. 경제에 대한 깊은 이해도, 기술 산업 전반에 대한 인사이트도 없었다. 그저 코딩하며 월급을 받는 게 감사할 뿐이었다. 하지만 그 공간에는 어딘가 이상한 분위기가 있었다. 대학 기숙사 같은 자유로운 감성과 첨단 기술의 결합, 그리고 근거 없는 자신감과 쉽게 역사를 쓸 수 있을 것 같은 분위기. 그런 낯선 조합이 필자의 주의를 끌었다.

당시엔 ‘모든 것이 이제 달라졌다’는 분위기가 뚜렷하게 느껴졌다. 성장의 한계를 극복한 새로운 시대에 들어섰다고 믿었고, 이제 할 일은 눈앞에 열리는 가능성을 계속 탐색하는 것뿐이라고 여겼다. 기술과 금융의 완벽한 결합이 반드시 실현될 것이라는 낙관도 넘쳐났다. 열정만 유지한다면 성공은 시간문제처럼 느껴졌다.

어딘가 익숙한 분위기이지 않은가?

닷컴 버블에서 배운 것 (혹은 배우지 못한 것)

올해 초 골드만삭스는 닷컴 열풍과 현재의 AI 열풍을 비교한 보고서를 발표했다. 이 보고서는 오늘날의 AI 시장이 닷컴 시대와 본질적으로 다른 몇 가지 지점을 짚었다. 특히 눈에 띄는 차이는 대형 테크 기업의 실질적인 수익 창출 능력이다. 보고서에 따르면, 이른바 ‘매그니피센트 7(Magnificent 7)’이라 불리는 7대 빅테크 기업은 AI를 통해 실제 매출을 올리고 있다. 이는 현재의 정신적·재정적 과열 상태가 일정 부분 정당화되는 이유라고 분석했다.

보고서 집필팀은 “기술 산업이 거품 상태에 있다고 보지 않는다. 최근 몇 년간 기술주에 대한 기대감이 급격히 높아졌지만, 이는 강력한 수익 기반에 의해 가격 상승이 정당화된 결과이지 거품은 아니다”라고 진단했다. 이처럼 투자 관점에서는 낙관론이 우세하다.

AI 자본의 함정

하지만 조금만 시야를 달리해도 상반된 시각을 찾아볼 수 있다. 경제학자 폴 케드로스키는 데이터센터에 대한 자본 지출이 미국 GDP의 1.2%를 차지할 정도로 일종의 경기 부양 효과를 내고 있다며 “투자가 없었다면 미국 경제는 지금 수축 국면에 들어섰을 것”이라고 분석했다.

케드로스키는 이를 “AI 데이터센터 투자 프로그램”이라고 표현하며 “이 지출 규모는 이미 닷컴 시대에 정점을 찍은 통신 인프라 투자보다 크고, 19세기 철도 인프라 투자 정점과도 맞먹을 정도”라고 설명했다. 즉, AI 투자가 자본 과잉일 수 있다는 점을 시사했다.

사실상 AI 관련 투자금은 대부분 엔비디아로 흘러 들어간다. 이는 최근 엔비디아가 시가총액 4조 달러를 돌파한 첫 상장 기업이 됐다는 점에서 알 수 있다. 두 번째로 시총 4조 달러에 근접한 기업은 마이크로소프트였다.

이 수치를 좀 더 실감 나게 설명하자면, 포브스 같은 시장 전문 매체는 엔비디아의 시가총액이 캐나다의 GDP나 전 세계 연간 국방비 지출보다 크다고 분석했다. 현재 엔비디아는 S&P 500 전체 가치의 7% 이상을 차지하고 있다. 이에 대해 AI 회의론자 에드 지트론은 “AI 자본의 함정(AI money trap)”이라고 표현했다.

개발자가 알고 있는 것

AI 도구를 직접 활용하는 프로그래머와 개발자는 특별한 이점을 갖는다. 누구보다 빠르게 기술을 받아들이는 전형적인 얼리 어답터이자, 현실을 있는 그대로 판단하는 데 익숙한 실무자다. 기술이 약속한 만큼의 성과를 내지 못할 경우, 이를 애써 감추거나 과장하지 않는다.

현재로서는 코드 생성이 AI의 핵심 활용례로 꼽히지만, 개발자 입장에서 그 신선함은 이미 사라진 상태다. 많은 이들이 벌써부터 에이전틱 AI, 인프라, 프로세스 자동화 등 다음 단계의 기술을 찾아 나서고 있다.

AI는 개발 업무에 유용하긴 하지만, 여전히 많은 한계를 드러내고 있다. 업무에 AI를 활용해본 사람이라면, 유용성과 한계 사이의 미묘한 균형을 몸으로 체감할 것이다. AI는 때때로 놀라울 정도로 시간을 절약해주는 인사이트나 결과물을 제공하기도 한다. 하지만 똑같은 자신감으로 엉뚱한 오류나 성능 저하를 유발해 아낀 시간을 그대로 날려버리기도 한다.

대부분 개발자는 이미 빠르게 깨달았을 것이다. 현대의 AI는 세상을 뒤흔들 혁신이라기보다, 실용적인 도구에 가깝다. 기존 개발 방식 자체를 뿌리째 바꿔놓을 정도의 변화는 당분간 일어나지 않을 것이다.

LLM의 한계

AI로 할 수 있는 일은 이미 대부분 시도해봤다는 인식이 개발자들 사이에서 점점 확산하고 있다. 그럼에도 업계는 끝없는 수요가 존재하는 것처럼 AI 확장에 박차를 가하고 있다. 이 간극은 점차 파급 효과를 일으키고 있다.

예를 들어보자. AI 업계를 오랫동안 지켜봐 온 인지과학자 게리 마커스는 최근 출시된 GPT-5의 다소 미진한 성능을 분석하며 냉정한 평가를 내렸다. 현대 AI 설계의 핵심을 들여다보면, 컴퓨팅 자원과 데이터양을 늘리는 것만으로는 해결할 수 없는 근본적인 한계가 존재한다고 분석했다. (참고로, 마커스가 제안하는 대안인 뉴로심볼릭 AI(Neurosymbolic AI) 아키텍처도 주목할 만하다.)

마커스는 또 다른 근거로 애리조나주립대학교(Arizona State University)의 최근 보고서를 언급했다. 이 보고서는 연쇄적 사고(chain of thought, CoT) 추론 과정과 LLM의 추론 능력 한계를 다룬다. 2025년 6월 애플 역시 분석 보고서 ‘사고의 환상(The Illusion of Thinking)’에 같은 구조적 한계를 지적했다.

핵심 메시지는 이렇다. LLM은 겉보기에 추론하는 것처럼 보이지만, 실제로는 단지 학습 데이터의 패턴을 반영할 뿐 일반화 능력을 갖추고 있지 않다는 것이다. 이런 관점에 따르면, LLM은 우리가 보는 그대로가 전부이며, 지난 몇 년 동안 보여준 성능이 곧 이들이 낼 수 있는 한계치다. 최소한 근본적인 아키텍처 재설계 없이는 그 이상을 기대하기 어렵다.

만약 이 주장이 사실이라면, AI에 수조 달러 규모의 데이터센터 인프라를 쏟아붓는다 해도 지금처럼 점진적인 개선만 이어질 것이다. 물론 예기치 못한 돌파구가 나타날 수는 있지만, 그것은 현재 드러난 사실에 근거한 필연적 진화라기보다 가능성의 영역에 머물 가능성이 더 높다.

AI는 거품일까?

AI는 분명 흥미로운 신기술이며, 지금도 막대한 규모의 인프라 투자를 이끌어내고 있다. 그러나 과열된 기대(hype)가 현실이 뒷받침할 수 있는 수준을 지나치게 넘어선다면, 결국 반대 방향으로 수축이 일어날 수 있다. 그 과정에서 살아남는 기업은 지속 가능한 성장을 뒷받침할 수 있는 역량을 갖춘 곳일 것이다.

블록체인에서도 같은 일이 벌어졌다. 한때 폭발적인 확장세를 보였지만 그 흐름을 타던 일부는 극적인 붕괴를 겪었다. 암호화폐 거래소 FTX는 고객 자금 약 80억 달러를 잃었고, 테라(Terra) 사태 때는 하루 만에 최소 350억 달러가 증발했다. 이는 수많은 사례 중 두 가지에 불과하다.

그러나 크립토 윈터(Crypto Winter)를 견뎌낸 많은 기업과 프로젝트는 지금 암호화폐 생태계의 핵심 축으로 자리 잡았다. 이 생태계는 점차 기존 금융 시스템과 직접적으로 통합되는 흐름을 보이고 있다.

현재의 AI 열풍도 마찬가지일 수 있다. 설령 거품이 극적으로 터진다 해도 끝내 살아남는 기업과 프로젝트가 있을 것이다. 그리고 그 생존자들은 AI가 주도하는 지속적인 변화를 이끌어갈 주체가 될 것이다. 실제로 지금 AI 최전선에 선 빅테크 기업 상당수는 닷컴 버블 붕괴를 견뎌낸 생존자들이다.

최근 오픈AI CEO 샘 알트먼은 더 버지(The Verge)와의 인터뷰에서 “거품은 언제나 작은 진실에서 비롯되며, 똑똑한 사람조차 그 진실에 과도하게 흥분하곤 한다. 지금이 투자자 전체가 AI에 지나치게 들떠 있는 국면인가? 그렇다고 생각한다. 그러나 동시에, AI가 오랜 시간 동안 인류에게 일어난 가장 중요한 사건인가? 역시 그렇다고 생각한다”라고 말했다.

어떻게 생각하는가? 업무에서 AI를 활용하는 소프트웨어 개발자로서 우리는 지금 거품 속에 있는 것일까? 만약 그렇다면 그 규모는 얼마나 크고, 언제쯤 조정될까?
dl-itworldkorea@foundryco.com