다양한 직군과 근로자를 분석한 새로운 연구 보고서는 AI 챗봇이 조직의 생산성과 효율성을 뚜렷하게 개선하지 못한다고 결론지었다.

기술 역사학자와 산업 애널리스트, 경제학자들에 따르면, AI는 역사상 가장 어떤 기술보다 빠르게 채택됐다. 생성형 AI는 특히 빠르게 확산됐다. 예를 들어 챗GPT는 2022년 11월 출시 후 단 2개월 만에 1억 명의 사용자를 확보하며 틱톡, 인스타그램 등 기존 앱보다 더 빠른 속도로 확산됐다.

하지만 전미경제연구소(NBER)가 5월 발표한 연구에 따르면, 생성형 AI 도입으로 인한 실제 생산성 향상 효과는 전체 노동 시장에서 파악하기 어렵다. 연구팀은 광범위한 직무와 근로자를 분석한 결과, 기업이 대규모로 투자했음에도 AI 챗봇이 사용자 업무 시간의 평균 2.8%를 절약하는 데 그쳤으며, 생산성 향상이 임금 상승으로 이어진 경우는 3~7%에 불과했다고 밝혔다.

부정적인 결과만 있던 것은 아니다. 연구진은 전체 사용자의 64~90%가 AI 챗봇을 통해 시간 절약 효과를 경험했다고 설명하면서도, 업무 품질과 만족도 측면에서는 효과가 다르게 나타났다고 분석했다. 또, AI 비사용자를 포함해 전체 근무자의 8.4%가 AI로 인해 새로운 업무가 생겨난 것으로 나타났다.

새 보고서는 과거 무작위 대조 실험에서는 AI 도입이 15% 이상 생산성 향상으로 이어졌다는 결과가 많았다고 언급했다. 하지만 “이런 결과가 실제 임금이나 근로시간에 어떤 영향을 미치는지는 고품질 미시 데이터를 확보하기 어려워 명확하지 않다”고 덧붙였다.

기존 실험은 대개 AI 도구를 활용한 생산성 향상이 가장 클 것으로 예상되는 직종, 그리고 AI 챗봇 사용이 장려되고 지원되는 환경에 초점을 맞췄다. 반면 이번 연구는 최적화되지 않은 일반적인 업무 환경과 직종까지 포함해 분석함으로써 보다 제한적인 성과를 보여줬다. 연구팀은 “통제 실험 결과를 전체 경제 영역으로 확대 해석하는 데 주의가 필요하다”고 경고했다.

이번 연구는 덴마크에서 7,000개 사업장의 근무자 2만 5,000명, 11개 직종을 대상으로 진행됐다. 직무에는 회계, 고객 지원, 재무 상담, 인사, 소프트웨어 개발, IT 지원, 마케팅, 법률 업무 등이 포함됐다. 보고서는 덴마크 근무자가 생성형 AI 도입, 업무 유연성, 임금 협상 측면에서 미국 근무자가 매우 유사하다고 설명했다.

보고서에 따르면, 기업이 자체 개발 모델과 교육을 통해 AI 도입을 장려하고 있지만, 기술은 근무자의 경제적 성과에 거의 영향을 미치지 못했다. 연구팀은 “AI 챗봇은 어느 직종에서도 임금이나 업무 시간에 유의미한 영향을 미치지 못했다”고 결론지었다. 이어 “평균 3% 수준의 제한된 생산성 향상과 낮은 임금 전이 효과가 노동 시장에 미치는 영향이 미미한 이유”라고 분석했다.

생성형 AI가 노동 시장에 미치는 영향이 아직 명확하지 않은 이유는 3가지다. 기업이 AI 도구를 완전히 통합하지 않았고 챗봇의 효과는 업무에 따라 달라지며 부정적일 수도 있으며, 생산성 향상이 임금이나 근로시간에 어떤 영향을 미치는지에 대한 데이터가 부족하다는 점이다.

기업은 사용 장려, 자체 개발(38%), 교육(30%)을 통해 AI 챗봇 도입을 장려하고 있다. 연구팀에 따르면 이 같은 노력은 사용률을 47%에서 83%로 거의 두 배나 끌어올렸다. 특히 AI 챗봇의 효과는 기업이 사용을 장려할 경우 10~40% 더 커진다고 밝혔다.

빛나는 ROI는 어디에

덴마크 연구 외에도 IBM이 최근 발표한 조사에 따르면, CEO 2,000명을 대상으로 한 결과 AI 프로젝트 중 기대한 ROI를 달성한 경우는 25%에 불과했다. 또 응답자의 64%는 경쟁사에 뒤처지지 않기 위해 AI에 투자하고 있다고 답했다.

IBM은 AI 전략이 점점 명확해지고 있다고 분석했다. 작년에는 기업의 19%가 AI를 그때그때 필요에 따라 무작위적으로 활용했으나, 올해는 이런 기업이 6%로 감소했다.

IBM 컨설팅 글로벌 AI 및 애널리틱스 부문 수석 파트너 마니시 고얄 부사장은 이메일 인터뷰에서 “AI 도입 시 종종 간과되는 3가지 핵심 요소가 있다”고 지적했다. 첫째, AI 활용을 핵심 우선순위 과제에 정렬시키는 것, 둘째, 견고한 기술적 기반을 마련하는 것, 셋째, 변화 관리와 역량 개발을 통해 도입과 성장을 촉진하는 것이다.

고얄은 “기업 고객 중에 가장 높은 ROI를 경험하고 있는 영역은 소프트웨어 개발, 고객 서비스, 마케팅, 운영, IT 등 사람이 직접 관여하는 수평적 프로세스”라며, “산업별로는 통신, 유통, 금융 분야 고객이 고객 서비스 분야에서 AI를 성공적으로 활용하고 있다”고 덧붙였다.

지난해 가트너 리서치는 생성형 AI가 ‘환멸의 골짜기(Trough of Disillusionment)’에 접어들었다며, 과도한 기대와 현실의 불일치, 데이터 엔지니어링과 AI 거버넌스 성숙의 어려움, 그리고 ROI가 명확하지 않은 많은 프로젝트를 주요 원인으로 들었다.

가트너가 말하는 환멸의 골짜기란, 새롭게 주목받는 기술이 초기 열풍과 달리 실험 및 구현에서 기대에 못 미치면서 관심이 급감하는 시점을 뜻한다. 가트너의 부사장 휘트 앤드루스는 컴퓨터월드와의 이메일 인터뷰에서 “일반적인 AI는 이미 환멸의 골짜기를 지나 회복 곡선을 오르고 있지만, 생성형 AI는 아직 하락세에 있고, 에이전틱 AI는 가장 높은 정점에 근접한 상태”라고 설명했다.

가트너 자체 조사에 따르면 일부 AI 기술은 근무자의 업무 효율성에 뚜렷한 영향을 주고 있다. 예를 들어 최근 가트너 설문에 따르면, AI 사용자는 주당 평균 5.4시간, 즉 근무 시간의 약 12%를 절약한다고 응답했다. 앤드루스는 이 수치가 덴마크 연구의 통계와 오차범위 내에 있으며, 차이는 조사 방식의 차이 때문일 수 있다고 설명했다. 또, “AI가 시간을 절약해준다고 답한 근무자가 존재한다는 점은 분명하다”고 덧붙였다.

그러나 가트너의 조사로 전통적인 AI나 생성형 AI를 도입한 기업이 RPA나 블록체인 등 다른 기술을 도입한 기업보다 생산성 향상에서 더 높은 성과를 보고할 가능성이 크지 않다는 점이 드러났다. 가트너 보고서는 “AI 도입으로 절약된 시간이 상당한 수준이지만, 그 중 3분의 2 이상이 가치 없는 활동에 재투입되고 있다”고 지적했다.

가트너는 다양한 형태의 생성형 AI가 인기를 잃고 기업이 ROI에 중점을 두면서 생산성과 효율성 향상에 더 분명한 효과가 있는 에이전트 형태의 자율형 AI 에이전트의 도입이 확산될 것으로 전망했다.

챗봇보다 훨씬 더 잠재력이 큰 AI 에이전트

언스트앤영이 최근 실시한 테크놀로지 펄스 폴(Technology Pulse Poll) 조사에 따르면, AI 에이전트가 향후 AI 배포의 대다수를 차지할 것으로 보인다. 조사 결과, 500명 이상의 IT 임원 중 48%가 이미 AI 에이전트를 도입했거나 완전 배포한 상태라고 답했으며, 이 중 절반은 앞으로 24개월 이내에 자사 AI 배포 중 50% 이상이 자율형 AI가 될 것으로 전망했다.

AI 에이전트는 데이터를 수집하고, 해당 데이터를 바탕으로 자율적으로 작업을 수행해 목표를 달성하는 소프트웨어 프로그램이다. 예를 들어, 고객 상담 에이전트 역할을 하는 AI는 고객에게 질문하고, 내부 문서를 조회해 해결책을 제시하며, 고객 응답을 분석해 자체 해결할지, 아니면 사람에게 전달할지를 결정할 수 있다.

콘텐츠 관리 기업 박스(Box)가 발표한 새로운 조사 결과에 따르면, AI를 전략적으로 도입한 기업과 초기 단계에 머물러 있는 기업 사이에 뚜렷한 성과 격차가 존재하는 것으로 나타났다. 박스는 IT 책임자 1,300명을 대상으로 한 조사에서, AI 에이전트를 조기 도입한 기업이 업무 생산성에서 큰 성과를 거두고 있다고 밝혔다. 보고서는 “AI 에이전트 얼리어댑터 기업은 상당한 ROI를 얻고 있으며, 선도 기업은 평균 37%의 생산성 향상을 확인하고 있다”라고 분석했다.

AI 에이전트의 수준도 다양하다. 박스에 따르면, 전체 기업의 87%가 AI 에이전트를 활용하고 있으며, 이 중 41%는 완전 자율형 업무에 투입하고 있다. 첨단 에이전트는 업무 효율성과 혁신을 끌어올리는 데 기여하지만, 대부분 기업은 여전히 AI 기술력 격차를 해소하기 위해 직원 교육과 적응 과정에 집중하고 있다.

가트너의 앤드루스는 “AI처럼 잠재력이 큰 기술의 경우, 기존 업무를 더 빨리 할 것인지, 더 많이 할 것인지, 더 잘할 것인지, 아니면 업계의 근본적인 방식을 바꿀 것인지가 진짜 질문”이라며, “그것을 어떻게 조합할지 결정해야 한다”고 강조했다.

예를 들어, 생상성 향상에만 집중하면, 근시안적인 전략이 될 수 있다. 앤드루스는 “기업이 효율성에만 집중하는 것으로 고립된다면, 자사를 점점 감소하는 중요성으로 한정하고, 이로 인해 고객에게 자사의 의미를 높이는 데도 실패할 것이다”라고 경고했다.
dl-itworldkorea@foundryco.com