AI가 기업 운영을 혁신적으로 개선할 잠재력을 지니고 있는 것은 분명하지만, 동시에 IT 책임자에게는 눈에 보이지 않는 복잡하고 교묘한 위험을 가져올 수 있다는 분석이 나왔다. 최근 미국 플로리다주 올랜도에서 열린 ‘가트너 IT 심포지엄/엑스포(Gartner IT Symposium/Xpo)’에서 가트너 애널리스트들은 AI가 가져올 긍정적인 변화 이면에 잠재된 위험을 경고했다.

가트너 부사장이자 펠로우 애널리스트 데릴 플러머는 ‘2026년 및 그 이후 IT 조직과 사용자를 위한 주요 예측’을 주제로 한 발표에서 “AI 발전의 이면에는 어두운 면이 존재한다”라며, 기술 혁신 속도가 빠를수록 그에 따른 부작용에 대한 경계가 필요하다고 말했다.

플러머는 “기술 변화의 속도가 빨라질수록 그 위험과 기회가 인간의 행동과 선택에 점점 더 큰 영향을 미치고 있다. 미래에 제대로 대비하기 위해서는 CIO와 경영진이 기술 변화뿐 아니라 인간 행동의 변화를 동일한 우선순위로 두고 준비해야 한다”라고 강조했다. 이런 맥락에서 비판적 사고력의 저하, AI 관련 안전성 실패, AI 생태계 분절화를 향후 IT 조직이 직면할 주요 위험으로 지목됐다.

AI 확산의 그늘

가트너는 생성형 AI의 확산이 오히려 비판적 사고력 저하를 초래할 수 있다고 경고했다. 이런 역효과로 인해 2026년까지 전 세계 기업의 절반이 ‘AI 비개입(AI-free)’ 역량 평가를 도입할 것으로 전망됐다. 가트너는 “기업이 생성형 AI 활용을 확대함에 따라 채용 과정에서 기계가 만들어낸 결과물에 지나치게 의존하는 지원자와 스스로 사고할 수 있는 지원자 간의 구분이 더욱 뚜렷해질 것이다. 기업은 점점 더 AI의 도움 없이 문제 해결 능력, 근거 평가력, 판단력을 직접 입증할 수 있는 인재를 찾는 데 초점을 맞출 것”이라고 내다봤다.

이로 인해 채용 과정이 더 길어지고, 검증된 사고 능력을 갖춘 인재를 둘러싼 경쟁이 더욱 치열해질 것으로 보인다. 특히 금융, 헬스케어, 법률과 같은 고위험 산업에서는 이 같은 인재의 희소성이 인재 확보 비용을 높이고, 새로운 인재 발굴 및 평가 전략을 마련하도록 압박할 것으로 가트너는 전망했다. 또한 가트너는 “인간의 추론 능력을 구분해 측정할 수 있도록 설계된 전문 평가 기법과 플랫폼이 등장하면서 ‘AI 비개입 평가(AI-free evaluation)’ 도구와 서비스 시장이 새롭게 형성될 가능성이 높다”라고 덧붙였다.

자율주행차나 의료 사고 등 AI로 인한 안전 문제에 따른 법적 소송이 증가하고 있다는 점도 우려된다. 플러머는 “2026년 말까지 ‘AI로 인한 사망(Death by AI)’ 관련 법적 청구 건수가 전 세계적으로 1,000건을 넘어설 것”이라며, 이는 AI 위험 관리 장치의 미비 때문이라고 지적했다.

또한 “규제 당국의 감시가 강화됨에 따라 기업은 단순히 법적 의무를 충족하는 수준을 넘어 AI 안전성과 투명성을 보장하는 내부 시스템 구축에 압박을 받게 될 것”이라는 분석도 나왔다. 또한 가트너는 “일부 기업은 경쟁사와의 차별화를 위해 AI를 적극 활용하거나, 반대로 ‘AI를 사용하지 않는다’는 점을 내세워 법적 위험을 최소화하는 전략을 펼칠 가능성도 있다”라고 전망했다.

지역별 규제와 요구사항이 달라지면서 글로벌 기업이 전 세계적으로 동일한 AI 시스템을 운영하기는 점점 더 어려워질 것이라는 전망도 나왔다. 가트너에 따르면, 2027년까지 전 세계 국가의 35%가 자국의 데이터 환경과 맥락에 맞춘 ‘지역 특화형 AI 플랫폼’에 종속될 것으로 예상된다.

가트너는 “기술적 요인과 지정학적 요인이 맞물리면서 기업이 규제, 언어 다양성, 문화적 특성에 대응하기 위해 AI 솔루션을 현지화할 수밖에 없게 될 것”이라며, “이로 인해 AI 생태계는 점점 더 분절화되고, 범용 AI 솔루션은 지역적 차이가 커질수록 점차 사라질 것”이라고 전망했다.

또한 “다국적 기업은 전 세계 시장에 동일한 AI 시스템을 배포하는 데 복잡한 도전에 직면할 것이며, 서로 다른 규제 준수 요구와 데이터 거버넌스 기준을 가진 여러 플랫폼 파트너십을 동시에 관리해야 하는 상황에 놓이게 될 것”이라고 분석했다.

물론 모든 AI 트렌드가 부정적인 것은 아니다. 그러나 다수의 변화가 IT 책임자에게 새로운 과제를 안길 것이라는 점은 분명하다. 가트너는 이번 예측 보고서에서 AI가 미칠 영향을 생산성 도구, 인재 채용, 고객 서비스, B2B 거래, 거버넌스 등 다양한 분야로 확장해 분석했다.

30년간 고착된 생산성 도구 시장 뒤흔든다

가트너는 2027년까지 생성형 AI와 AI 에이전트의 확산이 지난 30년간 굳건했던 생산성 도구 시장에 처음으로 실질적인 변화를 가져올 것이라며, 580억 달러(약 83조 원) 규모의 시장이 재편될 것으로 전망했다. 가트너는 “생성형 AI의 발전으로 기업은 업무 효율과 속도를 높이는 혁신 기술에 우선순위를 두게 될 것”이라며, “이에 따라 기존의 파일 형식이나 호환성 같은 레거시 요소의 중요성은 점차 낮아지고 진입 장벽이 낮아지면서 더 많은 업체가 경쟁에 참여하게 될 것”이라고 설명했다.

채용 프로세스에 스며드는 AI

2027년까지 전체 채용 절차의 75%에 AI 활용 역량에 대한 인증이나 평가가 포함될 것으로 전망된다.

플러머는 “앞으로 2년 안에 많은 기업이 채용 과정에 실무 중심의 AI 역량 평가를 도입하게 될 것이다. 이런 표준화된 평가 체계와 맞춤형 설문은 기업이 지원자의 AI 활용 능력을 객관적으로 파악하고, 내부 인력의 AI 역량 격차를 해소하는 데 도움이 될 것”이라며 “특히 정보 수집, 유지, 분석이 핵심인 직무에서는 이 같은 AI 역량 검증이 더욱 중요해질 것”이라고 말했다.

또한 “생성형 AI 역량이 급여 수준과 직접적으로 연관되면서, 구직자는 AI 관련 기술을 습득하는 데 더 큰 가치를 두게 될 것”이라고 분석하며 “이들은 문제 해결, 생산성 향상, 합리적 의사결정 능력을 입증하기 위해 AI 역량을 실제로 보여줄 필요가 커질 것”이라고 덧붙였다.

AI 에이전트, 고객 응대부터 B2B 거래·금융까지 시장 구조 재편

2028년까지 고객 응대 업무의 80% 이상을 멀티에이전트 AI로 운영하는 기업이 시장을 주도하게 될 전망이다. 가트너는 “CRM(Customer Relationship Management) 프로세스에 멀티에이전트 AI를 도입하지 않는 기업은 ‘적은 노력으로 빠른 서비스를 받는 경험’이 표준이 되는 시장 환경에서 경쟁 우위를 잃을 수 있다”라고 지적했다. 또한 “고객이 적은 노력으로 만족스러운 경험을 얻을 수 있다고 느낄 경우, 그 브랜드나 공급업체에 머무르는 경향이 강해진다”라며, AI 에이전트를 통한 고객 경험 개선이 곧 고객 유지율과 시장 경쟁력의 핵심 요소가 될 것이라고 분석했다.

전체 B2B 거래의 90%는 2028년까지 AI 에이전트를 매개로 이뤄질 것으로 보인다. 이를 통해 약 15조 달러 규모의 B2B 지출이 AI 에이전트 기반 거래 생태계를 통해 처리될 전망이다. 가트너는 “이 새로운 생태계에서는 검증 가능한 운영 데이터가 일종의 ‘통화’ 역할을 하게 되며, 이는 디지털 신뢰 체계와 데이터 검증 가능성이 참여의 전제 조건이 되는 데이터 피드 경제(Data Feed Economy)를 형성할 것”이라고 설명했다.

이 새로운 경제 환경에서는 “마이크로서비스 기반의 컴포저블 구조, API 우선 접근, 클라우드 네이티브, 헤드리스 아키텍처로 설계된 제품이 강력한 경쟁 우위를 확보하는 핵심 요인이 될 것”으로 전망된다. 이어 가트너는 “AI 에이전트가 주도하는 새로운 상거래 모델이 등장하면서 빈번하고 마찰 없는 거래(frictionless sales)가 가능해지고, 이로 인해 다양한 산업과 기술 분야에서 영업 주기가 획기적으로 단축될 것”이라고 덧붙였다.

가트너는 2030년까지 전체 금전 거래의 22%가 프로그래머블(programmable) 형태로 전환돼, 거래 조건과 이용 규칙을 직접 포함하게 될 것이라고 전망했다. AI 에이전트에 경제적 자율권을 부여하기 위한 변화라는 설명이다. 가트너는 “경제적 자율성을 가진 머신 고객(machine customers), 즉 스스로 결제·구매·투자를 수행할 수 있는 AI 에이전트의 등장으로 인해 프로그래머블 금융 인프라에 대한 수요가 급격히 증가할 것”이라며, “이로 인해 완전히 새로운 시장이 형성되고, 자율 금융(autonomous financing)과 상황 변화에 따라 스스로 적응하는 제품 구조가 가능해질 것”이라고 분석했다.

또한 가트너는 “이 같은 흐름 속에서 스테이블코인, 디파짓 토큰(deposit token), 실물자산 토큰화가 기업용 금융 시장에서 주류 금융 수단으로 자리잡게 될 것”이라고 내다봤다.

AI 거버넌스, 기업 경쟁력의 핵심으로 부상

가트너는 2027년까지 전 세계 경제의 절반이 서로 다른 AI 규제를 도입하게 되면서, 이에 대응하기 위한 컴플라이언스 투자 규모가 50억 달러에 이를 것으로 전망했다.

가트너는 “AI 트랜스포메이션은 AI 거버넌스 위에 구축되고 있다”라며, “지난해만 1,000건이 넘는 AI 관련 법안이 제안됐지만, ‘AI’의 정의조차 국가마다 일관되지 않다”라고 지적했다.

이어 “AI 거버넌스는 기업의 성장 동력이 될 수도, 규제의 장애물이 될 수도 있다”라며, “기술이 도움을 줄 수는 있지만, AI에 대한 이해(AI 리터러시)가 진정한 경쟁력을 좌우한다”라고 설명했다.

또한 가트너는 “앞으로는 전담 인력과 전문 소프트웨어를 갖춘 AI 거버넌스 프로그램이 보안 부서와는 별도로 운영되며, 새롭게 등장하는 AI 위험을 관리하는 표준 체계로 자리 잡게 될 것”이라고 내다봤다.
dl-itworldkorea@foundryco.com