많은 기업이 기존 업무 프로세스에 AI 에이전트를 적용하고 있지만, AI가 ‘주체’로 자리 잡아 업무 전반을 이끄는 단계까지는 아직 상당한 거리가 있다.

이는 2025년 마이크로소프트 이그나이트(Ignite) 컨퍼런스에 참석한 IT 리더들이 공유한 시각으로, 이들은 패널 토론에서 대부분 레거시 프로세스에 AI 에이전트를 투입하며 적용 범위를 넓혀가고 있다고 설명했다. EY의 AI 플랫폼·제품 담당 디렉터 존 휘태커는 “지금 AI 에이전트는 ‘말 없이 움직이는 마차’ 수준에 머물러 있다. 아직 진짜 자동차 단계에는 도달하지 못했다”라고 비유했다.

패널에 참석한 EY, 화이자, 루멘의 임원들은 현재 AI 에이전트를 주로 지식 관리, 콘텐츠 생성, 리서치 업무에 활용하고 있다고 설명했다. 이는 최근 맥킨지가 발표한 AI 연구 결과와도 일치하는데, 해당 조사에서도 이 세 영역에서 AI 도구 활용이 가장 활발한 것으로 나타났다.

기업을 ‘AI 우선(AI-first)’ 조직으로 전환해야 한다는 압박을 받는 상황에서 의사결정권자들은 AI 에이전트를 활용해 레거시 프로세스를 걷어내고 비용 절감과 생산성 향상을 이루는 방안을 모색하고 있다.

EY는 내부에 문서화된 프로세스만 3,000만 개에 달하며, 현재 운영 중인 에이전트도 4만 1,000개 수준이다. 휘태커는 “코파일럿 같은 에이전트 기반 지원 기능을 도입해 이런 프로세스를 더 빠르게 처리하는 것이 더 나은 결과로 이어지는 가장 쉬운 방법”이라고 설명했다.

휘태커에 따르면, EY는 궁극적으로 데이터가 존재하는 프로세스와 애플리케이션 전반을 추상화하는 방향을 지향하고 있다. 휘태커는 “경험을 완전히 바꿀 수 있는 변화의 흐름이 점점 보이기 시작했다”라고 말했다.

EY가 운영하는 에이전트 가운데 하나인 ‘EY 세무 어시스턴트(EY tax assistant)’는 직원과 고객의 질문에 답변하고 최신 세무 정보를 제공한다. 하루 평균 약 100건의 세제 변경이 발생하는 만큼, 이 에이전트는 사용자가 변화 내용을 따라잡도록 돕는 리서치 도구 역할을 수행한다.

EY 세무 어시스턴트를 위한 파인튜닝 모델은 2,100만 건의 연구·도메인 문서를 기반으로 구축됐으며, 각 지역 사무소가 필요한 업데이트를 받을 수 있도록 추가 조정돼 있다. 휘태커는 “일반적인 대규모 언어모델(LLM) 배포도 상당히 우수하지만, 파인튜닝 모델이 제공하는 품질에는 미치지 못한다”라고 설명했다.

제약사 화이자는 단계적 방식으로 에이전트를 도입하고 있다. 우선 모델을 소규모로 시험 적용해 결과에 대한 신뢰를 확보한 뒤, 점진적으로 확장하는 방식이다.

화이자의 콜센터용 에이전트는 처음에는 일부 지역에서 시작해 이후 더 많은 지역으로 확산됐다. 화이자의 동료·소비자 기술·엔지니어링 부문 부사장 팀 홀트는 이 에이전트가 실시간 텔레메트리와 각종 정보를 기반으로 고객 문의에 답변하고 문제를 해결한다고 설명했다.

홀트는 “소수의 에이전트로 시작해 그 효율을 높이면, 그 경험을 기반으로 같은 방식을 반복 적용할 수 있고, 그렇게 하면서 점점 더 큰 효율 개선 효과를 얻을 수 있다”라고 말했다.

홀트는 화이자가 매우 프로세스 중심적인 기업이라며, 처음부터 기존 프로세스를 완전히 재설계하는 것이 목표는 아니라고 강조했다. 화이자는 AI가 실제 업무에서 어떻게 작동하는지 분석하고 기술에 대한 신뢰를 확보한 뒤, AI 관점에서 프로세스를 재구성하는 방식을 지향한다.

홀트는 “앞으로 우리가 분명히 나아가려는 방향은, 지금처럼 주어진 프로세스를 그대로 따라 해결하는 데서 벗어나 그것을 과감히 해체하고 완전히 새롭게 재구상하는 것이다. 매우 흥미로운 변화일 것”이라고 말했다.

현재 화이자 임직원 7만 5,000명 가운데 약 절반이 마이크로소프트의 코파일럿 도구를 사용하고 있다.

통신 기업 루멘(Lumen) CEO 케이트 존슨 역시 코파일럿을 활용하는 사용자다. 루멘의 수석부사장 션 알렉산더는 리서치나 임원 브리핑 준비 등 다양한 업무를 처리하는 데 이를 사용하고 있다고 설명했다.

알렉산더는 게임 용어를 빌려 자율형 에이전트가 기업 프로세스를 수행하는 단계를 3가지로 구분했다. 레벨 1은 인간과 에이전트 간 상호작용, 레벨 2는 인간과 다수 에이전트 간 상호작용, 레벨 3은 “여러 에이전트가 서로 완전히 조율된 상태에서 작업을 수행하는 단계”다.

루멘은 앞으로 36개월 후 회사가 어떤 모습이기를 원하는지 정의한 뒤, 이를 AI 에이전트와 AI 네이티브 전략과 연결하는 작업을 진행하고 있다. 알렉산더는 “목표에서 역으로 접근해 이를 실현할 적절한 도구와 교육, 에이전트 구성을 갖추고 있는지 점검하고 있다”라고 말했다.

알렉산더가 이끄는 루멘의 커넥티드 에코시스템(Connected Ecosystem) 조직에서는 신규 입사자 전원이 코파일럿 라이선스를 지급받는다. 코파일럿은 사내 약어 이해나 과거 트렌드 파악 속도를 크게 높이는 데 도움을 준다.

알렉산더는 “신규 직원이 잠재력을 충분히 발휘하기까지 보통 6개월이 걸리는데, 지금은 그 기간이 3개월 수준으로 줄어들었다”라고 설명했다.

또한 알렉산더는 최근 루멘이 마이크로소프트와 하버드와 함께 워크숍을 진행하며 AI 에이전트 기술이 앞으로 어떤 방향으로 움직이고 있는지 집중적으로 검토한 결과, “에이전트 기술은 아직 매우 초기 단계에 있다”라고 강조했다.
dl-itworldkorea@foundryco.com