최근 몇 달간 생산성 애플리케이션 워크플로우를 자동화하는 에이전트형 AI 툴이 급격히 늘어났다. 하지만 기업은 이를 도입하기 전에 배포에 따른 위험을 면밀히 검토해야 한다.

포레스터 퓨처 오브 워크 팀 부사장이자 수석 애널리스트인 JP 가운더는 “기업의 책임자는 진정한 의미에서의 에이전틱 AI 전략을 수립하고, 이런 솔루션에 대한 거버넌스 체계를 마련해야 한다”라고 말했다.

가운더는 최근 출시된 툴이 진정한 에이전틱 AI는 아니며, “에이전트 비슷한(agent-ish)” 도구에 가깝다고 설명했다. 가운더는 “에이전트 비슷한 솔루션은 특정 지점의 문제는 해결할 수 있지만, 솔루션 업체가 말하는 ‘디지털 동료’는 아니다. 적어도 아직은 그렇지 않다”라고 지적했다.

생산성 툴 세계로 들어온 AI 에이전트

구글과 마이크로소프트는 자사 생산성 제품군에 탑재할 AI 플러그인을 개발하고 있으며, 서드파티 개발사도 해당 애플리케이션용 AI 플러그인을 자체적으로 제공하고 있다.

최근 개최된 구글 클라우드 넥스트(Google Cloud Next) 행사에서 구글은 워크스페이스 제품군 전반의 업무를 자동화하는 새로운 AI 툴을 공개했다. 워크스페이스 플로우(Workspace Flows)는 문서 검토, 고객 지원 요청, 제품 분석 등과 관련된 일련의 작업 흐름을 자동화한다. 구글 시트(Google Sheets)에 추가된 ‘분석 도우미(help me analyze)’ 기능은 표에 담긴 정보를 기반으로 즉각적인 데이터 분석과 인사이트를 제공한다.

마이크로소프트는 이달 초 창립 50주년을 맞아 M365 생산성 제품군과 연동되거나 독립적으로 작동할 수 있는 다양한 코파일럿 자동화 기능을 대거 선보였다.

마이크로소프트의 M365 로드맵에는 워드 문서 작성 자동화 툴, 학습 필요에 맞춘 학습용 AI 도우미, 자동화된 인사 관리 툴 등 다양한 코파일럿 기반 자동화 기능이 포함돼 있다.

앤트로픽은 클로드 AI 모델을 기존 구글 문서에 더해 지메일과 캘린더와도 통합했다고 밝혔다. 앤트로픽은 이메일 검색, 문서 검토, 캘린더 확인을 통해 “업무와 관련한 맥락을 더 깊이 있게 파악할 수 있도록” 돕는다고 설명했다.

또한 앤트로픽은 “프로젝트를 관리하거나, 여행을 계획하거나, 개인 및 가족 업무를 처리할 때도 이제 클로드는 사용자의 전체 맥락을 이해하고 더 나은 지원을 제공한다. 설정 메뉴로 이동해 구글 워크스페이스 베타 버전에 연결할 수 있다”라고 덧붙였다.

한편 어도비는 어도비 익스프레스 기반의 마이크로소프트 365용 AI 에이전트를 개발 중이며, 코파일럿과 연동해 멀티미디어 콘텐츠와 프레젠테이션을 생성할 수 있도록 지원할 계획이다.

AI 에이전트 도입 속도전, 기업에 독 될 수도

애널리스트들은 생산성 애플리케이션에 AI 플러그인을 안전하게 도입하려면 수년에 걸친 세부 조정과 구현 과정이 필요하다고 지적했다. 먼저 기업은 각 툴이 어떤 기능을 수행하는지 이해하고 잠재적인 보안 문제를 파악하며, 이를 통제할 수 있는 가이드라인을 마련해야 한다.

AI 시스템과 에이전트를 기술적으로 도입했다고 해서 그것이 반드시 올바른 방향이라는 뜻은 아니다. 오히려 너무 성급한 움직임일 수 있다.

가운더는 “아직 에이전틱 AI로 가는 여정의 초입에 있을 뿐이다. 실제로는 아직 자율성과 실행 능력이 부족한데도 많은 업체가 이 용어를 사용한다”라고 지적했다.

마이크로소프트 코파일럿 에이전트는 셰어포인트 같은 특정 데이터 소스를 직접 조회해 필요한 정보를 정확히 찾아내는 데 효과적이다. 가운더는 “일종의 RAG(Retrieval-Augmented Generation) 모델 컴퓨팅에 도움이 되지만, 이들 에이전트는 복잡한 형태의 에이전트는 아니다”라고 말했다.

J. 골드 어소시에이츠(J. Gold Associates)의 수석 애널리스트 잭 골드는 “에이전트를 서로 연결해 계층적으로 구성할 수 있다. 하나의 에이전트가 특정 작업을 수행하기 위해 다른 에이전트를 호출하고, 최종 사용자에게 결과가 표시되기까지 여러 에이전트가 순차적으로 작동할 수 있다”라고 설명했다.

골드는 “다른 신기술과 마찬가지로 기업은 기술을 효과적으로 활용하는 방법을 익혀야 한다. 에이전트가 생산적으로 작동하려면 올바른 순서로 적절한 질문을 던지는 역량이 필요하다. 질문은 간결하게 해야 한다. 명확한 기준이 없으면 에이전트가 엉뚱한 방향으로 헤매는 경향이 있기 때문”이라고 조언했다.

이어 “사용자 교육 과정에는 시행착오가 따를 수밖에 없고 이 과정은 빠를 수도, 오래 걸릴 수도 있다. 사용자의 역할과 작업의 복잡성에 따라 달라진다. 가장 큰 과제는 결국 ‘에이전트가 제공한 결과를 신뢰할 수 있는가’가 될 것”이라고 강조했다.

다른 엔터프라이즈급 시스템과 마찬가지로, CISO는 위험 요소를 식별하기 위해 반드시 초기 단계부터 참여해야 한다. 또한 기업 데이터를 다루는 AI 도입이라면, 인사팀과 법무팀 역시 함께 검토에 참여해야 한다.

골드는 “AI는 기존 데이터를 기반으로 새로운 정보를 추론하기 때문에 검색할 수 있는 정보의 범위를 실질적으로 확장할 수 있다. 그만큼 요구되는 기준 역시 전혀 다른 수준이다”라고 설명했다.

가트너의 애플리케이션 설계 및 개발팀 부사장이자 애널리스트 제이슨 웡은 “이른바 ‘에이전트 무질서(agent anarchy)’ 현상에도 주의해야 한다”라고 지적했다. 에이전트 무질서는 수천 개의 에이전트가 제대로 조율되지 않은 채 충돌하면서 자동화된 상호작용이 끝없이 반복되는 악순환을 의미한다. 웡은 “적절한 계획과 관리 없이 운영하면 에이전트 무질서는 단기간 내에 기업 애플리케이션의 안정성을 심각하게 위협할 수 있다”라고 경고했다.

코파일럿 스튜디오 에이전트 빌더(Copilot Studio Agent Builder)나 구글 AI 스튜디오(Google AI Studio) 같은 생성형 AI 툴 빌더에 접근할 수 있는 직원이 이를 애플리케이션에 기본 탑재된 다른 에이전트와 혼합해 사용할 경우, 새로운 문제가 발생할 수 있다.

웡은 “대부분 직원이 생성형 AI를 사용하면서 익숙한 기존의 업무 습관을 바꾸는 데는 보통 최소 3개월이 걸린다. 시스템 관리자는 기존의 운영 관리 역할을 넘어 에이전트 구축과 관리를 지원하는 역할로 역량을 확장해야 한다”라고 강조했다.
dl-itworldkorea@foundryco.com