많은 기업이 생성형 AI 도구를 도입했지만, 그에 상응하는 성과를 보여준 사례는 드물다. 하지만 업무용 소프트웨어를 개발하는 기업 입장에서는 AI 기술 채택이 생존을 위한 필수 조건이 되었다.

최근 MIT가 실시한 설문조사에 따르면, 생성형 AI 프로젝트의 95%가 의미 있는 재무적 성과를 내지 못했다고 한다. 그러나 생산성 도구를 만드는 기업에게는 이 기술 도입이 생존과 직결되는 문제로 떠올랐다.

마이크로소프트, 구글 같은 대형 기업은 물론, 줌, 슬랙, 트윌리오(Twilio) 등도 최근 몇 년간 업무 프로세스와 비즈니스 모델을 대거 전환하면서 AI 기술을 빠르게 도입했다. 이들은 기존의 잘 구축된 워크플로우와 레거시 비즈니스 모델 위에 에이전트 기반 AI를 덧붙이며 급변하는 환경에 대응하고 있다.

이제는 이러한 생성형 AI 도구가 제품 사용성을 높이는 핵심 기능으로 자리잡았다. 그 중심에는 기존에 분산되고 방치돼 있던 데이터를 분석해 새로운 통찰을 제공하는 AI 도우미가 있다.

마이크로소프트와 구글은 각각 코파일럿과 제미나이 기능을 자사 생산성 제품군에 빠르게 통합하고 있다. 제이 골드 어소시에이츠의 수석 애널리스트 잭 골드는 “이제는 얼마나 빠르게 AI 도구를 새로운 업무 방식으로 도입하고, 고객이 그 서비스를 얼마나 빠르게 수용하는지가 생존을 좌우할 것”이라고 분석했다.

다른 기업도 이러한 흐름에 주목하고 있다. 챗GPT를 출시하며 생성형 AI 혁신을 촉발한 오픈AI는 자체적인 생산성 도구 개발을 준비 중이다. 퍼플렉시티는 브라우저 개념을 재정의하며, 이메일 작성 등 생산성 기능이 포함된 브라우징 앱을 구상하고 있다.

잭 골드는 오픈AI는 자사 정체성을 생산성 도구로 인식하려는 경향을 보인다며 “결국 오피스 도구처럼 실질적인 문서 작성 기능을 포함해야 한다는 요구로 이어진다”라고 설명했다.

기업이 생성형 AI를 다방면에 적용하는 이유는 명확하다. 기업 임원들은 AI를 통해 인간 수준으로는 불가능한 규모의 생산성 향상을 기대하고 있기 때문이다.

트윌리오의 AI·머신러닝·데이터 부문 책임자 자커리 해니프는 “전략은 AI를 통해 실행되고 강화된다. AI 그 자체가 전략의 본질은 아니다”라고 강조했다.

2008년 설립된 클라우드 기반 고객 참여 플랫폼 기업 트윌리오는 지속적으로 제품을 해체하고 재조립해 서비스를 진화시켜왔다. 초기에는 문자 메시지와 이메일 통신에 초점을 맞췄으나, 현재는 AI 기반 멀티모달 커뮤니케이션으로 확장하고 있다.

해니프는 “이러한 전환을 통해 세상의 변화에 적응하고 대응하는 방식에 대한 기업의 근육 기억이 생긴다”라고 전하며, 생성형 AI는 맥락과 속도를 더하는 기술이며 “올바른 메시지를 적절한 시점에, 적절한 문맥으로 제공할 수 있다”라고 설명했다.

세일즈포스 산하 기업인 슬랙은 또 다른 접근을 택했다. 슬랙의 최고 제품 책임자 롭 시먼은 슬랙을 ‘작업 운영 체제’로 전환했다고 밝혔다.

슬랙은 자사 인터페이스 내에서 AI가 해결할 수 있는 문제를 찾아내고 기능으로 구현하고 있다. 예컨대, 디지털 작업 도구는 커뮤니케이션과 프로세스를 자동화하고, 기업 검색, 요약, 회의록, 번역 등의 기능도 지원한다.

시먼은 “이러한 기능이 슬랙 내에서 구현될 때 실질적으로 더 나아질 수 있는가를 기준으로 판단하며, 그렇지 않다면 쓸데없이 바퀴를 다시 발명하는 셈”이라고 말했다.

줌 역시 AI 기능을 자사 화상회의 소프트웨어 내에 내장하고 있다. 줌의 최고 마케팅 책임자 킴 스토린은 “AI 기능이 별도 부가 기능이 아니라 워크플로우의 본질적인 일부로 설계됐다”라고 설명했다.

스토린은 “현재 시장에는 겉만 AI처럼 보이는 사례(AI washing)가 많지만, 줌은 실제 사용자의 가치를 기준으로 기능을 구현하고 있다”라고 밝혔다.

슬랙과 마찬가지로, 줌도 온라인·오프라인 업무 자동화를 위한 AI 에이전트를 도입하고 있으며, 검색, 디렉터리, 갤러리 등을 통해 쉬운 에이전트 검색을 지원한다.

그러나 많은 애널리스트가 AI가 소프트웨어에 깊이 통합되고 있음에도 불구하고, 기술 공급업체와 고객사 모두 보편적인 과제에 직면해 있다고 분석했다.

포레스터 리서치의 부사장 크레이그 르클레어는 “AI가 비즈니스를 바꾸고 있지만, 기업이 사용자 관점에서의 통찰 없이 새로운 기능을 쏟아내고 있다”라고 지적했다. 덧붙여 전통적인 업무 프로세스 방식은 완전히 무너질 것이며, 아직은 뚜렷한 대체 체계가 보이지 않는다고 말했다.

AI 에이전트는 인간과 함께 일하도록 설계되고 있지만, 생산성을 어떻게 측정할지는 여전히 미지수다. 기업 내 문화적 전환이 수반되지 않는다면 일부 직원은 AI에 반감을 가질 수도 있다.

르클레어는 “지금은 사람이 직접 개입하는 구조(human in the loop)이지만, 앞으로는 사람이 감시하는 구조(human on the loop)로 전환될 것”이라며, 에이전트를 관리할 책임 주체를 명확히 할 감시 체계가 필요하다고 설명했다.

새로운 프레임워크와 모델이 기존 시스템과 상호작용하는 데 대한 불안도 존재한다. 르클레어는 “설명 가능성, 보안, 데이터 유출, 프롬프트 삽입 공격 등도 우려된다”라고 말했다.

IDC의 수석 부사장 밥 파커는 “AI와 컴퓨터에게 중대한 의사결정을 완전히 맡길 경우, 그에 따른 결과를 예측하기 어려울 수 있다”며, 안전 장치 없이 AI 의사결정에 의존하는 것에 경고를 보냈다.
dl-itworldkorea@foundryco.com