기업은 이제 생성형 AI를 단순한 생산성 툴로 보지 않는다. 비즈니스 애플리케이션, 데이터, 인간의 판단을 연결하는 핵심 계층으로 인식하기 시작했다. 이러한 변화는 마이크로소프트 365 코파일럿을 활용하는 기업에서 가장 뚜렷하게 나타난다. 많은 기업이 CRM 시스템, 로우코드 플랫폼, 그리고 특화된 AI 시스템을 아우르는 더 포괄적인 아키텍처의 일부로 코파일럿을 통합하고 있다.

그러나 이런 아키텍처를 구축하는 일은 간단하지 않다. 시장조사기관 포레스터의 수석 애널리스트 윌 매키언-화이트는 “통합 작업은 복잡하며, 올바르게 작동하도록 만들기 위해서는 주제 전문가와 기술 인력 간의 긴밀한 협력이 필요하다. 협력이 있어야만 코파일럿이 다양한 통합 기능을 언제, 어떻게 활용해야 하는지를 학습할 수 있다”라고 설명했다.

J&Y 로펌과 뱁슨 칼리지가 코파일럿을 성공적으로 도입한 대표적인 사례다. J&Y 로펌 COO 모니카 워싱턴 로스바움과 뱁슨 칼리지 CIO 패티 파트리아 두 사람의 경험은 코파일럿의 진정한 가치는 기술 그 자체가 아니라, 데이터 설계와 통합, 거버넌스, 그리고 변화 관리를 어떻게 전략적으로 결정하느냐에 달려 있음을 보여준다.

문서 작성 보조에서 업무 중심 허브로, J&Y 로펌의 사건 처리 워크플로우 혁신

로스바움이 J&Y 로펌에 합류했을 때, 로스바움은 급증하는 개인 상해 사건을 효율적으로 처리하기 위해서는 더 체계적이고 일관된 업무 방식이 필요하다는 점을 곧바로 깨달았다. 약 100명 규모의 조직으로 성장한 J&Y 로펌은 향후 확장을 목표로 하면서도, 처리량이 많은 개인 상해 사건을 정확성과 인간의 판단력을 유지한 채 관리할 방법을 찾아야 했다. 비즈니스 성장과 IT 리더십 경험을 지닌 로스바움은 곧 로펌의 여러 시스템을 아우르는 새로운 아키텍처의 형태를 그리기 시작했다.

로스바움에 따르면, 개인 상해 사건의 워크플로우는 긴밀하게 연결된 여러 단계로 구성된다. 마케팅, 사건 접수, 소송 전 조정, 청구서 작성, 합의, 협상, 그리고 필요할 경우 소송 단계로 이어진다. 각 단계는 기록되고 구조화되어 다음 단계에서 재활용해야 하는 핵심 데이터를 생성한다. 이런 데이터 흐름을 지원하기 위해 J&Y 로펌은 리티파이(Litify)라는 법률 운영 플랫폼을 CRM의 기반으로 사용하고 있다. 로스바움은 “리티파이는 사건 파이프라인의 모든 단계를 연결하는 중심 허브 역할을 한다. 각 업무를 이어주는 시스템”이라고 설명했다.

리티파이에는 여러 특화 AI 도구가 결합되어 있다. 에이전틱 AI와 여러 봇은 사건 접수 단계에서 대화를 듣고, 서면 및 구두 커뮤니케이션을 검토하며, 향후 책임 판단이나 사건의 강도에 영향을 미칠 수 있는 초기 단서를 표시한다. 또 다른 AI 플랫폼인 파운데이션 AI(Foundation AI)는 문서를 수집해 CRM에 자동으로 분류한다.

J&Y 로펌은 오픈AI의 챗GPT를 기반으로 자체적으로 개발한 맞춤형 GPT도 운영하고 있다. 이 시스템은 의료 기록, 고객과의 커뮤니케이션, 사건 파일 등 형식이 일정하지 않은 다양한 데이터에서 구조화된 정보를 추출한다. 사건이 진행됨에 따라 개인 상해 청구 분석 플랫폼인 이븐업(EvenUp)은 로펌이 구축한 AI 플레이북을 기반으로 주요 요인을 평가하고 사건의 강도와 유리한 요인을 분석해 인사이트를 도출한다.

로스바움은 각 도구가 사건 처리 흐름의 특정 단계를 담당하며, 그 단계에서 생성된 구조화된 결과물이 다음 단계로 자연스럽게 이어지도록 설계된 것이 핵심이라고 설명했다.

이 워크플로우에서 마이크로소프트 365 코파일럿의 역할은 “기존 도구를 대체하는 것이 아니라 일상적인 워크플로우와 로펌의 구조화된 사건 데이터 및 인사이트를 연결하는 다리”다. 변호사들은 여전히 아웃룩, 워드, 셰어포인트, 팀즈 등 익숙한 환경에서 업무를 수행하며, 코파일럿은 이들 애플리케이션을 리티파이에 저장된 사건 데이터, 이븐업과 내부 GPT가 생성한 분석 결과와 유기적으로 연결한다.

과거에는 청구서 초안을 작성하는 데 약 6시간이 걸렸지만, 통합된 워크플로우 환경에서는 이 작업이 약 45분으로 단축됐다. 또한 수정·검토 과정도 기존의 3~4회에서 1~2회로 줄었다.

이처럼 업무 효율성이 크게 향상됐지만, 로스바움은 법률 분야에서 AI가 생성한 문서가 자동으로 작성되거나 검증되지 않은 인상을 주어서는 안 된다고 강조했다.

이를 위해 J&Y 로펌은 변호사가 사건의 전체 맥락을 한눈에 파악할 수 있도록 구조화된 파일 검토 시스템을 구축했다. 이 시스템을 통해 변호사는 내부 하이퍼링크가 포함된 사건 요약 문서를 받아 증거 자료의 세부 항목을 즉시 탐색할 수 있다. 정보의 출처를 명확히 확인할 수 있고 AI가 도출한 인사이트를 직접 검증하거나 수정할 수 있으며, 일률적으로 생성된 AI 문장이 그대로 노출되는 문제를 방지할 수 있다.

로스바움은 “75% 정도가 AI로 작성됐다는 사실은 여전히 눈에 잘 보인다. 보험회사에 그런 인상을 주는 일은 절대 피해야 한다”라고 말했다.

한편, 워크플로우 대부분을 효율적으로 단순화했음에도 인간의 개입이 불가피한 영역은 남아 있다. 그중 하나가 의료 기록 확보 과정이다. 이 단계는 여전히 병원이나 의사 사무실과의 전화 통화, 팩스 송신 등 수작업 중심이다. 로스바움은 “의료 기록 후속 조치 측면에서는 일부 진전이 있지만, AI는 아직 인간이 가진 판단력, 뉘앙스, 설득력을 완전히 대체하지 못한다”라고 설명했다.

또 다른 인간 중심의 워크플로우는 합의 협상 과정이다. 이 단계는 미묘한 뉘앙스와 심리, 게임이론적 요소가 복합적으로 작용하는 영역으로, 로스바움은 “AI가 예측이나 전망은 할 수 있지만, 사람 간의 협상은 여전히 인간이 직접 해야 하는 부분”이라고 덧붙였다.

그럼에도 불구하고 사건 처리 전 과정을 유기적으로 통합한 J&Y 로펌의 시스템은 데이터를 구조화하고 어떤 시스템을 어떻게 사용할지 신중하게 선택하며, 코파일럿이 ‘엔진’이 아니라 ‘조정자’로 작동할 때 어떤 일이 가능한지를 보여주는 사례로 평가된다.

고등교육에서의 코파일럿 활용, 뱁슨 칼리지의 AI 통합 운영 모델

J&Y 로펌이 실무 중심의 워크플로우 혁신을 보여줬다면, 뱁슨 칼리지는 수천 명의 학생, 교직원, 그리고 행정 인력을 아우르는 교육 기관 전체 차원의 엔드투엔드 AI 통합 모델을 제시했다.

뱁슨 칼리지 CIO 패티 파트리아는 학교의 모든 기술 인프라를 총괄한다. 학사 행정 시스템부터 데이터 분석, 보안, 도서관 시스템까지 포함된다. 고등교육 기관 중 최초로 마이크로소프트 365 코파일럿을 학사 부문과 행정 부문 전반에 걸쳐 도입한 파트리아는 코파일럿만으로는 워크플로우가 완전히 바뀌지 않는다고 강조했다.

코파일럿 자체는 본래 개별 작업을 도와주는 도구에 가깝다. 파트리아는 “진정한 워크플로우 통합은 조직이 코파일럿 스튜디오(Copilot Studio)를 함께 도입할 때 비로소 시작된다”라고 말했다. 코파일럿 스튜디오는 봇, 에이전트, 그리고 자동화 기능을 구축할 수 있는 마이크로소프트의 로우코드 플랫폼이다.

대표적인 활용례는 도서관이다. 과거에는 직원들이 학생 근로자의 근무 일정을 조정하는 데 며칠씩 걸렸다. 특히 도서관이 24시간 운영되는 기말고사 기간에는 일정 조율이 더 복잡했다. 지금은 학생들이 자신의 근무 가능 시간을 온라인으로 제출하면, 코파일럿 스튜디오가 근무 제약 조건, 개인 선호도, 인력 배치 규칙 등을 자동으로 분석해 일정을 생성하고, 최종 검토를 위해 담당자에게 전달한다. 며칠씩 걸리던 일정 조정이 이제는 최소한의 수작업만으로 가능해진 것이다.

IT와 마케팅 부문의 생산성도 크게 향상됐다. 특히 시스템 통합, 코드 생성, 검색엔진 최적화(SEO), 영상 제작, 데이터 분석 분야에서 두드러진다. 각 부문에서 코파일럿은 사용자와 운영 시스템을 연결하는 인터페이스 역할을 수행하며, 사람과 시스템 간의 작업 효율을 높이는 중심 허브로 기능한다.

뱁슨 칼리지의 가장 야심 찬 프로젝트는 AI 창업 콘솔(AI Entrepreneurship Console)이다. 이 시스템은 학생이 사업 아이디어를 구상하고 구체화하며, 필요한 교과 과정을 찾고 멘토와 연결될 수 있도록 돕는 통합 플랫폼이다. 이 콘솔은 20가지 이상의 지능형 에이전트, 학생정보시스템(student-information system, SIS), CRM 소프트웨어, 그리고 학생의 학습과 창업을 지원하는 코칭 도구를 하나로 통합했다. 학생은 하나의 인터페이스 안에서 아이디어 구상부터 멘토와 함께하는 프로젝트 실행 단계까지 이어지는 전 과정을 경험할 수 있다. 시스템에는 윤리적 가드레일도 포함돼 있어, 비윤리적인 전략을 제안하지 않고 더 나은 대안을 제시한다.

뱁슨 칼리지의 성과는 우연히 이루어진 것이 아니다. 파트리아는 먼저 학교의 최고 리더십 층인 총장과 주요 간부를 대상으로 AI 리더십 교육을 진행했다. 이후 전교 구성원을 대상으로 프롬프트 작성법, AI 원칙, 로우코드 개발에 대한 교육 세션을 단계적으로 확장했다. 교수진은 실제 사례 기반 워크숍에 참여했고, 직원들은 직접 봇과 에이전트를 만들어보는 실습형 세션에 참석했다.

파트리아는 “서로 다른 전공과 배경을 가진 사람들이 한자리에 모여 아이디어를 나눌 때 진정한 창의성이 발현된다”라고 말했다.

파트리아에 따르면 결과는 놀라웠다. 초기 도입 단계에서 코파일럿 사용 건수는 주당 약 2,000건 수준이었지만, 현재는 주당 약 2만 건으로 늘었다. 설문 조사 결과, 직원 80% 이상이 업무 효율성이 향상됐다고 응답했으며, 주당 1시간에서 최대 10시간까지 절약하고 있다고 보고했다. 전반적인 업무 만족도 역시 크게 높아진 것으로 나타났다.

5가지 핵심 교훈

포레스터의 매키언-화이트는 기업이 AI 에이전트를 구조화된 데이터 소스, 자동화 플랫폼, 그리고 운영 시스템에 연결할 때 근본적인 변화를 가져온다고 말했다.

매키언-화이트는 “한 기업은 하루 이상 걸리던 프로세스를 평균 13분으로 단축했다. 하지만 그 결과를 얻기까지는 꽤 오랜 시간의 설정과 확장이 필요했다. 처음에는 그 절차가 비효율적이라는 사실을 인식하고, 이를 단축할 방법을 아는 사람이 필요했다”라고 설명했다.

많은 문제의 원인은 실행 단계의 허점에 있다. 기술팀은 ‘이 정도면 될 것’이라 판단하고 시스템을 구축하며, 실제 프로세스가 어떻게 작동하는지를 아는 현업 전문가와 충분히 협업하지 않는 경우가 많다는 것이다.

J&Y 로펌과 뱁슨 칼리지의 사례에서 기업이 참고할 만한 5가지 핵심 교훈은 다음과 같다.

• 하나의 워크플로우부터 시작하라 : 로스바움은 “처음부터 전사적 디지털 트랜스포메이션을 시도하려는 유혹을 경계하라”라고 조언했다. 대신 가시적인 가치가 명확한 하나의 워크플로우를 선택하고, 진실의 근원(Source of truth)을 명확히 파악한 뒤 초기 단계에서 데이터를 체계적으로 태깅해야 한다. 로스마움은 “누구도 데이터의 신뢰 가능한 출처를 모른다면, AI는 혼란을 더 크게 증폭시킬 뿐”이라고 경고했다.
• 조직 전체의 AI 이해도를 높여라 : 파트리아는 마이크로소프트 코파일럿을 고립된 도구로 도입하지 않았다. 임원, 교수진, 직원, 학생을 대상으로 체계적인 AI 교육을 실시해 AI 활용에 대한 조직 전체의 역량을 높였다. 이를 통해 프롬프트 작성 능력, 로우코드 환경에 대한 이해, 그리고 테스트 문화가 자리 잡았다. 이러한 기반이 빠른 확산과 안정적 도입을 가능하게 했다.
• AI 에이전트를 참여 시스템으로 다뤄라 : CRM과 같은 기존 시스템은 여전히 핵심 데이터의 기록 시스템(System of Record) 역할을 담당한다. 여기에 도메인별 봇과 같은 AI 도구가 심층 분석을 제공하고, 로우코드 플랫폼이 그 밑단에서 자동화를 지원한다. AI 에이전트는 이런 계층 구조의 가장 상단에서 사람과 상호작용하며 모든 요소를 연결하는 조정자 역할을 한다. 계층적 접근은 일관된 엔드투엔드 워크플로우를 구축하는 핵심이다.
• 혁신을 지키는 거버넌스를 구축하라 : 로스바움과 파트리아는 모두 창의성을 억제하지 않으면서도 안전한 AI 운영을 위한 가드레일의 중요성을 강조했다. 구조화된 검토 절차, 분류 체계, 평가 위원회, 투명한 커뮤니케이션 체계는 AI가 지원하는 의사결정에 대한 신뢰를 유지하면서도 혁신을 지속할 수 있는 기반이 된다.
• 프로세스의 중심에는 인간이 있어야 한다 : AI가 워크플로우의 속도를 높이는 것은 사실이지만, 최종적인 판단과 결과를 형성하는 것은 사람의 몫이다. 변호사가 사건 요약을 검토하거나 교수진이 음성 에이전트를 통해 피드백을 제공하는 것처럼, AI는 도우미 역할을 하지만 인간의 통찰과 판단이 전체 과정을 주도해야 한다.

로스바움과 파트리아에게 AI 도구는 더 이상 단순한 보조 수단이 아니다. 이제는 조직의 핵심 워크플로우에 완전히 통합된 필수 요소가 됐다.
dl-itworldkorea@foundryco.com