News Feed

“모델보다 무거운 것들” AI 종속의 새로운 전선

컨텐츠 정보

  • 조회 17

본문

최근 PwC는 3만 명의 자사 직원을 대상으로 앤트로픽 클로드에 대한 교육과 인증을 실시하고, 이를 기반으로 은행, 보험, 의료 분야 고객을 위한 CFO 오피스 비즈니스를 구축할 것이라고 발표했다. 앤트로픽도 최근 파트너 네트워크에 1억 달러를 투자했고, 오픈AI 역시 40억 달러 이상의 초기 투자를 유치해 새로운 회사인 오픈AI 디플로이먼트 컴퍼니(OpenAI Deployment Company), 일명 ‘디플로이코(DeployCo)’를 설립했다. 이 회사는 고객 워크플로우에 GPT 모델을 내장하는 역할을 하는 엔지니어를 고객 현장에 파견하는 일을 한다.

수백만 개 단위로 토큰을 판매하는 기업이 이와 같은 소규모 저수익 전문 서비스에 투자하는 모습은 얼핏 납득하기 어려운 돈 낭비로 보일 수 있다. 그러나 전혀 이상한 일이 아니고, 오히려 답이 거기 있다는 신호다.

모델 대체는 더 쉬워지고 있지만 모델을 둘러싼 작업을 대체하기는 쉽지 않다. 개발자들은 이미 업체의 희망에 반해 비교적 수월하게 클로드 코드와 코덱스, 제미나이, 로컬 모델 사이를 이동하고 있다. API 계층에서도 대체가 점점 더 쉬워지고 있다. 노력이나 비용이 아예 없는 것은 아니지만, 모델 주변의 워크플로우 메커니즘을 교체하는 것보다는 쉽다.

바로 이 부분이 기업 구매자들이 과소평가할 수 있는 부분이다. 개방형 표준, 더 나은 API, 모델 동등성의 향상으로 한 가지 종속은 약화되지만 다른 형태의 종속은 오히려 더 강화되고 있다. 모델 호출을 대체하기는 더 쉬워지고 있지만 그 주변의 워크플로우와 거버넌스, 운영 모델은 그렇지 않다.

종속은 사라진 것이 아니라 위치를 옮긴 것

그레이하운드 리서치(Greyhound Research)의 산치트 비르 고기아는 “종속은 사라지는 것이 아니라 자리를 옮기고 있다. 모델 수준에서는 대체하기가 더 쉬워지고 있지만 오케스트레이션 수준에서 대체는 여전히 어렵다. 워크플로우, 제어, ID 계층, 거버넌스 구조가 특정 시스템을 중심으로 구축되면 그 시스템을 변경하기가 쉽지 않게 된다”라고 말했다.

이 진단은 업체들이 워크플로우 통합에 수십억 달러를 쏟아붓는 이유를 가장 명확히 설명해준다. 새로운 AI 기술이 기존 기업 워크플로우에 충분히 원활하게 들어맞지 않는 상황이다. 이 문제는 사람이 해결할 수 있다.

기업 생성형 AI 파일럿의 95%가 측정 가능한 비즈니스 효과를 내지 못하고 있음을 시사한 MIT NANDA 이니셔티브 보고서를 기억해 보자. 연구 방법론에 대한 논란은 있었지만 비교적 낙관적인 반론에서도 AI 투자와 AI 가치 획득 사이에 격차가 존재함을 지적했다. 대다수 실패는 모델 기능이 아니라 운영 적합성에 기인한다. 툴은 워크플로우를 학습하지 않고, 승인 경로 내에 위치하지 않으며, 적절한 권한도 없다.

다시 말하면, 사람들이 실제로 일하는 방식과 맞지 않는다는 뜻이다.

디플로이코의 존재 이유는 전적으로 여기에 있다. 오픈AI가 팔란티어의 플레이북을 모방하고 나선 이유는 아이디어가 다 떨어져서가 아니라, 지난 3년 동안 기업이 지지부진한 파일럿 프로젝트를 가리키며 오픈AI에 요구했던 바를 이제야 이해했기 때문이다. 고객은 더 똑똑한 모델을 요구한 것이 아니었다. 실제 살아있는 인간이 현장에 출동해, 실제 업무가 이뤄지는 방식에 맞게 모델을 연결하는 지루하고 비용이 많이 들며 대체하기 어려운 작업을 해주기를 원했던 것이다.

이렇게 보면 종속도 위치가 바뀐 것이 아니다. 종속은 언제나 한 단계, 혹은 두 단계 위에 있었다. 모델에 대한 부풀려진 기대가 종속을 가려왔을 뿐이다.

모델 컨텍스트 프로토콜로는 충분하지 않아

이 지점에서 모델 컨텍스트 프로토콜이 등장한다. MCP는 실제로 유용하며, 알려진 대로 기능을 수행한다. 즉, 툴과 데이터 소스에 모델을 연결하는 비용을 획기적으로 낮춰준다. 서비스나우, 세일즈포스 또는 지라에 연결되는 몇 개의 맞춤형 커넥터를 유지해본 경험이 있는 사람 관점에서 보면 MCP는 축복이다.

그러나 필자가 지난 4월에도 주장했듯, 프로토콜은 플랫폼이 아니다. MCP는 에이전트가 툴과 대화하는 데 도움이 되지만 그 자체로는 에이전트를 누가 승인했는지, 어떤 데이터에 액세스할 수 있는지, 에이전트의 동작이 어떻게 기록되는지, 또는 에이전트를 실행한 사람이 퇴사할 경우 에이전트를 안전하게 종료하려면 어떻게 해야 하는지는 알려주지 못한다. 또한 자산 관리자의 규정 준수 검토가 실제로 어떻게 운영되는지, 보험 언더라이터가 애매한 사례에 대해 어떻게 판단하는지, 재무 팀의 월말 마감의 “완료”가 어떤 형태인지도 알려주지 않는다. 그 작업은 극히 국지적이다. 시간을 투자해 그 일을 배운 사람들이 해야 할 일이다.

즉, 인간의 몫이다.

비슷한 맥락에서, 쿠버네티스도 클라우드 종속을 제거하지 못했다. 쿠버네티스가 컨테이너 계층을 표준화하면서 전장이 한 계층 위로, 즉 관리형 서비스, ID, 네트워킹, 관찰가능성, 데이터 그래비티로 이동했을 뿐이다. MCP가 AI 에이전트와 관련해서 하는 역할도 비슷하다. 건물의 한 개 층을 이동 가능하게 해주지만, 한 계층 위의 더 까다로운 기업 문제는 그대로 남겨둔다. MCP는 통합 비용을 낮춰주지만 AI를 운영 측면에서 신뢰할 수 있게 하는 비용을 없애지는 못한다.

실제로 종속이 일어나는 곳은

필자는 이전에 에이전틱 AI에서 전략적인 질문은 ‘제어 평면을 누가 소유하느냐’라고 강조한 바 있다. 제어 평면을 소유하는 주체는 고객에 대해 가장 강력한 권리를 갖게 된다. 여기에는 세 가지 전장이 부상하고 있다.

  1. 오케스트레이션 계층. 랭그래프(LangGraph) 같은 프레임워크는 종속 함정이 아니라 유용한 작업을 수행하는 유용한 툴이다. 그러나 오케스트레이션은 계획했든 안 했든 고착성을 축적한다. 랭체인은 클라르나(Klarna), 레플릿(Replit), 일래스틱(Elastic), 앨리(Ally) 등을 랭그래프의 프로덕션 사용자로 꼽는다. 이들과 다른 고객들이 하나의 오케스트레이션 프레임워크 내에서 에이전트 행동, 평가, 복구 로직, 관찰가능성 트레이스를 1년 동안 오케스트레이션한다면 경쟁사가 더 빠르거나 저렴하거나 다른 어떤 장점이 있는 모델을 출시한다고 해서 바로 뜯어내고 갈아타지는 않을 것이다. 모델은 쉽게 교체할 수 있지만 그 위의 오케스트레이션은 그렇지 않기 때문이다.
  2. 업체가 통제하는 워크플로우 표면. 앤트로픽이 클로드 코워크로 만들고 있는 것이다. 2026년 2월 확장을 통해 프라이빗 플러그인 마켓플레이스, 사용자별 프로비저닝, 그리고 HR, 재무, 투자 은행, 디자인용으로 사전 구축된 에이전트가 출시됐다. 기업 IT를 운영하는 사람 중에서 계약 시스템, HR 데이터, 고객 레코드에 400개의 임의의 에이전트가 달라붙는 상황을 원하는 사람은 없다. 따라서 에이전트 자체가 아니라 에이전트를 둘러싼 관리 표면이 제품이 된다.
  3. 서비스 계층. 기사 초반에 서비스에 대해 언급했는데, 서비스는 아이러니가 가장 깊게 나타나는 지점이다. AI 가치가 구현으로 이동하고 있다는 가장 뚜렷한 신호는 시장 규모 추정치가 아니라 오픈AI, 앤트로픽, PwC, 액센추어, 딜로이트가 모두 워크플로우를 매핑하고 시스템을 연결하고 프로세스를 재설계하는, 재미없는 작업을 수행하기 위한 인력을 대규모로 교육하고 있다는 점이다. PwC와 앤트로픽은 두 회사가 공동으로 노력한 결과 사이버 보안 사고 대응 시간이 몇 시간에서 몇 분으로, 언더라이팅 주기가 10주에서 10일로 줄었다고 주장한다. 인상적이지만, 이 성과는 모델이 아니라 그 주변 프로세스를 재설계하는 방법을 아는 수만 명의 교육된 컨설턴트에서 나온 것이다. 어느 AI 업체이든 이가 구현해 놓은 모든 워크플로우를 변경하고 싶다면 이 컨설턴트를 모두 재교육해야 할 것이다.

기업에 지니는 의미

이 글의 시사점은 기업 IT 운영자에게는 어느정도 안심이 된다. 이런저런 포인트 솔루션에 고착되는 것을 그만두고, 대신 한두 단계 위 계층에 집중할 수 있음을 의미하기 때문이다. 여기서 전략적인 의사결정은 다음과 같다.

  • 어떤 오케스트레이션 프레임워크에 코드를 커밋할 것인가?
  • 최종 사용자는 실제로 어떤 워크플로우 표면 내에서 작업하게 되는가?
  • 어느 서비스 파트너를 운영의 깊은 곳으로 들여와서 이 파트너의 모델 추천이 사실상 구속력을 갖도록 할 것인가?

이런 의사결정은 단순 모델 비교보다 더 철저하게 검토해야 한다. API 계층에서의 모델 대체 비용은 점점 더 낮아지고 있다. 오케스트레이션 약정은 몇 년에 걸친 코드 재작성이다. 워크플로우 표면은 수천 명의 직원에 걸친 행동 변화다. 서비스 관계는 꼬리가 긴 예산 항목이다. 이런 각 요소는 지속되므로 철저한 검토가 필요하다.

앤트로픽이 에이전트 스킬(Agent Skills)을 오픈소스화하고 “여러분이 만든 스킬은 클로드에 종속되지 않는다”라고 선언한 것은 고객 관점에서 올바른 헷지다. 두 번째 프론티어 모델로 선택권을 유지할 수 있다는 점도 마찬가지다. 그러나 더 심층적인 방법은 워크플로우 통합을 실제로 자신이 소유권을 가진 일로 취급하고, 모델과 파트너는 그 주변의 대체 가능한 계층으로 두는 것이다. 반복 가능한 작업에 AI를 통합하는 방법을 익히면 주도권을 사람이 쥐고 갈 수 있게 된다.
dl-itworldkorea@foundryco.com

관련자료

댓글 0
등록된 댓글이 없습니다.
Member Rank