에이전트형 AI가 컨퍼런스 화제에서 실제 예산 항목으로 자리를 옮겼다. 논의가 더 흥미롭고 불편해지는 지점이 바로 여기다. 단일 프롬프트에 응답하거나, 문서를 분류하거나, 행동을 권장하거나, 요약문을 생성하는 전통적인 AI 시스템과 달리, 에이전트형 AI 시스템은 목표를 추구하도록 설계됐다. 계획을 수립하고, 툴을 호출하며, 결과를 점검하고, 실패한 단계를 재시도하며, 메모리를 참조하고, 다른 에이전트에게 작업을 넘기고, 때로는 답변이나 행동을 내놓기 전에 스스로 작업을 비판하기도 한다.

추가적인 자율성이 바로 가치 제안이다. 동시에 비용 문제도 수반한다.

단일 챗봇 상호작용은 수천 개의 토큰을 소비할 수 있다. 유용한 에이전트형 워크플로는 단순히 질문에 답하는 것 이상을 수행하기 때문에 하루에 수십만에서 수백만 개의 토큰을 소비할 수 있다. 문제를 분해하고, 컨텍스트를 검색하며, 옵션을 추론하고, API를 호출하고, 출력을 점검하며, 결과에 도달하기 전에 여러 번 처리를 반복하는 방식으로 작동하기 때문이다. 따라서 경제성은 단순한 모델 호출 수준이 아닌 ‘에이전트 인스턴스’ 단위로 파악해야 한다.

다음 추정치는 100만 토큰당 3달러의 혼합 비용을 기준으로 삼았다. 특정 공급업체의 정가를 반영한 수치가 아니다. 입력 및 출력 토큰, 추론 단계, 검색 증강 생성(RAG), 요약, 툴 호출, 메모리 업데이트, 대형 컨텍스트 창의 간헐적 사용 등을 혼합한 계획 수치다. 볼륨 할인이나 소형 모델 라우팅을 활용하는 기업은 더 적게 지불할 수 있다. 반면 프리미엄 모델, 긴 컨텍스트 프롬프트, 웹 브라우징, 대용량 문서 수집, 반복적인 추론 루프를 사용하는 기업은 더 많이 지출한다.

기본 공식은 단순하다. 에이전트가 하루에 200만 토큰을 소비한다면, 1년에는 7억 3,000만 토큰을 소비한다. 100만 토큰당 3달러 기준으로 단일 에이전트의 연간 토큰 비용은 약 2,190달러다. 에이전트 수, 워크플로, 사용자 수, 그리고 시스템을 안전하게 운영하는 데 필요한 주변 인프라까지 곱하기 전까지는 놀랍도록 낮은 수치로 느껴진다.

에이전트의 실제 비용

여기서 사용된 모델에서 에이전트당 연간 토큰 전용 비용은 사용례에 따라 약 1,095달러에서 3,833달러 수준이다.

• 하루 100만 토큰을 소비하는 경량 HR 채용·온보딩 에이전트의 연간 비용은 약 1,095달러다.
• 하루 350만 토큰을 소비하는 고부하 소프트웨어 엔지니어링 에이전트의 연간 비용은 약 3,833달러다.
• 고객 지원 에이전트는 연간 약 2,190달러 수준이다.
• 법률 계약 에이전트는 약 2,409달러다.
• 보안 경보 우선순위 분류 에이전트는 약 2,738달러다.
• 리서치 에이전트는 약 3,066달러다.

수치는 유용하지만 불완전하다. 대규모 언어 모델(LLM) 토큰 소비만 포함하고 있으며, 오케스트레이션 플랫폼, 벡터 데이터베이스, 옵저버빌리티, 모델 평가, 보안 제어, 워크플로 모니터링, 인적 검토, 엔터프라이즈 애플리케이션 통합, 데이터 파이프라인, 감사 로깅, 프롬프트 관리, 시스템 구축 및 유지에 필요한 엔지니어 인건비는 빠져 있다. 실제 배포 환경에서는 전체 운영 비용이 원시 토큰 비용의 2~5배에 달할 것으로 예상된다. 규제 적용 환경이나 미션 크리티컬 환경에서는 배수가 더 높아질 수 있다.

에이전트형 AI 비즈니스 케이스가 불명확해지는 지점이 바로 여기다. 모델 호출 비용은 저렴할 수 있지만, 모델을 둘러싼 시스템 비용은 그렇지 않다. 고객 관계 관리(CRM) 시스템을 업데이트하거나, 환불을 승인하거나, 구매 주문을 생성하거나, 보안 차단 조치를 권고할 수 있는 에이전트에는 가드레일, 권한 관리, 로깅, 롤백 메커니즘, 인적 에스컬레이션 경로가 필요하다. 선택적 기능이 아니다. 데모와 엔터프라이즈 시스템을 가르는 요소가 바로 이것이다.

경제성 있는 사용례

고객 지원은 가장 명확한 사용례다. 일반적인 지원 자동화 배포에는 8개 에이전트가 사용될 수 있다. 접수 분류, 지식 검색, 응답 초안 작성, 에스컬레이션, 품질 검토, CRM 업데이트, 감정 감지, 분석 에이전트가 이에 해당한다. 에이전트당 하루 200만 토큰 기준으로 각 에이전트의 연간 토큰 비용은 약 2,190달러이며, 연간 총비용은 약 1만 7,520달러다. 이 시스템이 일정 수준의 티켓을 전환하거나 상담원 생산성을 향상시킨다면 경제적으로 매력적인 투자가 될 수 있다.

영업 개발도 실용적인 사례다. 계정 리서치, 리드 강화, 이메일 개인화, CRM 업데이트, 후속 일정 관리를 담당하는 5개짜리 에이전트 시스템은 에이전트당 하루 120만 토큰을 소비할 수 있다. 에이전트당 연간 비용은 약 1,314달러, 전체 에이전트 팀의 연간 비용은 6,570달러다. 파이프라인 품질을 향상시킨다면 설득력 있는 투자가 될 수 있지만, 에이전트가 대규모로 저품질 아웃리치를 생성한다면 낭비로 이어질 수 있다. 브랜드 손상 비용은 토큰으로 측정되지 않는다.

소프트웨어 엔지니어링은 비용이 더 높지만 잠재적으로 더 큰 가치를 창출한다. 요구사항 분석, 아키텍처, 코드 생성, 테스트, 검토, 보안 점검, 문서화, CI 디버깅, 리팩토링, 릴리즈 노트, 의존성 분석, 핫픽스 지원을 담당하는 12개 에이전트 시스템은 에이전트당 하루 350만 토큰을 소비할 수 있다. 에이전트당 연간 비용은 약 3,833달러, 전체 시스템 비용은 약 4만 5,990달러다. 엔지니어링 인건비와 비교하면 토큰 비용은 낮다. 진짜 질문은 이 시스템이 결함, 보안 취약점, 유지보수 복잡성을 높이지 않으면서 처리량을 안정적으로 향상시키는지 여부다.

보안 운영도 에이전트형 모델에 잘 맞는다. 반복적이고 시간 민감하며 컨텍스트 집약적인 업무 특성 때문이다. 10개 에이전트로 구성된 보안 경보 우선순위 분류 시스템에는 경보 트리아지, 로그 분석, 위협 인텔리전스, 엔드포인트 조사, 네트워크 조사, 인시던트 요약, 티케팅, 컴플라이언스 증거, 에스컬레이션, 사후 분석 에이전트가 포함될 수 있다. 에이전트당 하루 250만 토큰 기준으로 연간 토큰 비용은 에이전트당 약 2,738달러, 시스템 전체로는 2만 7,375달러다. 경보 피로를 줄이고 대응 속도를 높인다면 투자 정당성을 확보하기 쉽지만, 에이전트가 인과관계를 잘못 추론하거나 자신감 있는 요약 속에 중요한 신호를 묻어버린다면 위험해질 수 있다.

금융, 법률, 의료 행정, 시장 조사, HR, 공급망도 실현 가능한 영역이다.

• 6개 에이전트로 구성된 재무 결산 시스템의 연간 토큰 비용은 약 9,855달러다.
• 4개 에이전트로 구성된 법률 계약 검토 시스템은 약 9,636달러다.
• 7개 에이전트로 구성된 의료 행정 워크플로는 약 1만 3,797달러다.
• 6개 에이전트를 활용한 경쟁 정보 수집은 약 1만 8,396달러다.
• 5개 에이전트를 사용하는 HR 채용·온보딩은 약 5,475달러다.
• 8개 에이전트로 구성된 공급망 계획 및 예외 관리는 약 2만 1,024달러다.

이 섹션에서 언급한 10개 사용례 전체와 71개 에이전트를 기준으로 산정한 연간 총 토큰 비용은 약 17만 5,638달러다.

전통적인 AI와의 비교

에이전트형 AI의 경제성은 항상 더 단순한 접근 방식과 비교해야 한다. 전통적인 AI, 워크플로 자동화, 규칙 엔진, 로보틱 프로세스 자동화(RPA), 비에이전트형 LLM 호출은 대개 비용이 낮고, 거버넌스가 용이하며, 예측 가능하다. 분류, 추출, 요약, 라우팅, 좁은 컨텍스트 내 초안 작성 같은 작업에는 에이전트형 AI가 과잉 투자인 경우가 많다. 단일 모델 호출을 사용하는 결정론적 워크플로가 훨씬 낮은 비용과 리스크로 같은 일을 처리할 수 있다.

에이전트형 시스템은 프로세스가 여러 단계에 걸친 판단, 동적 계획, 툴 사용, 예외 처리, 불완전한 정보에 대한 적응을 요구할 때 효과적이다. 답으로 가는 경로를 사전에 완전히 스크립팅할 수 없을 때 진가를 발휘한다. 기업이 기본 자동화의 트렌디한 대체재로 에이전트형 AI를 사용할 때는 가치가 낮아진다.

최적의 아키텍처는 대개 하이브리드다. 프로세스가 안정적인 곳에는 전통적인 자동화를, 작업이 한정된 곳에는 비에이전트형 AI를, 자율성이 측정 가능한 레버리지를 만들어내는 곳에만 에이전트형 AI를 적용해야 한다. 이 원칙을 실현하려면 더 적은 수의 에이전트, 더 좁은 범위, 명시적인 예산, 모델 라우팅, 토큰 모니터링, 고영향 의사결정에 대한 인적 체크포인트가 필요하다.

많은 기업이 저지르는 재무적 실수는 에이전트를 한계 비용이 거의 없는 디지털 직원으로 취급하는 것이다. 에이전트는 디지털 직원이 아니다. 토큰을 소비하고, 툴을 트리거하며, 운영 의존성을 생성하고, 감독이 필요한 확률론적 소프트웨어 구성 요소다. 토큰 비용은 관리 가능한 수준일 수 있지만, 거버넌스 비용은 그렇지 않을 수 있다.

에이전트형 AI는 충분히 투자 가치가 있을 수 있다. 유용한 에이전트 팀의 연간 토큰 비용이 직원 한 명의 총 인건비보다 낮은 경우도 많다. 그러나 저렴하다는 의미는 아니다. 기업은 프롬프트당 비용이나 모델 호출당 비용이 아닌, 완료된 비즈니스 성과당 에이전트 비용을 측정해야 한다. 결국 핵심 질문은 에이전트 비용이 얼마냐가 아니다. 올바른 질문은 이것이다. 에이전트의 자율성이 그로 인한 복잡성을 감수할 만큼 충분한 가치를 지니는가?
dl-itworldkorea@foundryco.com