클라우드 도입의 첫 번째 대규모 확산기를 경험했다면, ‘클라우드’라는 용어가 얼마나 빠르게 모든 것에 붙기 시작했는지 기억할 것이다. IP 주소와 데이터센터만 있으면 무엇이든 클라우드가 됐다. 공급사는 호스티드 서비스, 관리형 인프라, 심지어 기존 아웃소싱까지 클라우드 컴퓨팅으로 재포장했다. 많은 기업은 슬라이드의 표현만 바뀌었을 뿐인데도 현대화를 이뤘다고 스스로를 설득했다. 수년 뒤 기업은 진실을 마주했다. 아키텍처를 전환한 것이 아니라 기술 부채가 이름만 바꾼 것이었다.

이른바 ‘클라우드워싱’의 시대는 실제 대가를 남겼다. 기업은 클라우드 네이티브 전환이라고 믿으며 수십억 달러를 투입했지만, 결과는 경직된 아키텍처, 높은 운영 부담, 약속됐던 민첩성의 부재였다. 비용은 재무적 손실에 그치지 않았다. 전략적 손실이었다. 순간을 오판한 기업은 되돌릴 수 없는 시간을 잃었다.

현재 같은 패턴이 에이전트형 인공지능에서 다시 반복되고 있으며, 이번에는 속도가 더 빠르다.

에이전트형이 의미해야 하는 것

오늘날의 마케팅을 그대로 믿는다면 모든 것은 ‘인공지능 에이전트’다. 기본적인 워크플로 작업자도 에이전트다. 단일 대규모 언어 모델을 얇은 사용자 인터페이스로 감싼 시스템도 에이전트다. 몇 개의 도구를 연동한 좀 더 똑똑한 챗봇은 당연히 에이전트로 불린다. 문제는 이런 시스템이 쓸모없다는 데 있지 않다. 상당수는 가치가 있다. 문제는 거의 모든 것을 에이전트라고 부르면서 중요한 아키텍처적·위험적 구분이 흐려진다는 점이다.

기술적 관점에서 인공지능 에이전트는 최소한 다음의 네 가지 특성을 갖춰야 한다.

• 사전에 고정된 흐름을 따르는 수준을 넘어, 일정 수준의 자율성을 갖고 목표를 추구할 수 있어야 한다
• 다단계 행동이 가능해야 하며, 행동의 순서를 계획하고 실행하며 진행 과정에서 조정할 수 있어야 한다
• 예상치 못한 입력에서 즉시 실패하는 대신, 피드백과 변화하는 조건에 적응할 수 있어야 한다
• 단순 대화가 아니라 도구 호출, API 호출, 시스템 상호작용을 통해 상태를 변화시키는 행동을 수행할 수 있어야 한다

사용자 프롬프트를 대규모 언어 모델로 전달한 뒤 결과를 고정된 워크플로나 소수의 하드코딩된 API로 넘기는 시스템은 유용한 자동화일 수 있다. 그러나 이를 에이전트형 인공지능 플랫폼이라고 부르는 것은 역량과 위험을 모두 왜곡하는 표현이다. 아키텍처와 거버넌스 관점에서 이 구분은 매우 중요하다.

과장이 왜곡이 되는 순간

에이전트라는 용어를 사용하는 모든 공급사가 악의적으로 행동하는 것은 아니다. 상당수는 과열된 기대의 흐름에 휩쓸렸을 뿐이다. 마케팅 언어는 어느 정도 이상적 표현을 담기 마련이지만, 낙관이 왜곡으로 바뀌는 지점이 존재한다. 시스템이 본질적으로 결정적 워크플로와 대규모 언어 모델 호출의 조합이라는 사실을 알면서도, 자율적으로 목표를 추구하는 에이전트로 마케팅한다면 구매자는 브랜드가 아니라 실제 동작 방식과 위험을 오해하게 된다.

이런 왜곡은 실제적인 결과를 낳는다. 경영진은 최소한의 인간 개입으로 운영 가능한 역량을 구매한다고 가정하지만, 실제로는 지속적인 감독과 재작업이 필요한 취약한 시스템을 도입하게 된다. 이사회는 인공지능 성숙도에서 도약한다고 믿고 투자를 승인하지만, 결과적으로 또 하나의 기술·운영 부채를 쌓는 셈이 된다. 위험, 규제 준수, 보안 기업은 시스템의 실제 한계를 오인해 통제 수준을 과소 설계할 수 있다.

법적으로 사기에 해당하는지 여부와 무관하게, 이런 문제는 사기 수준의 거버넌스 이슈로 다뤄야 한다. 기업이 떠안는 위험의 성격은 동일하다. 자본 배분 오류, 전략 불일치, 예상치 못한 노출이다.

에이전트워싱의 징후

실무에서 에이전트워싱은 몇 가지 공통된 양상을 보인다. 공급사가 에이전트가 다음 행동을 어떻게 결정하는지 명확한 기술 언어로 설명하지 못한다면 경계해야 한다. ‘추론’이나 ‘자율성’이라는 표현은 반복되지만, 구체적으로 파고들면 프롬프트 템플릿과 오케스트레이션 스크립트로 귀결되는 경우가 많다.

단일 대규모 언어 모델 호출에 최소한의 보조 코드만 덧붙인 아키텍처에 의존하면서, 발표 자료에서는 협력하는 에이전트 집단이 실시간으로 계획·위임·적응하는 것처럼 묘사한다면 주의할 필요가 있다. 브랜딩을 걷어내고 나면 확률적 텍스트 생성을 결합한 전통적 워크플로 자동화에 가깝지 않은지 자문해야 한다.

대다수 핵심 단계를 여전히 사람이 모니터링·승인·수정해야 하는데도 ‘완전 자율’ 프로세스를 약속하는 표현에도 귀를 기울여야 한다. 인간 개입을 유지하는 것은 대다수 기업에서 필수적이다. 문제는 오해를 부르는 언어가 잘못된 자율성 인식을 심어준다는 점이다.

이런 설명과 현실의 간극은 외형적 문제가 아니다. 통제 설계, 기업 구성, 성공과 실패의 측정 방식에 직접적인 영향을 미친다.

구체성에 집착하라

과거에는 클라우드워싱을 충분히 강하게 문제 삼지 못했다. 많은 이사회와 리더십 팀은 아키텍처 대신 명칭을 받아들였다. 에이전트형 인공지능은 핵심 업무 프로세스, 규제 감시, 복잡한 보안·안전 이슈에 더 큰 영향을 미친다. 아키텍처가 잘못될 경우 장기 비용도 훨씬 크다.

이번에는 기업이 훨씬 더 엄격해야 한다.

첫째, 행동을 정확히 명명해야 한다. 에이전트형으로 표기된 제품이 실제로는 오케스트레이션, 대규모 언어 모델, 스크립트의 조합이라면 에이전트워싱이라고 불러야 한다. 내부에서 사용하는 언어는 문제를 얼마나 심각하게 인식하는지를 좌우한다.

둘째, 시연이 아니라 증거를 요구해야 한다. 정교한 시연은 쉽게 연출할 수 있지만, 아키텍처 다이어그램, 평가 방법, 실패 양상, 문서화된 한계는 속이기 어렵다. 공급사가 에이전트의 추론, 계획, 행동, 복구 방식을 명확히 설명하지 못한다면 의심해야 한다.

셋째, 공급사의 주장을 측정 가능한 성과와 역량에 직접 연결해야 한다. 계약과 성공 기준은 ‘자율 인공지능’과 같은 모호한 목표가 아니라, 특정 워크플로에서의 정량적 개선, 명시적 자율성 수준, 오류율, 거버넌스 경계를 중심으로 설정돼야 한다.

마지막으로 기술의 실제 상태를 정확하고 정직하게 설명하는 공급사를 보상해야 한다. 현재 시장에서 가장 신뢰할 만한 해법 중 일부는 의도적으로 완전한 에이전트형을 지향하지 않는다. 명확한 보호 장치와 제한된 활용 범위를 가진 감독형 자동화일 수 있으며, 이는 충분히 타당하고 많은 경우 더 바람직하다. 중요한 것은 무엇을 도입하고 있는지 모두가 명확히 인식하는 것이다.

에이전트워싱은 위험 신호

규제 당국이 특정 형태의 에이전트워싱을 법적 사기로 규정할지 여부는 아직 불확실하다. 기업은 그 결론을 기다릴 필요가 없다.

거버넌스, 위험, 아키텍처 관점에서 에이전트워싱은 중대한 위험 신호로 다뤄야 한다. 재무 정보에 적용하는 것과 동일한 수준의 엄격함으로 검토해야 한다. 전략 로드맵에 뿌리내리기 전에 조기에 문제를 제기해야 하며, 기술적 증거와 사업 성과와의 명확한 정렬 없이는 자금 투입을 거부해야 한다.

클라우드 시대에 얻은 가장 중요한 재무적 교훈은 초기 도입 과정의 클라우드워싱과 관련돼 있었다. 에이전트형 인공지능에서도 유사한 궤적을 그리고 있으며, 잠재적 파급 범위는 더 크다. 클라우드 전환과 마찬가지로 에이전트형 인공지능에서 성공하는 기업은 출발점부터 공급사와 내부 인력에게 기술적·윤리적 정직성을 요구할 것이다. 이번에는 구매 대상의 실체를 정확히 파악하는 일이 더욱 중요하다.
dl-itworldkorea@foundryco.com