기업은 AI 자체에는 완전히 확신하지 못하지만 AI 에이전트에는 점점 더 투자하고 있다. 클라우드에 호스팅된 모델이 아니라, 기업이 수십 년 동안 사용해 온 IT 방식에 맞게 들어가는 더 작고 분산된 모델이다. 이런 흐름에서 기업은 실제로 상황이 어떻게 흘러가는지 궁금해한다. AI 에이전트는 투자 대비 효과를 내고 있는가? 효과를 내고 있다. AI 에이전트는 호스팅, 네트워킹, 운영에 어떤 영향을 미치는가? AI 에이전트의 영향은 복잡하다. 경험을 바탕으로 의견을 낸 기업 394곳 가운데 비교적 대규모 배포 경험을 공유할 만한 기업은 47곳이며, 이 기업이 해당 질문에 가장 좋은 답을 제공할 수 있다.

호스팅부터 보면, AI 에이전트를 한 곳에 모아 가동하는 리소스 풀은 해답이 아니다. 이런 판단에는 여러 이유가 있지만, 핵심은 AI 에이전트의 호스팅 위치가 사용하는 데이터베이스, 에이전트가 포함된 애플리케이션, 사용자와의 거리라는 세 요소 사이에서 균형을 맞춰야 한다는 점이다. 어떤 요소가 더 중요한지는 각 조건의 세부 사항에 달려 있어 공통 해법이 없다. 공통 해법 부재는 AI 에이전트를 한곳에 묶어 배치하기 어렵게 만든다. 또 AI 에이전트 애플리케이션마다 최적의 에이전트 기술이 달라질 수 있어, 거대한 멀티 서버 AI 모델 하나를 만드는 방식이 해법이 아닐 수 있다.

기업은 AI 에이전트의 데이터베이스 사용 방식이 빠르게 진화한다는 점도 확인하고 있다. AI 에이전트의 임무는 다른 소프트웨어 컴포넌트처럼 바뀌기 때문에 데이터베이스 사용도 함께 바뀌며, AI 에이전트가 역할을 제대로 수행하는 데 필요한 새 정보 자원을 발견하는 경우도 있기 때문이다. AI 에이전트는 전통적인 소프트웨어 컴포넌트가 하지 못하는 일을 수행하기 때문에 더 많은 것을 ‘알아야’ 하며, 그 결과 예상보다 더 넓은 정보 자원을 활용하게 된다. 데이터 소스가 다양해지면 최적의 에이전트 호스팅 위치도 달라질 수 있다.

이런 변화는 AI 에이전트의 핵심 네트워크 이슈로 이어지며, 핵심은 암묵적이면서도 점점 늘어나는 데이터 흐름을 다루는 일이다. AI 에이전트 컴포넌트와 일반 소프트웨어 컴포넌트 사이에는 중요한 차이가 하나 있다. 소프트웨어는 데이터를 명시적으로 사용한다. 프로그래밍 단계에서 데이터 식별이 포함된다. AI는 데이터를 암묵적으로 사용하며, 모델은 데이터로 학습됐고 사용자가 알아차리기 어려운 데이터베이스와의 API 연계가 존재할 수 있다. 또 에이전트형 컴포넌트를 쓰기 시작한 뒤 추가 데이터 자원이 필요하다고 판단되는 경우도 흔하다. 추가 데이터 자원은 모두 같은 곳에 있는가? 대체로 그렇지 않다.

AI 에이전트 경험이 가장 많은 기업은 에이전트를 데이터베이스와 연결하기 위해 데이터센터 네트워크 업그레이드가 일부 필요할 수 있다고 본다. AI 에이전트가 데이터센터 밖의 분산 거점에 배치된다면, 해당 거점의 기업 VPN 연결을 강화해야 할 수도 있다. AI 에이전트가 실시간 애플리케이션으로 진화하면, 지원 대상의 실시간 시스템(공장 또는 창고)과도 가까워야 하며, 그래서 데이터센터와 사용자, 실시간 프로세스 요소가 모두 지연시간 최적화를 위해 호스팅 위치를 가까운 쪽으로 끌어당기게 된다. 모든 요소를 한곳으로 옮길 수는 없기 때문에 네트워크는 넓은 범위에서 효율적인 연결을 만들어야 한다. 네트워크 효율성은 가용성뿐 아니라 지연시간에서도 QoS 보장을 요구한다.

AI 에이전트 경험이 많은 기업은 가용성 영역에서, 그리고 지연시간 같은 QoS 속성을 부차적으로 고려하는 영역에서 새로운 서비스 기회 가능성을 본다. 지금은 이런 기회가 공장, 캠퍼스, 도시나 마을처럼 비교적 좁은 범위에 머무는 경향이 있지만, 시간이 지나면 핵심 기업의 신규 서비스 관심이 광역권으로 확장될 수 있다. 실시간 엣지 애플리케이션은 여러 시설이 상호 의존할 만큼 가까우면서도, 유선이나 Wi-Fi, 사설 5G조차 유용하지 않을 만큼 떨어진 곳에서 주로 나타난다고 기업은 지적한다.

운영이라는 마지막 주제로 이어지며, 핵심은 치료가 불가능할 수 있으니 예방에 더 큰 노력이 필요하다는 점이다. 기업은 유연성을 염두에 두고 AI 에이전트 호스팅과 네트워크 연결성을 계획하고, 호스팅·연결성 계획을 세울 때 에이전트 기능이 진화할 수 있는 경로를 함께 검토하는 것이 중요하다. AI 에이전트가 데이터에서 무엇을 필요로 하는지, 어떤 작업자나 프로세스가 AI 에이전트에 의존하게 될지라는 요구사항은 서버 설치와 서비스 구매 이전에 훨씬 쉽게 반영할 수 있다. AI 호스팅 설계가 부적절하고 네트워크 준비가 미흡한 상황이 부실한 계획에서 비롯되면, 발생한 문제는 발견하기 어렵고 상당한 비용 없이 해결할 수 없을지도 모른다.

계획은 AI 에이전트 성공의 핵심이다. AI 에이전트는 소프트웨어 컴포넌트처럼 사용될 수 있지만, AI 에이전트는 단지 ‘수행’하는 것이 아니라 ‘학습하고 아는’ 것이 목표이므로 전통적 소프트웨어보다 더 많이, 더 빠르게 진화한다. 이런 자발적 확장을 계획에 반영하지 않으면 경험 품질이 떨어지고 비용이 폭증할 수 있다.
dl-itworldkorea@foundryco.com