자체 경험으로 학습하는 인공지능 에이전트는 운영 방식을 혁신할 잠재력을 지니고 있다. 이러한 개념은 이미 현실적인 활용 단계에 들어섰다.

구글이 최근 펴낸 한 백서(Welcome to the Era of Experience)는 인공지능 에이전트의 학습 방식이 전환점을 맞이하고 있음을 시사했다. 구글은 이 문서에서 인공지능 에이전트가 인간이 생성한 학습 데이터뿐 아니라 다른 에이전트의 경험에서 학습하도록 허용하면, 자율형 인공지능이 현재의 한계를 뛰어넘을 수 있을 것이라고 가정했다.

사실, 인간의 깊은 전문성을 바탕으로 한 데이터로 학습하더라도, 자동회귀 기반 대규모 언어 모델에 기반한 인공지능 에이전트는 인간의 패턴을 단순히 모방하는 수준에 머물게 되며, 그로 인해 발전 가능성이 제한된다.

만약 인공지능 에이전트가 이러한 새로운 수준의 정교함을 달성하려면, 환경과 상호작용하며 생성하는 데이터에 접근할 수 있어야 한다. 에이전트는 더 풍부하고 진화하는 데이터 풀을 학습하고, 행동을 지속적으로 개선하고 반복할 수 있다.

이러한 변화는 기업 환경에서 상당한 이점을 가져올 수 있다. 즉, 운영 관리처럼 수동적이고 반복적인 워크플로를 자동화하는 ‘에이전트화’가 가속될 것이다.

그렇다면 이러한 자기 학습형 인공지능 에이전트는 실제로 어떻게 작동할까?

인공지능 에이전트가 새로운 학습 시대에 적합한 이유

대규모 언어 모델은 운영 정보를 수집하고 요약하는 데 뛰어나지만, 경험을 통해 학습하는 인공지능 에이전트는 한 단계 더 나아가 행동을 수행하고 그 결과에 반응하며, 그 후속 효과를 학습할 수 있다.

운영 관리의 맥락에서, 이러한 접근은 에이전트가 수신한 신호에 따라 다양한 복구 방안을 시도하고 평가할 수 있게 한다.

경험 기반 학습은 인공지능 에이전트가 실세계 상황에서 환경으로부터 주어지는 보상 신호에 따라 자율적으로 행동하도록 학습시킨다는 점에서 큰 잠재력을 지닌다.

운영 관리의 측면에서는 에이전트가 과거 사고, 이벤트, 고객 지원 티켓, 애플리케이션 및 인프라 지표와 로그, 그리고 그 외 접근 가능한 모든 데이터를 기반으로 학습할 수 있음을 의미한다.

오늘날의 기술 트렌드가 빠른 결과를 요구하는 분위기 속에서도, 인공지능 에이전트의 진정한 가치는 시간이 흐르면서 운영 관리의 효율성을 점진적으로 개선하는 능력에 있다.

충분한 시간과 학습 데이터가 주어진다면, 에이전트는 행동을 계획하고 그 결과(즉, 보상)를 인간보다 더 정확하게 예측할 수 있게 된다. 이를 통해 기업은 디지털 운영에서 인간의 개입을 최소화하고, 인력은 더 높은 부가가치를 창출하는 혁신적 업무에 집중할 수 있게 된다.

경험 기반 학습은 운영 관리 개선에 어떻게 기여할까

지속적 개선의 목표는 디지털 운영 관리에도 동일하게 적용된다.

기업은 기존의 반응적 운영 관리에서 예방적 운영 관리로 발전하기 위해 지속적으로 프로세스를 개선하고자 한다.

인공지능 에이전트가 경험을 통해 자체 프로세스를 개선하듯, 엔지니어링 팀 또한 자기 반성적 학습 접근법을 채택함으로써 운영 관리 역량을 강화할 수 있다.

이러한 경험 기반 학습은 인간 엔지니어가 사고 후 검토를 수행하여 사건의 원인을 이해하고, 재발 방지를 위한 조치를 설정하는 과정을 요구한다.

그러나 실제로는, 이러한 학습 결과가 개별 팀에만 국한되고 기업 전체로 공유되지 않는 경우가 많다.

더욱이, 기업은 경미하거나 이미 알려진 사고에 대해 리뷰를 생략하는 경우가 많아, 운영 관리 프로세스 개선이 제한된다.

결과적으로 사고 리뷰가 일관되게 수행되지 않거나 그 결과가 기업 전체로 확산되지 않는 상황에서, 운영 관리는 자기 학습형 에이전트에 의한 자동화에 적합한 영역이 된다.

자기 학습형 인공지능 에이전트는 엔지니어의 부담을 덜어주며, 직접 사고 리뷰를 수행하고 그 경험 데이터를 학습에 반영할 수 있다.

또한, 새로운 사고가 발생할 때마다 에이전트는 그와의 상호작용을 통해 학습을 이어가며, 지속적으로 진화하는 운영 관리 체계를 구축한다.

에이전트 시대가 가져올 디지털 운영 혁신

자기 경험을 통해 학습하는 인공지능 에이전트는 운영 관리의 혁신을 이끌 잠재력을 가지고 있다. 이미 여러 실제 적용 사례가 나타나고 있다.

• 사이트 신뢰성 엔지니어링(SRE) : SRE 역량에 대한 수요가 계속 증가하는 가운데, 인공지능 에이전트는 문제 진단, 과거 사례 검색, 조치 제안 또는 자동 실행을 통해 엔지니어의 문제 해결을 지원할 수 있다.
• 운영 인사이트 : 운영팀은 관리해야 할 도구가 너무 많아 전체 시스템을 이해하기 어렵다. 에이전트는 다양한 생태계의 신호를 분석하여 패턴을 찾아내고 프로세스 개선을 제안할 수 있다.
• 사고 관리 : 비즈니스에 부정적인 영향을 주는 사고가 발생할 때, 인공지능 에이전트는 사고 선언 이전부터 이상을 사전 탐지하고 대응을 자동화해 인적 오류와 대응 시간을 줄인다.

모두 IT 운영 생애주기 전반의 지속적 개선을 촉진하며, 공통적이고 반복적인 작업을 자동화해 위험을 줄이고 매출 손실을 방지하는 사례다.

무엇보다, 인공지능 에이전트는 기업의 복원력을 강화하여, 최소한의 인간 개입으로도 시스템을 안정적으로 유지할 수 있게 한다.

많은 기업이 이미 대규모 언어 모델을 도입했지만, 이들 모델은 비즈니스 운영을 효과적으로 관리하는 능력에 한계가 있다. 경험 기반 학습이 이러한 격차를 메운다.

과거의 경험과 관련 데이터는 인공지능 에이전트가 단순히 인간 엔지니어의 작업을 재현하는 수준을 넘어, 시간이 지날수록 엔지니어의 반복 업무를 줄이고 투자 대비 수익을 극대화하는 데 기여한다.

인공지능 에이전트에게 운영을 스스로 관리할 자유를 부여하고, 인간 엔지니어가 진정한 혁신적 과업에 집중하도록 하는 것이 바로 인공지능 운영 시대의 핵심 성과가 될 것이다. 더 나아가 기업의 운영 방식을 근본적으로 바꾸는 전환점이 될 가능성도 있다.
dl-itworldkorea@foundryco.com