마이크로소프트는 2024년 코파일럿 인 애저(Copilot in Azure)를 공개했고, 이후 비주얼 스튜디오 코드의 깃허브 코파일럿 에이전트에서 호출되는 애저 모델 컨텍스트 프로토콜 서버(Azure Model Context Protocol Server)를 출시했다. 이제 마이크로소프트는 이 두 가지 프로젝트를 기반으로 하는 새로운 애저 코파일럿(Azure Copilot)을 통해 서비스형 인프라와 서비스형 플랫폼을 위한 클라우드 애플리케이션 라이프사이클의 모든 부분에서 여러가지 유용한 툴을 제공하고 있다.

이그나이트 2025(Ignite 2025)에서 발표된 새로운 애저 코파일럿은 각기 단독으로, 또는 함께 작동하면서 다양한 클라우드 관리 작업을 지원하는 여러 전문화된 에이전트의 모음이다. 코파일럿 인 애저는 보조적인 챗봇으로서 유용했지만 직접 작업을 실행하지는 못했기 때문에 사용자가 응답을 복사해 애저 CLI에 붙여 넣거나 챗봇이 제시하는 지침을 따라야 했다.

에이전틱 클라우드 운영

개편된 애저 코파일럿은 훨씬 정교해서, 마이크로소프트에서 말하는 “에이전틱 클라우드 운영” 접근 방식을 통해 구성요소 에이전트를 위한 오케스트레이션 계층을 제공한다. 애저 관리 표면이 그동안 상당히 복잡해졌음을 감안하면 타당한 방향의 움직임이라고 할 수 있다. 사용자는 포털이나 CLI를 통해 매일 수십 가지, 또는 그 이상의 서비스를 다룬다.

애저는 복잡하고 끊임없이 변화한다. 새로운 서비스가 거의 매일 출시되고, API는 빠른 주기로 업데이트되고 변경된다. 마이크로소프트는 타입스펙(TypeSpec) 언어 등의 툴과 기술을 통해 애저의 API를 문서화하고 게시하는 과정을 자동화하고 오픈API 형식 문서로 제공한다. 마이크로소프트는 API 구조를 표준화함으로써 최신 세대의 생성형 AI 툴이 비교적 쉽게 API를 파싱 및 사용하면서 필요한 호출을 생성하고 응답을 처리하고 애저의 중심에 대한 자연어 인터페이스를 제공할 수 있도록 했다.

새로운 애저 코파일럿의 핵심적인 특징 중 하나는 어디서 작업하든 작동하므로 포털, 새 에이전트 대시보드, 채팅 인터페이스 또는 애저 CLI를 통해 액세스할 수 있다는 점이다. 이 접근 방식은 필요한 위치에 툴을 제공함으로써 툴을 사용자 워크플로우의 일부로 만든다는 마이크로소프트의 오랜 전통에 부합한다.

애저 코파일럿 스택을 구성하는 6개의 새로운 에이전트는 마이그레이션 에이전트, 배포 에이전트, 관찰가능성 에이전트, 최적화 에이전트, 회복탄력성 에이전트, 그리고 문제 해결 에이전트다. 이들의 목표는 애저 운영 플랫폼의 여러 핵심적인 측면을 지원하고 비주얼 스튜디오 코드의 애저 MCP 서버가 클라우드 개발을 지원할 수 있도록 하는 것이다. 각 에이전트는 애저 툴과 API, 런(Learn)과 같은 지식 자료에 접근할 수 있으며, 애저 리소스 매니저와 관련된 애저 리소스 그래프에서 배포된 리소스를 활용할 수 있다.

새로운 애저 코파일럿 에이전트와 각각의 역량을 살펴보자.

마이그레이션 에이전트

마이그레이션 에이전트(Migration Agent)는 온프레미스 애플리케이션을 클라우드로 가져올 수 있게 해주는 에이전트로, 기존 애저 마이그레이트 툴 및 프로세스를 기반으로 한다. 포함된 에이전트리스 검색 툴이 기존 인프라를 매핑하며 오프라인 작업도 지원된다. 인프라 매핑 외에도 애플리케이션을 인식하고 시스템 업데이트 및 현대화 작업을 지원하고 바이셉(Bicep) 또는 테라폼(Terraform)으로 필요한 코드형 인프라 스크립트를 작성한다. 이러한 스크립트는 실행 전에 평가와 테스트가 가능하므로 에이전트가 올바른 인프라를 구축하고 있는지 확인할 수 있다.

또한 이 툴은 빅뱅 접근 방식에 초점을 두지 않는다. 따라서 단순히 네트워크를 만들고 VM을 배포하는 것이 아니라 애플리케이션을 이동할 방법을 정의하는 데 이 툴을 사용할 수 있다. 이 툴은 보안 보고서와 위험 분석을 제공하고 애플리케이션 현대화에 대한 조언과 지침을 제공한다. 이를 위해 깃허브 코파일럿의 툴을 활용해 닷넷과 자바 코드를 업데이트하므로 애플리케이션 중심 마이그레이션과 잘 맞는다. 온프레미스 오라클 데이터베이스를 클라우드 애저 데이터베이스로 마이그레이션하기 위한 새로운 깃허브 코파일럿 툴과 함께 이 프로세스를 사용해서 플랫폼 요소를 변경할 수 있다.

배포 에이전트

다른 하이퍼스케일 클라우드 플랫폼과 마찬가지로 애저에도 인프라와 애플리케이션을 배포하기 위한 일련의 모범 사례가 있다. 애저 웰-아키텍티드 프레임워크(Azure Well-Architected Framework)는 애저 코파일럿 배포 에이전트의 기반을 형성하며, 사용자의 목표를 기준으로 배포 계획을 수립하고 적절한 코드형 인프라를 구성해 가상 인프라를 구축한다. 이렇게 만들어진 테라폼 계획을 깃허브에 추가해 CI/CD 파이프라인의 일부로 사용할 수 있다.

중요한 점은 깃허브의 스펙 키트(Spec Kit)에 사용되는 사양 중심 개발 모델과 연결된다는 점이다. 사용자는 구축하고자 하는 애플리케이션이나 서비스를 설명하는 긴 프롬프트를 작성하는 것이 좋다. 문서 검색과 달리 애플리케이션에 대한 완전한 설명, 사용할 애저 서비스, 그리고 원하는 동작을 제공하는 것이다. 스펙 키트와 마찬가지로 인프라를 구축하는 프로세스는 인터랙티브한 방식으로 진행되며, 에이전트는 필요한 경우 추가 정보를 요청한다.

다른 애저 서비스에 대한 링크도 있으므로 일련의 테라폼 스크립트를 생성할 때 애저 가격 계산기를 활용한 부가적인 분석을 제공해 인프라를 제공하고 운영하는 데 드는 비용이 어느 정도인지 가늠할 수 있게 해준다.

관찰가능성 에이전트

애저 코파일럿에 포함된 대부분 기능은 기존 툴의 확장으로, 생성형 AI와 관련된 위험을 줄여준다. 관찰가능성 에이전트(Observability Agent)는 이 접근 방식을 통해 애저 모니터(Azure Monitor)를 기반으로 그 조사 툴을 사용해서 애플리케이션과 인프라 문제를 탐색할 수 있다. 애저 모니터 알림에는 새로운 조사(Investigate) 버튼이 추가됐는데, 이 버튼은 이상 탐지 머신 러닝 툴과 생성형 AI 자연어 인터페이스를 결합해 문제에 대해 에이전트가 생성한 가능한 원인 집합을 제시한다. ML 엔진이 문제를 찾고, 에이전트의 생성형 AI 구성요소는 결과를 요약하고 다음 단계를 생성한다.

이 에이전트는 애저 서비스 전반의 신호에 접근해서 애저 쿠버네티스 서비스의 로그를 분석하고 컨텍스트를 사용해 관련 가능성이 있는 알림을 연결할 수 있다. 분산 시스템 위에 구축된 현대적 클라우드 네이티브 애플리케이션에서는 이 마지막 기능이 생각 외로 중요하다. 얼핏 관련이 없어 보이지만 실패를 일으키는 일련의 이벤트를 연결하는 데 도움이 되기 때문이다.

최적화 에이전트

애저에서 실행하는 경우 애플리케이션 및 가상 인프라 운영 못지않게 비용 관리도 중요하다. 주로 핀옵스 실무자를 염두에 두고 설계된 애저 코파일럿 최적화 에이전트(Optimization Agent)는 이들에게 소요 비용, 환경에 미치는 영향, 구현 난이도에 따라 순위화된 여러 동작 중에서 선택할 수 있는 툴을 제공한다. 옵션에는 기반 VM SKU 변경이 포함될 수 있다. 이 에이전트는 워크로드를 더 효율적이고 저렴한 가상 인프라로 옮기기 위한 스크립트를 생성한다.

목표는 핀옵스 팀이 비용을 예상 가능하도록 하고 청구서와 실제 사용량을 정렬하고 비효율적인 하드웨어 선택을 피하는 것이다. 다른 애저 코파일럿 툴을 사용해 애플리케이션을 배포한다면 이 툴이 필요한 경우는 별로 없겠지만 기존 구현을 운영하는 경우, 특히 온프레미스 데이터 센터에서 리프트 앤 시프트 방식으로 가져온 경우에는 애저 인프라를 관리하는 데 도움이 된다.

회복탄력성 에이전트

애저는 인프라의 회복탄력성을 높이기 위한 다양한 기능을 제공하지만 많은 가상 인프라의 복잡성으로 인해 관련 옵션이 부분적으로만 사용되는 경우가 많다. 회복탄력성 에이전트(Resiliency Agent)는 데이터 센터 중단이 운영에 영향을 미치지 않도록 리소스를 둘 이상의 가용성 영역에 배치한다. 장애 조치와 복구 계획을 수립하는 데 유용하며 장애를 시뮬레이션해서 프로세스를 테스트하는 기능도 제공한다. 애저 리소스 그래프의 정보를 사용해 보고서를 작성하고, 인프라 장애가 발생하는 경우 필요한 자동화를 실행한다.

문제 해결 에이전트

애저 코파일럿의 문제 해결 에이전트(Troubleshooting Agent)는 인프라를 진단한 다음 일련의 단계, 또는 경우에 따라 원클릭 자동화 형태의 해결책을 제시하도록 설계된 에이전트다. 모든 애저 서비스에 대해 사용할 수 있지만 AKS, 코스모스 DB, 그리고 애저에 호스팅되는 VM에서 사용하는 것이 최선이다.

모든 장애에 대해 원클릭 해결책이 제시되는 것은 아니다. 문제를 문서화하고 지원 티켓을 생성하는 정도가 에이전트가 할 수 있는 최선인 경우도 있다. 그러나 에이전트는 로그와 리소스에 액세스할 수 있고, 문제를 진단해서 마이크로소프트 내부 데이터를 기반으로 해결책을 제안할 수 있으므로 여전히 유용하다.

AI 운영의 역할 찾기

새로운 애저 코파일럿의 역할은 위와 같은 여러 에이전트를 조율해서 사용자 요청을 파싱한 다음 필요한 에이전트 기능을 호출하는 것이다. 그 결과는 흥미로운 기능 조합을 통한 애저 운영 전반의 일반적인 고충점 해결이다. 처음에는 문제 해결 에이전트가 가장 많이 사용될 가능성이 높고, 핀옵스 팀의 경우 최적화 에이전트가 제공하는 혜택을 누릴 수 있을 것이다.

첫 프리뷰에서 제공되는 이와 같은 에이전트를 보면 마이크로소프트의 의도는 AI가 보조하는 운영 방식을 원활하게 받아들이도록 애저 사용자들을 유도하는 데 있는 것으로 짐작된다. 이는 합리적인 움직임이다. 사용자는 코파일럿을 마치 인간 동료와 같이 신뢰해야 하고, 코파일럿은 실제 업무에서 스스로를 입증해야 하기 때문이다. 마이크로소프트는 제한된 운영 시나리오를 대상으로 애저 코파일럿을 제공함으로써 코파일럿이 어떻게 작동하는지 확인하고 더 광범위한 출시에 앞서 조정할 수 있을 것이다.
dl-itworldkorea@foundryco.com