소프트웨어 개발 팀의 궁극적인 목표가 고품질 제품을 가능한 한 빠르고 효율적으로, 안전하게 시장에 내놓는 것이라면 데브옵스를 위한 AI 기반 도구는 그 목표를 달성하는 방법이 될 수 있다.

AI 기반 도구는 복잡하고 반복적인 작업을 자동화함으로써 소프트웨어 제공 속도를 높이고 시스템 안정성을 강화하고 운영 비용을 줄이는 데 도움이 될 수 있다. 개발, 운영, 보안 담당자는 이런 도구를 사용해서 사고를 더 신속하게 해결하고 이상 징후를 선제적으로 감지하고 클라우드 리소스 관리를 최적화하고 궁극적으로는 개발 수명주기 전반에 걸쳐 프로세스의 속도를 높일 수 있다.

AI와 데브옵스는 찰떡궁합

AI와 데브옵스는 많은 측면에서 맞춤 옷처럼 잘 들어맞는다. 소프트웨어 개발 프로세스에 추가할 수 있는 모든 자동화는 팀에 이득이 된다.

시장조사 업체 가트너의 총괄 파트너인 재키 스완슨은 “대다수 기업 팀에서 AI는 실험 단계를 지나 이제 일상적인 워크플로우의 일부로 사용된다. AI를 도입하는 가장 일반적인 경로는 AI 보조 코딩이다. 깃허브 코파일럿, 아마존 Q 디벨로퍼와 같은 도구는 온갖 부분에 사용되면서 개발자가 상용구를 빠르게 처리하고 단위 테스트를 더 빠르게 작성하고 코드형 인프라를 구축할 수 있게 해준다”고 말했다.

스완슨은 더 흥미로운 변화는 파이프라인의 뒷부분에서 일어나고 있다면서 “이전에는 엔지니어들이 매주 몇 시간씩 소비했던 모니터링, 이상 징후 감지, 사고 분류를 AI옵스 플랫폼으로 더 스마트하게 처리하고 있다. 과거에는 개별 AI 포인트 솔루션을 도입했다면 이제는 AI를 전체 제공 체인에 걸친 하나의 계층으로 인식하는 것으로 흐름이 바뀌고 있다”고 말했다.

스완슨은 AI 보조 코딩과 자동화된 테스트 생성을 사용하는 팀은 사이클 시간을 20% ~ 40% 단축하고 있다고 전했다. 또한 AI 플랫폼이 여러 경고의 상호 연관성을 찾아주고 가능성 높은 근본 원인을 밝혀내고 수정 방안을 제안하는 만큼 사고 해결의 효율성도 높아진다. 스완선은 “따라서 당직 엔지니어가 밤새 대시보드를 뒤질 일이 없다. 평균 해결 시간이 줄어들고 번아웃도 감소한다”고 말했다.

또한 스완슨은 개발자들이 반복적인 작업에 소비하는 시간을 줄이고 아키텍처 의사 결정, 고객 대면 기능, 문제 해결과 같이 실제로 비즈니스의 진전을 이끄는 일에 더 많은 시간을 투자할 수 있다고 말했다.

20년 이상 독립 소프트웨어 엔지니어로 활동하면서 시티그룹의 글로벌 트레이딩 플랫폼 프론트엔드를 설계하고 소니 뮤직 퍼블리싱, 시스코 등의 엔터프라이즈 스택을 현대화하는 등의 작업을 해온 소누 카푸어는 “AI는 단일 도구가 아니라 데브옵스 워크플로우 전반에 걸친 하나의 계층으로 사용되고 있다”고 말했다.

카푸어는 “기업에서는 AI를 코딩 보조, CI/CD 지원, 로그 및 텔레메트리 분석, 사고 조사, 보안 분류에 사용한다. 즉, 실제 환경에서 엔지니어는 AI를 사용해 빌드 문제를 설명하고 경고를 요약하고 프로덕션 문제를 더 빠르게 조사하고 여러 도구 사이를 전환하는 데 소비되는 시간을 줄이고 있다”고 말했다.

카푸어는 특히 흥미로운 부분은 AI가 실제 엔지니어링 프로세스에 더 가깝게 자리잡기 시작했다는 점이라면서 “단순히 텍스트를 생성하는 것이 아니라 코드, 인프라, 운영 전반에 걸쳐 신호를 해석하고 다음 단계를 제안하는 데 도움이 되고 있다”고 말했다.

카푸어는 이와 같은 추세에 따르는 가장 큰 이점은 마찰의 감소라면서 “AI는 신호에서 조치에 이르기까지의 경로를 단축한다. 그 결과는 더 빠른 온보딩, 더 신속한 사고 조사, 반복적인 코드 작성에 소비되는 시간 경감, 그리고 로그와 메트릭의 해석 향상으로 나타난다. 도구가 실제 컨텍스트, 즉 사용자의 코드베이스와 인프라, 텔레메트리에 근거한다는 점이 중요하다. 그렇지 않다면 그저 그럴듯한 답변을 생성하는 것에 불과하다”고 말했다.

또한, 동일한 원리가 보안 워크플로우에도 적용된다면서 “AI가 발견한 내용을 실행 가능한 조치로 변환할 수 없다면 기반 AI가 아무리 뛰어나다 해도 가치는 빠르게 하락한다”고 말했다.

엔지니어링 워크플로우의 능률화

엔지니어링 및 건설 기업 마스텍(MasTec)의 수석 AI 시스템 엔지니어인 시드 반갈라는 “AI 도구는 조용히 일상적인 워크플로우의 일부가 되고 있다”고 말했다.

반갈라는 “프로덕션 백엔드와 AI 플랫폼에서의 도입은 점진적이고 매우 실용적으로 이뤄지고 있다. 개발 분야를 보면, 깃허브 코파일럿과 같은 도구는 특히 파이썬 서비스, API 또는 도커 설정에서 스크립팅, 인프라 구성 작성, 반복 작업 가속화에 광범위하게 사용된다. 핵심은 도구에 전체 시스템 작성을 맡기는 것이 아니라 일상적인 작업의 마찰을 줄이는 것”이라고 말했다.

운영 관점에서 마스텍은 로그와 성능 메트릭을 분석하기 위해 애저 기반 모니터링 도구와 AI 보조 관찰가능성 기능을 사용한다. 반갈라는 “이런 도구는 수동 방식에 비해 더 신속하게 이상 징후나 성능 병목 현상을 파악할 수 있게 해준다. 실제 업무에서 데브옵스의 AI 도구는 자동화 자체보다는 엔지니어가 더 빠르게 작업하면서 시스템 동작에 대해 더 정확히 인식하도록 하는 데 중점을 둔다”고 말했다.

가장 큰 이점은 신속한 문제 해결이다. 반갈라는 “분산된 시스템에서 어떤 부분에 장애가 발생할 때 어려운 부분은 일반적으로 장애를 고치는 것이 아니라 문제가 실제로 시작된 부분이 어디인지를 알아내는 것이다. AI 보조 로그 분석 및 이상 징후 감지 도구는 수동 검사만 할 때에 비해 훨씬 더 빠르게 유력한 근본 원인으로 조사 범위를 좁힐 수 있게 해준다”고 말했다.

또 다른 눈에 띄는 이점은 반복적인 엔지니어링 작업에 소비되는 시간의 감소다. 반갈라는 “과거에는 스크립트 작성, 환경 설정, API 문서 템플릿 생성에 많은 시간이 들었지만 AI 보조 도구를 사용하면 그러한 작업들을 더 빨리 처리할 수 있고 결과적으로 엔지니어는 더 많은 시간을 아키텍처와 신뢰성에 집중할 수 있게 된다”고 말했다.

기업 운영을 돕는 비즈니스 관리 플랫폼인 마이매니저(MyManager)의 CEO 클린턴 오는 엔지니어링 생산성을 높이고 일상적인 개발 작업을 능률화하기 위해 개발 워크플로우에 점진적으로 AI를 도입해 왔다고 말했다.

오는 “팀 전반에서 AI는 주로 코드 작성 속도를 높이고 반복적인 구현 작업을 줄이고 디버깅과 문제 해결을 지원하고 개발자가 구현 중에 다양한 접근 방식을 탐색하도록 돕는 데 사용된다”고 말했다.

마이매니저는 이와 같은 접근 방식으로 AI를 개발의 일부로 활용하는 방식을 표준화하고, 엔지니어가 시스템 설계와 기술적 의사결정에 대한 완전한 통제권을 유지하면서 더 빠르게 작업할 수 있도록 했다. 오는 “전반적으로 AI는 개발 프로세스 내의 생산성 계층 역할을 하면서 핵심적인 엔지니어링 판단을 대체하지 않고도 더 효율적인 실행을 가능하게 해주고 있다”고 말했다.

AI 기반 데브옵스 도구 평가하기

데브옵스용 AI 도구를 평가할 때 가장 중요한 고려 사항 중 하나는 컨텍스트 인식이다. 카푸어는 “도구는 사용자의 실제 환경, 즉 코드와 파이프라인, 인프라, 텔레메트리를 이해해야 한다”고 말했다.

여기에는 기존 워크플로우에 맞추는 역량도 포함된다. 카푸어는 “최선의 도구는 통합 개발 환경(IDE), CI/CD, 관찰가능성 플랫폼을 비롯해 엔지니어가 이미 작업하고 있는 곳에 통합되는 도구”이라고 말했다.

반갈라는 “데브옵스용 AI 도구를 평가할 때 첫 번째 질문은 항상 ‘이 도구가 우리가 이미 일하는 방식에 실제로 들어맞는가?’이다. 도구를 도입하기 위해 대대적인 아키텍처 변경이 필요하다면 일반적으로 좋지 않은 신호다. 최선의 도구는 기존 CI/CD 파이프라인, 로깅 시스템, 클라우드 환경에 깔끔하게 통합되는 도구”이라고 말했다.

스완슨은 업체에서 진행하는 제품 데모가 얼마나 잘 돼 있든 “그 도구로 인해 엔지니어가 일하는 방식을 바꿔야 한다면 도입은 정체될 것”이라고 말했다.

반갈라가 면밀히 살피는 또 다른 사항은 도구의 투명성이다. 반갈라는 “AI 시스템이 어떤 조치를 권장한다면 엔지니어는 그 이유를 이해해야 한다. 프로덕션 환경에서 맹목적인 자동화는 위험하기 때문”이라고 말했다.

실행 가능성도 확인해야 한다. 카푸어는 “도구가 단순히 문제를 요약하는가, 아니면 다음에 해야 할 일을 제안하는가? 나는 종속성 취약점 스캔을 위한 CLI(명령줄 인터페이스) 도구를 사용한 자체 작업에서 이 부분을 주목해왔다”고 말했다.

카푸어가 자주 발견하는 도구의 빈틈은 취약점 및 노출(CVE)을 드러내지만 개발자에게 무엇을 먼저 수정해야 하는지 명확하게 안내하지 않는다는 점이다. 카푸어는 “그 부분에서 내가 취한 접근 방식은 직접적인 문제와 전이적인 문제를 분리하고 단순한 보고서가 아닌 구체적인 교정 경로를 제안하는 것”이라고 말했다.

같은 원칙이 데브옵스의 AI에도 적용된다. 카푸어는 “출력물이 모호함을 줄여주지 않거나 조치에 도움이 되지 않는다면 실제 문제를 해결하는 것이 아니다”라고 말했다.

도구가 데이터 유출을 방지하기 위해 필요한 예방 조치를 취하고 있는지 확인할 수 있는 기능을 포함한 전반적인 보안도 핵심적인 요소다. 카푸어는 “엔지니어는 특히 프로덕션이나 보안 컨텍스트에서 AI의 제안을 검증해야 한다”고 말했다.

반갈라는 “많은 데브옵스 도구는 로그, 구성, 배포 파이프라인과 같은 민감한 인프라 데이터와 상호작용하므로 거버넌스와 데이터 취급 정책이 기술적 역량 못지않게 중요하다. 가장 큰 테스트는 실패 시나리오에서의 도구 동작이다. 도구는 정상 운영 중에는 항상 좋아 보인다. 진짜 평가는 문제가 터졌을 때 이뤄진다”고 말했다.

데브옵스를 위한 AI 도구 제안

AI 기반 데브옵스 도구는 다양한 형태와 규모로 제공되며 소프트웨어 개발 수명주기 전반의 모든 작업을 포괄한다. 아래에 나열된 8가지 도구는 AI 보조 개발, 소프트웨어 테스트, 보안 스캔, 인프라 자동화, CI/CD, 모니터링 및 관찰가능성, 클라우드 최적화, 사고 대응 등의 영역에서 계속해서 나오고 있는 많은 도구 중의 극히 일부일 뿐이다.

• 아마존 Q 디벨로퍼(Amazon Q Developer) – 소프트웨어 개발 수명주기 전반에서 일련의 작업을 자율적으로 수행할 수 있는 에이전트를 코드 완성, 코드 생성, 코드 설명과 결합한 AI 기반 코딩 어시스턴트다. AWS 기능에 대해 아마존 Q 디벨로퍼와 대화할 수 있으며 리소스 검토, 청구서 분석, 솔루션 설계를 요청할 수 있다. 이 도구는 정립된 AWS 패턴, 문서, 솔루션 구현에 능숙하다.
• 애저 모니터(Azure Monitor) – 마이크로소프트의 포괄적인 관찰가능성 서비스로, 애플리케이션과 인프라 성능을 극대화하기 위해 클라우드 및 온프레미스 환경의 텔레메트리 데이터를 수집, 분석하고 조치를 취한다. 애저 리소스 메트릭/로그를 자동으로 모니터링하고 가상머신, 컨테이너, 데이터베이스에 대한 심층적인 인사이트를 제공한다. 주요 기능은 경고, 대시보드, 자동화된 문제 해결 등이다.
• 데이터독 비트 AI(Datadog Bits AI) –데이터독 플랫폼에 통합된 생성형 AI 기반 데브옵스 코파일럿으로 사고 조사, 보안 분류, 교정 워크플로우를 자동화한다. “에이전트 팀메이트” 역할을 하면서 로그, 메트릭, 트레이스를 분석하고 코드 수정을 제안한다. 웹 앱이나 슬랙의 채팅을 통해 상호작용할 수 있다.
• 깃허브 코파일럿(GitHub 코파일럿) – 개발자가 더 적은 노력으로 더 빠르게 코드를 작성하도록 돕는 AI 코딩 어시스턴트다. VS 코드, 비주얼 스튜디오, 젯브레인과 같은 코드 편집기 내에서 직접 실시간 컨텍스트 인식 코드를 제안하는데, 짧게는 코드 한 줄부터 길게는 함수 전체에 이르기도 한다. 오픈AI, 앤트로픽, 구글 모델을 지원한다. 기업은 엔터프레이즈 계정을 통해 개발 팀을 위한 코파일럿 비즈니스(코파일럿 Business)를 이용할 수 있다.
• 구글 제미나이 클라우드 어시스트(Google 제미나이 Cloud Assist) – 제미나이 클라우드 어시스트는 구글 클라우드에 통합된 AI 기반 협업 도구로, 사후 대응적 문제 해결에서 벗어나 선제적이고 자율적인 클라우드 운영으로 전환할 수 있게 해준다. 멀티 에이전트 시스템인 제미나이 클라우드 어시스트는 클라우드 워크로드의 설계, 배포, 문제 해결, 최적화를 위한 에이전트 안내를 제공하므로 이를 통해 종단간 애플리케이션 수명주기를 간소화할 수 있다.
• 하네스 AI(Harness AI) – AI 네이티브 소프트웨어 제공 플랫폼으로, 전용 AI 에이전트를 사용해 데브옵스, 테스트, 보안, 클라우드 비용 관리를 자동화함으로써 개발 속도를 높여준다. 지속적인 제공과 사고 관리를 위한 컨텍스트에 따른 지능적 인사이트를 제공함으로써 더 빠르고 안전한 소프트웨어 출시를 지원하며, 개발자의 수동 작업을 줄여준다.
• 왓슨 AI옵스를 위한 IBM 클라우드 팩(BM Cloud Pak for Watson AIOps) – 로그, 메트릭, 이벤트를 실시간으로 분석해 IT 운영을 자동화하는 AI 기반 플랫폼이다. 사고를 예측하고 경고 노이즈를 줄이고 사고 해결을 가속화하는 데 도움이 되며 하이브리드 클라우드의 회복탄력성을 강화한다. 주요 기능으로는 이상 징후 감지, 토폴로지 매핑, 챗옵스 통합 등이 있다.
• 스닉 AI 시큐리티 플랫폼(Snyk AI Security Platform, 또는 스닉 AI) – AI 생성 코드, AI 네이티브 애플리케이션, 에이전틱 시스템에 대한 가시성, 통제력, 자율 방어를 제공해 AI 기반 개발을 보호하는 개발자 보안 플랫폼이다. 개발자가 AI 코딩 어시스턴트를 사용해 안전하게 제품을 만들 수 있도록 지원하는 동시에 소스 코드, 오픈소스 종속 항목, 코드형 인프라의 취약점을 자동으로 파악해 우선순위를 부여하고 수정한다.

dl-itworldkorea@foundryco.com