에이전틱 AI의 초기 실험은 CISO에게 다가올 사이버보안 악몽의 예고편이다. 2026년을 기점으로 자율 에이전트의 도입이 폭발적으로 늘어날 것으로 예상되면서, CISO가 이들 에이전트의 정체성·활동·의사결정 과정을 파악할 수 있는 가시성은 급격히 악화될 전망이다.

기업마다 에이전틱 AI의 활용 방식은 다르지만 많은 전문가가 “그 수가 CISO의 통제 범위를 훨씬 넘어설 것”이라고 경고한다. 이는 서비스 계정, OAuth 토큰, 내장 API 키, 자동화 인증 정보 등 비인간 ID(Non-Human Identity, NHI) 거버넌스를 수십 년간 방치해온 결과이기도 하다.

코딩 생산성 도구 업체 코드지(Kodezi)의 CEO 이스라크 칸은 “현재 대부분 기업이 약 800만~1,000만 개의 비인간 ID를 보유하고 있으며, 올해 말에는 이 수가 2,000만~5,000만 개에 이를 것”이라고 전망했다.

디지서트(DigiCert) CTO 제이슨 세이빈은 “2027년 1월까지 기업의 ID 관련 계정 수가 현재보다 10배 이상 증가할 것”이라고 전망했다.

컨설팅 기업 액셀리전스(Acceligence)의 CEO이자, 전 맥킨지 북미 사이버보안 부문 책임자였던 저스틴 그리스는 “ID와 데이터 프로비저닝에 대한 사고방식을 근본적으로 바꿔야 한다. 에이전틱 ID의 성장 속도를 따라갈 수 있는 프로세스를 구축해야 한다”라고 강조했다. 급격히 확장하는 환경에 인간 중심의 절차를 그대로 적용하는 것은 불가능하다.

가시성 부족이 더 큰 문제

급격히 확장하는 ID 생태계만큼이나 심각한 문제는 CISO가 비인간 ID를 얼마나 제대로 파악하지 못하고 있는지를 알 수조차 없다는 점이다. AI 에이전트는 증가 속도뿐 아니라 가시성이 가장 낮은 영역으로 지목된다.

무어 인사이트 앤드 스트래티지(Moor Insights & Strategy)의 수석 애널리스트 제이슨 앤더슨은 “현재 기업 CISO가 파악하고 있는 비인간 ID의 가시성은 약 25% 수준에 불과하다. 나머지 75%는 그림자 영역에 숨어 있다”라고 지적했다. 이 그림자 영역에는 완전한 비인가 활동뿐 아니라 그림자에 준하는 활동도 포함된다. 예를 들면 일부 부서나 외부 파트너가 IT나 보안팀에 별도의 보고 없이 에이전틱 AI 실험을 허용받은 경우다.

이 상황은 앞으로 더 악화될 전망이다. 앤더슨은 2026년 말까지 비인간 ID에 대한 가시성이 약 12% 수준으로 떨어지고, 2028년 1월에는 한 자릿수로 추락할 것이라며 “그때쯤 가서야 문제를 해결하려 들겠지만 이미 너무 큰 문제가 되어 있을 것”이라고 말했다.

가트너 애널리스트 제러미 디오인과 아키프 칸도 CISO가 현재 이 영역에서 매우 시급한 문제에 직면해 있다고 입을 모았다.

가트너의 칸은 “비인간 ID의 규모는 인간 ID보다 몇 차례의 자릿수 이상으로 커질 것이다. 그러나 대부분 조직은 머신 ID와 에이전틱 ID를 동시에 관리할 만큼 견고한 기반을 갖추지 못했다”라고 지적했다.

디오인은 “CISO들은 지금 어떤 일이 벌어지고 있는지조차 보지 못하고 있다. ID의 수가 압도적으로 늘어날 것”이라고 경고했다.

포레스터 역시 비슷한 전망을 내놨다. 포레스터 애널리스트 제프 케인스 “비인간 ID의 폭발적인 증가가 불가피하다. 그 성장은 지수적이라는 점에서 부인할 수 없다”라고 말했다.

코드지의 칸은 에이전틱 AI를 포함한 비인간 ID 거버넌스의 부실한 기반이 현재 기업 보안의 핵심 문제라고 지적하며 “기업은 비인간 인증 문제를 제대로 해결한 적이 없다. 따라서 안전한 환경을 유지하기 위한 시스템적 기반이 전혀 갖춰져 있지 않다. 처음부터 올바른 토대를 마련하지 못한 셈이다. 그 말은 곧 완전한 ID 인벤토리조차 가질 수 없다는 뜻”이라고 설명했다.

가장 비용 효율적인 해결책 : 아무것도 하지 않을 것

코드지의 칸은 이 근본적인 문제에 대해 흥미로운 해결책을 제시한다. “시도조차 하지 말라”라는 것이다.

칸은 “이 문제는 끝이 없는 비용 구덩이일 뿐, 완전히 해결되는 일은 결코 없을 것이다. 그 대신 앞으로 새롭게 추가될 모든 비인간 ID에 철저한 아이덴티티 전략을 수립하는 데 자원을 집중해야 한다”라고 조언했다.

완벽을 추구하기보다 통제를 목표로 해야 한다. 칸은 “모든 ID를 완벽하게 관리하는 것은 불가능하지만, 지금 시작한다면 향후 발생할 활동은 통제할 수 있다. 시간이 지나면 통제되지 않은 ID의 비율은 서서히 낮아질 것”이라고 덧붙였다.

시스코의 수석 엔지니어이자 시큐어 AI 연합(Coalition for Secure AI, CoSAI) 및 ACM(Association for Computing Machinery) AI 시큐리티 프로그램 위원회 소속인 닉 케일도 이에 동의하며 “물에 빠졌다고 해서 바다를 먼저 빼내려 하진 않는다”라고 비유했다.

이 문제를 왜 통제할 수 없는지는 비율이 말해준다. ID의 증가 속도가 이를 탐지하는 능력보다 훨씬 빠르기 때문이다. 케일은 “결국 수학적인 문제로 귀결된다”라고 분석하며 향후 대응 방향에 대해 “기존 시스템을 고치려 하기보다는, 과거의 레거시 문제는 건드리지 말라”라고 조언했다.

시스코의 케일은 “이제는 통제하고, 분리하고, 이미 침해됐다고 가정한 뒤 적대적인 환경으로 다뤄야 한다. 앞으로의 전략은 통제(containment)와 함께 새로운 출발(clean slate)을 병행해야 한다”라고 강조했다. 또한 “모든 비인간 ID를 목록화하고, 상시 접근 권한을 가진 것과 JIT(just-in-time)접근을 구분해야 하며, 각각에 명확한 소유권을 부여해야 한다. 복잡한 제품은 필요 없다. 모든 것을 기록한 끔찍할 정도로 방대한 스프레드시트면 충분하다”라고 덧붙였다.

지금부터라도 ID를 정리하는 것이 훨씬 큰 도움이 된다. 케일은 “비율 그 자체보다 더 중요한 것은 거버넌스 격차다. 비인간 ID가 인간 ID보다 200대 1이든 500대 1이든, IAM(Identity Access Management) 시스템이 44% 정도만 관리한다면 이미 공격 표면은 통제 불가능한 수준”이라고 지적했다.

물론 에이전틱 형태의 비인간 ID는 탐지조차 어렵다. 케일에 따르면 대부분 조직은 실제보다 2~3배 적게 파악하고 있다. 머신 ID가 클라우드 콘솔, 리포지토리, 설정 파일, 시크릿 매니저 등 여러 곳에 흩어져 있지만, 이를 통합 관리하는 시스템이 없기 때문이다.

케일은 “에이전틱 AI는 덧셈이 아니라 곱셈이다. 하나의 에이전트가 하위 에이전트를 생성하고, 동적으로 인증 자격증명을 만들며, 에이전트 간 인증 체인을 구축한다. 즉, 하나의 에이전트 배포가 수십 개의 새로운 머신 ID를 만들어낸다”라고 경고했다.

이런 흐름은 기업에 큰 전환점이 될 것으로 보인다. 그레이하운드 리서치(Greyhound Research)의 수석 애널리스트 산치트 비르 고지아는 기업의 제어 영역은 이미 조용히 인간에서 기계로 넘어갔지만, 거버넌스는 여전히 그 뒤를 따라가지 못하고 있다고 지적하며 “비인간 ID가 인간을 수백 대 1 비율로 앞지르게 되면, ID는 더 이상 관리의 문제가 아니게 되며, 신뢰를 관리하는 시스템이 필요하다”라고 말했다.

점점 증가하는 ID의 수가 문제가 아니다. 그 ID가 실행 중에 하는 행위에 대한 의도, 소유권, 책임을 명확히 증명하지 못한다는 점이다. 오늘날의 비즈니스 구조는 이 문제를 더욱 심화시킨다.

고지아는 “현재의 보상 구조는 속도와 가동 시간을 우선시하면서 장애에 불이익을 주기 때문에, 팀들은 기본적으로 머신에 과도한 권한을 부여한다. 과도한 권한은 재앙이 일어나기 전까지는 보이지 않는다. 그때가 되면 감시, 역할, 검토는 통제의 수단이 아니라 그저 위안에 불과하다”라고 설명했다.

에이전틱 AI 때문이 아니다

현재의 위기는 에이전틱 AI가 촉발한 것이 아니다.

고지아는 “수년 전부터 서비스 계정, 내장 API 키, 장기 토큰, 자동화 인증 정보 등을 만들어 시스템을 유지하면서, 그것들을 점차 잊어버린 결과”라고 설명했다. 에이전틱 AI가 바꾼 것은 ‘속도’와 ‘범위’다. 이들은 신뢰를 상속받아 기계적 속도로 이를 실행에 옮긴다. 과거에는 제한된 위험이었던 레거시 ID가 이제는 시스템, 업체, 워크플로우 전반에 걸쳐 작동하는 실행 계층이 되고 있다고 고지아는 분석했다.

오늘날 기업 보안에서 가장 위험한 전제는 ‘유효한 ID가 곧 안전한 행위’를 의미한다는 믿음이다. 고지아는 “머신 중심 환경에서는 자격증명이 올바르고 접근이 승인된 상태에서도 결과는 충분히 해로울 수 있다. 기계는 인사 이동 절차를 따르지 않으며, 승인 절차를 기다리지도 않는다. 멈추지 않고 지속적으로 작동하며 자동으로 행동을 확산시킨다”라고 강조했다.

그 결과, 운영 체계에 통합된 의사결정형 에이전트(Decision-making Agent)는 인간보다 훨씬 빠른 속도로 행동해 탐지 시간을 사실상 붕괴시킨다. 고지아는 “실패의 본질은 사전 예방에서 탐지 지연으로 이동했다. 인간이 상황을 인지할 때쯤이면 에이전트는 이미 일을 끝내고 떠난 뒤다”라고 말했다. 이 같은 현실은 CISO와 CIO 모두에게 근본적인 사고 전환을 요구하게 될 전망이다.

리더십의 정렬이 그 어느 때보다 중요하다. 고지아는 CIO와 CISO가 서로 다른 압박 속에서 균형을 잃고 있다고 설명했다. CIO는 생산성과 확장성을 위해 에이전트를 도입하라는 요구를 받고 있지만, CISO는 책임 공백과 복잡한 포렌식 대응, 그리고 연쇄적인 피해 확산 위험에 직면해 있다. 만약 두 의제가 엇갈리면 기업은 책임 없는 자율성이라는 위험한 상태에 빠질 것이다. 결국 이사회는 에이전트의 소유자와 권한 범위, 그리고 문제가 발생했을 때 책임 주체를 묻게 된다.

거버넌스의 다음 단계에서는 에이전트별 책임 체계 확립, 고위험 행위에 대한 직무 분리, 판단이 필요한 지점에서의 명확한 인간 개입이 필수적이다. 또한 사고 대응 역시 단순히 로그인 기록을 추적하는 수준을 넘어, 기계의 의사결정 과정을 재구성할 수 있는 단계로 발전해야 한다고 고지아는 강조했다.
dl-itworldkorea@foundryco.com