2026년은 인공지능(AI)이 보조 역할을 넘어 실제로 행동하기 시작하는 전환점이 될 전망이다. 자율적 의사결정이 가능하고 복잡한 워크플로를 관리하며 지속적인 개입 없이 엔드투엔드 작업을 수행하는 에이전틱 AI(Agentic AI)로의 질적 도약을 목격하게 될 것이다. 그러나 이런 자율성은 기업에 중대한 경고를 동반한다. 스스로 작동하는 능력은 오류나 보안 침해가 발생했을 때 그 파급 효과를 기하급수적으로 확대시킨다.

ISACA의 기술 동향 및 우선순위 펄스 설문조사에 따르면, IT 및 사이버 보안 전문가의 59%가 2026년에 AI 기반 사이버 위협을 예상하고 있다. 이 수치는 결코 가볍지 않으며, 업계 전문가 집단이 AI의 영향에 대해 가장 신중한 시각을 갖고 있다는 점을 보여준다.

이런 상황에서 논쟁의 초점은 AI를 사용할 것인가의 문제가 아니라, 실제 환경에서 관점과 통제를 유지하면서 어떻게 배치할 것인가로 이동해야 한다. 최근 열린 한 원탁회의에서 필자는 역설적으로 들릴 수 있지만 ‘현장에 일정한 게이트를 두는 것’의 필요성을 강조했다. 핵심 업무 프로세스에 AI를 도입하면 시간과 비용을 절감할 수 있다는 점은 분명하지만, 무엇을 연결하고 어떤 방식으로 연결하며 정보가 누구와 공유되는지에 대한 완전한 가시성이 전제돼야 한다. 이는 기업 내에서 벌어지는 일을 관리하고 사람을 교육해야 할 책임을 의미하며, 모든 판단의 중심에 인간의 책임을 두어야 한다는 점을 다시 한번 상기시킨다.

에이전틱 AI의 등장으로 이런 전제는 신중한 권고 수준을 넘어 생존을 위한 필수 조건이 됐다. 위험은 더 이상 텍스트를 생성하는 모델에 국한되지 않고, 시스템과 고객 데이터베이스, 공급망에서 실제 행동을 수행하는 에이전트로 확장되고 있다. 여기에는 심각한 괴리가 존재한다. 동일한 조사에 따르면, 기업이 이런 위험을 관리할 준비가 매우 잘돼 있다고 응답한 비율은 13%에 불과했다. 이 수치는 대다수 기업이 용인하기 어려운 취약한 상태에서 AI 경쟁에 뛰어들고 있음을 보여주는 경고 신호다.

이 때문에 에이전틱 AI와 같은 파괴적 진보일수록 모든 발전이 거버넌스에 기반해야 한다는 점을 반복해서 강조하게 된다. 여기서 거버넌스는 민첩성을 저해하는 관료주의가 아니라, 한계와 책임, 그리고 필요한 증거를 정의하는 규칙의 집합을 의미한다. 승인된 활용 사례는 무엇인지, 에이전트가 접근할 수 있는 데이터는 어디까지인지, 필수 통제 장치는 무엇인지, 자동화된 의사결정을 어떻게 감독할 것인지, 문제가 발생했을 때 누가 책임을 지는지가 명확해야 한다.

이처럼 복잡한 환경 속에서 긍정적인 신호도 나타나고 있다. 시장은 점차 상황을 성숙하게 인식하기 시작했다. 사이버 보안과 같은 영역에서 AI 활용은 운영 부담을 완화할 수 있지만, 동시에 불가피한 도입 비용을 수반한다. IT 기업은 AI 솔루션 배치와 활용 정책 수립을 주도해야 하며, 안전하고 책임 있는 도입을 위해 시간과 자원, 그리고 장기적 관점이 요구된다.

반면, 간과할 수 없는 제약 요인도 존재한다. 전문 인력 부족과 기존 인력의 피로 누적 문제다. ISACA 연구에 따르면, IT 종사자의 79%가 번아웃을 경험하고 있다. 이 수치는 고용주의 개입이 결정적 변수임을 보여준다. 기업의 지원은 단순한 ‘직장 내 복지’ 차원이 아니라, 자원 배분과 인재 유지 역량과 직접적으로 연결된 핵심 요소다.

에이전틱 AI를 일상적으로 관리한다는 것은, 더 적은 인력과 더 큰 압박 속에서 새로운 위험 전선을 떠안지 않도록 팀을 보호하는 것을 의미한다. 출발점은 분명하다. 첫째, 역할과 추적성, 통제를 명확히 정의하는 거버넌스 프레임워크를 구축해야 하며, 여기에는 제3자 관리도 포함된다. 둘째, 형식적인 교육이 아닌 실제적이고 구체적인 교육이 필요하다. 교육 부족은 가장 흔한 개인정보 침해의 주요 원인 중 하나로 지적되고 있다.

셋째는 회복탄력성이다. 사업 연속성과 운영 복구가 2026년을 향한 전략적 우선순위로 자리 잡은 것은 우연이 아니다.

궁극적으로 에이전틱 AI는 기업에 궁극적인 효율성 도약을 가져올 수도 있고, 노출과 취약성 측면에서 공백으로의 도약이 될 수도 있다. 두 시나리오를 가르는 기준은 새로운 현실에 부합하는 용기 있는 결정이다. 혁신은 필요하다. 그러나 반드시 설계 단계부터 거버넌스를 전제로 한 혁신이어야 한다.
dl-itworldkorea@foundryco.com