헬프데스크에는 이제 지원이 필요하다. 그러나 현장에 투입되는 다수의 인공지능 에이전트는 여전히 단순한 챗봇 수준에 머물러 있다.

이들은 “티켓을 해결한다”거나 “IT 지원을 혁신한다”고 주장하지만, 실제로 배포하면 대다수 도구는 티켓을 단순히 라우팅할 뿐 해결하지 않는다. 겉모습의 에이전트 기능을 걷어내면 친숙한 사용자 인터페이스를 가진 단순 접수 양식에 지나지 않는다.

수십 곳의 엔터프라이즈 IT 팀과 협업하며 느낀 점은 하나였다. 기업은 실질적인 솔루션을 원한다. 프로토타입이나 실험용 샌드박스가 아니라, 실제 운영 환경에서 작동하는 생산 단계의 인공지능 에이전트를 원한다. 그것도 IT 팀이 하루 대부분을 소모하는 업무를 대신 처리하는 기능이다. 다중 인증(MFA) 재설정, 접근 권한 요청 처리, 소프트웨어 프로비저닝 같은 업무가 예시다.

인공지능 에이전트에 대한 과도한 기대와 달리, 대다수 팀이 바라는 것은 ‘마법’이 아니다. 반복 업무의 감소, 티켓 해결 시간 단축, 서비스 수준 협약(SLA)과 비용에 대한 실질적 개선을 원할 뿐이다.

현장에서 검증된 구축 방법을 정리했다. 신규 프로젝트를 시작하든, 기존 인공지능 에이전트를 개선하든 실무에 바로 적용할 수 있는 접근법이다.

1단계 : 측정 가능한 문제부터 시작하라

기술이 아니라 문제의 통증 지점에서 출발해야 한다.

한 IT 리더는 미해결 티켓 누적 문제로 어려움을 겪고 있었다. 대부분이 접근 권한 요청과 MFA 재설정으로 인한 것이었고, 목표는 명확했다. 인력 추가 없이 1단계(Tier 1) 티켓을 30% 감소시키는 것이었다.

첫 단계는 티켓 발생량이 많고 반복적인 단일 사용례를 선정하는 것이다. 대표적인 예는 다음과 같다.

• MFA 재설정
• “내 티켓 상태가 어떻게 됐나요?” 유형의 문의
• 소프트웨어 프로비저닝
• 비밀번호 재설정 또는 계정 잠금 해제

올바른 사용례는 다음 요건을 갖춰야 한다.

• 명확한 트리거(양식 제출, 슬랙 명령, 기존 티켓 등)
• 정의 가능한 결과(실행된 조치 또는 반환된 데이터)
• 충분한 티켓 발생량(SLA 또는 해결 시간 개선에 영향을 미칠 수준)

2단계 : 올바른 팀 구성

이 단계는 종종 간과된다. 기존 지원 프로세스를 이해한 담당자, 통합 요구사항을 기술적으로 평가할 수 있는 인력, 확장성과 거버넌스를 고려할 전략 담당자가 필요하다.

성공적인 팀은 이 프로젝트를 단발성 도구가 아닌 장기적 플랫폼 구축으로 인식한다. 초기 단계부터 IT, 자동화 엔지니어, 보안팀을 참여시켜야 한다. 그래야 6개월 뒤 다시 처음부터 재작성하지 않아도 되는 확장 가능한 구조를 구축할 수 있다.

3단계 : 데이터, 시스템, 채널을 체계적으로 매핑하라

에이전트 성공의 핵심은 구조화된 데이터 체계이다. 다음 세 영역으로 나누어야 한다.

• 실행 시스템(Action Systems) : 실제 작업이 수행되는 영역으로, 옥타(Okta), 지라(Jira), 서비스나우(ServiceNow), 액티브 디렉터리(Active Directory) 등이 해당된다.
• 지식 소스(Knowledge Sources) : 에이전트가 참조하는 자료로, 내부 문서, 해결된 티켓, 지식 베이스, 컨플루언스 페이지 등이 포함된다.
• 상호작용 채널(Interaction Channels) : 사용자가 요청을 입력하는 통로로, 슬랙과 팀즈가 일반적이며, 맞춤형 포털이나 이메일 기반 에이전트도 있다.

이 구간이 통합 복잡성이 가장 큰 부분이며, 많은 상용 솔루션이 이 단계에서 한계를 드러낸다.

4단계 : 프롬프트가 아닌 도구를 설계하라

대규모 언어 모델(LLM)을 호스팅하거나 LangChain 같은 프레임워크를 사용하든, 핵심은 ‘도구’를 정의하는 것이다.
도구는 에이전트가 수행할 수 있는 작업의 최소 단위다.

각 도구는 다음 요건을 갖춰야 한다.

• 단일 기능 수행 (비밀번호 재설정, 기기 상태 확인, 티켓 생성 등)
• 명확한 입력값 정의
• 구조화된 결과 반환

모든 도구에는 안전 장치를 설정해야 한다. 입력값 검증, 권한 확인, 승인 절차가 필요하다.
한 사례에서는 역할 기반 접근 권한 부여 시 인간 검토 절차를 추가해, 초기 단계에서 보안팀의 신뢰를 확보했다.

5단계 : 처음부터 거버넌스를 설계하라

보안은 사후 대응 항목이 아니다. 나중에 덧붙일 수 있는 기능이 아니다.
몇몇 에이전트는 감사 로그 미비나 개인정보 비식별화 실패로 파일럿 단계에서 중단되기도 했다.

기업 환경에 적합한 에이전트는 다음을 충족해야 한다.

• 프롬프트 인젝션 방어 기능
• 민감 데이터 토큰화
• 모든 작업의 감사 로그 기록
• 고위험 작업의 승인 워크플로우 적용

에이전트가 사용자 권한·접근 권한·개인 데이터를 다룬다면, SOC2 수준의 관리 체계가 필수이다.

6단계 : 사용자의 업무 환경에 배포하라

성공적인 에이전트 대부분은 슬랙 또는 팀즈에서 시작된다.
이 채널들은 사용자가 이미 익숙하며, 업무 흐름에 자연스럽게 녹아드는 환경이다.

처음에는 단일 워크플로우로 시작해야 한다. 신뢰도가 낮거나 SLA 목표가 위태로울 때만 단계적으로 확장한다.

효과 측정 지표는 다음과 같다.

• 1단계 티켓 감소율(L1 Ticket Deflection)
• 평균 해결 시간
• 에이전트 사용률 변화 추이

한 사례에서는 IT 티켓 처리 과정의 75%를 자동화해 인력 개입을 크게 줄였다. 이 한 가지 사용례만으로도 프로젝트의 ROI가 입증됐다.

인공지능 에이전트의 본질

현재 시장의 다수 인공지능 에이전트는 사실상 챗봇 수준의 인터페이스를 가진 단순 자동화 도구이다.
진정한 에이전트는 이해하고, 추론하며, 행동하는 존재이다. 시스템과 자연스럽게 통합되고, 시간이 지나도 함께 성장한다.

AI 센터 오브 엑설런스(AI Center of Excellence)를 세울 필요는 없다. 필요한 것은 적절한 사용례, 탄탄한 아키텍처, 지속적 개선 의지뿐이다. 규모는 작게 시작해도, 설계는 반드시 똑똑하게 시작해야 한다.
dl-itworldkorea@foundryco.com