미국 캘리포니아주 산호세에서 개최된 엔비디아 GTC 컨퍼런스의 패널 토론에서는 AI 에이전트를 도입할 때 마주하는 복잡하고 현실적인 문제를 중심으로 실질적인 조언이 오갔다.

AI 에이전트가 실제로 활용되고 있는 대표적인 분야는 고객 서비스다. 피자헛·타코벨·KFC 등을 보유한 얌브랜즈(Yum Brands)의 CDO 캐머런 데이비스는 사람들이 여전히 기계를 불신하고 사람과의 대화를 선호하는 점이 가장 큰 문제라고 지적했다.

데이비스는 향후 5년 안에 주문의 100%를 디지털 방식으로 전환하는 것을 목표로 하고 있으며, 이 과정에서 에이전틱 AI가 중요한 역할을 할 것이라고 설명했다.

데이비스에 따르면, 얌브랜즈는 드라이브스루 주문 자동화를 추진하고 있다. 드라이브스루 창구에서 주문을 받고, 이를 처리하고, 결제까지 마치는 업무는 서비스 직무 중에서도 가장 어려운 일 중 하나인데, AI 에이전트는 이런 부담을 덜어줄 것으로 기대된다.

하지만 도입에 있어 가장 큰 문제는 기술적인 부분이 아니다. 데이비스는 “실제로 적용하는 데 있어 가장 큰 과제는 지금 고객이 기계와 대화하고 싶어하지 않는다는 점이다. 왜 그런지는 스스로에게 물어봐야 한다”라고 말했다.

얌브랜즈는 또한 AI 에이전트를 활용해 직원과 점원의 ‘인지적’ 부담을 줄이는 방안도 모색하고 있다. 데이비스는 “대본에 따라 작동하는 AI 에이전트가 추가 판매를 유도하거나 자선 기부 여부를 묻는 역할을 대신할 수 있다. 이런 작업을 AI가 맡게 되면, 직원은 더 기분 좋게 일하면서 주문이 정확한지, 거스름돈이 맞는지 등에 집중할 수 있게 된다”라고 설명했다.

이어 “백오피스와 인사 업무에도 AI 에이전트를 시범 도입했는데, 결과는 엇갈리고 있다”라고 덧붙였다.

메이요 클리닉(Mayo Clinic)의 스마트 병원 및 언바운드 프로젝트(Unbound Project)를 이끄는 크레이그 다니엘스는 AI 시스템에 대한 신뢰 외에도 규정 준수와 정확성을 주요 우려 사항으로 꼽았다.

다니엘스는 “헬스케어 분야는 특성상 다른 산업보다 기술 도입 속도가 느린 편”이라며 얌브랜즈 같은 기업이 AI 에이전트를 어떻게 활용하고 있는지를 주의 깊게 지켜보며 효과적인 방식을 찾고 있다고 말했다.

메이요 클리닉의 과제는 의사와 환자 모두가 AI를 진단과 치료 보조 수단으로 신뢰할 수 있을 만큼 높은 수준의 신뢰를 형성하는 것이다. 그래야 의사와 환자를 도울 수 있는 AI 에이전트의 역할도 본격적으로 고려할 수 있다는 설명이다.

다니엘스는 “환자가 MRI 기계를 사용할 때 그 기술의 작동 원리를 걱정하지 않고 믿고 맡기듯, AI 모델도 그런 수준의 신뢰를 받아야 한다”라고 강조했다.

메이요 클리닉은 4개 대륙에 걸친 61개 의료 기관에서 수집한 익명 환자 정보를 기반으로 자체 데이터 플랫폼을 구축하고 있다. 예를 들어, 메이요 클리닉이 개발한 한 AI 시스템은 700만 건의 심전도 데이터를 학습해 심부전증을 감지하고 진단한다.

다니엘스는 “어느 시점에서는 모델이 제대로 작동한다고 믿어야 한다. AI가 새로운 인사이트를 제공하고, 우리는 그것을 충분히 연구해 신뢰하게 되었고, 결국 인간과 함께 최종 결정을 내리는 데 활용하고 있다. 굉장한 진보”라고 언급했다.

또한 다니엘스는 미국 FDA가 향후 ‘소프트웨어 기반 의료기기(medical-as-a-software device)’라는 형태로 헬스케어 분야의 AI를 규제하게 될 것이며, 이를 위해서는 입증된 연구 결과가 반드시 필요하다고 설명했다.

다른 산업보다 메이요 클리닉에서는 AI나 에이전트가 환각을 일으키지 않도록 하기 위해 훨씬 더 다양한 안전장치가 필요하다. 다른 패널들도 여전히 이런 안전장치를 어떻게 마련할지 모색 중이라고 밝혔다. 다니엘스는 “무엇보다도 안전을 원한다”라고 덧붙였다.

패널들은 고객 서비스와 챗봇 자체는 새로운 개념이 아니지만, AI 에이전트의 등장으로 다시 주목받고 있다고 설명했다. AI 에이전트는 반응과 음성 측면에서 점점 더 사람에 가까워지고 있으며, 유연성도 높다. 기존 챗봇처럼 정해진 대본을 따르지 않고, 고객 상황에 따라 다른 에이전트와 연결해 더 나은 서비스를 제공할 수 있다는 점이 특징이다.

얌브랜즈의 데이비스는 “AI 에이전트를 사람처럼 말하게 만들 수 있고, 방언도 바꿀 수 있다. 그렇게 제어하는 능력이 필요하다”라고 말했다.

AI 에이전트가 사람을 완전히 대체하는 일은 당분간 일어나지 않을 것으로 보인다. 인간의 창의성과 판단력이 필요한 영역은 여전히 많기 때문이다. AI 에이전트를 감독하고 더 효과적으로 작동하도록 수정하며, 그 결과물을 검증하는 역할은 인간에게 남아 있다.

US 뱅크(U.S. Bank)가 도입한 첫 번째 AI 에이전트는 고객 서비스를 위해 인간의 지식을 보완하고 있다.

US 뱅크의 AI 리서치 총괄이자 수석 부사장인 수미트리 콜라벤누는 “은행, 모기지, 투자 부문에서 일하는 직원은 해당 분야의 전문가이기 때문에, 필요한 정보를 즉시 확인할 수 있어야 한다. AI 에이전트를 이런 부분에 도입해 테스트하고 있다”라고 설명했다.

콜라벤누는 “규제를 받는 많은 산업에서는 ‘휴먼 인 더 루프(human-in-the-loop)’를 유지하는 것이 정말로 중요하다. AI 에이전트의 장점과 자율성은 분명히 매력적이지만, 여전히 사람이 개입하기를 원한다”라고 강조했다.

US 뱅크는 문제 해결 속도를 기준으로 AI 에이전트의 효율성을 테스트하고 있다. 콜라벤누는 “가장 주목하고 있는 부분은 ‘첫 통화에서 문제 해결’이다. 고객 입장에서는 전화를 했을 때 ‘내일 다시 연락드릴게요’ 같은 말을 듣고 싶지 않을 것이다. 이런 부분에서 AI 에이전트가 실제로 가능성을 보여주고 있다”라고 덧붙였다.
dl-itworldkorea@foundryco.com