샌프란시스코에 기반을 둔 인공지능 기업 클린랩 최고경영자 커티스 노스컷이 최근 인터뷰에서 “에이전틱 인공지능 프로젝트를 실제 서비스 단계까지 발전시키려는 기업은 복잡한 기술적 과제를 해결해야 한다”라고 강조했다. “기업이나 최고정보책임자가 잠시라도 방심하거나 ‘이제 다 해결됐다’고 생각하는 순간 경쟁에서 뒤처지게 된다”는 설명이다.

노스컷은 에이전틱 인공지능 프로젝트가 어려운 이유로 기술 변화 속도를 지목했다. “인공지능 목표와 기술이 너무 빠르게 바뀌어 기업이 그 변화를 따라잡기 어렵다”라고 분석했다. 음성 인식과 자연어 처리 기술을 활용한 인공지능은 오래전부터 존재했지만, 생성형 인공지능과 대규모 언어 모델의 등장은 시장 구조 자체를 뒤바꿔 놓았다는 평가다.

오픈AI의 챗GPT 출시 이후 검색 증강 생성(RAG), 에이전틱 RAG, 더 거대한 학습 모델, 멀티모달 모델 등 신기술이 잇따라 등장하면서 기업의 인공지능 전략은 매주 새롭게 바뀌고 있다. 노스컷은 “매주 더 똑똑하고 뛰어난 대규모 언어 모델이 등장하고 있다. 기업 입장에서는 주간 단위로 기술 지형이 바뀌는 셈”이라고 말했다.

클린랩은 환각 현상과 실패율을 낮춰 인공지능 오케스트레이션을 보다 안전하고 단순하게 만드는 제품을 제공한다. 클린랩이 1,837명의 기술 임원과 엔지니어를 대상으로 실시한 조사에 따르면, 실제로 인공지능 에이전트를 운영 환경에서 사용하는 기업은 5%에 불과했다. 또 응답자의 60~70%는 세 달마다 대규모 언어 모델과 전체 인공지능 스택을 교체하고 있다고 답했다.

노스컷은 성공적인 에이전틱 인공지능 실행 계획의 핵심으로 ▲명확한 사용례 정의 ▲입출력을 포함한 제품 요구사항 문서 작성 ▲프로젝트를 주도할 제품 관리자 배정을 제시했다. “초기 프로토타입이 완성되면 그때부터 진짜 흥미로운 단계가 시작된다”는 설명이다.

다음 단계에서는 가드레일과 모니터링 시스템을 구축해 오류 발생 시 추적할 수 있도록 해야 한다. “이 시점에서도 아직 서비스 운영 단계가 아니다. 기반을 다지는 과정이다.” 이후에는 오케스트레이션 기능을 추가해, 오류가 발생했을 때 다른 경로나 피드백, 대체 응답을 자동으로 선택할 수 있도록 해야 한다고 제안했다.

또한 사람의 개입을 통해 조언과 개선 피드백을 제공하는 구조를 마련해야 한다. “이 과정을 기반으로 지식 큐레이션과 추가 학습이 이루어지며, 이는 이미 운영 환경에서 병행된다. 즉, ‘운영 이후 단계’에서 진행되는 작업”이라는 설명이다.

노스컷은 “시장에서는 에이전트 기술이 실제보다 훨씬 앞서 있다고 인식하고 있다”며 “주류화되기까지는 훨씬 더 긴 시간이 걸릴 것”이라고 전망했다. “많은 기업이 어떤 에이전틱 인공지능 기술을 적용할지, 오케스트레이션과 가드레일을 어디에 둘지조차 혼란스러워하고 있다”는 분석도 덧붙였다.

IT 의사결정권자에게는 “새로운 시도를 하되, 인공지능 전문 파트너와 협력해 프로젝트 완성도를 높이는 전략이 필요하다”라고 조언했다. 또한 “기업이 모델과 데이터 통제권을 유지하면서도 파트너십을 통해 효율적으로 실험할 수 있다”라고 밝혔다.

노스컷은 마지막으로 “에이전틱 인공지능이 일상 업무에서 안정적으로 활용되기까지는 시간이 필요하다”며, 도구 호출 등 진정한 에이전틱 인공지능이 실현되는 시점은 2027년 초가 될 것이라고 전망했다.
dl-itworldkorea@foundryco.com