구글은 최근 버텍스 AI RAG 엔진(Vertex AI RAG Engine)을 공식적으로 공개했다. 이 도구는 지식 기반에서 관련 정보를 검색하고 이를 LLM에 전달하는 복잡한 과정을 간소화하도록 설계된 개발자 도구다.

버텍스 AI 플랫폼의 구성 요소로 소개된 버텍스 AI RAG 엔진은 컨텍스트 증강 LLM 애플리케이션을 개발하기 위한 매니지드 오케스트레이션 서비스이자 데이터 프레임워크다. 구글은 버텍스 AI RAG 엔진에 대해 자세히 설명하면서 생성형 AI와 LLM이 산업을 변화시키고 있지만, 환각(부정확하거나 무의미한 정보 생성)이나 학습 데이터 범위를 넘어선 제한된 지식과 같은 과제가 도입을 저해할 수 있다고 언급했다. 버텍스 AI RAG 엔진은 RAG(Retrieval-Augmented Generation)를 구현해 소프트웨어 및 AI 개발자가 신뢰할 수 있는 생성형 AI 솔루션을 구축할 수 있도록 지원한다.

구글은 버텍스 AI RAG 엔진의 주요 이점으로 다음과 같은 점을 언급했다.

• 사용 편의성 : 개발자가 API를 통해 빠르게 프로토타입을 만들고 실험을 시작할 수 있도록 지원한다.
• 매니지드 오케스트레이션 : 데이터 검색과 LLM 통합을 처리하는 매니지드 워크플로우를 제공한다.
• 맞춤화 및 오픈소스 지원 : 개발자는 파싱, 청킹, 주석, 임베딩, 벡터 스토리지, 오픈소스 모델 등 다양한 옵션을 선택할 수 있다. 또한, 자신만의 구성 요소를 맞춤화할 수도 있다.
• 통합 유연성 : 파인콘(Pinecone), 위비에이트(Weaviate)와 같은 다양한 벡터 데이터베이스에 연결하거나 버텍스 AI 서치(Vertex AI Search)를 활용할 수 있도록 지원한다.

블로그 소개 게시물에서 구글은 금융 서비스, 의료, 법률 분야에서 버텍스 AI RAG 엔진의 산업별 사용례를 소개했다. 또한 이 게시물에서는 시작을 돕기 위한 노트북, 버텍스 AI 벡터 서치(Vertex AI Vector Search), 버텍스 AI 피처 스토어(Vertex AI Feature Store), 파인콘 및 위비에이트와의 통합 예제, RAG 엔진 검색을 위한 하이퍼파라미터 튜닝 가이드 등 다양한 리소스 링크를 제공했다.
dl-itworldkorea@foundryco.com