마이크로소프트 365 생산성 플랫폼에 생성형 AI 기능을 지속적으로 추가해온 마이크로소프트는 최근 데스크톱용 오피스 포털 앱의 이름도 ‘마이크로소프트 365 코파일럿’으로 변경했다. 이러한 흐름은 단순한 유행을 넘어 기업 콘텐츠를 다루는 새로운 방식의 실용적인 도구 제공으로 이어지고 있다.

이 같은 접근은 자연스러운 일이다. 마이크로소프트 365의 상당 부분이 기존 엔터프라이즈 콘텐츠 관리 플랫폼인 셰어포인트(SharePoint)를 기반으로 구축되어 있기 때문이다. 셰어포인트는 역할 기반 접근 제어를 통해 구조화 및 비구조화 데이터를 계층적 사용자·팀 단위 저장소에 보관하며, 이는 대규모 언어 모델(LLM)을 기업 데이터 기반으로 작동시키는 데 필요한 검색 증강 생성(RAG) 및 기타 오케스트레이션 기술을 구현하는 데 적합한 기반이 된다.

마이크로소프트 365의 코파일럿에 대해 신뢰 가능한 데이터 출처(ground truth)를 확보하면 AI 애플리케이션의 위험을 줄일 수 있다. 그러나 이는 동시에 마이크로소프트가 자체적으로 구축한 서비스의 활용 범위에 제약을 가한다. 특히 해당 기능을 자체 애플리케이션이나 워크플로우에 통합하려는 경우 그 제약은 더욱 두드러진다. 비즈니스 프로세스 자동화에서 에이전트 기반 워크플로우의 중요성이 커지는 가운데, 마이크로소프트 365 코파일럿 플랫폼에 대한 직접 접근은 애플리케이션 개발을 더욱 빠르게 만들 수 있다.

AI 애플리케이션에 ‘정답’이 되는 단일 방식은 없다. 마이크로소프트의 다양한 코파일럿은 여전히 개별 사용자를 중심에 두고 있으며, 비즈니스 전반을 포괄적으로 지원하지는 않는다. 하지만 플랫폼 기업인 마이크로소프트는 자체 애플리케이션에서 구축한 기능을 결국 개발자 생태계의 구성 요소로 확장한다.

마이크로소프트 365 코파일럿 API 소개

빌드 2025에서 공개된 마이크로소프트 365 코파일럿 API는 보안 요건을 유지하면서도 핵심 기능을 외부로 분리해 제공하는 형태다. 이 API를 통해 적절한 규제를 준수하는 동시에 인증된 사용자만 데이터에 접근할 수 있도록 설계된 AI 애플리케이션 개발이 가능해졌다. 이번에 처음 공개된 API는 총 5가지로, 검색(Retrieval), 상호작용 내보내기(Interactions Export), 변경 알림(Change Notifications), 회의 인사이트(Meeting Insights), 채팅(Chat) API다. 이 중 앞의 4개는 퍼블릭 프리뷰, 채팅 API는 프라이빗 프리뷰 단계에 있다.

이 중 특히 검색과 상호작용 내보내기 API는 마이크로소프트 365 기반 AI 워크플로우를 구축하고자 하는 개발자에게 가장 주목할 만한 기능이다. 퍼블릭 프리뷰는 향후 릴리스 간 중단 가능성 있는 변경을 수용하면서 테스트를 목적으로 하며, 마이크로소프트 그래프(Microsoft Graph)의 베타 엔드포인트에서만 이용 가능하다. 필요한 테넌트 권한만 있으면 웹 기반 그래프 익스플로러(Graph Explorer)에서 코파일럿 API 요청을 생성하고 테스트할 수 있다.

상호작용 API로 컴플라이언스 지원

상호작용 API는 기존 팀즈 컴플라이언스 도구를 기반으로 하며, 마이크로소프트 365 그래프를 통해 사용자 상호작용을 다운로드할 수 있도록 설계된 독특한 기능이다. 여기에는 사용자 프롬프트와 서비스 응답이 포함되며, 단독 코파일럿 앱뿐 아니라 워드나 아웃룩 등의 애플리케이션 내 프롬프트도 수집된다.

해당 API 자체가 컴플라이언스 도구는 아니지만, 이를 기반으로 사용자 프롬프트 분석 도구를 구축하는 것이 가능하다. 사용 빈도가 높은 프롬프트를 식별해 팀즈 앱이나 오피스 플러그인에 사전 정의 프롬프트로 반영할 수 있다. 이후에는 출력 변형 여부를 모니터링하거나, 새로운 콘텐츠가 도입되어도 응답이 왜곡되지 않도록 확인할 수 있다. 특정 프롬프트에 대응하는 데이터가 없다면, 이를 콘텐츠 생산 신호로 활용하거나 새로운 출처를 추가할 수 있다.

API 접근은 익숙한 HTTP 호출 방식으로, 코파일럿 그래프 엔드포인트를 사용한다. 조직 전체의 상호작용 기록을 단일 호출로 조회하거나, 날짜·사용자 ID 등으로 필터링해 부분적으로 불러올 수 있다. 다른 그래프 API와 마찬가지로 기본 불리언과 SQL 유사 쿼리 구문도 지원된다.

정기적인 쿼리 샘플링을 통해 개인 식별 가능 정보(PII) 누출 여부나 역할 기반 접근 제어(RBAC)의 유효성을 점검할 수 있다. 예를 들어, 이메일 주소로 사용자 ID를 조회한 뒤, 해당 사용자가 워드에서 코파일럿을 어떻게 활용하고 있는지 확인하는 형태의 쿼리 연쇄도 가능하다.

응답은 JSON 형식으로 반환되며, 마이크로소프트 그래프 SDK를 통해 요청을 생성하고 파싱할 수 있다. 혹은 Kiota와 같은 도구를 활용해 특정 엔드포인트에 특화된 라이브러리를 생성, 자체 코파일럿 사용 분석 애플리케이션이나 대시보드를 개발할 수 있다.

검색 API로 AI에 기업 데이터 연결

검색 API(Retrieval API)는 시맨틱 커널(Semantic Kernel)이나 코파일럿 스튜디오(Copilot Studio) 등 도구를 활용해 기업 콘텐츠를 AI 애플리케이션에 손쉽게 통합하는 방식으로 설계됐다. 이 API 또한 마이크로소프트 그래프 보안 경계 내에서 작동해, 사용자 권한에 기반한 응답만 제공한다.

벡터 인덱스나 별도의 쿼리 환경을 따로 구축할 필요 없이, 마이크로소프트 자체 시맨틱 인덱스를 활용해 RAG 연결을 단순화할 수 있다. 이로써 개발자는 콘텐츠 자체에 집중할 수 있게 되며, 최근접 이웃 검색 알고리즘 같은 복잡한 구현을 고민할 필요가 없다.

셰어포인트 기반의 그래프 인프라를 활용함으로써, 특정 콘텐츠 및 도메인에 집중해 환각 현상이나 오류 발생 가능성을 줄일 수 있다. 예컨대, 법무팀용 AI 애플리케이션은 해당 부서에서 활용 중인 라이브러리와 목록에 저장된 데이터 기반으로 구축할 수 있고, 영업팀은 과거 입찰 내역 및 거래 조건 데이터와 연동해 활용할 수 있다.

검색 API 역시 JSON 본문이 포함된 POST 방식 HTTP 호출을 사용한다. 여기에는 최대 1,500자 쿼리 문자열, 셰어포인트 또는 커넥터 데이터 출처 목록, KQL(Kusto Query Language) 형식 필터, 결과 수량 등이 포함된다. 특정 작성자, 특정 프로젝트 또는 고객과 연관된 문서 등 메타데이터 기반 필터링도 가능하다.

응답은 JSON 문서로 반환되며, 원문 문서 링크 및 관련 텍스트 추출본이 포함된다. 민감도 레이블과 같은 메타데이터 설정도 가능하다. 셰어포인트뿐 아니라 ServiceNow, 지라(Jira) 같은 외부 시스템과의 코파일럿 커넥터도 동일한 방식으로 작동한다. 특정 사이트 또는 서비스를 대상으로 필터링을 설정하면, 원하는 범위의 정보만 가져올 수 있다.

JSON 일괄 처리와 개발자 도구

검색 API의 유용한 기능 중 하나는 JSON 일괄 처리(batch) 지원이다. 단일 호출에 최대 20개의 쿼리를 포함할 수 있으며, 셰어포인트 쿼리와 커넥터 쿼리를 혼합하거나 동일 쿼리의 다양한 조합도 요청할 수 있다. 각 요청에는 개별 ID가 부여되고, 응답 역시 해당 ID에 매핑된다. 마이크로소프트 그래프 사용자라면 익숙한 방식이다.

C# 기반 쿼리 구성

API 호출을 수작업으로 작성하고 싶지 않은 개발자를 위해, 마이크로소프트는 오픈소스 클라이언트 라이브러리를 개발 중이다. 현재 C#, TypeScript, Python 버전이 깃허브에 공개되어 있으며, 추후에는 마이크로소프트 365 에이전트 SDK에 통합되고 NuGet에서도 제공될 예정이다. .NET 버전 베타 릴리스는 .NET CLI 또는 파워셸을 통해 설치할 수 있다.

설치 후에는 Azure ID 제공자와 연동해 마이크로소프트 그래프 접근 권한을 설정하고, 테넌트·데이터 출처·쿼리 문자열 등을 정의할 수 있다. 응답은 Results 객체에 저장되며, 필요한 형태로 읽거나 재활용할 수 있다. 이렇게 수집한 데이터를 원하는 오케스트레이션 도구와 연계해 LLM 기반 워크플로우로 활용하는 것도 가능하다.

마이크로소프트 그래프에 저장된 데이터를 활용해 AI 애플리케이션에 근거와 개인화를 동시에 제공하는 것은 매우 합리적인 전략이다. 셰어포인트는 오랫동안 비정형 데이터를 구조화해 보관하는 공간이었고, 원드라이브 또한 종종 간과되는 기업 지식 자산 저장소다. 새롭게 공개된 이 API들을 LLM 오케스트레이션과 결합하면, 보안성과 신뢰성을 동시에 확보한 생성형 AI 환경을 구현할 수 있다.
dl-itworldkorea@foundryco.com