오픈AI가 챗GPT를 출시하며 생성형 AI를 소비자 시장에 선보이자, 전 세계 사용자가 몰려들어 다양한 산업 분야에서 이 도구의 활용 가능성을 실험하기 시작했다. 동시에 민감 정보 유출과 같은 위험에서 기업을 보호해야 하는 정보보안 담당자 사이에는 긴장감이 번졌다. 개인식별정보(PII), 의료정보(PHI), 기업의 기밀 데이터와 지식재산(IP)까지 보호 대상에 포함되기 때문이다.

보호 체계를 논하기에 앞서, 먼저 질문해야 한다. “생성형 AI 환경에서 우리가 지키려는 것은 무엇인가?” 필자는 3가지 핵심 목표를 제시한다. 첫째, 기업의 민감한 데이터와 지식재산. 둘째, PII와 PHI. 셋째, 악성코드와 악의적으로 생성된 코드 등 사이버 위협 요소다.

기존 도구의 한계

수년간 사용하던 전통적인 기업용 데이터 유출 방지(DLP) 솔루션은 비용이 높고 구축이 복잡하며, 효과를 내기까지 IT 인력이 지속적으로 관리해야 한다. 이들 솔루션은 데이터 중심 및 네트워크 중심 DLP를 기반으로 데이터 소스에 통합하고 네트워크와 외부 전송 지점을 모니터링하는 포괄적 구조를 갖춘다. 그 결과, 충분한 자원을 보유한 대기업만이 기존 DLP 도구를 도입·운영할 수 있는 것이 현실이다.

여기에 생성형 AI 솔루션이 확산하면서 위험 요소는 더욱 복합적으로 얽혔다. 관리되지 않는 생성형 AI 도구와 함께 오픈AI 챗GPT, 구글 제미나이, 마이크로소프트 코파일럿, 앤트로픽 클로드 같은 소비자용 서비스는 사용자가 문서를 업로드하고 정보를 분석하며 텍스트·오디오·영상·그래픽 등 다양한 결과물을 생성하도록 지원한다. 문제는 직원이 PII, PHI, 기업 기밀이나 지식재산이 포함된 민감 데이터를 업로드해 분석할 경우 조직의 정보가 외부로 노출될 위험이 커진다는 점이다.

현재 대부분 조직은 생성형 AI 관련 정책과 가이드라인을 마련했다. 그러나 이를 실제로 집행할 기술적 수단을 갖춘 곳은 많지 않다. 여기서는 생성형 AI 환경에서 민감 정보 보호와 사이버보안 위험을 관리하는 현실적인 대안을 제시한다.

해법 1. 기업용 생성형 AI 모델 도입

승인된 생성형 AI 솔루션에 대해 기업용 라이선스를 도입하는 방법이다. 예를 들어 챗GPT 엔터프라이즈나 기존 O365 테넌트에 통합되는 마이크로소프트 코파일럿 365가 해당한다. 기업용 생성형 AI 솔루션은 일반적으로 강력한 보안 기능을 기본 탑재해, 기업이 자체 환경 내에서 데이터를 보호하고 DLP 통제를 적용할 수 있도록 설계돼 있다.

다만 비용 부담이 크다. 사용자 1인당 월 30~40달러 수준으로, 직원이 4,000명인 대기업이라면 연간 최소 144만 달러(약 20억 7,500만 원)가 필요하다. 대신 승인된 기업용 도구에 맞춰 교육을 최적화할 수 있다는 장점이 있다.

또 승인되지 않은 생성형 AI 도구 사용에 따른 위험을 줄이기 위해 시스코 엄브렐라(Umbrella), 아이보스(iBoss), DNS필터(DNSFilter), WEB 타이탄(WEB Titan) 같은 최신 인터넷 콘텐츠 필터링 솔루션으로 차단하는 방식도 병행할 수 있다. 그러나 이 접근법은 직원이 필요로 하는 도구까지 막아 혁신을 저해할 가능성이 있다. IT팀은 무엇이 비즈니스 성과에 기여하는지 판단한 뒤, 이를 안전하게 활용할 방법을 찾아야 한다. 위험 회피 성향이 가장 강한 선택지다.

해법 2. 생성형 AI 오픈 모델 도입

XDR/MDR(Extended Detection Response/Managed Detection Response) 보안 솔루션에 생성형 AI용 DLP 통제를 통합해 민감 정보 유출 위험을 탐지·분석·대응하는 방식이다. 최신 XDR과 기존 DLP의 핵심 차이는 통합 범위에 있다. XDR은 엔드포인트, 네트워크 보안, 위협 인텔리전스 등 여러 보안 도구와 DLP 기능을 하나의 보안 체계로 묶어, 일반적으로 에이전트를 통해 운영한다.

이 접근법은 특정 기업용 생성형 AI 솔루션 한두 개만 선택하는 대신 다양한 도구 사용을 허용해 기업 내 혁신을 촉진한다. 다만 여러 솔루션을 동시에 운영하면 교육 측면에서 규모의 경제를 기대하기 어렵다. 수십 개 도구를 대상으로 교육 체계를 갖추기란 쉽지 않기 때문이다.

센티넬원, 마이크로소프트, 크라우드스트라이크 같은 1군 보안 업체는 자사 사이버보안 플랫폼에 강력한 DLP 모듈을 포함한다. 고도화된 AI 엔진을 활용해 기업용이 아닌 생성형 AI 도구는 물론, 기타 애플리케이션에서 발생하는 민감 정보 유출도 탐지·차단한다. 또한 위협 및 데이터 보호 정책을 기반으로 가드레일을 설정하고, 전체 AI 공격 표면에 걸쳐 자동 대응 체계를 구축함으로써 에이전틱 AI 환경까지 보호할 수 있다.

이 접근법은 데이터 유출 위험을 기업용 도구 도입 단계가 아니라 엔드포인트 보안 계층으로 옮긴다. 동시에 인터넷 콘텐츠 필터링으로 비기업용 생성형 AI 솔루션을 차단해야 하는 부담도 줄여, 상대적으로 낮은 위험 수준에서 혁신을 이어갈 수 있다. 비용 측면에서도 효율적이다. 직원 4,000명 규모 조직 기준으로 연간 3만~5만 달러(약 4,300만 원~7,200만 원) 수준이면 운영이 가능하다. 필자는 이를 ‘위험 인지형’ 선택지로 설명한다.

소프트웨어와 보안 업체는 계속 진화하고 있다. 2026년으로 접어들면서 전통적인 기업용 DLP와 인터넷 차단 중심 전략에서 벗어나, 사이버보안 플랫폼 내 XDR 기반 DLP 모듈로 무게중심이 이동하는 흐름은 보안 도구와 기능의 통합을 보여준다.

CIO와 CISO는 생성형 AI처럼 혁신을 촉진하는 신기술에 주목하면서도, 통제되지 않은 비기업용 생성형 AI 사용에 따른 위험을 줄일 정책과 기술을 함께 도입해야 한다. 생성형 AI의 또 다른 위험 요소인 악성코드나 악의적으로 생성된 코드 문제는 XDR과 코드 보안 스캐닝 솔루션을 결합해 대응할 수 있다. 결과적으로 XDR/MDR 기반 DLP는 생성형 AI 관련 위험 대부분을 관리할 수 있는 현실적이면서 비용 효율적인 대안이다.
dl-itworldkorea@foundryco.com