오픈AI는 수개월 동안 개발 중이라고 언급했던 ‘챗GPT 아틀라스(ChatGPT Atlas)’를 최근 공개했다. 현재는 맥OS 전용으로만 제공되고 있다. 하지만 많은 보안 전문가가 기업이 아틀라스를 섣불리 도입하지 말아야 한다고 경고했다. 잠재적인 보안 위험이 존재하기 때문이다.

아틀라스는 사용자의 선호도에 따라 웹 탐색 과정을 자동으로 수행하도록 도와주는 브라우저다. 기본 화면에는 챗GPT가 설정되어 있으며, 챗GPT가 브라우저를 직접 제어해 다양한 웹 기반 작업을 실행할 수 있다.

예를 들어 사용자가 요리 레시피를 보고 그것을 만들어보고 싶다고 하면, 브라우저는 자동으로 인스타카트(Instacart) 같은 사이트에 접속해 필요한 재료를 주문한다. 또 사이드 패널에 위치한 에이전트 챗봇은 사용자의 요청에 따라 구글 문서 파일을 수정할 수도 있다. (참고로 구글 독스는 이미 문서 변경을 자동화하는 프롬프트 기능을 지원하고 있다.)

자동화의 편리함에 숨은 보안 위험

하지만 전문가들은 아틀라스가 악성 웹페이지에 숨겨진 프롬프트를 통해 사용자 데이터를 탈취하는 ‘프롬프트 하이재킹(prompt hijacking)’ 공격에 취약하다고 지적했다.

테크낼리시스리서치(Technalysis Research)의 수석 애널리스트 밥 오도넬은 “아틀라스는 브라우징을 개인화하기 위해 개인 데이터에 크게 의존한다. 프롬프트 하이재킹이 발생하면 신원 도용이나 지식재산 유출로 이어질 수 있다”라고 설명했다.

오도넬은 “이미 기업은 보안 문제를 우려해 접근을 제한하려 하고 있다. 이 부분은 아틀라스가 대중화되기 전에 반드시 해결돼야 할 심각한 문제”라고 덧붙였다.

체크포인트의 제품 취약성 연구 책임자 오데드 바누누는 최근 공개한 연구 노트에서 “아틀라스 같은 AI 브라우저는 고위험 기술로 분류해야 한다. 이런 브라우저는 보안 체계가 충분히 성숙할 때까지 강화된 모니터링, 명확한 사용 정책, 그리고 민감한 데이터 접근에 대한 제한이 필요하다”라고 말했다.

J.골드리서치(J. Gold Research)의 수석 애널리스트 잭 골드는 “보안 문제가 없는지 철저히 검증하지 않은 상태에서 새로운 브라우저를 기업 환경에 배포하는 것은 바람직하지 않다. 또한 기업 내에 이미 설치된 브라우저 기반 애플리케이션이 정상적으로 작동하는지도 반드시 확인해야 한다”라고 지적했다.

IDC 소프트웨어개발 부문 부사장 아르날 다야라트나는 “아틀라스는 웹사이트 탐색, 다단계 작업 실행, 탭 간 동시 조정 등 에이전트형 기능을 통해 생산성을 크게 높일 잠재력을 지니고 있다. 특히 민감한 업무 흐름에서도 인간의 감독과 감사 가능성을 유지할 수 있다는 점이 강점”이라고 평가했다.

다만 다야라트나는 “그럼에도 불구하고 아틀라스는 규제된 대규모 환경에서 실제로 검증된 적이 없으며, 에이전트 남용이나 프롬프트 인젝션, 기타 브라우저 특유의 위협에 대한 내성이 입증되지 않았다”라고 말했다.

또한 “현재 맥OS 전용으로만 제공되는 점은 단기적으로 기업 전반의 도입 가능성을 더욱 제한한다. 크로스 플랫폼 지원과 보다 강력한 보안 보장이 마련되기 전까지는 광범위한 기업 도입이 어려울 것”이라고 분석했다.

다야라트나는 “기업은 아틀라스를 기본 브라우저 대체재가 아닌 초기 파일럿 테스트 대상으로 간주해야 한다. 사용자 커뮤니티와 함께 기능, 보안 및 거버넌스 통제, 레드팀 테스트 결과, 그리고 윈도우 및 관리형 배포 계획의 명확성을 검증하는 과정이 필요하다”라고 조언했다.

이 같은 보안 우려가 제기되자 오픈AI CISO 데인 스터키는 X를 통해 일부 문제를 인정했다.

스터키는 “공격자가 AI 에이전트의 판단을 왜곡시켜 쇼핑 과정에서 잘못된 결정을 내리게 하거나, 이메일 등에서 민감한 정보를 가져와 유출하도록 만들 수도 있다”라며 “예를 들어 잘못된 제품을 구매하거나, 중요한 작업을 실행하기 전에 사용자에게 확인을 요청하지 않는 경우 등 여전히 예기치 못한 실수를 저지를 수 있다”라고 말했다.

다만 스터키는 오픈AI가 이런 보안 위험을 완화하기 위한 여러 조치를 이미 마련했다고 덧붙였다.

아틀라스의 에이전트는 웹페이지에서 개인 정보를 감지하면 자동으로 보안 수준을 높인다. 또 사용자의 계정 자격 증명에 접근하지 않고도 작업을 수행할 수 있는 ‘로그아웃 모드’를 제공한다.

오픈AI는 과거에도 자사 소프트웨어를 먼저 공개한 뒤, 사용자 피드백을 바탕으로 문제를 수정해왔다. 구글, 메타, 넷플릭스 등 다른 주요 기업도 수십 년간 이 같은 접근 방식을 데브옵스(DevOps) 모델의 일환으로 활용하고 있다.

위험 속에서도 커지는 기대감

내재된 위험에도 불구하고 분석가들은 아틀라스가 발전함에 따라 제공할 수 있는 가능성에 여전히 큰 관심을 보이고 있다.

테크낼리시스리서치의 오도넬은 “아틀라스가 인터넷 연결 없이도 작동할 수 있는 온디바이스 AI 모델을 탑재한다면 그 가치는 훨씬 높아질 것이다. 이 기능은 오픈AI가 수억 명의 사용자가 자사 모델을 다운로드하도록 유도할 수 있는 새로운 경로가 될 것”이라고 말했다.

그런 시나리오에서는 브라우저가 클라우드에 있는 대규모 AI 모델에 접근해 더 복잡하고 고성능이 필요한 작업을 처리할 수 있다.

오픈AI는 아틀라스 외에도 마이크로소프트 365와 구글 워크스페이스에 맞설 생산성 애플리케이션을 개발 중이다. 두 플랫폼이 각각 엣지와 크롬에 AI 기능을 강화하고 있는 만큼, 골드는 “이 흐름 속에서 아틀라스가 데스크톱으로 생산성 애플리케이션을 전달하는 핵심 통로 역할을 할 수 있다. 브라우저가 점차 기업용과 개인용 애플리케이션의 주된 인터페이스로 자리 잡고 있다”라고 말했다.

핵심 쟁점은 오픈AI가 구독 기반으로만 완전한 접근이 가능한 주요 클라우드형 챗GPT 모델을 어느 정도까지 개방할지에 있다. 골드는 “AI 도입은 주로 기업용 애플리케이션 통합을 통해 이루어질 것이며, 개인 사용자는 매출 비중이 상대적으로 매우 작다”라고 말했다.

무어인사이트앤드스트래티지(Moor Insights & Strategy)의 수석 애널리스트 패트릭 무어헤드는 “얼리어댑터는 아틀라스를 분명히 사용해 보려 할 것”이라면서도 “하지만 새로 등장한 이 브라우저가 크롬이나 엣지 같은 주류 브라우저를 빠르게 대체하기는 어려울 것”이라고 내다봤다.

무어헤드는 “크롬이나 엣지와 비교했을 때 아틀라스가 널리 인기를 얻을 가능성에는 회의적이다. 대부분 일반 사용자나 초보자, 기업 이용자는 자신이 익숙한 브라우저에서 이와 같은 기능이 제공되기를 기다릴 것이다. 엣지는 이미 이와 유사한 기능을 상당 부분 제공하고 있다”라고 말했다.

아틀라스 외에도 AI 브라우저는 ‘웹을 탐색하는 새로운 방식’으로 주목받고 있다. 퍼플렉시티는 ‘코멧(Comet)’이라는 AI 브라우저를 출시해 유사한 기능을 선보였다. 한편 아틀라시안은 ‘더 브라우저 컴퍼니(The Browser Co.)’를 6억 1,000만 달러에 인수하며 확보한 AI 브라우저 ‘디아(Dia)’를 통해 보안과 기업 중심 전략을 우선시하는 접근 방식을 취하고 있다. 이 인수 거래는 최근 마무리됐다.
dl-itworldkorea@foundryco.com