2024년 4만 1,000명이 참석했던 RSA 컨퍼런스(RSA Conference)에 올해도 수천 명의 참가자와 약 600곳의 전시업체가 모였다. 이들은 위협 탐지, 자동화된 취약점 관리, 보안 분야 AI 윤리 등 다양한 주제를 중심으로 생성형AI 기술의 활용 방안에 대해 논의하고 있다.

28일(현지시간)부터 5월 1일까지 개최되는 RSA 컨퍼런스 2025에서는 애플리케이션 보안도 주요 화두로 다뤄질 예정이다. 소프트웨어 공급망, API 보안, 소프트웨어 구성 분석, 안전한 개발 등을 주제로 한 세션이 예정돼 있다. IAM(Identity and Access Management)도 컨퍼런스 트랙과 전시관 양쪽 모두에서 집중적으로 다뤄지며, 유망한 보안 스타트업들의 혁신적인 기술을 소개하는 ‘이노베이션 샌드박스(Innovation Sandbox)’ 행사도 진행된다.

AI가 주도하는 보안 산업 변화

컨퍼런스를 앞두고 딜로이트 미국 사이버 부문 리더 아드난 암자드는 인터뷰에서 “AI 기반 사이버 위협의 증가, 복잡한 IT 환경, 강화되는 규제 때문에 보안 중심의 현대화는 이제 필수적이다”라고 말했다.

암자드에 따르면, 최근의 혁신 흐름은 ‘앱 형태의 AI’ 또는 ‘에이전틱 AI’에 집중되고 있다. 암자드는 “기업이 원하든 원하지 않든 변화는 불가피하게 다가오고 있다. 이 기술이 6개월 뒤에 달라 보일 수 있더라도 기업은 움직여야 한다”라고 언급했다.

이어 “현재 기업은 지나치게 많은 보안 툴을 사용하고 있으며, 이런 툴은 연결되지 않고 제각각 운영된다. 따라서 AI 기술을 활용해 통합성과 생산성을 높일 수 있는 구체적인 설계도를 마련해야 한다”라고 강조했다.

예를 들어, 보안 운영 센터(Security Operations Center, SOC)에서 AI 에이전트가 반복적인 작업을 수행하면 분석가는 훨씬 더 전략적인 업무에 집중할 수 있다.

암자드는 “비즈니스 관점에서 복원력을 어떻게 강화할 것인지 고민하고 보안 플랫폼 통합을 추진하는 방향으로 나아가야 한다”라고 조언했다.

경영 컨설팅 기업 맥킨지 & 컴퍼니의 파트너 찰리 루이스도 RSA 컨퍼런스에서 주목받을 주요 산업 트렌드로 클라우드 보안과 보안 운영 분야의 통합을 꼽았다.

인터뷰에서 루이스는 “기업은 소프트웨어 개발 과정에 보안을 통합해야 한다. 특히 사이버 범죄자들이 생성형 AI 도구를 활용해 더욱 정교한 피싱 수법을 개발하고 있기 때문에 이에 대응하려면 기업은 그 과정에 AI 기반 기술을 적극적으로 도입해야 한다”라고 말했다.

AI 기술은 취약점 수정 작업은 물론 보안 위협에 대한 평균 대응 시간을 단축하는 데에도 중요한 역할을 한다. AI 기술을 도입하지 않는 것은 오히려 기업에 위험 요소가 될 수 있다. 루이스는 “AI 프로젝트가 비즈니스 지표를 얼마나 개선하는지가 도입 성공 여부를 판단하는 핵심 기준이 된다”라고 말했다.

RSA 컨퍼런스는 크리스 크렙스, 브루스 슈나이어 같은 업계 거물이나 구글, 마이크로소프트 고위 경영진의 기조연설로 잘 알려져 있지만, 프로젝트를 기획 중인 CSO가 다양한 업체와 직접 대화를 나눌 수 있는 기회도 제공한다.

무너지는 AI 가드레일

이번 컨퍼런스에서는 다양한 보안 연구 결과도 발표된다. 대표적으로 AI 보안 테스트 업체 마인드가드(Mindgard)는 LLM을 보호하기 위해 설계된 가드레일 전반에서 취약점을 발견했다. 컨퍼런스에서 마인드가드는 이모지와 유니코드 스머글링(Unicode Smuggling)과 같은 새로운 기법을 활용해 AI 가드레일을 우회하는 방법에 대한 최신 조사 결과를 발표할 예정이다.

이번 연구에 따르면, 문자 삽입 기법과 알고리즘 기반 적대적 머신러닝(Adversarial Machine Learning, AML) 회피 기법을 이용해 마이크로소프트 애저 프롬프트 실드(Azure Prompt Shield), 메타 프롬프트 가드(Prompt Guard), 엔비디아 네모 가드(NeMo Guard), 프로텍트 AI(Protect AI )를 포함한 주요 AI 가드레일 시스템 6가지를 안정적으로 우회할 수 있는 것으로 나타났다.

마인드가드는 행사에 앞서 이번 연구 결과를 공개하며 보다 견고한 가드레일 시스템이 필요하다고 강조했다.
dl-itworldkorea@foundryco.com