영국의 연구 기관 세이 노 투 디스인포(Say No To Disinfo)는 최근 커뮤니케이션 전문 기업 페니모어 하퍼(Fenimore Harper)와 협력해 AI 기반 허위 정보 캠페인을 시뮬레이션했다. 이 캠페인의 일환으로 영국의 은행 고객 500명에게 그들이 이용하는 금융 기관과 관련한 인공적으로 생성된 ‘루머’를 제시했다.

이번 시뮬레이션의 목적은 생성형 AI를 활용한 가짜 뉴스 캠페인이 미래에 ‘뱅크런’을 촉발할 수 있는지를 확인하는 것이었다. 과거 미국 실리콘밸리은행(Silicon Valley Bank)에서 발생한 사태와 유사한 상황을 염두에 둔 것이다.

연구 결과는 AI가 이 분야에서 지닌 불길한 가능성을 강조한다.

• 연구에 참여한 응답자 중 가짜 뉴스를 접한 사람의 약 61%는 해당 은행에서 예금을 인출할 의향이 있다고 답했다. 이 중 33%는 “매우 가능성 높다”라고 평가했으며, 27%는 “가능성이 있다”라고 답했다.
• 연구에 따르면, AI 콘텐츠 생성에 10파운드(약 1만 8,000원)만 투자하면 최대 100만 파운드 상당의 자산 이동을 유도할 수 있는 것으로 나타났다.

연구팀은 “AI 툴을 사용해 기존의 불안과 편견을 자극하는 가짜 뉴스 헤드라인을 생성했다. 핵심 메시지는 ‘고객의 자금이 안전하지 않다’는 것이었다”라고 설명했다.

보고서에 따르면, 연구팀은 단문 메시지 기반 SNS인 X를 주로 사용해 관련 게시물과 밈(meme)을 대량으로 퍼뜨렸다. 연구팀은 “효과적인 허위 정보 캠페인을 빠르고 쉽고 저렴하게 실행할 수 있다는 점을 고려하면 금융 부문은 이에 대비해야 한다”라고 경고했다.

그러나 현실적으로 은행은 이에 대응할 적절한 전문가를 보유하지 못한 경우가 많다. 연구팀은 “금융 기관은 고객 신뢰도 매핑, 악성 행위자 분석, 워게임(war game) 시뮬레이션과 같은 대응책을 선제적으로 다루기보다는 사후적으로 처리하는 경향이 있다”라고 지적했다.

금융 기관이 이런 AI 기반 캠페인으로 인한 위협에 대응하는 것은 미션 크리티컬한 사안이다. 연구팀은 “사이버 위협에만 집중하고 영향력 행사 작전(influence operation)이 초래하는 위험을 간과하는 은행은 심각한 보안 취약점을 만들고 있는 셈이다”라고 강조했다.
dl-itworldkorea@foundryco.com