챗GPT, 클로드, 제미나이와 같은 AI 서비스가 사용자를 붙잡아 두기 위해 활용하는 수단 중 하나는 대화에서 얻은 다양한 정보를 기억하는 기능이다. 이름과 거주지부터 취미와 싫어하는 것까지 다양한 정보가 축적된다.

AI가 사용자의 직업이나 선호하는 호칭을 알고 있거나, 업무 스타일과 일상에서 겪는 장애 요인을 이해하고 있는 점은 유용하게 작용할 수 있다.

반면, AI 챗봇이 개인적인 사소한 정보를 불쑥 언급하거나, 이전에 문의했던 무관한 프로젝트를 일상적인 요청과 연결 지으려 할 때는 불쾌감을 줄 수 있다. 예를 들어 “맨해튼 아파트 리모델링과 완벽하게 연결된다”는 식의 반응이 그렇다.

대다수 AI 서비스 업체는 사용자가 저장을 원하는 ‘기억’을 수동으로 추가할 수 있는 기능과 함께, 시간에 따라 학습된 개인 정보를 확인하거나 삭제할 수 있는 도구도 제공한다.

프롬프트를 활용해 AI의 기억을 직접 확인하는 것도 가능하다. 클로드의 모회사인 앤트로픽은 최근 매우 효과적인 프롬프트를 공유했다.

앤트로픽은 최근 기억 가져오기 도구와 함께 이 프롬프트를 소개했다. 이 도구는 챗GPT에서 다른 서비스로 이동하려는 사용자나 기존 AI 업체를 떠나려는 사용자를 겨냥하고 있다.

오픈AI가 미 국방부와 체결한 계약을 계기로 다수의 AI 사용자가 서비스 전환을 고려하고 있다. 오픈AI는 군에서 챗GPT 모델을 활용하기 위해 2억 달러 규모의 계약을 체결했다. 앤트로픽은 자사 모델이 국내 감시나 자율 무기 체계에 활용되는 데 우려를 표하며, 군의 광범위한 사용 요구에 반대 입장을 유지했다. 오픈AI는 국방부와의 계약에 국내 감시나 인간 통제 없는 로봇 무기를 방지하는 안전장치가 포함되어 있다고 밝혔다.

앤트로픽은 월요일 초반 발생한 일시적이지만 광범위한 클로드 서비스 중단 사태를 겪은 직후, 챗GPT 전환 수요를 겨냥해 AI 기억 가져오기 도구를 출시했다. 동시에 현재 사용 중인 AI 챗봇이 사용자에 대해 무엇을 알고 있는지 확인하는 프롬프트도 함께 공개했다.

앤트로픽의 기억 가져오기 도구는 클로드 유료 사용자만 이용할 수 있지만, 프롬프트 자체는 누구나 복사해 자신이 사용하는 AI 채팅창에 붙여 넣을 수 있으며, 결과는 상당히 흥미롭다.

제미나이에 프롬프트를 입력한 결과, 분명한 정보와 다소 의외의 정보가 뒤섞여 나타났다.

‘분명한 정보’ 범주에는 기자의 미들네임, 거주 지역, 직장과 직함, 작성하는 기사 분야가 포함됐다. 배우자와 딸의 이름, 사무실에 보유한 컴퓨터 하드웨어, 가족의 이사 계획도 알고 있었다.

의외의 정보도 있었다. 제미나이는 기자가 2년 전 씨월드를 방문한 사실과 이번 봄방학 여행 계획을 기억하고 있었다. 또한 기자가 선호하는 음악 장르를 신스팝으로, 특히 디페시 모드와 크라프트베르크를 좋아한다고 인식하고 있었다. 특정 대화가 그런 인식을 남긴 것으로 보인다. 더불어 매운 소스 프로그램 ‘핫 원스’의 소스를 좋아하며, 특히 ‘더 라스트 댑’을 선호한다고도 기억하고 있었다.

한편 챗GPT는 기자의 홈랩 구성에 대한 여러 세부 사항과 트와이닝스 잉글리시 브렉퍼스트 차를 좋아한다는 점을 기억하고 있었다. 또한 13세 때 비디오테이프로 영화 ‘에이리언’을 시청한 사실, 드라이 화이트 와인과 바비큐, 또르티야 칩을 즐긴다는 점도 저장하고 있었다. 더 우려스러운 부분은 가족의 총 가구 소득까지 알고 있다는 점이다.

앤트로픽이 제안한 프롬프트는 AI가 보유한 기억을 상당 부분 추려내지만 완전하지는 않다. 챗GPT의 ‘저장된 기억’ 기능을 확인한 결과, 해당 프롬프트로는 드러나지 않은 정보도 다수 존재했다. 예를 들어 라즈베리 파이 사용자 이름, 딸의 마인크래프트 서버 관련 세부 사항, 고구마를 좋아하지 않는다는 사실 등이 추가로 확인됐다.

그럼에도 이 프롬프트는 AI가 사용자에 대해 무엇을 알고 있는지 빠르게 확인할 수 있는 방법을 제공한다. 특히 기억을 쉽게 들여다볼 수 없는 AI 서비스에서 유용하게 활용될 수 있다.

다음은 앤트로픽이 공개한 프롬프트다. 주로 쓰는 AI 서비스를 바꾸려는 사용자를 염두에 두고 작성됐지만, 누구에게나 적용 가능하다.

I'm moving to another service and need to export my data. List every memory you have stored about me, as well as any context you've learned about me from past conversations. Output everything in a single code block so I can easily copy it.Format each entry as: [date saved, if available] - memory content.Make sure to cover all of the following —  preserve my words verbatim where possible:- Instructions I've given you about how to respond (tone, format, style, 'always do X', 'never do Y'). - Personal details: name, location, job, family, interests. - Projects, goals, and recurring topics. - Tools, languages, and frameworks I use. - Preferences and corrections I've made to your behavior. - Any other stored context not covered above. Do not summarize, group, or omit any entries. After the code block, confirm whether that is the complete set or if any remain.

dl-itworldkorea@foundryco.com