챗GPT, 클로드, 제미나이는 사람의 속마음을 털어놓을 수 있는 상대로 여기기 쉽다. 친근하고, 개성이 있고, 호기심이 넘치며, 때로는 친밀하기까지 하다. 그러나 챗봇에 공유한 비밀이 반드시 비공개로 유지된다는 보장은 없다. 특히 법원이 개입하면 더욱 그렇다.

AI 챗봇을 정기적으로 사용하는 사용자라면 무엇을 공유하는지 신중해야 한다. 여러 이유가 있다. 예를 들어, 주요 AI 업체들이 사용자 입력을 모델 학습 데이터로 활용할 수 있고, 프롬프트 주입 공격 등을 통해 기밀 정보가 유출될 위험도 있다.

모델 학습과 보안 우려 외에도, 챗GPT·클로드·제미나이·기타 AI 챗봇에 비밀을 털어놓기 전에 고려해야 할 또 다른 요소가 있다. 바로 법적 위험이다.

문제의 핵심은 AI 대화의 법적 지위다. 지난 2월 미국 연방법원 판결로 이 주제가 다시 주목받고 있다.

이 사건에서 증권 및 통신 사기 혐의로 기소된 한 회사의 전직 CEO는 법적 분쟁에 관해 클로드와 나눈 대화, 특히 변호사와 나눈 특권적 대화의 내용을 공개하라는 명령을 받았다.

통상적으로 법률 대리인과 나눈 대화는 법정에서 증거로 사용할 수 없다. 그러나 제드 라코프판사는 판결문에서 피고 브래들리 헤프너가 특권적인 법률 상담 내용을 클로드와 공유하는 순간 보호받을 권리를 스스로 포기한 것이라고 판단했다.

로이터에 따르면 라코프 판사의 판결은 법조계에 충격파를 던졌고, 변호사들은 챗GPT·클로드·제미나이 등 AI 챗봇으로 법률 문제를 논의할 때 주의를 기울이라고 의뢰인들에게 권고하고 있다.

같은 날 미국에서 나온 또 다른 판결은 상황을 더 복잡하게 만든다. 한 미국 연방 치안판사는 AI 챗봇을 변론에 활용한 여성이 챗봇 대화를 제출할 필요가 없다고 판결했다. 판사는 AI 챗봇이 “도구일 뿐, 사람이 아니다”라고 선언했다.

이 두 사건은 주로 변호사와 의뢰인이 AI를 사용할 때의 법적 지위에 초점을 맞추고 있다. AI와 법률 문제를 논의하는 행위가 마이크로소프트 워드에 개인 메모를 작성하는 것과 같은 것인지, 아니면 법의 눈에는 소환장의 대상이 될 수 있는 제3자와 법률 대화를 공유하는 것으로 보이는 것인지는 아직 명확한 답이 없다.

그러나 이 사안 전체가 중요한 점을 시사한다. 챗GPT·클로드·제미나이와 나누는 대화가 반드시 비공개로 유지된다는 보장이 없으며, 대화할 때마다 이 점을 인식해야 한다.

일반적인 원칙은 단체 문자에 보내기 꺼릴 내용은 AI 챗봇에도 말하지 않는 것이다. 옛 방식으로 비유하자면 엽서 뒷면에 적기 부담스러운 내용이라면 마찬가지다.

또한 대화를 삭제해도 즉시 완전히 삭제되지 않는다는 점도 유의해야 한다. 앤트로픽과 오픈AI는 삭제된 대화와 임시 대화를 최소 30일 동안 서버에 보관하며, 구글은 제미나이 앱 활동 설정에 따라 더 오래 보관할 수 있다.
dl-itworldkorea@foundryco.com