AI 챗봇에 자신의 사진을 업로드해 캐릭터로 변환하는 ‘놀이’가 유행처럼 번지고 있다. 기술의 즐거움을 체험하는 흥미로운 방법이지만, 사진이라는 민감한 데이터를 무심코 넘기는 행위에는 명백한 위험이 따른다.

필자는 최근 가족 모임에서 이런 위험을 실감했다. 한 친척이 AI를 활용해 가족사진을 만화풍으로 변형한 이미지를 자랑했지만, 이를 본 순간 불안감이 엄습했다. “이제 이 사진은 인터넷 어딘가에 존재하겠지. 그리고 이 다음엔 무슨 일이 벌어질지 아무도 모른다”라는 걱정이 머리를 스쳤다. 조심하라는 충고를 건넸지만, 상대방이 이를 얼마나 심각하게 받아들였을지는 여전히 의문이다.

문제의 본질은 단순하다. 완전한 무지, 아무런 필터 없이 기술을 받아들이는 순수한 무지 그 자체다.

그 사진을 챗봇에 올려도 괜찮을까?

아이들 사진, 아니면 본인이 동의하지 않은 누구의 사진이라도 AI 챗봇에 업로드하는 건 멈춰야 한다. 겉보기엔 무해해 보일 수 있지만, 이런 행동에는 단순한 장난 이상의 심각한 프라이버시 침해 위험이 따른다. 그리고 그 피해는 사용자 혼자만의 문제가 아니다. 자신도 모르게 훨씬 더 많은 정보를 내어줄 수 있다. 장난처럼 여길 때는 이런 사실을 잊기 쉽다.

사진을 업로드하기 전 던져야 할 질문

AI 챗봇에 어떤 사진이든 올리기 전에, 스스로에게 진지하게 물어볼 필요가 있다. 자기 점검의 시간을 갖는 것이 디지털 위험을 줄이는 첫걸음이다. 다음과 같은 질문을 생각해 보자.

• 이 사진은 실제로 어디로 전송되는가?
• AI 학습 데이터로 활용되거나, 사용자 모르게 공유될 가능성은 없는가?
• 사진 속에 집 주소, 거리 표지판 등 너무 많은 정보가 담겨 있지 않은가?
• 해당 서비스의 개인정보 보호 정책을 제대로 읽어본 적 있는가?
• 사진 속 모든 사람이 업로드에 동의했는가?

무엇이 잘못될 수 있을까?

불안감을 조장하려는 의도는 아니다. 책임감 있게 사용한다면 AI는 유용한 도구가 된다. 하지만 개인의 사진을 무심코 업로드하는 행동은 주의를 기울이지 않을 경우 예상치 못한 부작용으로 이어질 수 있다. 한 장의 사진에는 생각보다 훨씬 많은 정보가 담겨 있다. 촬영 시간, 위치 정보, 심지어 거주지 단서까지도 노출될 수 있다. 악의적인 사용자에게는 그야말로 ‘데이터 금광’이다.

데이터 유출 위험성도 간과할 수 없다. 서버가 해킹되거나 보안이 뚫릴 경우, 업로드한 사진이 외부로 유출돼 악용될 수 있다. 예를 들어, 셀카 한 장만으로도 누군가는 손쉽게 딥페이크를 만들어낼 수 있다. 딥페이크란 AI가 당신의 얼굴을 다른 사람의 몸이나 영상에 합성하는 기술이다. 이 기술은 믿을 수 없을 정도로 정교하며, 실제로 많은 사람을 속일 수 있고 심각한 피해로 이어질 수 있다.

사진을 챗봇에 업로드하는 순간, 그 데이터가 어디로 저장되고 어떻게 관리되는지는 사실상 알 수 없다. 채팅창에서 사라졌다고 해서 해당 이미지가 진짜로 삭제됐다는 보장은 없다. 서버 어딘가에 복사본이 남아 있을 수 있고, 그것이 AI 학습이나 콘텐츠 검수 용도로 쓰일 가능성도 있다. 바로 이것이 가장 불안한 점이다. 그 사진을 누가 보고, 누가 접근할 수 있는지 사용자는 알 수 없다.

사용자에게는 생각보다 많은 통제권이 있다

사용자 입장에서 마냥 무력한 상황만은 아니다. 사용자도 일정 수준의 통제권을 가질 수 있다. 첫걸음은 간단하다. 개인정보 보호 정책을 살펴보고, 사용자의 데이터가 실제로 어떻게 사용되는지 확인해보자. 신뢰할 수 있고 투명한 정책이라면 다음과 같은 질문에 명확히 답할 수 있어야 한다.

• 어떤 정보를 수집하는가? (예 : 메시지, 사진 등)
• 이 데이터를 어떤 방식으로 수집하고 있는가?
• 데이터는 얼마나 오래 보관되는가?
• 어디에 저장되고 있는가?
• 사용자가 직접 삭제할 수 있는가?
• AI 학습 데이터로 활용되는 것을 거부할 수 있는가?

예를 들어 오픈AI의 개인정보 보호 정책은 위와 같은 질문 대부분을 다룬다. 챗GPT에서는 ‘대화 기록 끄기’ 기능을 통해 사용자의 대화가 AI 학습에 활용되지 않도록 설정할 수 있다. 사용자가 데이터를 통제하는 실질적인 보호 조치이지만, 이 역시 100% 완전한 보장을 제공하는 것은 아니다.

그래도 챗봇과 사진을 공유하고 싶다면, 메타데이터를 먼저 제거하는 것이 좋다. 이를 제거하려면 엑시프툴(ExifTool)과 같은 서드파티 앱을 사용하거나, 해당 사진을 스크린샷으로 다시 저장하는 방법이 있다. 스크린샷은 메타데이터를 자동으로 제거하는 간편한 방법이다.

이제 ‘동의’에 대해 이야기해보자. 이 부분이 특히 중요하다.

아이들은 동의할 수 없다. 이 단순한 사실을 왜 많은 사람이 받아들이지 못하는지 모르겠다. 프라이버시 문제를 떠나 사진을 과도하게 변형하는 것은 자아 인식에 부정적인 악영향을 줄 수 있다. 특히 감수성이 예민한 아이일수록 자존감이 크게 흔들릴 수 있다.

AI를 꼭 활용해보고 싶다면, 스톡 이미지나 ‘디스 퍼슨 더즈 낫 이그지스트(This Person Does Not Exist)’ 같은 웹사이트에서 생성한 AI 인물 사진을 사용하는 것이 낫다. 이렇게 하면 실제 사진을 제공하지 않아도 된다.

곧이곧대로 믿지 말자

AI 챗봇은 마치 사람처럼 말하지만, 듣기 좋은 말투와는 달리 당신의 친구가 아니다. AI와 재미있게 놀 수는 있지만, 그렇다고 해서 챗봇이 말하는 모든 것을 절대적인 진실로 받아들여서는 안 된다. AI도 실수한다. 따라서 AI와 모든 정보를 공유하지 말고, 뭔가 이상하다고 느껴진다면 그 ‘직감’을 믿어야 한다.
dl-itworldkorea@foundryco.com