메타의 사명은 “인간 연결의 미래와 그 지원 기술을 구축하는 것”이다.

메타는 인간 연결의 미래를 인간과 AI가 연결되는 것이라고 말한다. 메타는 이미 실제 사용자가 플랫폼에서 대규모로 가짜 사용자를 생성할 수 있는 도구를 출시했으며, 확장을 위해 노력하고 있다. 메타는 30억 명의 사용자가 인간인 척하는 소프트웨어와 채팅하고, 게시물에 댓글을 달고, 일반적으로 상호 작용하는 것이 정상적이고 바람직한 일이라는 것을 납득시키려고 노력하고 있다.

메타는 ‘대다수 온라인 콘텐츠, 트래픽, 사용자 상호 작용 등이 인간이 아닌 AI와 봇에 의해 생성된다’는 디스토피아적 ‘죽은 인터넷 이론‘을 유해한 트렌드가 아닌 정상적 사업 계획으로 간주한다.

페이스북으로 불리던 시절, 메타는 모든 새로운 이니셔티브를 사람과 사람을 연결하는 ‘인간적 연결’이라는 따뜻한 은유적 담요로 감쌌다.

이제 메타는 플랫폼에서 시간을 보내고 광고에 나온 제품이나 서비스에 돈을 쓰는 방식의 ‘참여’만 가능하다면, 그 사용자가 사람이든 아니든 상관하지 않는 것 같다.

다시 말해, 과거의 빠른 성장을 이어갈 수 있는 유일한 방법은 AI로 사용자를 만들어내는 것뿐이라고 판단한 것이다. 다행인 것은 메타의 ‘죽은 인터넷’ 프로젝트가 잘 진행되고 있지 않다는 것이다.

사람들이 인간이 아닌 AI와 대화하고 상호 작용하게 하려는 메타의 목표는 여러 가지 형태로 나타나고 있다.

가짜 유명인 프로젝트

2023년 9월, 메타는 켄달 제너, 미스터비스트, 스눕독, 찰리 다멜리오, 패리스 힐튼 등 유명인을 닮은 AI 챗봇을 출시했다.

사용자들은 대부분 챗봇을 거부하고 무시했고, 결국 메타는 이 프로그램을 종료했다.

가짜 인플루언서 참여 프로그램

메타는 인플루언서가 AI 생성형 봇 버전을 만들 수 있는 ‘크리에이터 AI’라는 프로그램을 테스트하고 있다. 인플루언서가 만든 봇처럼 보이고, 행동하고, 말하고 글을 쓰도록 설계되며, 게시물 표현이나 스타일을 학습으로 배우는 봇이다.

인플루언서 봇은 대화형 다이렉트 메시지에 참여하고 게시물 댓글에 응답해 이미 수백만 명이 메타 플랫폼에서 유명인과 인플루언서와 맺고 있는 건강하지 않은 사회적 관계를 더욱 부추길 것이다. 또 다른 이점은 인플루언서가 팔로워 참여를 요구하는 여러 가지 행동과 글을 봇에 ‘아웃소싱’할 수 있다는 것이다. (“메타에서는 로봇이 팬과 소통하므로 여러분이 직접 팬과 소통할 필요가 없다!”고 광고하려는 것일까?)

또한 프로필 사진을 AI로 변형한 이미지를 인스타그램 피드에 비공개로 자동 추가하는 새로운 기능도 테스트했는데, 아마도 사용자가 AI 이미지로 자신을 나타내는 것에 적응해서 수요가 생기기를 바라서인 것 같다.

가짜 사용자 이니셔티브

메타는 2024년 7월 미국에서 AI 스튜디오를 출시했는데, 이 스튜디오는 AI 기술이 없는 사용자도 프로필 사진, 목소리, 그리고 성격까지 갖춘 가짜 사용자의 계정을 만들 수 있도록 지원한다.

컴퓨터로 생성된 ‘사용자’는 실제 사용자 프로필처럼 프로필이 있고, 인스타그램, 메신저, 왓츠앱, 웹에서 실제 사람과 상호작용할 수 있다는 것이 메타의 생각이다. 페르소나는 메타의 가상 현실 플랫폼에서도 같은 기능을 수행할 예정이다.

메타의 한 고위 임원은 최근 AI 기반 가짜 사용자 개념을 옹호했다. 메타의 생성형 AI 제품 담당 부사장 코너 헤이즈는 파이낸셜 타임즈 기사에서“시간이 지나면 이러한 AI가 실제 계정과 같은 방식으로 메타 플랫폼에 존재할 것으로 예상한다. 신상 정보와 프로필 사진을 갖고 플랫폼에서 AI로 만들어지는 콘텐츠를 생성하고 공유할 것”이라고 말했다.

헤이즈는 이미 “수십만 개”의 캐릭터가 생성되었지만, 대부분 비공개로 유지되어 참여 유도라는 목적에 어긋난다고 덧붙였다.

가짜 경험의 위험

메타는 또한 콘텐츠 제작자를 위한 텍스트-비디오 생성 소프트웨어를 공개할 계획이다. 사용자는 한 번도 가보지 않은 장소에서 한 번도 해보지 않은 일을 하는 모습을 연출하는 AI 생성형 동영상 속에 자신을 배치할 수 있다.

가짜 페이스북의 실패 사례

약 1년 전, 메타는 페이스북과 인스타그램에 28개의 가짜 사용자 계정을 만들어 관리했다. 이 프로필에는 신상 정보와 AI가 만든 프로필 사진이 포함되어 있었고, 모든 사용자가 댓글을 달 수 있는 AI 생성 콘텐츠(책임감 있게도 AI와 “메타가 관리함”으로 표시됨)를 게시했다. 사용자는 봇과 채팅도 할 수 있었다.

최근 대중은 이러한 계정의 진위를 알아차리기 시작했고, 고운 시선을 보내지 않았다. 소셜 미디어에서는 메타가 해당 계정을 삭제해야 한다는 압박이 일어났다.

한 가지 비판은 가짜 사용자가 인간의 고정관념을 흉내 냈으며, 소속 집단을 대표하지 않았다는 것이었다.

또한 대부분의 생성형 AI 콘텐츠가 그렇듯, 지루하고 평범하며 개인이 아니라 기업 같은 느낌을 주거나, 틀린 내용을 말하고 불쾌감을 주는 경우가 많았다. 메타가 투자한 이유는 바로 사용자의 참여였지만 호응은 거의 없었다. (사용자가 해당 계정을 차단할 수 없다는 비판도 있었는데, 메타는 버그를 탓했다.)

AI의 실수에서 기회를 엿보는 메타

모든 가짜 AI 콘텐츠는 플랫폼에서 발생하는데, 가장 크고 가장 해로운 것은 메타의 콘텐츠 기술 지원 없이 사용자가 만든 스팸성 저품질 AI 게시물이 바닥을 드러내지 않는 플랫폼에서 발생한다.

‘AI 슬롭’이라고 불리는 이런 게시물은 기괴한 AI 생성형 이미지를 만들어 사용자의 감정적 반응과 참여를 유도한다.

페이스북 게시물에서 AI 미끼 사진은 이상하고 무의미하며 조작적인 텍스트와 함께 게시된다. 성공한 게시물일수록 종교, 군사, 정치 또는 강렬한 감정을 주제로 한다.

게시물에는 종종 이상한 단어가 포함된다. 포스터에는 거의 항상 유명인의 이름이 해시태그된다. 자동차 등 관련 없는 주제에 대한 정보를 포함하는 경우도 많다.

나쁜 AI, 나쁜 취향, 나쁜 믿음에 기반을 둔 이러한 기괴한 게시물은 페이스북에 만연해 있다.

AI 슬롭 프로필도 물론 차단할 수 있다. 하지만 이런 게시물은 계속 만들어진다. 차단, 신고, 비판, 무시는 저품질 AI 게시물에 아무런 영향을 미치지 못한다.

메타 알고리즘이 보상을 주고 있기 때문이다.

메타는 이러한 게시물을 막지 못할 뿐만 아니라, 본질적으로 콘텐츠 제작자에게 돈을 지불하고 알고리즘을 사용해 게시물 생성을 부추기고 있다. 스팸성 저품질 AI 게시물은 참여를 유도할 수 있다면 어떤 쓰레기라도 좋다는 메타의 명백한 결론과 완벽하게 일치한다.

AI 콘텐츠의 위기

일반적으로 AI 콘텐츠는 아주 간단한 이유 때문에 온라인에서 위기를 맞고 있다. 소셜 미디어 사용자, 콘텐츠 제작자, 인플루언서가 되려는 사람, 광고주, 마케터는 AI 생성형 콘텐츠가 형편없음을 나타내는 표현이 부족할 정도라는 현실을 잘 인식하지 못하는 것 같다.

예를 들어, AI가 생성한 텍스트는 흐름이 없고 주장이 없는 반복적이고 일반적인 언어를 사용한다. 단어 선택이 부적절한 경향이 있으며, 중요한 것과 관련 없는 것을 구분하지 못한다.

AI가 생성한 이미지는 특히 문제가 된다. 여러 연구에 따르면 사람들은 실제 사진보다 AI가 생성한 이미지에 대해 더 부정적으로 느끼는 것으로 나타났다.

소셜 네트워크는 AI 생성형 이미지로 가득 차 있다. 2022년 이후 텍스트 이미지 AI 도구를 사용해 수십억 개의 이미지가 생성되었으며, 이 중 상당수가 온라인에 게시되었다.

구체적인 수치를 알아보자. 1년 전 미국에서 소셜 미디어에 공유된 이미지 중 약 71%가 AI로 생성된 이미지였다. 캐나다에서는 그 수치가 77%였다. 또한 마케터의 26%가 마케팅 이미지 제작에 AI를 사용하고 있었으며, 소셜 미디어에 게시하는 마케터의 경우 그 비율이 39%까지 증가했다.

탈레스의 2024 임퍼바 악성 봇 보고서에 따르면 2023년 전 세계 인터넷 트래픽의 49.6%를 봇이 차지했다. 인터넷 트래픽의 1/3(32%)이 악성 봇에 의해 발생했다. 그리고 18%는 검색 엔진 크롤러 같은 ‘선량한 봇’에서 발생했다.

2023년에는 인터넷 트래픽의 50.4%만이 인간 활동에 의한 것이었다. 이제 2025년 첫 달에는 인간 트래픽이 전체 인터넷 활동의 소수에 불과할 것이다.

‘인터넷 사망설’을 주장하는 사람들은 음모론자일 뿐만 아니라 시대를 앞서가는 사람들이기도 하다. 온라인 활동의 대부분이 AI, 봇, 에이전트에 의해 이루어진다는 주장은 이제 객관적 사실이다. (이 이론은 사실로 입증되지 않은 여러 가지 이유를 제시한다. 지지자는 봇과 AI가 알고리즘을 조작하고, 검색 결과를 높이고, 대중의 인식을 통제하기 위해 의도적으로 만들어졌다고 믿는다.)

메타는 의도적으로 AI 봇을 만들었다고 자랑하지만, 목적은 주로 참여를 유도하는 것이다.

가짜 사용자 이니셔티브를 보면 실패한 ‘메타버스‘ 프로그램이 떠오른다.

‘죽은 인터넷 이론’과 마찬가지로 ‘메타버스’ 개념은 소설가들이 인류에 대한 경고로 꿈꿔온 디스토피아적 악몽이었다. ‘죽은 인터넷 이론’은 인터넷이 어떻게 끔찍하게 잘못되었는지를 설명하려는 음모론이다. 하지만 메타에게 ‘메타버스’와 ‘죽은 인터넷 이론’은 제품 로드맵이다.

메타는 사람들을 현실 세계에서 벗어나 매일 많은 시간 동안 갇혀 아무데도 가지 않고, 아무것도 하지 않고, 누구와도 교류하지 못하게 하는 반인간적인 기업임을 스스로 증명하고 있다.

메타는 실패할 것이다. 대중은 이 디스토피아적 목표를 거부할 것이다.

하지만 그들의 나쁜 본보기에서 배워야 한다. 대중이 진정으로 원하는 것은 과거 메타가 생각한 것과 같다. 사람이 다른 사람들과 이어지는 인간적 연결이다. 봇이 아닌 사람이 만든 광고, 기사, 게시물, 댓글, 채팅은 점점 더 찾기 어려워지고 있으며, 그만큼 그 가치도 커지고 있다.

아무도 없는 ‘연결’은 전혀 연결이 아니기 때문이다.
dl-itworldkorea@foundryco.com