A Meta pode não ser a primeira empresa que vem à mente quando se pensa em IA generativa, mas ela é uma grande parte da atual corrida pela inteligência artificial. A empresa tem seu próprio modelo de IA, Llama, e adicionou “Meta AI” a todos os seus grandes produtos – goste você ou não (você não gosta). Meta até quer que você tente criar seu próprio bot de IA. É seguro dizer que a empresa aposta totalmente na IA.
Mas mesmo para uma empresa tão comprometida com a IA, esta última história é simplesmente bizarra. Acontece que a empresa tem feito experiências com contas de usuário geradas por IA em suas plataformas desde 2023. As versões dessas páginas no Instagram estão se tornando virais, mas também estão disponíveis no Facebook. As contas são verificadas e cada uma possui uma personalidade única, mas são totalmente fraudulentas. Cada um é inteiramente composto por postagens de imagens geradas por IA.
É tudo muito estranho, mas também não é tão novo assim – os perfis foram criados há mais de um ano e parecem ter sido em grande parte abandonados. E agora que os perfis estão recebendo muita reação online, o Meta está excluindo ativamente seu conteúdo.
Não é difícil ver por que a Internet passou a odiar essas pessoas falsas. Tomemos como exemplo “Liv” (nome de usuário “himamaliv”), que afirma ser uma “orgulhosa mãe negra queer de 2 anos e que conta a verdade”. Liv, claro, não é real, nem a vida que ela posta em seu Instagram. Mas isso não impede Liv: a criadora tem postagens sobre como criar garotas fortes, patinar no gelo com a família e “aproveitar todo o sol e diversão” com “os pequenos”. Cada postagem exibe uma imagem correspondente – a postagem da praia mostra crianças brincando na areia, enquanto a postagem de patinação no gelo mostra patinadores em uma pista de gelo – mas todas essas imagens são geradas por IA.
Para crédito da Meta, cada imagem ostenta uma marca d’água Meta AI para indicar que a imagem não é realmente real, mas isso não torna essas postagens menos assustadoras. Por que uma “mãe” gerada por IA está postando uma imagem gerada por IA de seus “filhos” brincando na “praia”? Quem se beneficiou da campanha de casacos gerada por IA que ela tem orgulho de ter liderado?
Crédito: Jake Peterson
Em sua segunda postagem mais antiga, de 26 de setembro de 2023, ela diz “Meu quintal é meu lugar feliz… Já dei tantas festas de aniversário, churrascos e noites de garotas neste espaço que perdi a conta. grato pela vida que vivo”, completo com uma imagem gerada por IA de um piquenique. O fato é que Liv não organizou festas de aniversário, churrascos ou noites de garotas neste espaço. Este espaço não existe. A vida que Liv é tão grata por viver não existe.
Liv está seguindo 18 contas no momento em que este artigo foi escrito. Treze delas parecem ser páginas semelhantes geradas por IA. Por exemplo, há Becca (dogloverbecca), que posta conteúdo sobre cães gerado por IA; Brian (hellograndpabiran), que se anuncia como “o vovô de todo mundo”; e Alvin, o Alienígena (greetingsalvin), que é, hum, um alienígena.
Mas nem todas as postagens são Gerado por IA. Alguns deles também têm vídeos postados em suas contas e, embora os vídeos gerados por IA certamente possam ser convincentes hoje em dia, não acho que esses vídeos sejam gerados por IA – pelo menos, não todos eles. Carter, o treinador de namoro de IA, tinha um vídeo de culinária de janeiro de 2024 que parecia ser real, mas parece que Meta detonou todo o conteúdo. Ainda assim, quem os postou? Para que fim?
Essas contas não são novas, mas estão se tornando virais recentemente
O mais estranho é que esses posts e páginas não são novos. A última postagem de Liv, por exemplo, é de 8 de março de 2024, assim como a maioria das postagens desses bots de IA. (Carter parece ter postado recentemente em junho.) Na maioria dos casos, seus perfis são abandonados, embora crachás de verificação ainda estejam afixados em cada um. Dito isso, enquanto escrevo isto, Meta parece estar excluindo o conteúdo de cada uma das páginas do Instagram. As contrapartes do Facebook parecem ainda estar vivas, mas imagino que também irão embora em breve.
Crédito: Jake Peterson
Na verdade, as páginas estão vinculadas a chatbots de IA que a Meta desenvolveu em 2023, quando estava realmente colocando seus programas de IA em funcionamento. As manchetes focaram principalmente em uma lista de chatbots de IA de celebridades, que permitem conversar com “Tom Brady”, “Kendall Jenner” e “Paris Hilton”. Mas entre a lista de chatbots não-celebridades que a Meta lançou estavam nomes como Liv, Brian e Alvin, o Alien. Você ainda pode conversar com eles se quiser: visite o perfil de Liv e inicie uma conversa. Mas, assim como acontece com qualquer outro chatbot de IA, você provavelmente não irá muito longe.
Não está totalmente claro por que essas contas estão se tornando virais agora, um ano e meio depois que o Meta as lançou inicialmente. Se eu tivesse que adivinhar, diria que é porque eles são realmente muito ruins. Os relatos são estranhos, e há muitas camadas em sua estranheza: as personalidades que Meta desenvolveu são desanimadoras (e quase ofensivas); as postagens em si são assustadoras (quem quer ver fotos de IA dos filhos de pessoas falsas, completas com uma história sobre o dia delas na praia?); e o fato de serem verificados anula completamente o propósito da verificação.
Em suma, os relatos podem ser de 2023, mas refletem um grande ressentimento pela negligência da IA em 2025. Como Jason Koebler, da 404media, escreve no Bluesky:
