Crédito, Redes sociais
- Author, Joe Tidy
- Role, Correspondente de Cibersegurança, BBC World Service
Tempo de leitura: 11 min
Théodore se lembra do conteúdo “desleixado” de inteligência artificial (AI slop, na expressão em inglês) que o tirou do sério.
A imagem mostrava dois meninos sul-asiáticos magérrimos e pobres. Por alguma razão, apesar de seus traços infantis, elas tinham barbas volumosas. Um deles não tinha mãos e tinha apenas um pé. O outro segurava um cartaz dizendo que era seu aniversário e pedindo curtidas (likes).
Inexplicavelmente, os dois estavam sentados no meio de uma rua movimentada, sob chuva intensa, com um bolo de aniversário. A imagem reunia diversos indícios de que havia sido criada usando inteligência artificial (IA). Ainda assim, no Facebook, viralizou, com quase 1 milhão de curtidas e emojis de coração.
Algo ‘estalou’ em Théodore.
“Aquilo me deixou perplexo. As imagens absurdas feitas por IA estavam por toda parte no Facebook e recebiam [um] monte de engajamento, sem qualquer escrutínio; era insano para mim”, disse o estudante de 20 anos, de Paris (França).
Théodore criou então uma conta na rede social X, antes conhecida como Twitter, chamada “Insane AI Slop” (“Desleixo Insano de IA”, em tradução livre), e passou a expor e a ironizar publicações que encontrava e que enganava os usuários. Outros perceberam, e sua caixa de entrada logo ficou lotada de mensagens com contribuições repletas de exemplos do chamado AI slop.
Crédito, Esquerda: Théodore. Direita: página no Facebook ‘Baby Bubbles and Babbles’
Com o tempo, temas recorrentes ficaram evidentes: religião, militares ou crianças pobres fazendo ações comoventes.
“Crianças do terceiro mundo fazendo coisas impressionantes sempre fazem sucesso, assim como um menino pobre na África criando uma estátua insana a partir de lixo. Acho que as pessoas consideram isso edificante, então os criadores pensam: ‘Ótimo, vamos inventar mais coisas desse tipo'”, disse Théodore.
A conta de Théodore logo ultrapassou 133 mil seguidores.
A enxurrada de AI slop, que ele define como vídeos e imagens falsos, pouco convincentes e produzidos rapidamente, parece impossível de ser contida atualmente. Empresas de tecnologia abraçaram a inteligência artificial. Algumas afirmam estar começando a coibir certas formas desse tipo de conteúdo, embora muitos feeds de redes sociais ainda parecem dominados por esse tipo de conteúdo.
Em apenas alguns anos, a experiência de usar as redes sociais mudou de forma profunda. Como isso aconteceu e que efeito terá sobre a sociedade?
E, talvez a questão mais urgente de todas: o quanto os bilhões de usuários de redes sociais realmente se importam?
A ‘terceira fase’ das redes sociais
Em outubro, durante mais uma animada teleconferência de resultados, o CEO da Meta, Mark Zuckerberg, declarou com entusiasmo que as redes sociais haviam entrado em uma terceira fase, agora centrada na inteligência artificial.
“A primeira foi quando todo o conteúdo vinha de amigos, familiares e contas que você seguia diretamente”, disse. “A segunda foi quando adicionamos o conteúdo dos criadores. Agora, à medida que a IA torna mais fácil criar e remixar o conteúdo, vamos acrescentar ainda mais um grande conjunto de conteúdos”, disse ele aos acionistas.
A Meta, que controla as redes sociais Facebook, Instagram e Threads, não apenas permite que usuários publiquem conteúdo gerado por IA, como também lançou produtos para possibilitar a criação de ainda mais desse material. Geradores de imagem e vídeo e filtros cada vez mais poderosos passaram a ser oferecidos de forma ampla nas plataformas.
Quando a BBC procurou a empresa para comentar, a Meta direcionou para a teleconferência de resultados de janeiro. Nela, o bilionário afirmou que a empresa estava apostando ainda mais em IA e não mencionou qualquer iniciativa para coibir o AI slop.
“Em breve, veremos uma explosão de novos formatos de mídia, mais imersivos e interativos, e possíveis graças aos avanços da IA”, disse Zuckerberg.
O CEO do YouTube, Neal Mohan, escreveu em seu blog de perspectivas para 2026 que, apenas em dezembro, mais de 1 milhão de canais do YouTube usaram as ferramentas de IA da plataforma para criar conteúdo.
“Assim como o sintetizador, o Photoshop e o CGI revolucionaram o som e o visual, a IA será uma dádiva para os criadores que estiverem prontos para adotá-la”, escreveu.
Mohan também reconheceu que há preocupações crescentes com “conteúdo de baixa qualidade, também conhecido como AI slop“. Segundo ele, sua equipe trabalha em formas de aprimorar os sistemas para identificar e remover “conteúdo repetitivo e de baixa qualidade”.
Crédito, Reuters
Mas ele também descartou fazer qualquer julgamento sobre o que deveria ou não ter espaço para prosperar. Ele ressaltou que conteúdos antes de nicho, como ASMR (sons relaxantes projetados para fazer o “couro cabeludo formigar”) e jogos de videogame ao vivo, agora são populares.
De acordo com pesquisa da empresa de inteligência artificial Kapwing, 20% do conteúdo mostrado a uma conta recém-criada no YouTube é agora “vídeo de IA de baixa qualidade”.
O vídeo de formato curto, em particular, foi um ponto crítico: a Kapwing descobriu que estava presente em 104 dos primeiros 500 clipes de YouTube Shorts exibidos para uma conta nova criada pelos pesquisadores.
A economia dos criadores parece ser um grande impulsionador, já que pessoas e canais podem ganhar dinheiro com engajamento e visualizações. A julgar pelas visualizações de alguns canais e vídeos de IA, as pessoas de fato se interessam pelo conteúdo, ou, pelo menos, os algoritmos que ditam o que vemos se interessam.
Segundo a Kapwing, o canal de AI slop com mais visualizações é o indiano Bandar Apna Dost, que acumula 2,07 bilhões de visualizações, rendendo aos criadores um ganho anual estimado de 4 milhões de dólares (cerca de R$ 21,05 milhões).
Mas já existe uma espécie de reação contrária em curso.
Sob muitos vídeos virais de IA, é agora comum ver uma enxurrada de comentários furiosos condenando o conteúdo.
Monstros gigantes e parasitas mortais no abdômen
Théodore, o estudante de Paris mencionado no início deste texto, ajudou a impulsionar essa onda de críticas.
Usando sua influência recém-adquirida no X, ele reclamou a moderadores do YouTube sobre a enxurrada de desenhos animados estranhos gerados por IA que acumulavam um grande número de visualizações. Na avaliação dele, eram perturbadores e prejudiciais e, em alguns casos, pareciam ser direcionados a crianças.
Os vídeos tinham títulos como Mum cat saves kitten from deadly belly parasites (Gata mãe salva filhote de parasitas intestinais mortais, em tradução livre) e exibiam cenas explícitas.
Outro clipe curto (conhecido como Short) mostrava uma mulher de camisola que ingeria um parasita e depois se transformava em um monstro gigante e furioso, que acabava sendo curada por Jesus.
Crédito, Perfil ‘Sprung Nexus’ no YouTube
O YouTube removeu os canais, informando à reportagem que tomou a medida porque eles violavam suas diretrizes da comunidade. A empresa afirmou estar “focada em conectar nossos usuários a conteúdo de alta qualidade, independentemente de como ele foi feito”, e disse trabalhar para “reduzir a disseminação de conteúdo de IA de baixa qualidade”.
Mas essa experiência, somada a muitas outras semelhantes, acabou desgastando Théodore.
Até sites de estilo de vida aparentemente acolhedores, como o Pinterest, um fórum de receitas e ideias de decoração, foram afetados.
Os usuários ficaram tão frustrados com a enxurrada de AI slop que a empresa introduziu um novo sistema de exclusão desse tipo de conteúdo. A medida, porém, depende de que os próprios usuários admitam que as imagens de casas perfeitas que publicam foram feitas por IA.
Fúria na seção de comentários
No meu feed, e estou ciente de que o feed de cada pessoa é diferente, inclusive os comentários, a reação adversa ao AI slop se tornou incessante.
Seja no TikTok, no Threads, no Instagram ou no X, parece haver um movimento de pressão popular contra esse tipo de conteúdo.
Em alguns casos, o número de curtidas em comentários críticos ao AI slop supera em muito o do post original. Foi o que ocorreu com um vídeo recente que mostrava um praticante de snowboard resgatando um lobo de um urso. O vídeo teve 932 curtidas, contra 2.400 curtidas em um comentário que dizia: “Levante a mão quem está cansado dessa m**da de IA”.
Mas, claro, tudo isso alimenta o monstro.
Para as plataformas de redes sociais, todo engajamento é bom engajamento, manter as pessoas rolando a tela é o essencial.
Então, afinal, importa se o vídeo incrível, comovente ou chocante que aparece no seu feed é real ou não?
O efeito do ‘cérebro podre’
Emily Thorson, professora associada da Syracuse University (EUA), especializada em política, desinformação e percepções equivocadas, afirma que a questão depende do que as pessoas fazem na plataforma de rede social.
“Se uma pessoa está em uma plataforma de vídeos curtos apenas para entretenimento, então o critério para avaliar se algo vale a pena é simplesmente ‘é divertido?'”, disse. “Mas, se alguém usa a plataforma para aprender sobre um tema ou para se conectar com membros de uma comunidade, pode perceber o conteúdo gerado por IA como mais problemático.”
A forma como o AI slop é apresentado também influencia a reação do público.
Quando algo é claramente feito como piada, tende a ser recebido dessa forma. Mas, quando o AI slop é criado especificamente para enganar, pode provocar indignação das pessoas.
Vi um vídeo recentemente gerado por IA que é emblemático: um registro extremamente realista, no estilo de documentário de história natural, de uma impressionante caçada de leopardo. Nos comentários, alguns espectadores foram enganados; outros ficaram em dúvida.
“De que documentário isso é?”, perguntou um comentarista. “Por favor, é a única maneira de [provar] que não é IA.”
Crédito, Redes sociais
Alessandro Galeazzi, da Universidade de Padova (Itália), pesquisa o comportamento nas redes sociais e as chamadas câmaras de eco (grupos de usuários em bolhas informacionais).
Segundo Galeazzi, verificar se um vídeo foi ou não gerado por IA exige esforço mental e, no longo prazo, teme que as pessoas simplesmente deixem de checar.
“Minha impressão é que a enxurrada de conteúdos sem sentido e de baixa qualidade gerados com IA pode reduzir ainda mais a capacidade de atenção das pessoas”, afirmou.
Galeazzi distingue o conteúdo criado com a intenção de enganar daquele AI slop mais cômico e obviamente falso, como peixes usando sapatos ou gorilas levantando peso na academia.
Mas mesmo esse material mais fantasioso pode ter efeitos nocivos. Ele aponta o risco do brain rot (apodrecimento cerebral, em tradução livre), conceito que associa a exposição constante às redes sociais ao prejuízo das capacidades intelectuais.
“Eu diria que o AI slop intensifica o efeito do brain rot, fazendo com que as pessoas consumam rapidamente conteúdos que sabem não apenas ser improváveis de reais, mas provavelmente sem significado ou interesse”, disse.
Cortes nas equipes de moderação
Além do AI slop, parte do conteúdo produzido por IA pode ter implicações bem piores.
Empresas controladas por Elon Musk, incluindo a xAI e a rede social X, foram recentemente obrigadas a alterar suas regras depois que o chatbot Grok estava sendo usado para despir digitalmente mulheres e crianças na rede X.
Após o ataque dos Estados Unidos à Venezuela, vídeos falsos se espalharam mostrando pessoas chorando nas ruas e agradecendo aos EUA. Conteúdos assim podem moldar a opinião pública e dar a impressão de que a ação dos EUA foi mais popular do que de fato pode ter sido.
Analistas dizem que isso é especialmente preocupante, já que tantas pessoas usam redes sociais como sua única fonte de notícias.
Manny Ahmed, CEO da OpenOrigins, uma empresa que busca distinguir entre imagens geradas por IA e imagens reais, afirma que é necessário um novo método para que quem posta conteúdo autêntico possa provar que seus vídeos e fotos são genuínos.
“Já chegamos ao ponto em que não é possível afirmar com confiança o que é real apenas pela inspeção”, afirmou. “Em vez de tentar detectar o que é falso, precisamos de uma infraestrutura que permita que conteúdos autênticos provem publicamente sua origem.”
Pode parecer que essa seja uma tarefa que as empresas de redes sociais poderiam assumir. Mas muitas delas, incluindo a Meta e a X, reduziram suas equipes de moderação e adotaram uma abordagem mais coletiva. Hoje, tendem a confiar nos próprios usuários para rotular conteúdos como falsos ou enganosos.
Redes sociais sem ‘slop’?
Se as grandes empresas de tecnologia parecem, em linhas gerais, satisfeitas em deixar o AI slop circular livremente, seria possível que uma nova rede social surgisse prometendo uma alternativa livre desse tipo de conteúdo e, com o tempo, desafiasse as plataformas dominantes?
Isso parece improvável, porque a detecção de conteúdo gerado por IA está se tornando cada vez mais difícil. As máquinas já não conseguem identificar com precisão se um vídeo ou uma imagem são definitivamente falsos, e teriam ainda mais dificuldade para fazer o julgamento subjetivo sobre se determinado conteúdo pode ou não ser classificado como slop.
Ainda assim, se uma nova rede social surgir e as pessoas “votarem com os pés”, ou, mais precisamente, com os olhos e os polegares, isso pode provocar alguma mudança. Me lembro do surgimento da rede social concorrente BeReal, um aplicativo francês que ganhou popularidade durante a pandemia ao incentivar os usuários a mostrarem versões autênticas de si mesmos por meio de selfies sem filtros, feitas em horários aleatórios.
O BeReal ainda não alcançou o mesmo patamar de gigantes como Facebook e Snapchat, e provavelmente nunca alcançará. Mas conseguiu chamar a atenção das outras plataformas, que, em alguns casos, copiaram a ideia.
Talvez isso volte a acontecer se surgir um concorrente com uma proposta explícita contra o AI slop.
Quanto a Théodore, ele sente que a batalha está perdida e que o AI slop veio para ficar.
Apesar de ainda receber contribuições em sua caixa de mensagens, enviadas por seus atuais 133 mil seguidores, ele já não publica com a mesma frequência e, em grande medida, se resignou ao novo normal da vida online.
“Ao contrário de muitos dos meus seguidores, não sou dogmaticamente contra a IA”, disse. “Sou contra a poluição online de AI slop, feita para entretenimento rápido e para gerar visualizações.”