Algumas dessas imagens hiper-realistas geraram mais de 20.000 curtidas e comentários. Então, o que exatamente está acontecendo?
A “teoria da Internet morta” tem uma explicação: a IA e o conteúdo gerado por bots ultrapassaram a Internet gerada por humanos. Mas de onde veio essa ideia e ela tem alguma base na realidade?
Qual é a teoria da internet morta?
A teoria da Internet morta afirma essencialmente que a atividade e o conteúdo na Internet, incluindo contas de redes sociais, são predominantemente criados e automatizados por agentes de inteligência artificial.
Esses agentes podem criar rapidamente postagens junto com imagens geradas por IA projetadas para gerar engajamento (cliques, curtidas, comentários) em plataformas como Facebook, Instagram e TikTok. Quanto ao camarão Jesus, parece que a IA aprendeu a gerar essa imagem.
Mas a teoria da Internet morta vai ainda mais longe. Muitas das contas que interagem com esse tipo de conteúdo também parecem ser gerenciadas por agentes de inteligência artificial. Isto cria um ciclo vicioso de envolvimento artificial, que não tem uma agenda clara e que já não envolve seres humanos.
Cultivo de engajamento inofensivo ou propaganda sofisticada?
À primeira vista, a motivação para estas contas gerarem interesse pode parecer óbvia – o envolvimento nas redes sociais leva a receitas publicitárias. Se uma pessoa abrir uma conta que receba engajamento inflacionado, ela poderá ganhar uma parte da receita de publicidade de organizações de mídia social como a Meta.
Então, a teoria da Internet morta para na agricultura de engajamento inofensiva? Ou talvez por baixo da superfície exista uma tentativa sofisticada e bem financiada de apoiar regimes autocráticos, atacar adversários e espalhar propaganda?
À medida que essas contas baseadas em IA crescem em seguidores (muitos falsos, alguns reais), a alta contagem de seguidores legítima a conta para usuários reais. Isso significa que por aí está sendo criado um exército de contas. Contas com grande número de seguidores que podem ser implantadas por aqueles com o lance mais alto.
Isto é extremamente importante, uma vez que as redes sociais são agora a principal fonte de notícias para muitos utilizadores em todo o mundo. Na Austrália, 46% dos jovens de 18 a 24 anos nomearam as mídias sociais como sua principal fonte de notícias no ano passado. Isto representa um aumento em relação aos 28% em 2022, substituindo os meios tradicionais, como rádio e TV.
Desinformação alimentada por bots
Já existem fortes evidências de que as redes sociais estão sendo manipuladas por estes bots inflacionados para influenciar a opinião pública com desinformação – e isso tem acontecido há anos.
Em 2018, um estudo analisou 14 milhões de tweets durante um período de dez meses em 2016 e 2017. Descobriu que os bots nas redes sociais estavam significativamente envolvidos na divulgação de artigos de fontes não confiáveis. Contas com grande número de seguidores legitimavam a desinformação, levando usuários reais a acreditar, se envolver e compartilhar de novo o conteúdo postado por bots.
Descobriu-se que esta abordagem à manipulação das redes sociais ocorre após tiroteios em massa nos Estados Unidos. Em 2019, um estudo descobriu que publicações geradas por bots no X (antigo Twitter) contribuem fortemente para a discussão pública, servindo para amplificar ou distorcer potenciais narrativas associadas a eventos extremos.
Mais recentemente, várias campanhas de desinformação pró-Rússia em grande escala tiveram como objetivo minar o apoio à Ucrânia e promover o sentimento pró-Rússia.
Descobertos por ativistas e jornalistas, os esforços coordenados utilizaram bots e IA para criar e divulgar informações falsas, alcançando milhões de utilizadores das redes sociais.
Só no X, a campanha utilizou mais de 10.000 contas de bot para publicar rapidamente dezenas de milhares de mensagens de conteúdo pró-Kremlin atribuídas a celebridades dos EUA e da Europa, aparentemente apoiando a guerra em curso contra a Ucrânia.
Esta escala de influência é significativa. Alguns relatórios descobriram até que quase metade de todo o tráfego da Internet em 2022 foi feito por bots. Com os recentes avanços na IA generativa – como os modelos ChatGPT da OpenAI e o Gemini do Google – a qualidade do conteúdo falso só irá melhorar.
As organizações de mídia social estão tentando resolver o uso indevido de suas plataformas. Notavelmente, Elon Musk explorou a exigência de que os usuários do X paguem pela assinatura para impedir os bot farms.
Os gigantes das mídias sociais são capazes de remover grandes quantidades de atividades de bots detectadas, se assim o desejarem.
Tenha em mente a Internet morta
A teoria da Internet morta não afirma realmente que a maioria de suas interações pessoais na Internet são falsas.
É, no entanto, uma lente interessante através da qual se pode ver a Internet. Que já não é para os humanos, pelos humanos – é neste sentido que a Internet que conhecíamos e amávamos está “morta”.
A liberdade de criar e compartilhar nossos pensamentos na internet e nas redes sociais é o que o tornou tão poderoso. Naturalmente, é este poder que os maus atores procuram controlar.
A teoria da Internet morta é um lembrete para ser cético e navegar nas redes sociais e outros sites com uma mente crítica.
Qualquer interação, tendência e especialmente “sentimento geral” poderiam muito bem ser sintéticos. Projetado para mudar ligeiramente a maneira como você percebe o mundo.
Jake Renzella, professor, diretor de estudos (ciência da computação), UNSW Sydney e Vlada Rozova, pesquisador em aprendizado de máquina aplicado, Universidade de Melbourne