Como estávamos todos felizes antes de 2023. Antes que os ChatGPTs e DALL-Es do mundo entrassem em nossas vidas. Antes que suas habilidades “mágicas” começassem a nos surpreender enquanto eles faziam outra coisa:
Matar internet.
Pelo menos é isso que analistas como Ed Zitron acreditam que está acontecendo. Segundo ele, podemos estar vendo a internet como a conhecíamos morrer. E o pior de tudo é que ele tem um argumento poderoso para acreditar nisso.
Esse argumento não é outro senão como A IA generativa está contaminando tudo. Começou a fazê-lo em 2023, quando imagens e textos gerados por modelos de IA como os da OpenAI começaram a infiltrar-se nas redes sociais.
Isso até pareceu maravilhoso: quão bem a IA escrevia. Como as imagens eram legais – desde que você não pedisse para ele desenhar mãos. Compartilhamos essas criações no Twitter, ou no Facebook, ou no Instagram, e não percebemos algo importante.
Estávamos alimentando um monstro.
Continuamos fazendo isso, mas também fazemos com maior intensidade. E o perigo é que aqueles modelos de IA que até 2023 eram alimentados apenas por textos e imagens gerados por humanos, agora os canibais voltaram.
Eles comem dados gerados por eles próprios, alimentando-se uns aos outros continuamente em um perigoso círculo vicioso. Um loop infinito que pode acabar resultando em modelos mutantes perturbadores de IA generativa. Não é algo que descobrimos agora: estava claro que a IA estava enchendo a internet de conteúdo. A questão era o que aconteceria quando a IA realimentasse esse conteúdo.
Jathan Sadowski, pesquisador da área de economia política das tecnologias de informação, antecipou a reflexão em fevereiro de 2023, quando cunhou o termo “IA dos Habsburgos“, isto é:
“Um sistema tão treinado com os resultados de outras IAs generativas que se torna um mutante endogâmico, provavelmente com características exageradas e grotescas.”
A situação começa a ser preocupante para muitos como Zitron, que indicam que não se trata de modelos de IA generativos, mas sim degenerativos: a qualidade da internet está indo por água abaixo, afirma. E há exemplos por toda parte.
Você abre o Instagram e te encontro com uma imagem maravilhosa de uma mansão. Os comentários deixam claro: é maravilhoso. Depois, com outro de uma pequena cidade italiana, mas com sobrenome: IA.
O autor teve o detalhe de avisar que a imagem não é real, mas nos comentários gente —ou os bots, nomeadamente– parece descartar o detalhe. Mais uma vez todos apontam que a imagem é maravilhosa.
Uma bola de neve que não para
A escritora Carmem Pacheco compartilhado esse e outros exemplos em um tópico no X/Twitter hoje em dia, e entre essas demonstrações de uma internet contaminada por IA estava outra perigosa: a do resultados de pesquisa do Google, que já mostram em suas primeiras posições não imagens geradas por seres humanos, mas criações de uma IA. Também não é novidade: vimos com a menina da pérola.
O problema é que ninguém parece querer (ou ser capaz) de parar esta bola de neve gigante que está se formando. As empresas certamente não parecem estar à altura da tarefa: como diz Zitron, o LinkedIn “permite gerar mensagens, perfis e descrições de ofertas de emprego usando IA”, e todas essas publicações acabam retroalimentando os modelos OpenAI, porque a Microsoft investiram bilhões nela e eles têm acordos a respeito.
O Google permite que seus modelos de IA escrevam rascunhos de e-mails para você em sua plataforma Google Workspace Labs, e os responsáveis pelo WordPress têm seu Jetpack AI Assistant para que as postagens de sua publicação sejam escritas por uma máquina – cuidado, pode não dar certo para você.
Essa febre de deixar as máquinas escreverem para nós – ah, que preguiça, escrever você mesmo – também está tendo um impacto terrível na Amazon, que, é claro, viu modelos de IA Eles não pararam de publicar trabalhos esquerda e direita. E não estamos falando de épicos ou ensaios maravilhosos, não: estamos falando de resumos de livros reais, biografias não autorizadas e textos que (pelo menos por enquanto) não têm valor e servem apenas para contaminar a oferta existente.
O perigo se estende à geração de conteúdos baratos e enganosos que não param de inundar redes como o TikTok, onde alguns jovens ensinam como ganhar dinheiro com minivídeos que são uma ode ao clickbait e que, graças a serem vistos milhões de vezes, pode ser muito lucrativo.
E como temos dito, ninguém parece enfrentar esta dinâmica preocupante. O Google é provavelmente o primeiro a reagir, especialmente considerando que para muitas pessoas a Internet e o Google são sinônimos.
A empresa liderada por Sundar Pichai tem muitos outros problemas, mas sua própria reputação estará em perigo se seu mecanismo de busca começar a parar de exibir conteúdo relevante.
Han comenzado a mover ficha con cambios en su algoritmo que teóricamente castiga contenidos pobres, de spam y generados por IA (ellos lo llaman contenidos automatizados de baja calidad), pero como dice Zitron, llevan años ganando mucho dinero gracias a ese mundo SEO paralelo creado por eles: não parece fácil de acreditar isso realmente resolverá o problema no curto prazo.
Enquanto isso, o restante das empresas parece feliz com essa enxurrada de conteúdo porque simplesmente funciona. As mansões geradas pela IA de que falamos no início deste artigo estão triunfando no Instagram, mas também os incríveis vídeos de Sora, que representam uma revolução igualmente perigosa para o TikTok ou o YouTube.
Aquele em que os vídeos futuros serão nutridos por aqueles que já foram gerados por uma IA e que tudo acabará piorando cada vez mais até o fim. transformando a Internet em um depósito de conteúdo gerado por IA.
Haverá, no entanto, um refúgio. O de pesquisar na internet pré-IA. Como? Fácil: