Nos últimos dias, imagens explícitas de Taylor Swift geradas com inteligência artificial inundaram a internet. As polêmicas imagens da famosa artista causaram um terremoto único nas redes sociais, com os fãs de Swift apoiando-a e até doxxando o responsável pelas imagens. Agora a cantora pensa em tomar medidas legais contra o criador desses deepfakes.
O que aconteceu. Na semana passada, imagens pornográficas de Taylor Swift geradas com modelos generativos de IA começaram a proliferar na internet. Um dos mais virais, que apareceu no X, atraiu 45 milhões de visualizações, 24 mil repostagens e centenas de milhares de “curtidas”. O relato de um dos responsáveis pela divulgação destas imagens, Zvbearagora é privado, mas essa postagem permaneceu pública por cerca de 18 horas antes de desaparecer.
Deepfakes virais. Embora a publicação original tenha desaparecido, as imagens foram espalhadas por diversas contas. Muitas delas permanecem disponíveis e com tudo isso surgiram novas imagens falsas com conteúdo explícito sobre a cantora. O termo “Taylor Swift AI” se tornou um trending topic, tornando essas pesquisas ainda mais populares.
Tudo começou no 4chan. Segundo o 404, as imagens tiveram origem no 4chan, foram transferidas para um canal do Telegram com imagens explícitas de mulheres e acabaram sendo divulgadas no Twitter. Uma das ferramentas utilizadas para gerar essas imagens foi a plataforma Microsoft Designer que converte texto em imagens. Alguns usuários até ofereceram conselhos a outros sobre como criar prompts que contornem as proteções da plataforma para continuar criando imagens explícitas. Por exemplo, usar a frase “Taylor 'cantor' Swift” como parte desse prompt em vez de apenas usar o nome. No momento, esses tipos de truques não funcionam nessa plataforma.
Los Swifties contraatacan. Os fãs da cantora, conhecidos como “Swifties”, começaram a se mobilizar tentando fazer desaparecer a tendência postando com a mensagem “proteja Taylor Swift”. Embora muitos dos deepfakes tenham desaparecido, outros ainda estão ativos.
X reage. Os responsáveis pelo Twitter (X) eles postaram uma mensagem na última sexta-feira alertando como o conteúdo explícito era “estritamente proibido no X e temos uma política de tolerância zero em relação a esse conteúdo”.
Pesquisas bloqueadas. Aliás, a rede social começou ontem a bloquear pesquisas relacionadas com Taylor Swift. Conforme indicado pelo The Wall Street Journal, Joe Benarroch, chefe de operações da X, explicou que o bloqueio “é uma medida temporária” que tem sido feita com muita cautela. Se você tentar pesquisar agora pelo termo “Taylor Swift” no Este tipo de medidas também foram ativadas em Threads, Instagram ou Reddit.
Taylor Swift furiosa. Segundo o MailOnline, a cantora está “furiosa” com a situação e pensa em tomar medidas legais contra os sites que hospedam essas imagens. Enquanto isso, Satya Nadella chamou os deepfakes de “alarmantes e terríveis” em uma entrevista ao NBC Nightly News na última sexta-feira, acrescentando que as empresas de IA precisam “agir rapidamente” para estabelecer barreiras contra esses tipos de ameaças. Na Casa Branca, o secretário de Imprensa também indicou à ABC News que estava “alarmado” com a situação.
Doxando um Zvbear. O usuário X @Zvbear tem recebido destaque da crítica por ser uma das origens das postagens virais na plataforma. Os fãs de Swift doxxed Zvbear e eles garantem que o identificaram. De acordo com esses dados, ele seria um homem de 27 anos de Toronto conhecido por trollar e publicar conteúdo tóxico em plataformas como 4chan, X ou Reddit.
O início de muitos mais. O evento ganhou especial notoriedade por ser centrado em Taylor Swift, provavelmente a cantora mais popular deste século. É também uma potencial antecipação do que está por vir: uma ameaça para muitas pessoas – e especialmente mulheres – que serão atacadas com pornografia ou outros tipos de deepfakes. Conforme explicado na Vice, a cantora “está vivendo o pesadelo pornográfico de IA de toda mulher”.
Imagem | Paulo V
Em Xataka | Essa mulher até tem passaporte, mas é falso: a IA está transformando a verificação de pessoas em um pesadelo