Não importa o quão real pareça, a mulher da imagem da capa não existe. Foi criado com inteligência artificial. Esta é uma experiência para mostrar até que ponto a IA avançou o suficiente para nos enganar. Via Reddit, usuário Harsh postei essa imagem onde a mulher (“Your Mom”) aparece segurando o clássico deslizamento da AMA.
Normalmente pessoas famosas que vão responder perguntas no Reddit postam uma foto sua segurando o papel, para demonstrar que são mesmo quem está escrevendo. Esta imagem remete a essa tradição, com a diferença que neste caso é tudo artificial.
Criar pessoas que não existem já é trivial
Para potencializar ainda mais o efeito, o criador de ‘Mamãe’ criou até um passaporte falso para ele. Uma imagem também bastante realista onde aparece o mesmo rosto da mulher. E é aqui que reside grande parte do trabalho: em fazer com que a IA reproduza o mesmo rosto de forma consistente.
O resultado foi publicado no subreddit StableDiffusion, com imagens adicionais da mulher artificial. Em todos eles o resultado é muito semelhante, dificultando identificar à primeira vista que se trata de uma imagem criada com IA.
O criador explica parte do processo. A primeira fase consistiu na criação de um conjunto de imagens de uma mulher por estilo de cabelo, etnia e consistência. Depois ele usou a extensão ADetailer e aplicou algumas modificações no Photoshop para aumentar o contorno.
O resultado nos lembra novamente o debate sobre deepfakes. A corrida para os detectar leva tempo e, como dissemos há alguns anos, os falsificadores estão à nossa frente. Não é difícil imaginar que com elaborações tão consistentes seja relativamente possível criar uma falsa identificação que pode passar por certas verificações de segurança.
Para enfrentar este desafio de verificação de pessoas, surgiram iniciativas como o World ID, que escaneia a nossa íris para confirmar que somos humanos ou adições como o reconhecimento facial ao criar o nosso bilhete de identidade. Ainda existem muitos métodos para provar que somos humanos, mas fingir ser um de nós está cada dia mais fácil.
Em Xataka | A IA generativa é uma máquina geradora de desinformação. E pelo menos 16 países já o utilizam