A inteligência artificial generativa (GenAI) veio para ficar. Cada vez mais pessoas de diferentes áreas estão recorrendo a ele para criar peças visuais que geralmente têm uma qualidade incrível. Há alguns anos isso era impensável. Se você quisesse criar conteúdo com aparência profissional, você precisava ter certas habilidades de design.
Como podemos ver, as ferramentas generativas oferecem grandes oportunidades criativas, mas apresentam riscos. Por exemplo, nem sempre conseguimos identificar se uma imagem ou vídeo foi criado ou editado com GenAI. E isso pode ser usado em cenários de fraude ou desinformação.
Tags de conteúdo como solução
As redes sociais estão tomando medidas sobre o assunto. O TikTok, que é uma das plataformas mais populares do planeta, acaba de anunciar que está começando a marcar Conteúdo gerado por IA (AIGC). Sob estes novos parâmetros, se você publicar uma imagem criada com um serviço como DALL·E da OpenAI, a tag “gerada por AI” será adicionada.
Mesmo que queira, não poderá ocultar a referida etiqueta. Isso porque sua função é dar transparência aos usuários. Muitas imagens, como as de férias “falsificadas”, passam diante dos nossos olhos como reais, quando na verdade não o são. O rótulo procura resolver esta situação.
Deve-se notar que esta não é a primeira vez que o TikTok fala sobre tags de conteúdo. Já há algum tempo, os usuários da rede social são obrigados pelas regras do serviço a adicionar “gerado pela IA” manualmente se o conteúdo parecer realista. O não cumprimento desta regra pode gerar sanções, segundo o TikTok.
“Podemos remover conteúdo que viole as Diretrizes da Comunidade”, explica a empresa. Nesse caso, depois que um usuário adicionar uma tag manualmente, ele também não poderá removê-la. Até mesmo outros usuários podem denunciar postagens geradas por IA que não possuem o rótulo correspondente.
Como o TikTok sabe qual conteúdo foi gerado pela IA?
Se você está se perguntando como o TikTok sabe qual conteúdo foi gerado pela IA, a resposta é: Credenciais de conteúdo da Coalizão para Proveniência e Autenticidade de Conteúdo (C2PA). Quando criamos conteúdo com ferramentas como o DALL·E da OpenAI ou o Bing Image Creator da Microsoft, essas credenciais são anexadas automaticamente.
Nem todas as propostas de geração de imagens adotaram esta solução, mas espera-se que novos membros adiram ao longo do tempo. É um tipo de marca d’água que permite identificar instantaneamente se uma imagem foi criada ou editada com inteligência artificial, sendo um meio essencial para rotulá-la.
A TikTok também prometeu que nos próximos meses começará a adicionar credenciais de conteúdo à mídia que são exportados do seu aplicativo. Isso faz sentido se levarmos em conta que muitos usuários republicam conteúdo criado no TikTok em outras plataformas, como o Instagram da Meta ou o YouTube Shorts do Google.
Lembre-se que a Meta anunciou em fevereiro que adicionaria tags de conteúdo baseadas no padrão C2PA no Facebook, Instagram e Threads. Estamos testemunhando ao vivo os primeiros movimentos das redes sociais para proporcionar maior transparência nas publicações. Temos que esperar para ver se realmente darão resultados.
Imagens | ByteDança | Meta | Capturas de tela
Em Xataka | O que é Inteligência Geral Artificial (AGI), a tecnologia que pretende revolucionar completamente o nosso mundo