A IA também está revolucionando o mundo do crime cibernético. Para criar novos malwares, para enganar usuários, gerar campanhas de desinformação ou criar videochamadas falsas. Tudo ao clique de um botão. Mas não a partir do ChatGPT, onde o OpenAI estabelece limites e impede a realização de determinadas ações, mas sim através do FraudGPT e do WormGPT, dois modelos de IA disponíveis no DarkWeb e criados para satisfazer as necessidades dos cibercriminosos.
Os gêmeos malvados do ChatGPT. Conforme descrito pelos pesquisadores em um relatório publicado no IJSR CSEIT, o FraudGPT representa um ponto de viragem nos ataques cibernéticos maliciosos. Esta é uma ferramenta de IA generativa baseada em assinatura que permite criar e-mails de phishing muito convincentes ou páginas da web falsas. O FraudGPT foi descoberto pela plataforma Netenrich em julho de 2023, por meio dos canais DarkWeb e Telegram.
Outra IA semelhante é o WormGPT, que permite criar facilmente e-mails de phishing. A origem deste LLM é baseada no GPT-J, um modelo aberto criado pela EleutherAI em 2021 e com uma série de parâmetros equivalentes ao GPT-3.
A partir de 200 dólares por mês. FraudGPT não é gratuito. Assim como a versão OpenAI, tem um custo mensal. Os cibercriminosos estão pagando cerca de US$ 200 por mês ou US$ 1.700 por ano por isso. Um pouco mais barata é a versão mais antiga do WormGPT, disponível a partir de cerca de 60 euros por mês e até 550 euros por ano, conforme descrito pela Trustwave. No caso do WormGPT, é oferecida uma versão v2 mais atualizada que pode ser personalizada por 5.000 euros.
Solicitando scripts maliciosos que são suavizados no ChatGPT. FraudGPT é descrito como uma IA para escrever código malicioso, criar malware indetectável, criar páginas de phishing, ferramentas de hacking ou escrever e-mails fraudulentos.
Os pesquisadores da Trustwave testaram a ferramenta e a compararam com o ChatGPT, obtendo resultados muito diferentes. Embora o ChatGPT ofereça o código e o e-mail de phishing (após várias tentativas e um pouco de engenharia com o prompt), ele o faz com uma mensagem de aviso e o e-mail de phishing não é tão convincente.
Os invasores cibernéticos não cometem mais erros de ortografia. “Já se foi o tempo em que os usuários eram aconselhados a procurar erros gramaticais, de contexto e de sintaxe óbvios para detectar e-mails maliciosos”, explica Fernando Anaya, da empresa de segurança Proofpoint ao El País.
Ferramentas como o FraudGPT permitem que os cibercriminosos criem e-mails maliciosos em qualquer idioma, com uma linguagem praticamente perfeita.
Um campo a ser explorado. A IA abre novas possibilidades para os cibercriminosos e as empresas de segurança cibernética estão bem cientes disso. Como descreve Zac Amos, da ReHack: “FraudGPT é um lembrete importante de como os cibercriminosos continuarão a mudar suas técnicas para obter o máximo impacto”.
Imagem | Mohammad Rahmani
Em Xataka | Como entrar na Deep Web: guia para entrar em TOR, ZeroNet, Freenet e I2P