A inteligência artificial generativa está sendo utilizada para o desenvolvimento de novas famílias de malwares com capacidade de alterar seu comportamento durante ataques cibernéticos. É o que revela um relatório do Google Threat Intelligence Group (GTIG) divulgado na última quarta-feira (05).
Trazendo novos dados para um estudo feito no início do ano, os pesquisadores de segurança da gigante de Mountain View alertam que esses “malwares habilitados para IA” usam grandes modelos de linguagem para se aprimorar. Deixando de ser estáticos, eles podem se adaptar a diferentes contextos, representando riscos ainda maiores.
Malwares autônomos e adaptáveis
Segundo o GTIG, pela primeira vez foram identificados malwares que usam modelos de linguagem durante a execução de campanhas maliciosas. Isso fornece novas capacidades para os agentes de ameaça e pode se tornar uma tendência no universo do cibercrime.
- O PromptFlux é um desses programas maliciosos, tendo sido flagrado usando o Gemini para reescrever seu código-fonte dinamicamente;
- Assim como o PromptSteal, ele aproveita a tecnologia para aumentar a capacidade de ofuscação e criar funções maliciosas sob demanda;
- Conforme os especialistas da big tech, tais características representam um “passo significativo rumo a um malware mais autônomo e adaptável”;
- Também foram identificados o FruitShell, que escapa de detecções e análises por sistemas baseados em IA, e o PromptLock, variante experimental de ransomware que gera e executa scripts maliciosos repetidamente.
Já o QuietVault é um ladrão de credenciais que mira contas no GitHub e NPM e ganhou aprimoramentos com IA para fazer uma varredura mais ampla no dispositivo infectado, buscando outros tipos de dados valiosos. Ele foi observado em campanhas ativas junto com o PromptSteal e o FruitShell.
Esses agentes maliciosos seguem o conceito “just-in-time” de automodificação, como explicou o Google, se diferenciando das ameaças convencionais que são criadas com códigos estáticos e não conseguem se alterar sozinhos.
)
Cibercriminosos em busca do Gemini
No relatório, a gigante das buscas também destaca que grupos do cibercrime associados a países como Coreia do Norte, Irã e China têm usado cada vez mais a IA Gemini indevidamente. Com a tecnologia, eles otimizam vários estágios de suas operações, da criação de iscas de phishing ao roubo de dados.
Para driblar as restrições que impedem usos indevidos dos recursos mais avançados do bot, esses hackers investem em engenharia social, como afirma a empresa. Eles se passam por pesquisadores de segurança cibernética ou estudantes participando de competições.
O GTIG identificou, ainda, a ampliação do comércio de recursos de IA para o cibercrime em fóruns online. Sistemas para apoiar ataques de phishing, busca por vulnerabilidades e desenvolvimento de malwares são algumas das ferramentas oferecidas para cibercriminosos menos experientes.
Curtiu o conteúdo? Leia mais notícias no TecMundo e interaja com a gente nas redes sociais.