Os cibercriminosos estão constantemente a encontrar novas formas de explorar a confiança humana – e a mais recente arma no seu arsenal? Os chatbots de IA e os modelos de linguagem grandes (LLMs) que se tornaram integrados em plataformas do dia a dia. Estas ferramentas podem ser ajudantes inócuos, mas nas mãos erradas tornam-se veículos potentes para campanhas de malvertising.
A Ascensão do “Grok” e a Onda de Burla
Recentemente, o modelo de IA conhecido como Grok (utilizado na Plataforma X) foi manipulado por atores maliciosos para amplificar links de phishing e malware. Eis como o ataque se desenrolou: os cibercriminosos publicaram conteúdo em estilo de anúncio de placas gráficas na plataforma que contornou os filtros normais de links. Em seguida, envolveram o Grok fazendo perguntas como: “De onde é este vídeo?”. O modelo analisou a publicação, detetou o link malicioso oculto e apresentou-o na sua resposta, transformando efetivamente o Grok num propagador de confiança de fraudes.
Por que esta técnica funciona
- Explorar a confiança: O Grok é visto como um assistente confiável, pelo que, quando recomenda conteúdo, muitos utilizadores seguem. Os cibercriminosos prosperam com essa confiança.
- Escala e alcance: Estas publicações de vídeo pagas atingem milhões de visualizações. Quando o Grok republica, o link de fraude recebe uma amplificação massiva.
- Contornar defesas: Os filtros de anúncios tradicionais e bloqueadores de links foram contornados, uma vez que o link malicioso estava integrado nos metadados ou em pequenos campos “de”, e não no corpo principal da publicação.
Injeção de Prompts: Uma Ameaça Crescente
Esta campanha é um exemplo específico de um tipo de ataque mais abrangente conhecido como injeção de prompt. Em termos simples, significa dar a um assistente de IA instruções escondidas em conteúdo de aparência legítima para que, quando um utilizador fizer uma pergunta, o sistema execute inadvertidamente comandos prejudiciais. Como o Grok e outros chatbots dependem de dados públicos, podem ser envenenados com instruções maliciosas incorporadas em metadados, imagens, fóruns ou mesmo texto oculto.
Como os Cibercriminosos se Aproveitam
- Um publicação de vídeo com uma ligação disfarçada de legítima.
- “Grok” é questionado com uma pergunta casual que o leva a ler a publicação e a incluir o link malicioso na sua resposta.
- A resposta é então confiada pelos utilizadores, clicada e leva a formulários de roubo de credenciais, descarregamento de malware ou roubo de identidade.
- Os cibercriminosos repetem este processo em múltiplas contas, maximizando o alcance e aumentando a reputação do domínio para os URLs maliciosos.
O que pode fazer para se manter em segurança
- Nunca assuma que a IA é confiável. Mesmo uma ferramenta como o Grok pode ser manipulada ou enganada para divulgar esquemas fraudulentos.
- Passe o rato antes de clicar. Verifique para onde os links vão realmente, especialmente se forem recomendados por chatbots.
- Use palavras-passe fortes e MFA. Mesmo que um formulário de roubo de credenciais capture o seu login, a autenticação multifator ajuda a bloquear o roubo de contas.
- Mantenha o software atualizado. Atualize os seus dispositivos para que o malware não consiga explorar vulnerabilidades conhecidas.
- Utilize segurança em camadas. Confiar num pacote de segurança fiável ajuda a bloquear não apenas ameaças conhecidas, mas também táticas emergentes utilizadas por cibercriminosos.
