Cybercriminelen vinden voortdurend nieuwe manieren om menselijk vertrouwen te misbruiken – en het nieuwste wapen in hun arsenaal? AI-chatbots en grote taalmodellen (LLM's) die zijn ingebed in alledaagse platforms. Deze tools kunnen onschuldige hulpmiddelen zijn, maar in verkeerde handen worden ze krachtige middelen voor malvertisingcampagnes.
De opkomst van “Grok” & de oplichterij golf
Recentelijk werd het AI-model Grok (gebruikt op Platform X) gemanipuleerd door kwaadwillende actoren om phishing- en malwarelinks te verspreiden. Dit is hoe de aanval zich ontvouwde: cybercriminelen plaatsten inhoud in de stijl van videokaarten op het platform, die de gebruikelijke linkfilters omzeilde. Vervolgens engageerden ze Grok door vragen te stellen als: “Waar komt deze video vandaan?”. Het model scant de post, ontdekte de verborgen kwaadaardige link en presenteerde deze in zijn antwoord – waardoor Grok effectief veranderde in een vertrouwde verspreider van oplichting.
Waarom deze techniek werkt
- Misbruik maken van vertrouwen: Grok wordt beschouwd als een betrouwbare assistent, dus wanneer het inhoud aanbeveelt, volgen veel gebruikers dit. Cybercriminelen gedijen op dit vertrouwen.
- Schaal en bereik: Deze betaalde video's bereiken miljoenen views. Wanneer Grok ze opnieuw plaatst, krijgt de scam-link enorme verspreiding.
- Defensies omzeilen: Traditionele advertentiefilters en linkblokkers werden omzeild, aangezien de kwaadaardige link was ingebed in metadata of kleine “van” velden, niet in de hoofdtekst van het bericht.
Prompt Injectie: Een Groeiende Bedreiging
Deze campagne is een specifiek voorbeeld van een breder aanvalstype dat bekend staat als "prompt injection". In duidelijke bewoordingen betekent dit dat je een AI-assistent instructies geeft die verborgen zijn in legitiem ogende inhoud, zodat het systeem onbedoeld schadelijke commando's uitvoert wanneer een gebruiker een vraag stelt. Omdat Grok en andere chatbots afhankelijk zijn van openbare gegevens, kunnen ze worden vergiftigd met kwaadaardige instructies die zijn ingebed in metadata, afbeeldingen, forums of zelfs verborgen tekst.
Hoe cybercriminelen Misbruik Maken
- Een video post met een link die zich voordoet als legitiem.
- “Grok” krijgt een informele vraag die ertoe leidt dat het bericht leest en de kwaadaardige link in zijn antwoord opneemt.
- Het antwoord wordt vervolgens vertrouwd door gebruikers, aangeklikt en leidt tot formulieren voor inloggegevensdiefstal, malware-downloads of identiteitsdiefstal.
- Cybercriminelen herhalen dit proces over meerdere accounts, waardoor ze een groter bereik krijgen en de reputatie van de kwaadaardige URL's op het domein vergroten.
Wat je kunt doen om veilig te blijven
- Vertrouw AI nooit zomaar. Zelfs een hulpmiddel als Grok kan gemanipuleerd of misleid worden om oplichting te verspreiden.
- Zweef voordat u klikt. Controleer waar links echt naartoe leiden, vooral als ze worden aanbevolen door chatbots.
- Gebruik sterke wachtwoorden en meervoudige verificatie. Zelfs als een formulier voor het stelen van inloggegevens uw login onderschept, helpt multifactorauthenticatie bij het blokkeren van accountovernames.
- Houd software up-to-date. Patch uw apparaten zodat malware geen bekende kwetsbaarheden kan misbruiken.
- Gebruik gelaagde beveiliging. Vertrouwen op een betrouwbare beveiligingssuite helpt niet alleen bekende bedreigingen te blokkeren, maar ook opkomende tactieken die door cybercriminelen worden gebruikt.
