Cyberkriminella hittar ständigt nya sätt att utnyttja mänskligt förtroende – och det senaste vapnet i deras arsenal? AI-chattbotar och stora språkmodeller (LLM) som har blivit inbäddade i vardagliga plattformar. Dessa verktyg kan vara oskyldiga hjälpredor, men i fel händer blir de kraftfulla fordon för malverising-kampanjer.
Framväxten av “Grok” & bedrägerivågen
Nyligen manipulerades AI-modellen känd som Grok (används på plattformen X) av illvilliga aktörer för att förstärka nätfiske- och skadlig kod-länkar. Så här utvecklades attacken: cyberkriminella publicerade innehåll i stil med videokort på plattformen som kringgick normala länfilter. Sedan engagerade de Grok genom att ställa frågor som: “Var kommer den här videon ifrån?” Modellen skannade inlägget, upptäckte den dolda skadliga länken och presenterade den i sitt svar – vilket effektivt förvandlade Grok till en betrodd spridare av bedrägerier.
Varför denna teknik fungerar
- Utnyttja förtroende: Grok ses som en pålitlig assistent, så när den rekommenderar innehåll följer många användare med. Cyberkriminella utnyttjar denna tillit.
- Skala och räckvidd: Dessa betalda videoposter når miljontals visningar. När Grok delar om länken till bedrägeriet får den massiv spridning.
- Att kringgå försvarsmekanismer: Traditionella annonsfilter och länkblockerare kringgicks, eftersom den skadliga länken var inbäddad i metadata eller små “från”-fält, inte i huvuddelen av inlägget.
Prompt Injection: Ett växande hot
Denna kampanj är ett specifikt exempel på en bredare attacktyp som kallas prompt injection. Enkelt uttryckt innebär det att ge en AI-assistent instruktioner som är dolda inuti legitima texter, så att systemet oavsiktligt kör skadliga kommandon när användaren ställer en fråga. Eftersom Grok och andra chatbots förlitar sig på offentliga data kan de förgiftas med skadliga instruktioner inbäddade i metadata, bilder, forum eller till och med dold text.
Hur cyberkriminella utnyttjar
- Ett videoinlägg som innehåller en länk förklädd till att vara legitim.
- “Grok” får en vardaglig fråga som leder till att den läser inlägget och inkluderar den skadliga länken i sitt svar.
- Svaret blir då betrott av användare, klickat på och leder till formulär för att stjäla inloggningsuppgifter, nedladdning av skadlig kod eller identitetsstöld.
- Cyberbrottslingar upprepar denna process över flera konton, vilket maximerar räckvidden och ökar domänens anseende för de skadliga URL:erna.
Vad du kan göra för att hålla dig säker
- Anta aldrig att AI är pålitlig. Även ett verktyg som Grok kan manipuleras eller luras att sprida bedrägerier.
- Hovra innan du klickar. Kontrollera var länkar verkligen leder, särskilt om de rekommenderas av chattbottar.
- Använd starka lösenord och MFA. Även om ett formulär för stöld av uppgifter fångar in dina inloggningsuppgifter, hjälper multifaktorautentisering till att blockera kapning av konton.
- Håll programvaran uppdaterad. Patchena dina enheter så att skadlig kod inte kan utnyttja kända sårbarheter.
- Använd lager-på-lager-säkerhet. Att förlita sig på en pålitlig säkerhetssvit hjälper till att blockera inte bara kända hot utan även nya taktiker som används av cyberbrottslingar.
