Cyberkriminelle finder konstant nye måder at udnytte menneskelig tillid på – og det seneste våben i deres arsenal? AI-chatbots og store sprogmodeller (LLM'er), der er blevet integreret i hverdagens platforme. Disse værktøjer kan være harmløse hjælpere, men i de forkerte hænder bliver de potente redskaber for malvertising-kampagner.
Fremkomsten af “Grok” & Scam-bølgen
For nylig blev AI-modellen kendt som Grok (brugt på Platform X) manipuleret af ondsindede aktører til at forstærke phishing- og malware-links. Her er, hvordan angrebet udfoldede sig: Cyberkriminelle postede indhold i stil med videoannoncer på platformen, der omgik normale linkfiltre. Derefter engagerede de Grok ved at stille spørgsmål som: “Hvor kommer denne video fra?” Modellen scannede opslaget, fandt det skjulte ondsindede link og præsenterede det i sit svar – hvilket effektivt gjorde Grok til en betroet formidler af svindel.
Hvorfor denne teknik virker
- Udnyttelse af tillid: Grok betragtes som en pålidelig assistent, så når den anbefaler indhold, følger mange brugere med. Cyberkriminelle trives på denne tillid.
- Skala og rækkevidde: Disse betalte videoopslag når millioner af visninger. Når Grok genposter, modtager scam-linket massiv forstærkning.
- Omgåelse af forsvarsmekanismer: Traditionelle annoncefiltre og linkblokke blev omgået, da det ondsindede link var indlejret i metadata eller små “fra”-felter, ikke i hoveddelen af indlægget.
Prompt Injection: En Voksende Trussel
Denne kampagne er et specifikt eksempel på en bredere angrebstype kendt som prompt injection. I almindelige vendinger betyder det at give en AI-assistent instruktioner skjult i legitimt udseende indhold, så systemet utilsigtet udfører skadelige kommandoer, når brugeren stiller et spørgsmål. Fordi Grok og andre chatbots er afhængige af offentlige data, kan de forgiftes med ondsindede instruktioner indlejret i metadata, billeder, fora eller endda skjult tekst.
Hvordan cyberkriminelle udnytter
- Et videoopslag indeholdende et link forklædt som legitimt.
- “Grok” bliver stillet et afslappet spørgsmål, som får det til at læse opslaget og inkludere det ondsindede link i sit svar.
- Svaret bliver derefter stolet på af brugere, klikket på, og fører til legitimationsoplysninger-stjælende formularer, malware-downloads eller identitetstyveri.
- Cyberkriminelle gentager denne proces på tværs af flere konti, hvilket maksimerer rækkevidden og øger domænets omdømme for de ondsindede URL'er.
Hvad du kan gøre for at holde dig sikker
- Antag aldrig, at AI er troværdig. Selv et værktøj som Grok kan manipuleres eller narres til at sprede svindelnumre.
- Svæv, før du klikker. Tjek, hvor links reelt fører hen, især hvis de er anbefalet af chatbots.
- Brug stærke adgangskoder og MFA. Selv hvis en formular, der stjæler legitimationsoplysninger, fanger dit login, hjælper multifaktorgodkendelse med at blokere kontoovertagelse.
- Hold software opdateret. Opdater dine enheder, så malware ikke kan udnytte kendte sårbarheder.
- Brug lagdelt sikkerhed. At stole på en pålidelig sikkerhedssuite hjælper med at blokere ikke kun kendte trusler, men også nye taktikker, som cyberkriminelle bruger.
