Kyberzločinci neustále nacházejí nové způsoby, jak zneužívat lidskou důvěru – a nejnovější zbraní v jejich arzenálu jsou chatboti s umělou inteligencí a velké jazykové modely (LLM), které se staly součástí běžných platforem. Tyto nástroje mohou být neškodnými pomocníky, ale v nesprávných rukou se stávají mocnými prostředky pro malvertisingové kampaně.
Vzestup “Groku” a vlna podvodů
Nedávno byl model umělé inteligence známý jako Grok (používaný na platformě X) zmanipulován škodlivými aktéry k šíření phishingových a malwarových odkazů. Zde je návod, jak útok proběhl: kyberzločinci zveřejnili na platformě obsah ve stylu videokaret, který obešel běžné filtry odkazů. Poté se zapojili do interakce s Grokem tím, že položili otázky, jako například: “Odkud toto video pochází?” Model naskenoval příspěvek, identifikoval skrytý škodlivý odkaz a prezentoval jej ve své odpovědi – čímž efektivně proměnil Grok v důvěryhodného šiřitele podvodů.
Proč tato technika funguje
- Zneužití důvěry: Grok je považován za spolehlivého asistenta, takže když doporučí obsah, mnoho uživatelů ho následuje. Kyberzločinci těží z této důvěry.
- Měřítko a dosah: Tyto placené video příspěvky dosahují milionů zhlédnutí. Když Grok přepošle, odkaz na podvod získá masivní „zesílení“.
- Obejití obrany Tradiční filtry reklam a blokátory odkazů byly obejity, protože škodlivý odkaz byl vložen do metadat nebo malých políček “od”, nikoli do hlavního těla příspěvku.
Prompt Injection: Rostoucí hrozba
Tato kampaň je specifickým příkladem širšího typu útoku známého jako vkládání promptů (prompt injection). Jednoduše řečeno to znamená, že asistentovi s umělou inteligencí jsou předány instrukce skryté uvnitř legitimně vypadajícího obsahu, takže když uživatel položí otázku, systém neúmyslně provede škodlivé příkazy. Protože Grok a další chatboti spoléhají na veřejná data, mohou být otráveni škodlivými instrukcemi vloženými do metadat, obrázků, fór nebo dokonce skrytého textu.
Jak kyberzločinci využívají
- Video příspěvek obsahující odkaz maskovaný jako legitimní.
- “Grok” je položen běžná otázka, která vede k přečtení příspěvku a zahrnutí škodlivého odkazu do jeho odpovědi.
- Odpovědi pak uživatelé důvěřují, klikají na ně a ta vede k formulářům na krádež přihlašovacích údajů, stahování malwaru nebo krádeži identity.
- Kyberz.
Co můžete udělat, abyste zůstali v bezpečí
- Nikdy nepředpokládejte, že AI je důvěryhodná. I takový nástroj jako Grok může být zmanipulován nebo oklamán, aby šířil podvody.
- Najeďte před kliknutím. Zkontrolujte, kam odkazy skutečně vedou, zvláště pokud jsou doporučeny chatboty.
- Používejte silná hesla a vícefaktorové ověřování. I když formulář kradoucí přihlašovací údaje zachytí vaše přihlašovací údaje, vícefaktorové ověřování pomáhá zabránit převzetí účtu.
- Udržujte software aktuální. Nainstalujte aktualizace zařízení, aby malware nemohl zneužít známé zranitelnosti.
- Použijte vrstvené zabezpečení. Spoléhání se na důvěryhodnou sadu zabezpečení pomáhá blokovat nejen známé hrozby, ale také nové taktiky používané kyberzločinci.
