Cyberprzestępcy stale znajdują nowe sposoby wykorzystywania ludzkiego zaufania – a najnowszą bronią w ich arsenale? Chatboty AI i duże modele językowe (LLM), które zostały wbudowane w codzienne platformy. Narzędzia te mogą być niegroźnymi pomocnikami, ale w niewłaściwych rękach stają się potężnymi narzędziami kampanii malwertyzingowych.
Narodziny “Groka” i fala oszustw
Niedawno model SI o nazwie Grok (używany na platformie X) został zmanipulowany przez złośliwych aktorów w celu rozpowszechniania linków phishingowych i złośliwego oprogramowania. Oto jak przebiegł atak: cyberprzestępcy zamieścili na platformie treści stylizowane na reklamy kart graficznych, które ominęły standardowe filtry linków. Następnie zaangażowali Groka, zadając pytania typu: “Skąd pochodzi ten film?”. Model przeskanował post, wykrył ukryty złośliwy link i umieścił go w swojej odpowiedzi – skutecznie zamieniając Groka w zaufanego propagatora oszustw.
Dlaczego ta technika działa
- Wykorzystywanie zaufania Grok jest postrzegany jako godny zaufania asystent, więc gdy poleca treści, wielu użytkowników się do tego stosuje. Cyberprzestępcy wykorzystują ten zaufanie.
- Skala i zasięg: Te płatne posty wideo docierają do milionów widzów. Kiedy Grok udostępnia je ponownie, link do oszustwa zyskuje ogromne zasięgi.
- Omijanie zabezpieczeń: Tradycyjne filtry reklam i blokery linków zostały ominięte, ponieważ złośliwy link był osadzony w metadanych lub małych polach “od”, a nie w głównym ciele posta.
Iniekcja Promptów: Rosnące Zagrożenie
Ta kampania jest konkretnym przykładem szerszego typu ataku znanego jako wstrzyknięcie promptu. Mówiąc prościej, oznacza to podawanie asystentowi SI instrukcji ukrytych w legalnie wyglądającej treści, tak aby gdy użytkownik zada pytanie, system nieświadomie wykonał szkodliwe polecenia. Ponieważ Grok i inne chatboty opierają się na danych publicznych, mogą zostać zatrute złośliwymi instrukcjami osadzonymi w metadanych, obrazach, forach, a nawet ukrytym tekście.
Jak cyberprzestępcy wykorzystują sytuację
- Wpis wideo zawierający link udający legalny.
- “Grok” zostaje zadane nieformalne pytanie, które prowadzi go do przeczytania posta i włączenia złośliwego linku w swojej odpowiedzi.
- Odpowiedź jest następnie ufana przez użytkowników, klikana i prowadzi do formularzy wyłudzających dane uwierzytelniające, pobrań złośliwego oprogramowania lub kradzieży tożsamości.
- Cyberprzestępcy powtarzają ten proces na wielu kontach, maksymalizując zasięg i zwiększając renomę domen dla złośliwych adresów URL.
Co możesz zrobić, aby zachować bezpieczeństwo
- Nigdy nie zakładaj, że AI jest godne zaufania. Narzędzie takie jak Grok może zostać zmanipulowane lub oszukane, aby szerzyło oszustwa.
- Najedź kursorem przed kliknięciem. Sprawdzaj, dokąd naprawdę prowadzą linki, zwłaszcza jeśli są polecane przez chatboty.
- Używaj silnych haseł i uwierzytelniania wielopoziomowego. Nawet jeśli formularz wyłudzający dane przechwyci Twoje dane logowania, uwierzytelnianie wieloskładnikowe pomoże zablokować przejęcie konta.
- Aktualizuj oprogramowanie. Aktualizuj swoje urządzenia, aby złośliwe oprogramowanie nie mogło wykorzystać znanych luk.
- Stosuj warstwowe zabezpieczenia. Poleganie na zaufanym pakiecie zabezpieczeń pomaga blokować nie tylko znane zagrożenia, ale także nowe taktyki stosowane przez cyberprzestępców.
