Cyberkriminelle finden ständig neue Wege, um menschliches Vertrauen auszunutzen – und die neueste Waffe in ihrem Arsenal? KI-Chatbots und große Sprachmodelle (LLMs), die in alltägliche Plattformen integriert wurden. Diese Werkzeuge können harmlose Helfer sein, aber in den falschen Händen werden sie zu wirksamen Vehikeln für Malvertising-Kampagnen.
Der Aufstieg von “Grok” und die Betrugswelle
Kürzlich wurde das als Grok bekannte KI-Modell (das auf der Plattform X verwendet wird) von böswilligen Akteuren manipuliert, um Phishing- und Malware-Links zu verbreiten. Der Angriff lief folgendermaßen ab: Cyberkriminelle posteten Inhalte im Stil von Videokarten auf der Plattform, die normale Linkfilter umgingen. Dann kontaktierten sie Grok mit Fragen wie “Woher stammt dieses Video?”. Das Modell scannte den Beitrag, entdeckte den versteckten bösartigen Link und gab ihn in seiner Antwort wieder – wodurch Grok effektiv zu einem vertrauenswürdigen Verbreiter von Betrugsmaschen wurde.
Warum diese Technik funktioniert
- Ausnutzung von Vertrauen: Grok wird als zuverlässiger Assistent angesehen, sodass viele Nutzer seinen Inhaltsempfehlungen folgen. Cyberkriminelle gedeihen auf diesem Vertrauen.
- Skalierung & Reichweite: Diese bezahlten Videobeiträge erreichen Millionen von Aufrufen. Wenn Grok die Beiträge erneut postet, erhält der Betrugslink eine massive Verbreitung.
- Umgehung von Schutzmaßnahmen: Traditionelle Werbefilter und Link-Blocker wurden umgangen, da der bösartige Link in Metadaten oder kleinen “Von”-Feldern und nicht im Haupttext des Beitrags eingebettet war.
Prompt-Injektion: Eine wachsende Bedrohung
Diese Kampagne ist ein konkretes Beispiel für eine breitere Angriffsart, die als Prompt Injection bekannt ist. Einfach ausgedrückt bedeutet dies, dass einem KI-Assistenten Anweisungen gegeben werden, die in scheinbar legitimen Inhalten versteckt sind, sodass das System, wenn ein Benutzer eine Frage stellt, versehentlich schädliche Befehle ausführt. Da Grok und andere Chatbots auf öffentliche Daten angewiesen sind, können sie mit bösartigen Anweisungen vergiftet werden, die in Metadaten, Bildern, Foren oder sogar verstecktem Text eingebettet sind.
Wie Cyberkriminelle dies ausnutzen
- Ein Videobeitrag mit einem als seriös getarnten Link.
- “Grok” wird eine ungezwungene Frage gestellt, die es dazu bringt, den Beitrag zu lesen und den bösartigen Link in seine Antwort einzubinden.
- Die Antwort wird dann von den Nutzern als vertrauenswürdig angesehen, angeklickt und führt zu Formularen, die Zugangsdaten abfragen, zum Herunterladen von Malware oder zu Identitätsdiebstahl.
- Cyberkriminelle wiederholen diesen Prozess bei mehreren Konten, um die Reichweite zu maximieren und die Domain-Reputation für die bösartigen URLs zu erhöhen.
Was Sie tun können, um sicher zu bleiben
- Gehen Sie niemals davon aus, dass KI vertrauenswürdig ist. Selbst ein Tool wie Grok kann manipuliert oder dazu gebracht werden, Betrugsversuche zu verbreiten.
- Bewegen Sie den Mauszeiger über das Element, bevor Sie klicken. Prüfe, wohin Links tatsächlich führen, besonders wenn sie von Chatbots empfohlen werden.
- Verwenden Sie sichere Passwörter und Multi-Faktor-Authentifizierung (MFA). Selbst wenn ein Formular zum Diebstahl von Anmeldedaten Ihre Zugangsdaten abfängt, hilft die Multifaktor-Authentifizierung, die Übernahme von Konten zu verhindern.
- Software aktuell halten. Patchen Sie Ihre Geräte, damit Schadsoftware keine bekannten Sicherheitslücken ausnutzen kann.
- Wenden Sie mehrschichtige Sicherheit an. Die Verwendung einer zuverlässigen Sicherheits-Suite hilft dabei, nicht nur bekannte Bedrohungen, sondern auch neue Taktiken von Cyberkriminellen abzuwehren.
