Los ciberdelincuentes encuentran constantemente nuevas formas de explotar la confianza humana y la última arma en su arsenal son los chatbots de IA y los modelos de lenguaje grandes (LLM) que se han integrado en plataformas cotidianas. Estas herramientas pueden ser ayudantes inocuos, pero en las manos equivocadas se convierten en vehículos potentes para campañas de malvertising.
El Auge de “Grok” y la Ola de Estafas
Recientemente, el modelo de IA conocido como Grok (utilizado en la Plataforma X) fue manipulado por actores maliciosos para amplificar enlaces de phishing y malware. Así se desarrolló el ataque: los ciberdelincuentes publicaron contenido de estilo de tarjetas de video en la plataforma que eludió los filtros de enlaces normales. Luego, interactuaron con Grok haciendo preguntas como: “¿De dónde es este video?”. El modelo escaneó la publicación, detectó el enlace malicioso oculto y lo presentó en su respuesta, convirtiendo efectivamente a Grok en un propagador de estafas de confianza.
Por qué funciona esta técnica
- Explotando la confianza: Grok es visto como un asistente confiable, por lo que cuando recomienda contenido, muchos usuarios lo siguen. Los ciberdelincuentes se aprovechan de esta confianza.
- Escala y alcance: Estas publicaciones de video pagadas alcanzan millones de visitas. Cuando Grok re-publica, el enlace de la estafa recibe una amplificación masiva.
- Evadiendo defensas Los filtros de anuncios y bloqueadores de enlaces tradicionales fueron eludidos, ya que el enlace malicioso estaba incrustado en metadatos o en pequeños campos “de” (from), no en el cuerpo principal de la publicación.
Inyección de Prompts: Una Amenaza Creciente
Esta campaña es un ejemplo específico de un tipo de ataque más amplio conocido como inyección de prompts. En términos sencillos, significa dar a un asistente de IA instrucciones ocultas dentro de contenido que parece legítimo para que, cuando un usuario haga una pregunta, el sistema ejecute inadvertidamente comandos perjudiciales. Dado que Grok y otros chatbots dependen de datos públicos, pueden ser envenenados con instrucciones maliciosas incrustadas en metadatos, imágenes, foros o incluso texto oculto.
Cómo se aprovechan los ciberdelincuentes
- Una publicación de video que contiene un enlace disfrazado de legítimo.
- “Se le hace una pregunta informal a ”Grok” que lo lleva a leer la publicación e incluir el enlace malicioso en su respuesta.
- La respuesta es entonces confiada por los usuarios, se hace clic en ella y conduce a formularios de robo de credenciales, descargas de malware o robo de identidad.
- Los ciberdelincuentes repiten este proceso en múltiples cuentas, maximizando el alcance y aumentando la reputación del dominio para las URL maliciosas.
Qué puedes hacer para mantenerte a salvo
- Nunca asumas que la IA es confiable. Incluso una herramienta como Grok puede ser manipulada o engañada para difundir estafas.
- Pasa el ratón antes de hacer clic. Comprueba a dónde van realmente los enlaces, especialmente si te los recomiendan los chatbots.
- Usa contraseñas seguras y MFA. Incluso si un formulario de robo de credenciales captura tu inicio de sesión, la autenticación multifactor ayuda a bloquear el robo de cuentas.
- Mantén el software actualizado. Actualice sus dispositivos para que el malware no pueda explotar vulnerabilidades conocidas.
- Utiliza seguridad en capas. Confiar en una suite de seguridad confiable ayuda a bloquear no solo amenazas conocidas, sino también tácticas emergentes utilizadas por los ciberdelincuentes.
