Incidente 1016: Una IA adorable con jailbreak supuestamente se usa para generar y alojar páginas de phishing, robar credenciales y eludir la seguridad.
Descripción: La plataforma de IA generativa Lovable, utilizada para crear aplicaciones web, fue supuestamente liberada para crear y alojar campañas completas de phishing. Estas campañas incluían páginas de inicio de sesión con recopilación de credenciales, técnicas de evasión y exfiltración en tiempo real a través de servicios como Telegram y Firebase. El sistema de IA se utilizó para generar el contenido de phishing y luego publicarlo en vivo en una URL alojada bajo su propio subdominio.
Entidades
Ver todas las entidadesAlleged: Loveable AI developed an AI system deployed by Unknown actors , Cyber criminals y Cyber criminal networks, which harmed General public , Users targeted by phishing attacks , Impersonated organizations y Microsoft.
Sistemas de IA presuntamente implicados: Lovable AI , Firebase , RequestBin , JSONBin , Twilio , Telegram , Office.com y Microsoft login systems
Estadísticas de incidentes
ID
1016
Cantidad de informes
2
Fecha del Incidente
2025-04-09
Editores
Daniel Atherton
Informes del Incidente
Cronología de Informes

Lovable, una plataforma generativa basada en inteligencia artificial (IA) que permite crear Se ha descubierto que las aplicaciones web integrales que utilizan indicaciones de texto son las más susceptibles a los ataques de jailbreak, lo qu…
Con el auge de la IA Generativa, incluso los principiantes pueden lanzar estafas de phishing sofisticadas sin necesidad de conocimientos de programación. Solo unas pocas indicaciones y unos minutos. Para contrarrestar esto, Guardio Labs pre…
Variantes
Una "Variante" es un incidente de IA similar a un caso conocido—tiene los mismos causantes, daños y sistema de IA. En lugar de enumerarlo por separado, lo agrupamos bajo el primer incidente informado. A diferencia de otros incidentes, las variantes no necesitan haber sido informadas fuera de la AIID. Obtenga más información del trabajo de investigación.
¿Has visto algo similar?
Incidentes Similares
Did our AI mess up? Flag the unrelated incidents

Game AI System Produces Imbalanced Game
· 11 informes

Wikipedia Vandalism Prevention Bot Loop
· 6 informes

Biased Sentiment Analysis
· 7 informes
Incidentes Similares
Did our AI mess up? Flag the unrelated incidents

Game AI System Produces Imbalanced Game
· 11 informes

Wikipedia Vandalism Prevention Bot Loop
· 6 informes

Biased Sentiment Analysis
· 7 informes