Descripción: The generative AI platform Lovable, which is used for building web apps, was reportedly jailbroken to create and host full phishing campaigns. These campaigns allegedly included credential-harvesting login pages, evasion techniques, and real-time exfiltration via services like Telegram and Firebase. The AI system was reportedly used for generating the phishing content and and then deploying it live on a URL hosted under its own subdomain.
Entidades
Ver todas las entidadesAlleged: Loveable AI developed an AI system deployed by Unknown actors , Cyber criminals y Cyber criminal networks, which harmed General public , Users targeted by phishing attacks , Impersonated organizations y Microsoft.
Sistemas de IA presuntamente implicados: Lovable AI , Firebase , RequestBin , JSONBin , Twilio , Telegram , Office.com y Microsoft login systems
Estadísticas de incidentes
ID
1016
Cantidad de informes
2
Fecha del Incidente
2025-04-09
Editores
Daniel Atherton
Informes del Incidente
Cronología de Informes

Lovable, una plataforma generativa basada en inteligencia artificial (IA) que permite crear Se ha descubierto que las aplicaciones web integrales que utilizan indicaciones de texto son las más susceptibles a los ataques de jailbreak, lo qu…
Con el auge de la IA Generativa, incluso los principiantes pueden lanzar estafas de phishing sofisticadas sin necesidad de conocimientos de programación. Solo unas pocas indicaciones y unos minutos. Para contrarrestar esto, Guardio Labs pre…
Variantes
Una "Variante" es un incidente que comparte los mismos factores causales, produce daños similares e involucra los mismos sistemas inteligentes que un incidente de IA conocido. En lugar de indexar las variantes como incidentes completamente separados, enumeramos las variaciones de los incidentes bajo el primer incidente similar enviado a la base de datos. A diferencia de otros tipos de envío a la base de datos de incidentes, no se requiere que las variantes tengan informes como evidencia externa a la base de datos de incidentes. Obtenga más información del trabajo de investigación.
Incidentes Similares
Did our AI mess up? Flag the unrelated incidents

6 goof-ups that show AI is still in its diapers
· 11 informes

Danger, danger! 10 alarming examples of AI gone wild
· 6 informes
Incidentes Similares
Did our AI mess up? Flag the unrelated incidents

6 goof-ups that show AI is still in its diapers
· 11 informes

Danger, danger! 10 alarming examples of AI gone wild
· 6 informes