Description: The generative AI platform Lovable, which is used for building web apps, was reportedly jailbroken to create and host full phishing campaigns. These campaigns allegedly included credential-harvesting login pages, evasion techniques, and real-time exfiltration via services like Telegram and Firebase. The AI system was reportedly used for generating the phishing content and and then deploying it live on a URL hosted under its own subdomain.
Entités
Voir toutes les entitésAlleged: Loveable AI developed an AI system deployed by Unknown actors , Cyber criminals et Cyber criminal networks, which harmed General public , Users targeted by phishing attacks , Impersonated organizations et Microsoft.
Systèmes d'IA présumés impliqués: Lovable AI , Firebase , RequestBin , JSONBin , Twilio , Telegram , Office.com et Microsoft login systems
Statistiques d'incidents
ID
1016
Nombre de rapports
2
Date de l'incident
2025-04-09
Editeurs
Daniel Atherton
Rapports d'incidents
Chronologie du rapport

Lovable, une plateforme d'intelligence artificielle générative (IA) permettant de créer Les applications web full stack utilisant des invites textuelles se sont révélées les plus vulnérables aux attaques de jailbreak, permettant aux cyberc…
Avec l'essor de l'IA générative, même les débutants peuvent désormais lancer des escroqueries par hameçonnage sophistiquées, sans aucune compétence en codage. Quelques instructions et quelques minutes suffisent. Pour contrer ces menaces, Gu…
Variantes
Une "Variante" est un incident qui partage les mêmes facteurs de causalité, produit des dommages similaires et implique les mêmes systèmes intelligents qu'un incident d'IA connu. Plutôt que d'indexer les variantes comme des incidents entièrement distincts, nous listons les variations d'incidents sous le premier incident similaire soumis à la base de données. Contrairement aux autres types de soumission à la base de données des incidents, les variantes ne sont pas tenues d'avoir des rapports en preuve externes à la base de données des incidents. En savoir plus sur le document de recherche.
Incidents similaires
Did our AI mess up? Flag the unrelated incidents

6 goof-ups that show AI is still in its diapers
· 11 rapports

Danger, danger! 10 alarming examples of AI gone wild
· 6 rapports
Incidents similaires
Did our AI mess up? Flag the unrelated incidents

6 goof-ups that show AI is still in its diapers
· 11 rapports

Danger, danger! 10 alarming examples of AI gone wild
· 6 rapports