Incident 1016: Une IA adorable et jailbreakée serait utilisée pour générer et héberger des pages de phishing, voler des identifiants et contourner la sécurité
Description: La plateforme d'IA générative Lovable, utilisée pour la création d'applications web, aurait été jailbreakée pour créer et héberger des campagnes d'hameçonnage complètes. Ces campagnes incluraient des pages de connexion collectant des identifiants, des techniques d'évasion et une exfiltration en temps réel via des services comme Telegram et Firebase. Le système d'IA aurait été utilisé pour générer le contenu d'hameçonnage, puis le déployer en direct sur une URL hébergée sous son propre sous-domaine.
Entités
Voir toutes les entitésAlleged: Loveable AI developed an AI system deployed by Unknown actors , Cyber criminals et Cyber criminal networks, which harmed General public , Users targeted by phishing attacks , Impersonated organizations et Microsoft.
Systèmes d'IA présumés impliqués: Lovable AI , Firebase , RequestBin , JSONBin , Twilio , Telegram , Office.com et Microsoft login systems
Statistiques d'incidents
ID
1016
Nombre de rapports
2
Date de l'incident
2025-04-09
Editeurs
Daniel Atherton
Rapports d'incidents
Chronologie du rapport
Lovable, une plateforme d'intelligence artificielle générative (IA) permettant de créer Les applications web full stack utilisant des invites textuelles se sont révélées les plus vulnérables aux attaques de jailbreak, permettant aux cyberc…
Avec l'essor de l'IA générative, même les débutants peuvent désormais lancer des escroqueries par hameçonnage sophistiquées, sans aucune compétence en codage. Quelques instructions et quelques minutes suffisent. Pour contrer ces menaces, Gu…
Variantes
Une "Variante" est un incident de l'IA similaire à un cas connu—il a les mêmes causes, les mêmes dommages et le même système intelligent. Plutôt que de l'énumérer séparément, nous l'incluons sous le premier incident signalé. Contrairement aux autres incidents, les variantes n'ont pas besoin d'avoir été signalées en dehors de la base de données des incidents. En savoir plus sur le document de recherche.
Vous avez vu quelque chose de similaire ?
Incidents similaires
Did our AI mess up? Flag the unrelated incidents
Game AI System Produces Imbalanced Game
· 11 rapports
Wikipedia Vandalism Prevention Bot Loop
· 6 rapports
Biased Sentiment Analysis
· 7 rapports
Incidents similaires
Did our AI mess up? Flag the unrelated incidents
Game AI System Produces Imbalanced Game
· 11 rapports
Wikipedia Vandalism Prevention Bot Loop
· 6 rapports
Biased Sentiment Analysis
· 7 rapports