Incident 999: Des attaquants auraient déployé un chatbot de support IA simulé pour inciter les utilisateurs professionnels d'Instagram à ajouter une connexion 2FA malveillante.
Description: Une campagne de phishing se serait fait passer pour le support de Meta en utilisant une fausse interface de chatbot pour pirater des comptes Instagram Business. Les victimes ont reçu des e-mails dénonçant des violations publicitaires et ont été redirigées vers un site frauduleux imitant le support de Meta. Sur place, un chatbot simulé demandait aux utilisateurs d'ajouter l'application Authenticator du pirate comme méthode de connexion sécurisée, permettant ainsi le piratage de compte. On ignore encore si le chatbot utilisait l'IA ou était piloté par un humain via une interface de type robot. Voir la note de l'éditeur.
Editor Notes: Some ambiguity in the reporting exists over whether the alleged chatbot interface is an actual chatbot or a human-operated interface mimicking one. In the former case, this would constitute a more clear-cut AI incident. In the latter, it may represent a newer category of AI incident—one in which attackers exploit emerging user expectations around automated systems by mimicking the interaction patterns of AI-driven support tools.
Entités
Voir toutes les entitésAlleged: Unknown generative AI developers developed an AI system deployed by Scammers impersonating Meta support , scammers , Phishers et Fraudsters, which harmed Meta users , Instagram users et Instagram Business users.
Systèmes d'IA présumés impliqués: Unknown chatbot interface et Instagram
Statistiques d'incidents
ID
999
Nombre de rapports
2
Date de l'incident
2025-03-12
Editeurs
Daniel Atherton
Rapports d'incidents
Chronologie du rapport
Les réseaux sociaux sont largement utilisés en marketing, permettant aux entreprises de générer des publicités qui attirent des clients potentiels. Mais que se passerait-il si vous receviez un e-mail indiquant : « VOS ANNONCES SONT TEMPORAI…
Une nouvelle campagne de phishing incite les utilisateurs à divulguer l'accès à leurs comptes Meta Business (https://hackread.com/phishing-scam-meta-businesses-trademark-threats/), notamment Instagram. Détectée par le Centre de défense anti…
Variantes
Une "Variante" est un incident de l'IA similaire à un cas connu—il a les mêmes causes, les mêmes dommages et le même système intelligent. Plutôt que de l'énumérer séparément, nous l'incluons sous le premier incident signalé. Contrairement aux autres incidents, les variantes n'ont pas besoin d'avoir été signalées en dehors de la base de données des incidents. En savoir plus sur le document de recherche.
Vous avez vu quelque chose de similaire ?
Incidents similaires
Did our AI mess up? Flag the unrelated incidents
Nest Smoke Alarm Erroneously Stops Alarming
· 6 rapports
Biased Sentiment Analysis
· 7 rapports
Game AI System Produces Imbalanced Game
· 11 rapports
Incidents similaires
Did our AI mess up? Flag the unrelated incidents
Nest Smoke Alarm Erroneously Stops Alarming
· 6 rapports
Biased Sentiment Analysis
· 7 rapports
Game AI System Produces Imbalanced Game
· 11 rapports