Incidente 999: Según informes, los atacantes implementaron un chatbot de soporte de IA simulado para engañar a los usuarios comerciales de Instagram para que agregaran un inicio de sesión 2FA malicioso.
Descripción: Según informes, una campaña de phishing ha estado suplantando al soporte de Meta mediante una interfaz de chatbot falsa para secuestrar cuentas de Instagram Business. Las víctimas recibieron correos electrónicos que denunciaban infracciones publicitarias y fueron redirigidas a un sitio fraudulento que imitaba el soporte de Meta. Allí, un chatbot simulado instruyó a los usuarios para que añadieran la aplicación Authenticator del atacante como método de inicio de sesión seguro, lo que permitió el robo de cuentas. Aún no está claro si el chatbot utilizaba inteligencia artificial o si estaba controlado por humanos a través de una interfaz similar a la de un bot. Véase la nota del editor.
Editor Notes: Some ambiguity in the reporting exists over whether the alleged chatbot interface is an actual chatbot or a human-operated interface mimicking one. In the former case, this would constitute a more clear-cut AI incident. In the latter, it may represent a newer category of AI incident—one in which attackers exploit emerging user expectations around automated systems by mimicking the interaction patterns of AI-driven support tools.
Entidades
Ver todas las entidadesAlleged: Unknown generative AI developers developed an AI system deployed by Scammers impersonating Meta support , Phishers y Unknown scammers, which harmed Meta users , Instagram users y Instagram Business users.
Sistemas de IA presuntamente implicados: Unknown chatbot interface y Instagram
Estadísticas de incidentes
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
4.3. Fraud, scams, and targeted manipulation
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.