Description: A phishing campaign has reportedly been impersonating Meta support using a fake chatbot interface to hijack Instagram Business accounts. Victims received emails claiming ad violations and were directed to a fraudulent site mimicking Meta's support. There, a simulated chatbot instructed users to add the attacker’s Authenticator app as a secure login method, enabling account takeover. It remains unclear whether the chatbot used AI or was human-operated via a bot-like interface. See editor's note.
Editor Notes: Some ambiguity in the reporting exists over whether the alleged chatbot interface is an actual chatbot or a human-operated interface mimicking one. In the former case, this would constitute a more clear-cut AI incident. In the latter, it may represent a newer category of AI incident—one in which attackers exploit emerging user expectations around automated systems by mimicking the interaction patterns of AI-driven support tools.
Entidades
Ver todas las entidadesAlleged: Unknown generative AI developers developed an AI system deployed by Scammers impersonating Meta support , scammers , Phishers y Fraudsters, which harmed Meta users , Instagram users y Instagram Business users.
Sistemas de IA presuntamente implicados: Unknown chatbot interface y Instagram
Estadísticas de incidentes
ID
999
Cantidad de informes
2
Fecha del Incidente
2025-03-12
Editores
Daniel Atherton
Informes del Incidente
Cronología de Informes
Las redes sociales se utilizan ampliamente en marketing, ayudando a las empresas a generar anuncios que atraen a clientes potenciales. Pero ¿qué pasaría si recibieras un correo electrónico con el mensaje "SUS ANUNCIOS ESTÁN SUSPENDIDOS TEMP…
Una nueva campaña de phishing ha estado engañando a los usuarios para que proporcionen acceso a sus Meta Business accounts, especialmente a Instagram. La estafa, detectada por el Centro de Defensa contra el Phishing de Cofense, utiliza un s…
Variantes
Una "Variante" es un incidente que comparte los mismos factores causales, produce daños similares e involucra los mismos sistemas inteligentes que un incidente de IA conocido. En lugar de indexar las variantes como incidentes completamente separados, enumeramos las variaciones de los incidentes bajo el primer incidente similar enviado a la base de datos. A diferencia de otros tipos de envío a la base de datos de incidentes, no se requiere que las variantes tengan informes como evidencia externa a la base de datos de incidentes. Obtenga más información del trabajo de investigación.
Incidentes Similares
Did our AI mess up? Flag the unrelated incidents
Incidentes Similares
Did our AI mess up? Flag the unrelated incidents