Descripción: An alleged Instagram algorithm malfunction caused users’ Reels feeds to be overwhelmed with violent and distressing content. Many reported seeing deaths, extreme brutality, and other graphic material in rapid succession, often without prior engagement with similar content. The sudden exposure caused psychological distress for many users, with minors and vulnerable individuals particularly affected by the graphic content. Meta confirmed an AI failure was responsible and apologized.
Entidades
Ver todas las entidadesPresunto: un sistema de IA desarrollado e implementado por Meta , Instagram recommendation algorithm y Instagram Reels, perjudicó a Meta users , Instagram users y minors.
Sistemas de IA presuntamente implicados: Instagram recommendation algorithm y Instagram Reels
Estadísticas de incidentes
ID
957
Cantidad de informes
1
Fecha del Incidente
2025-02-28
Editores
Daniel Atherton
Informes del Incidente
Cronología de Informes
Meta, de Mark Zuckerberg, se disculpó después de que los usuarios de Instagram fueran sometidos a una avalancha de violencia, sangre, maltrato animal y cadáveres en sus feeds de Reels.
Los usuarios denunciaron las imágenes después de un apa…
Variantes
Una "Variante" es un incidente que comparte los mismos factores causales, produce daños similares e involucra los mismos sistemas inteligentes que un incidente de IA conocido. En lugar de indexar las variantes como incidentes completamente separados, enumeramos las variaciones de los incidentes bajo el primer incidente similar enviado a la base de datos. A diferencia de otros tipos de envío a la base de datos de incidentes, no se requiere que las variantes tengan informes como evidencia externa a la base de datos de incidentes. Obtenga más información del trabajo de investigación.
Incidentes Similares
Did our AI mess up? Flag the unrelated incidents
Incidentes Similares
Did our AI mess up? Flag the unrelated incidents