Incidente 957: Un supuesto fallo en el algoritmo de Instagram inunda los feeds de Reels de los usuarios con contenido violento y gráfico.
Descripción: Un supuesto fallo del algoritmo de Instagram provocó que los feeds de Reels de los usuarios se vieran inundados de contenido violento y angustiante. Muchos reportaron haber visto muertes, brutalidad extrema y otro material gráfico en rápida sucesión, a menudo sin haber interactuado previamente con contenido similar. La repentina exposición causó angustia psicológica a muchos usuarios, especialmente a menores y personas vulnerables. Meta confirmó que un fallo de la IA fue el responsable y ofreció disculpas.
Herramientas
Nuevo InformeNueva RespuestaDescubrirVer Historial
El Monitor de Incidentes y Riesgos de IA de la OCDE (AIM) recopila y clasifica automáticamente incidentes y riesgos relacionados con la IA en tiempo real a partir de fuentes de noticias reputadas en todo el mundo.
Entidades
Ver todas las entidadesPresunto: un sistema de IA desarrollado e implementado por Meta , Instagram recommendation algorithm y Instagram Reels, perjudicó a Meta users , Instagram users y minors.
Sistemas de IA presuntamente implicados: Instagram recommendation algorithm y Instagram Reels
Estadísticas de incidentes
ID
957
Cantidad de informes
1
Fecha del Incidente
2025-02-28
Editores
Daniel Atherton
Informes del Incidente
Cronología de Informes

Meta, de Mark Zuckerberg, se disculpó después de que los usuarios de Instagram fueran sometidos a una avalancha de violencia, sangre, maltrato animal y cadáveres en sus feeds de Reels.
Los usuarios denunciaron las imágenes después de un apa…
Variantes
Una "Variante" es un incidente de IA similar a un caso conocido—tiene los mismos causantes, daños y sistema de IA. En lugar de enumerarlo por separado, lo agrupamos bajo el primer incidente informado. A diferencia de otros incidentes, las variantes no necesitan haber sido informadas fuera de la AIID. Obtenga más información del trabajo de investigación.
¿Has visto algo similar?
Incidentes Similares
Did our AI mess up? Flag the unrelated incidents
Incidentes Similares
Did our AI mess up? Flag the unrelated incidents