Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Traducido por IA

Incidente 957: Un supuesto fallo en el algoritmo de Instagram inunda los feeds de Reels de los usuarios con contenido violento y gráfico.

Traducido por IA
Descripción:
Traducido por IA
Un supuesto fallo del algoritmo de Instagram provocó que los feeds de Reels de los usuarios se vieran inundados de contenido violento y angustiante. Muchos reportaron haber visto muertes, brutalidad extrema y otro material gráfico en rápida sucesión, a menudo sin haber interactuado previamente con contenido similar. La repentina exposición causó angustia psicológica a muchos usuarios, especialmente a menores y personas vulnerables. Meta confirmó que un fallo de la IA fue el responsable y ofreció disculpas.

Herramientas

Nuevo InformeNuevo InformeNueva RespuestaNueva RespuestaDescubrirDescubrirVer HistorialVer Historial
El Monitor de Incidentes y Riesgos de IA de la OCDE (AIM) recopila y clasifica automáticamente incidentes y riesgos relacionados con la IA en tiempo real a partir de fuentes de noticias reputadas en todo el mundo.
 

Entidades

Ver todas las entidades
Presunto: un sistema de IA desarrollado e implementado por Meta , Instagram recommendation algorithm y Instagram Reels, perjudicó a Meta users , Instagram users y minors.
Sistemas de IA presuntamente implicados: Instagram recommendation algorithm y Instagram Reels

Estadísticas de incidentes

ID
957
Cantidad de informes
1
Fecha del Incidente
2025-02-28
Editores
Daniel Atherton

Informes del Incidente

Cronología de Informes

+1
Meta se disculpa por la avalancha de sangre, violencia y cadáveres en Instagram
Meta se disculpa por la avalancha de sangre, violencia y cadáveres en Instagram

Meta se disculpa por la avalancha de sangre, violencia y cadáveres en Instagram

theguardian.com

Meta se disculpa por la avalancha de sangre, violencia y cadáveres en Instagram
theguardian.com · 2025
Traducido por IA

Meta, de Mark Zuckerberg, se disculpó después de que los usuarios de Instagram fueran sometidos a una avalancha de violencia, sangre, maltrato animal y cadáveres en sus feeds de Reels.

Los usuarios denunciaron las imágenes después de un apa…

Variantes

Una "Variante" es un incidente de IA similar a un caso conocido—tiene los mismos causantes, daños y sistema de IA. En lugar de enumerarlo por separado, lo agrupamos bajo el primer incidente informado. A diferencia de otros incidentes, las variantes no necesitan haber sido informadas fuera de la AIID. Obtenga más información del trabajo de investigación.
¿Has visto algo similar?

Incidentes Similares

Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

YouTube's Algorithms Failed to Remove Violating Content Related to Suicide and Self-Harm

YouTube's Algorithms Failed to Remove Violating Content Related to Suicide and Self-Harm

Feb 2019 · 3 informes
Images of Black People Labeled as Gorillas

Images of Black People Labeled as Gorillas

Jun 2015 · 24 informes
TikTok’s Content Moderation Allegedly Failed to Adequately Take down Videos Promoting Eating Disorders

TikTok’s Content Moderation Allegedly Failed to Adequately Take down Videos Promoting Eating Disorders

Dec 2020 · 1 informe
Incidente AnteriorSiguiente Incidente

Incidentes Similares

Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

YouTube's Algorithms Failed to Remove Violating Content Related to Suicide and Self-Harm

YouTube's Algorithms Failed to Remove Violating Content Related to Suicide and Self-Harm

Feb 2019 · 3 informes
Images of Black People Labeled as Gorillas

Images of Black People Labeled as Gorillas

Jun 2015 · 24 informes
TikTok’s Content Moderation Allegedly Failed to Adequately Take down Videos Promoting Eating Disorders

TikTok’s Content Moderation Allegedly Failed to Adequately Take down Videos Promoting Eating Disorders

Dec 2020 · 1 informe

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • 69ff178