Incidente 1585: Según informes, el sistema de moderación automatizada de Discord baneó injustamente a más de 8000 usuarios por imágenes inofensivas.
Respondido
Descripción: Según informes, Discord bloqueó erróneamente más de 8000 cuentas después de que su sistema automatizado de moderación de imágenes marcara como material prohibido archivos inofensivos, como cuadrículas, hojas de cálculo, tableros de ajedrez e imágenes de juegos. Discord afirmó que un error convirtió las restricciones temporales de carga en bloqueos de cuentas e impidió que las cuentas que habían sido limpiadas se restauraran automáticamente. Posteriormente, la compañía reactivó las cuentas afectadas.
Editor Notes: Timeline notes: The incident ID date is 07/07/2026, based on Discord's public acknowledgment of the wrongful account bans. The moderation problem reportedly began in May and affected more than 8,000 accounts before Discord restored them. The incident ID was created on 07/14/2026.
Entidades
Ver todas las entidadesPresunto: un sistema de IA desarrollado e implementado por Discord , Social media platforms , Discord content moderation systems , Content moderation systems y Discord account enforcement system, perjudicó a Discord users y Social media users.
Sistemas de IA presuntamente implicados: Discord , Discord content moderation systems , Content moderation systems y Discord account enforcement system
Estadísticas de incidentes
ID
1585
Cantidad de informes
2
Fecha del Incidente
2026-07-07
Editores
Daniel Atherton
Informes del Incidente
Cronología de Informes
Loading...
Discord afirma que un fallo en su sistema de seguridad provocó la suspensión errónea de más de 8.000 cuentas desde mayo. La declaración de la plataforma surge tras una oleada de informes de usuarios durante la última semana, quienes afirman…
Loading...
Respuesta post-incidente de Discord
Nota del editor de AIID: Visita el hilo original en X de Soporte de Discord.
Este fin de semana, nuestros sistemas de seguridad se activaron incorrectamente y bloquearon alrededor de 200 cuentas. Todas las cuentas afectadas han sido reactiv…
Variantes
Una "Variante" es un incidente de IA similar a un caso conocido—tiene los mismos causantes, daños y sistema de IA. En lugar de enumerarlo por separado, lo agrupamos bajo el primer incidente informado. A diferencia de otros incidentes, las variantes no necesitan haber sido informadas fuera de la AIID. Obtenga más información del trabajo de investigación.
¿Has visto algo similar?