Incident 1585: Le système de modération automatisé de Discord aurait banni à tort plus de 8 000 utilisateurs à cause d'images anodines.
Répondu
Description: Discord aurait banni par erreur plus de 8 000 comptes après que son système automatisé de modération d'images a classé comme contenu interdit des fichiers inoffensifs, tels que des grilles, des feuilles de calcul, des échiquiers et des images de jeux. Discord a expliqué qu'un bug avait transformé des restrictions de téléchargement temporaires en bannissements de comptes et empêché la restauration automatique des comptes concernés. L'entreprise a par la suite rétabli les comptes affectés.
Editor Notes: Timeline notes: The incident ID date is 07/07/2026, based on Discord's public acknowledgment of the wrongful account bans. The moderation problem reportedly began in May and affected more than 8,000 accounts before Discord restored them. The incident ID was created on 07/14/2026.
Entités
Voir toutes les entitésPrésumé : Un système d'IA développé et mis en œuvre par Discord , Social media platforms , Discord content moderation systems , Content moderation systems et Discord account enforcement system, a endommagé Discord users et Social media users.
Systèmes d'IA présumés impliqués: Discord , Discord content moderation systems , Content moderation systems et Discord account enforcement system
Statistiques d'incidents
ID
1585
Nombre de rapports
2
Date de l'incident
2026-07-07
Editeurs
Daniel Atherton
Rapports d'incidents
Chronologie du rapport
Loading...
Discord explique qu'un bug affectant son système de sécurité a entraîné le bannissement par erreur de plus de 8 000 comptes depuis le mois de mai. La déclaration de la plateforme fait suite à une vague de signalements d'utilisateurs la sema…
Loading...
Réponse post-incident de Discord
Note de l'éditeur d'AIID : Veuillez consulter le sujet original sur X par l'assistance Discord.
Ce week-end, nos systèmes de sécurité se sont déclenchés par erreur et ont banni environ 200 comptes. Tous les comptes concernés ont été rétabli…
Variantes
Une "Variante" est un incident de l'IA similaire à un cas connu—il a les mêmes causes, les mêmes dommages et le même système intelligent. Plutôt que de l'énumérer séparément, nous l'incluons sous le premier incident signalé. Contrairement aux autres incidents, les variantes n'ont pas besoin d'avoir été signalées en dehors de la base de données des incidents. En savoir plus sur le document de recherche.
Vous avez vu quelque chose de similaire ?