Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Traduit par IA

Incident 957: Un prétendu dysfonctionnement de l'algorithme d'Instagram inonde les flux Reels des utilisateurs de contenu violent et explicite

Traduit par IA
Description:
Traduit par IA
Un prétendu dysfonctionnement de l'algorithme d'Instagram a submergé les flux Reels des utilisateurs de contenus violents et choquants. Nombre d'entre eux ont déclaré avoir vu des morts, des brutalités extrêmes et d'autres contenus choquants en succession rapide, souvent sans avoir consulté de contenu similaire au préalable. Cette exposition soudaine a provoqué une détresse psychologique chez de nombreux utilisateurs, les mineurs et les personnes vulnérables étant particulièrement touchés par ces contenus choquants. Meta a confirmé qu'une défaillance de l'IA était responsable et a présenté ses excuses.

Outils

Nouveau rapportNouveau rapportNouvelle RéponseNouvelle RéponseDécouvrirDécouvrirVoir l'historiqueVoir l'historique
Le Moniteur des incidents et risques liés à l'IA de l'OCDE (AIM) collecte et classe automatiquement les incidents et risques liés à l'IA en temps réel à partir de sources d'information réputées dans le monde entier.
 

Entités

Voir toutes les entités
Présumé : Un système d'IA développé et mis en œuvre par Meta , Instagram recommendation algorithm et Instagram Reels, a endommagé Meta users , Instagram users et minors.
Systèmes d'IA présumés impliqués: Instagram recommendation algorithm et Instagram Reels

Statistiques d'incidents

ID
957
Nombre de rapports
1
Date de l'incident
2025-02-28
Editeurs
Daniel Atherton

Rapports d'incidents

Chronologie du rapport

+1
Meta s'excuse pour le flot de sang, de violence et de cadavres sur Instagram
Meta s'excuse pour le flot de sang, de violence et de cadavres sur Instagram

Meta s'excuse pour le flot de sang, de violence et de cadavres sur Instagram

theguardian.com

Meta s'excuse pour le flot de sang, de violence et de cadavres sur Instagram
theguardian.com · 2025
Traduit par IA

Meta, le créateur de l’application Instagram, a présenté ses excuses après que les utilisateurs d’Instagram ont été victimes d’un déluge de violence, de violences, de maltraitance animale et de cadavres sur leurs flux Reels.

Les utilisateur…

Variantes

Une "Variante" est un incident de l'IA similaire à un cas connu—il a les mêmes causes, les mêmes dommages et le même système intelligent. Plutôt que de l'énumérer séparément, nous l'incluons sous le premier incident signalé. Contrairement aux autres incidents, les variantes n'ont pas besoin d'avoir été signalées en dehors de la base de données des incidents. En savoir plus sur le document de recherche.
Vous avez vu quelque chose de similaire ?

Incidents similaires

Par similarité textuelle

Did our AI mess up? Flag the unrelated incidents

YouTube's Algorithms Failed to Remove Violating Content Related to Suicide and Self-Harm

YouTube's Algorithms Failed to Remove Violating Content Related to Suicide and Self-Harm

Feb 2019 · 3 rapports
Images of Black People Labeled as Gorillas

Images of Black People Labeled as Gorillas

Jun 2015 · 24 rapports
TikTok’s Content Moderation Allegedly Failed to Adequately Take down Videos Promoting Eating Disorders

TikTok’s Content Moderation Allegedly Failed to Adequately Take down Videos Promoting Eating Disorders

Dec 2020 · 1 rapport
Incident précédentProchain incident

Incidents similaires

Par similarité textuelle

Did our AI mess up? Flag the unrelated incidents

YouTube's Algorithms Failed to Remove Violating Content Related to Suicide and Self-Harm

YouTube's Algorithms Failed to Remove Violating Content Related to Suicide and Self-Harm

Feb 2019 · 3 rapports
Images of Black People Labeled as Gorillas

Images of Black People Labeled as Gorillas

Jun 2015 · 24 rapports
TikTok’s Content Moderation Allegedly Failed to Adequately Take down Videos Promoting Eating Disorders

TikTok’s Content Moderation Allegedly Failed to Adequately Take down Videos Promoting Eating Disorders

Dec 2020 · 1 rapport

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • 69ff178