Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Problème 1858

Incidents associés

Incident 2752 Rapports
Facebook’s Moderation Algorithm Banned Users for Historical Evidence of Slavery

Loading...
Facebook bloque et interdit aux utilisateurs de partager un article montrant des hommes autochtones enchaînés à cause de la nudité
techtimes.com · 2020

Le message a été publié dans le contexte du Premier ministre australien Scott Morrison affirmant qu'il n'y avait pas d'esclavage en Australie. Avant un jour plus tard, il [a reculé](https://www.theguardian.com/australia-news/2020/jun/12/scott-morrison-sorry-for-no-slavery-in-australia-claim-and -reconnaît-les-pratiques-hideuses) sur ces commentaires.

De quoi s'agissait-il ?

Un utilisateur de Facebook avait posté une réfutation de l'affirmation du Premier ministre australien Scott Morrison selon laquelle l'Australie n'avait jamais eu d'esclavage - propos qu'il a rétractés le lendemain. Le message de l'utilisateur comportait une photo des années 1890 représentant des hommes autochtones enchaînés.

Facebook a supprimé le message et limité le compte de l'homme, affirmant que la photo contenait de la nudité et violait les normes de la communauté sur le site, le Guardian [a écrit](https://www.theguardian.com/technology/2020/jun/15/facebook -bloque-interdit-les-utilisateurs-partageant-l'article-du-gardien-montrant-les-hommes-aborigènes-enchaînés).

Guardian Australia annoncé samedi , le 13 juin, que Facebook s'est excusé d'avoir empêché un utilisateur australien de publier la photo des années 1890 de manière incorrecte.

La publication a été restaurée après que Facebook a demandé à Guardian Australia si la photo avait été signalée par erreur. Facebook a présenté ses excuses à l'utilisateur vendredi soir et a fait restaurer la publication.

Une porte-parole de la société a déclaré que la suppression était le résultat d'un processus automatisé et qu'il s'agissait d'une erreur.

"Nous nous excusons pour cette erreur", a-t-elle déclaré au Guardian.

Pourtant, des dizaines d'autres utilisateurs de Facebook ont signalé les mêmes problèmes lorsqu'ils tentaient de republier un lien vers l'article dans le Guardian. Certains ont même été bannis pour avoir tenté de les partager jusqu'à 30 jours, a rapporté le Guardian.

Parmi ceux qui n'ont pas pu partager l'article, il y avait l'homme qui a d'abord posté l'image sur son profil sur son compte Twitter.

Je viens d'essayer de publier cet article, il a immédiatement bloqué la publication, ne m'a donné aucune chance de faire appel ou de contester, l'affaire a été classée et a mis mon compte en utilisation restreinte pendant 24 heures. Si vous regardez mon "histoire de non-respect des normes". C'est juste cet incident montré deux fois https://t.co/CzweUNCwL6 pic.twitter.com/lGmQzSBAGd — Hacklock - Le Cowboy console du cyberespace (@hacklocked) 15 juin 2020

Facebook a semblé autoriser la publication de l'article le lundi après-midi 15 juin, après de nouvelles demandes de Guardian Australia. Habituellement, Facebook permet aux utilisateurs de demander un échantillon de tout retrait. Il a restauré 613 000 éléments de contenu après 2,1 millions de demandes de révision entre janvier et mars.

De nombreux utilisateurs ont déclaré avoir été informés que Facebook avait moins de travailleurs pour examiner les retraits en raison de la pandémie de coronavirus. Ils "essayent de donner la priorité à l'examen du contenu avec le plus grand potentiel de dommages". Lundi, la société de médias sociaux semblait avoir autorisé le partage de l'article sans restriction ni interdiction.

Disparités

Plusieurs personnes ont souligné la disparité entre le contenu de censure rapide et inexact de Facebook, qui est réputé contenir de la nudité et [la réticence](https://www.theguardian.com/technology/2020/jun/05/mark-zuckerberg-facebook-trump- policy-review) pour supprimer les messages incendiaires. Le journaliste et militant Cory Doctorow a déclaré que l'incident sur Twitter démontrait que Facebook était incapable de réglementer à grande échelle et que la censure automatisée n'était pas équitablement répartie, certains groupes minoritaires étant plus susceptibles de censurer leurs discussions.

Et les retombées de ce blocage excessif ne sont pas uniformément réparties. Non seulement certaines minorités défavorisées (travailleuses du sexe, personnes queer, personnes de couleur) sont plus susceptibles de voir leurs discussions censurées. 21/ — Cory Doctorow #BLM (@doctorow) 13 juin 2020

Doctorow a affirmé que Facebook ne devrait pas se voir accorder des droits supplémentaires en matière de censure du contenu, comme d'autres l'ont demandé à propos des [messages] de Trump (https://www.theguardian.com/technology/2020/jun/08/facebook-moderators-criticism-mark -zuckerberg-donald-trump) sur Twitter et Facebook ces dernières semaines. Au lieu de cela, a-t-il dit, Facebook devrait être réduit à une "taille, à une échelle où les communautés peuvent définir et appliquer des normes".

"Parce que le problème avec [Facebook] n'est pas simplement que le [PDG] Mark Zuckerberg est particulièrement inapte à prendre des décisions concernant la vie sociale et le discours politique de 2,6 milliards de personnes... c'est que PERSONNE n'est capable de faire ce travail. Ce travail ne devrait pas exister.

Lire la source

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd