Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Problème 2642

Incidents associés

Incident 4718 Rapports
Facebook Allegedly Failed to Police Hate Speech Content That Contributed to Ethnic Violence in Ethiopia

Loading...
Lettre ouverte à Facebook sur les discours incitant à la violence : agissez maintenant pour protéger les Éthiopiens
accessnow.org · 2020

Les organisations de la société civile, les défenseurs des droits humains, les militants et les individus du monde entier appellent Facebook à appliquer immédiatement les recommandations énumérées dans cette lettre et à prendre des mesures pour empêcher que ses services ne soient utilisés pour inciter à la violence, propager la haine et faire progresser la discrimination dans Ethiopie.

Mise à jour (18 décembre 2020) : Facebook a envoyé à Access Now une réponse à notre lettre. Lire ici.

Mise à jour (6 août et 27 juillet 2020) : Le libellé de cette lettre a été légèrement modifié pour plus de clarté.

27 juillet 2020

Vers Facebook :

Les soussignés – militants, journalistes, organisations de défense des droits humains – vous appellent à stopper la propagation de la violence et des discours incitant à la haine sur vos services en Éthiopie. Le 29 juin 2020, Haacaaluu Hundeessa, musicien oromo et militant social, a été tué par balle à Addis-Abeba. Après sa mort, certaines parties de l'Éthiopie ont été englouties par protestations, troubles et violences. Depuis lors, [plus de 160 personnes](https://addisstandard.com/in-depth-analysis-spate-of-targeted-attacks-excessive-use-of-force-by-security-in-oromia-leave- death-trails-destruction/) ont été tués. La fermeture d'Internet ordonnée par l'État a occulté toute violation des droits humains perpétrés par les autorités gouvernementales et d'autres, et ont empêché le signalement et la documentation.

Les problèmes hors ligne qui ont secoué le pays sont entièrement visibles sur l'espace en ligne. Les acteurs qui incitent à la violence hors ligne incitent également à la violence et propagent la haine dans le pays en ligne. Le contenu partagé en ligne sous forme de texte, de diffusion en direct et d'autres formats appelait à la violence, à la discrimination et à la destruction des biens de différents groupes ethniques. Ce n'est pas la première fois que cela se produit; les incidents précédents ont conduit à situations similaires.

Nous comprenons que l'incitation à la violence est un problème complexe où l'action gouvernementale – ou son absence – joue un rôle clé dans sa matérialisation. Les entreprises, y compris celles qui fournissent et gèrent une plate-forme de communication, ont la responsabilité, en vertu du droit des droits de l'homme, de "prévenir ou d'atténuer les impacts négatifs sur les droits de l'homme qui sont directement liés à leurs […]… services" et ont l'obligation de " [remédier] à tout impact négatif sur les droits de l'homme qu'ils causent ou auquel ils contribuent. » Jusqu'à présent, Facebook n'a pas réussi à empêcher l'escalade des l'incitation à la violence sur ses services, et notamment en Éthiopie.

Ce n'est pas la première fois que Facebook néglige sa responsabilité de respecter les droits de l'homme ou d'offrir une réparation aux abus dans la mesure où il y a contribué, en Éthiopie ou dans d'autres parties du monde. Par exemple, selon la Mission internationale indépendante d'enquête sur le Myanmar, Facebook a été utilisé pour faire campagne contre et propager le sentiment musulman anti-Rohingya, et l'entreprise a admis que "[it] n'en faisait pas assez pour aider à empêcher que [la] plate-forme ne soit utilisée pour fomenter la division et inciter à la violence hors ligne », spécifiquement contre les musulmans Rohingyas. Cette inaction et ses effets sont encore évidents au Myanmar et là où résident les réfugiés rohingyas.

En tant qu'organisations de défense des droits humains, journalistes et militants, nous constatons l'impact négatif que le contenu de Facebook qui incite à la violence a sur les communautés que nous servons. Ce contenu peut conduire à la violence physique et à d'autres actes d'hostilité et de discrimination à l'encontre des groupes minoritaires. Basé sur le droit international des droits de l'homme, un contenu qui respecte [le seuil d'incitation à la violence, à l'hostilité et à la discrimination](https://www.article19.org/resources/article-19-welcomes-rabat-plan-action-prohibition-incitement -appels-pleine-mise en œuvre/) n'appartient pas au champ de protection du droit à la liberté d'expression. Malgré le risque réel qu'il comporte pour les groupes minoritaires et d'autres en Éthiopie, ce contenu reste en ligne et visible sur la plateforme.

Des individus, des organisations et des communautés concernés ont averti Facebook et d'autres plateformes de médias sociaux à plusieurs reprises, en privé et en public, de l'imminence de l'escalade à laquelle nous assistons actuellement. David Kaye, l'ancien rapporteur spécial des Nations unies sur la liberté d'expression, lors de sa dernière visite en Éthiopie, a appelé les plateformes de médias sociaux, y compris Facebook, à dialoguer régulièrement avec les autorités éthiopiennes et la société civile. Plus précisément, il a demandé qu'« au minimum, les [plateformes de médias sociaux] [établissent des mécanismes de réaction réguliers et rapides pour permettre à la société civile de signaler](https://www.ohchr.org/EN/NewsEvents/Pages/DisplayNews .aspx?NewsID=25402&LangID=E) les types de contenu les plus inquiétants sur leurs plateformes. »

Nous appelons Facebook à traiter en priorité l'incitation à la violence en Éthiopie et à prendre ces mesures d'atténuation immédiates et à long terme :

Actions immédiates :

  • ** Rendre les rapports de contenu sur les services Facebook entièrement disponibles en langues Afaan Oromo et Tigrinya (il est déjà disponible en ahmarique et en anglais). **
  • Ne pas autoriser l'amplification de contenus incitant à la violence et à la discrimination, que ce soit par des systèmes de recommandation de contenu en place ou à la suite de pratiques publicitaires ciblées.
  • Envisagez des modifications transparentes et temporaires pour limiter les fonctionnalités de partage massif dans des cas spécifiques où il existe un risque imminent d'atteinte aux droits de l'homme. De plus, ajoutez des modifications spécifiques, transparentes et temporaires aux interfaces utilisateur pour ajouter des balises au contenu qui aident les utilisateurs contextualiser les informations.
  • Préservez le contenu restreint que Facebook rend indisponible qui incite à la violence et à la discrimination, car il pourrait servir de preuve aux victimes et aux organisations cherchant à tenir les auteurs responsables. Veiller à ce que ledit contenu soit mis à la disposition des victimes, des organisations et des autorités judiciaires internationales et nationales sans retard indu.
  • ** Informez les utilisateurs éthiopiens des mécanismes de signalement et des règles ou directives pertinentes de la plate-forme. ** Le signalement de l'incitation à la violence doit être simple et intuitif. Facebook peut y parvenir, entre autres, en ajustant ses interfaces utilisateur, en épinglant des annonces de fil d'actualité, etc. Facebook devrait investir dans la publicité, même dans les médias traditionnels, pour s'assurer que les utilisateurs connaissent ces mécanismes et sont capables de les utiliser. .
  • Mettre en place des systèmes d'alerte précoce pour l'escalade d'urgence qui aideront à détecter les atteintes imminentes à la sécurité physique des individus. Facebook devrait développer des systèmes d'alerte précoce en étroite coopération avec toutes les parties prenantes concernées opérant au niveau local en Éthiopie, y compris les organisations de la société civile et les experts des droits de l'homme. Facebook devrait veiller à ce que ces systèmes permettent à des partenaires nationaux de confiance d'évaluer régulièrement leurs performances.

** Efforts d'atténuation essentiels à long terme : **

  • Ajouter des ressources importantes aux efforts de modération de contenu respectueux des droits. Facebook doit veiller à recruter un nombre suffisant d'examinateurs de contenu possédant les compétences requises dans toutes les langues parlées en Éthiopie. Les examinateurs de contenu en langue locale doivent également démontrer une compréhension suffisante du contexte national politique, social, historique et culturel du pays. Le ratio de modérateurs de Facebook doit correspondre de manière adéquate au nombre d'utilisateurs de Facebook en Éthiopie. Des sources estiment que les publicités Facebook peuvent atteindre jusqu'à 6 à 7 millions d'utilisateurs en Éthiopie.
  • Les activités de modération de contenu concernant l'Éthiopie doivent être coordonnées par des personnes qui comprennent le contexte local dynamique, et elles doivent être capables de se coordonner localement. Ces personnes doivent avoir la capacité d'identifier et d'évaluer de manière appropriée les appels à la violence et doivent être en mesure de prendre les mesures nécessaires pour atténuer les dommages.
  • Appliquez des initiatives de transparence significatives et solides sur les politiques, les normes et les pratiques pour l'identification, la suppression ou d'autres restrictions du contenu en ligne qui incite à la violence, propage la haine et la discrimination conformément aux lois sur les droits de l'homme. Ces données doivent être rendues publiques sur une base régulière et, au minimum, doivent contenir les informations suivantes : nombre et type de violation de contenu, nombre de plaintes reçues et temps de réponse moyen, et nombre de suppressions de contenu ainsi que pages et comptes désactivés.
  • Faciliter l'accès à Internet pour les partenaires de confiance lors de toute coupure d'Internet. Les partenaires de confiance ne peuvent pas collaborer avec Facebook pour signaler du contenu s'ils sont délibérément coupés de la plate-forme ou d'Internet. Même si la majorité des Éthiopiens n'ont pas accès à Internet, la diaspora peut toujours propager des contenus incitant à la violence.
  • Soutenez activement et aidez à développer des initiatives qui promeuvent les droits de l'homme, la tolérance, la diversité et l'égalité pour tous en Éthiopie. Participez aux efforts de promotion de l'éducation aux médias et aidez les utilisateurs à distinguer les sources d'information crédibles de la propagande et de la désinformation. Ce faisant, développez une coopération solide et continue avec des partenaires de confiance, des organisations médiatiques indépendantes, des individus et des signaleurs sur le terrain, en particulier lorsque des questions d'intérêt public le plus élevé sont en jeu ou si les activités sont susceptibles d'aggraver la violence.
  • Coordonner les efforts des bureaux et du personnel mondiaux, régionaux et locaux pour fournir une prise de décision opportune et cohérente, dirigée par des spécialistes des droits de l'homme qui connaissent bien le contexte dynamique en Éthiopie. Il existe des écarts évidents entre l'Afrique Les responsables du programme politique qui s'engagent avec des partenaires de confiance, la société civile en Éthiopie et l'équipe Facebook qui gère les questions de politique publique. Mais l'implication d'experts spécialisés dans les questions de droits de l'homme devrait être une priorité, avec une portée interfonctionnelle vers les équipes produit, ingénierie, marketing, urgences, élections et autres si nécessaire.
  • Enfin, nous appelons Facebook et les autres plates-formes de médias sociaux dominantes, y compris les services de messagerie privée, à mener des évaluations approfondies de l'impact sur les droits de l'homme de leurs produits, politiques et opérations, en fonction du contexte national, avant qu'ils n'entrent dans toute nouvelle marché. Ces évaluations doivent être accessibles au public et traduites dans les langues locales pertinentes. Ceci est particulièrement important pour les régions du monde qui souffrent de tensions ethniques, religieuses, politiques ou autres tensions sociales volatiles. Les acteurs privés devraient utiliser des mesures pour réduire les risques autant que possible.

Ces demandes n'empêchent pas Facebook d'autres efforts pour aider à mettre fin à l'incitation à la violence en Éthiopie. Nous proposons un premier ensemble de mesures attendues depuis longtemps et qui doivent être mises en œuvre de toute urgence.

Lire la source

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd