Incidents associés
Les preuves de violations potentielles des droits de l’homme peuvent être perdues après avoir été supprimées par des entreprises technologiques, a découvert la BBC.
Les plateformes suppriment les vidéos graphiques, souvent en utilisant l’intelligence artificielle – mais les images susceptibles de faciliter les poursuites peuvent être supprimées sans être archivées.
Meta et YouTube déclarent vouloir équilibrer leurs devoirs de témoignage et de protection des utilisateurs contre les contenus préjudiciables.
Mais Alan Rusbridger, qui siège au conseil de surveillance de Meta, affirme que l'industrie a été « trop prudente » dans sa modération.
Les plateformes affirment qu'elles bénéficient d'exemptions pour le matériel graphique lorsque cela est dans l'intérêt public – mais lorsque la BBC a tenté de mettre en ligne des images documentant des attaques contre des civils en Ukraine, elles ont été rapidement supprimées.
L'intelligence artificielle (IA) peut supprimer les contenus préjudiciables et illégaux à grande échelle. Cependant, lorsqu’il s’agit de modérer les images violentes des guerres, les machines manquent de nuances pour identifier les violations des droits humains.
Ihor Zakharenko, ancien journaliste voyageur, a été confronté à ce phénomène en Ukraine. Depuis l’invasion russe, il documente les attaques contre les civils.
La BBC l'a rencontré dans une banlieue de Kiev où, il y a un an, des hommes, des femmes et des enfants avaient été abattus par les troupes russes alors qu'ils tentaient de fuir l'occupation.
Il a filmé les corps - au moins 17 d'entre eux - et les voitures incendiées.
Il voulait publier les vidéos en ligne pour que le monde puisse voir ce qui s'était passé et pour contrer le discours du Kremlin. Mais lorsqu’il les a téléchargés sur Facebook et Instagram, ils ont été rapidement supprimés.
« Les Russes eux-mêmes disaient que c'étaient des faux, qu'ils ne touchaient pas aux civils, qu'ils combattaient uniquement avec l'armée ukrainienne », a déclaré Ihor.
Nous avons téléchargé les images d'Ihor sur Instagram et YouTube en utilisant des comptes factices.
Instagram a supprimé trois des quatre vidéos en une minute.
Au début, YouTube a appliqué des restrictions d'âge à ces trois mêmes, mais 10 minutes plus tard, elles les ont toutes supprimées.
Des vidéos documentant les attaques russes contre des civils ont été supprimées en quelques minutes
Nous avons réessayé, mais le téléchargement a échoué. Un appel visant à restaurer les vidéos au motif qu'elles contenaient des preuves de crimes de guerre a été rejeté.
Des personnalités clés du secteur affirment qu’il est urgent que les sociétés de médias sociaux empêchent la disparition de ce type d’informations.
"Vous pouvez comprendre pourquoi ils ont développé et entraîné leurs machines pour les démonter dès qu'ils voient quelque chose qui semble difficile ou traumatisant", a déclaré M. Rusbridger à la BBC. Le Meta Oversight Board, auquel il siège, a été créé par Mark Zuckerberg et est connu comme une sorte de « cour suprême » indépendante de l'entreprise, propriétaire de Facebook et d'Instagram.
"Je pense que la prochaine question qui se pose à eux est de savoir comment développer les machines, qu'elles soient humaines ou IA, pour ensuite prendre des décisions plus raisonnables", ajoute M. Rusbridger, ancien rédacteur en chef du Guardian.
Personne ne nierait aux entreprises technologiques le droit de contrôler le contenu, déclare Beth Van Schaak, ambassadrice américaine pour la justice pénale mondiale : « Je pense que le problème se pose lorsque ces informations disparaissent soudainement. »
Les atrocités causées par la guerre sont documentées sur les réseaux sociaux. Ce matériel peut être utilisé comme preuve pour aider à poursuivre les crimes de guerre. Mais la BBC a parlé à des personnes touchées par des conflits violents qui ont vu les principales sociétés de médias sociaux supprimer ce contenu.
YouTube et Meta affirment qu'en vertu de leurs exemptions pour les images de guerre graphiques dans l'intérêt public, le contenu qui serait normalement supprimé peut être maintenu en ligne et son visionnage est réservé aux adultes. Mais notre expérience avec les vidéos d'Ihor suggère le contraire.
Meta déclare répondre « aux demandes juridiques valides des organismes chargés de l'application des lois du monde entier » et « nous continuons d'explorer de nouvelles voies pour soutenir les processus internationaux de responsabilisation… conformément à nos obligations juridiques et de confidentialité ».
YouTube affirme que même si elle prévoit des exemptions pour le contenu graphique dans l'intérêt public, la plateforme n'est pas une archive. Il déclare : « Les organisations de défense des droits de l'homme, les militants, les défenseurs des droits de l'homme, les chercheurs, les journalistes citoyens et autres personnes qui documentent les violations des droits de l'homme (ou d'autres crimes potentiels) devraient observer les meilleures pratiques pour sécuriser et préserver leur contenu. »
La BBC s'est également entretenue avec Imad, propriétaire d'une pharmacie à Alep, en Syrie, jusqu'à ce qu'un baril explosif du gouvernement syrien atterrisse à proximité en 2013.
Il se souvient de la façon dont l'explosion a rempli la pièce de poussière et de fumée. Entendant des appels à l'aide, il s'est rendu au marché à l'extérieur et a vu des mains, des jambes et des cadavres couverts de sang.
Les équipes de télévision locales ont filmé ces scènes. Les images ont été publiées sur YouTube et Facebook, mais ont ensuite été supprimées.
Dans le chaos du conflit, des journalistes syriens ont déclaré à la BBC que leurs propres enregistrements des images originales avaient également été détruits lors de bombardements.
Des années plus tard, alors qu'Imad demandait l'asile dans l'UE, on lui a demandé de fournir des documents prouvant sa présence sur les lieux.
"J'étais sûr que ma pharmacie était filmée. Mais lorsque je me suis connecté, cela m'a amené à une vidéo supprimée."
En réponse à ce type d'incident, des organisations comme Mnemonic, une organisation de défense des droits humains basée à Berlin, sont intervenues pour archiver les images avant qu'elles ne disparaissent.
Mnemonic a développé un outil permettant de télécharger et de sauvegarder automatiquement les preuves de violations des droits humains – d'abord en Syrie et maintenant au Yémen, au Soudan et en Ukraine.
Ils ont sauvegardé plus de 700 000 images de zones de guerre avant qu'elles ne soient supprimées des réseaux sociaux, dont trois vidéos montrant l'attaque près de la pharmacie d'Imad.
Chaque image peut contenir un indice clé pour découvrir ce qui s'est réellement passé sur le champ de bataille : le lieu, la date ou l'auteur du crime.
Mais des organisations comme Mnemonic ne peuvent pas couvrir toutes les zones de conflit dans le monde.
Prouver que des crimes de guerre ont été commis est incroyablement difficile – il est donc vital d’obtenir autant de sources que possible.
"La vérification, c'est comme résoudre un casse-tête : vous rassemblez des éléments d'information apparemment sans rapport pour dresser un tableau plus large de ce qui s'est passé", explique Olga Robinson de BBC Verify.
La tâche d'archiver les documents open source - accessibles à presque tous sur les réseaux sociaux - incombe souvent à des personnes ayant pour mission d'aider leurs proches pris dans un conflit violent.
Rahwa dit qu'il est de son « devoir » d'archiver les documents open source du conflit dans la région du Tigré en Éthiopie
Rahwa vit aux États-Unis et a de la famille dans la région du Tigré en Éthiopie, qui a été en proie à la violence ces dernières années et où les autorités éthiopiennes contrôlent étroitement le flux d'informations.
Cependant, les médias sociaux permettent de conserver une trace visuelle d’un conflit qui autrement pourrait rester caché au monde extérieur.
"C'était notre devoir", explique Rahwa. "J'ai passé des heures à faire des recherches, et donc quand vous voyez ce contenu affluer, vous essayez de le vérifier en utilisant tous les outils de renseignement open source sur lesquels vous pouvez mettre la main, mais vous ne savez pas si votre famille va bien. ".
Les militants des droits de l'homme affirment qu'il est urgent de mettre en place un système formel permettant de collecter et de stocker en toute sécurité les contenus supprimés. Cela impliquerait de préserver les métadonnées pour aider à vérifier le contenu et prouver qu'il n'a pas été falsifié.
Mme Van Schaak, ambassadrice des États-Unis pour la justice pénale mondiale, a déclaré : « Nous devons créer un mécanisme permettant de préserver ces informations en vue d'éventuels futurs exercices de responsabilisation. Les plateformes de médias sociaux devraient être disposées à conclure des accords avec des mécanismes de responsabilisation dans le monde entier. »
Reportage supplémentaire de Hannah Gelbart et Ziad Al-Qattan