Incidents associés
Quelque chose d'aussi simple que de changer la police d'un message ou de recadrer une image peut suffire à contourner les défenses de Facebook contre les canulars et les mensonges.
Une nouvelle analyse du groupe de défense international Avaaz met en lumière pourquoi, malgré les efforts du géant de la technologie pour éradiquer la désinformation sur la pandémie de coronavirus et les élections américaines, il est si difficile d'empêcher les mauvais acteurs de propager ces mensonges.
"Nous les avons trouvés contournant les politiques de Facebook en modifiant un peu la désinformation, et cela devenait toujours viral", a déclaré Fadi Quran, directeur de campagne chez Avaaz. Facebook s'appuie à la fois sur des critiques humains et sur l'intelligence artificielle pour détecter les publications qui enfreignent ses règles. . Mais l'analyse d'Avaaz suggère que le net a des trous à travers lesquels prolifèrent de fausses déclarations.
Dans un exemple trouvé par le groupe, les utilisateurs ont partagé une capture d'écran d'un tweet affirmant, à tort, que le président Trump avait été délibérément infecté par le COVID-19 par "la gauche". Facebook a superposé une étiquette d'avertissement sur certaines versions de la publication, affirmant que des vérificateurs de faits indépendants avaient déterminé qu'il s'agissait de "fausses informations" et renvoyant à un article de USA Today démystifiant l'affirmation. Mais Facebook n'a pas appliqué la même étiquette aux versions du message qui étaient presque identiques, sauf avec des origines ou des cultures différentes.
Facebook a étiqueté ce message comme contenant "des informations partiellement fausses".
Un mème affirmant que les bulletins de vote par correspondance ont besoin de deux timbres a été étiqueté "partiellement faux". Mais Facebook n'a pas étiqueté les autres versions du même message - les versions dans lesquelles l'utilisateur avait changé la police ou la couleur d'arrière-plan, ou écrit le texte du mème au lieu de le publier sous forme d'image. L'un de ces messages sans étiquette a été partagé 20 000 fois.
Des messages similaires que Facebook n'a pas étiquetés "informations partiellement fausses".
Avaaz a trouvé des schémas similaires avec des messages couvrant une gamme de mensonges. Certains voulaient dénigrer l'ancien vice-président Joe Biden ; d'autres pour lier le président Trump aux suprématistes blancs ; et d'autres encore ont promu un faux remède contre le coronavirus, là où il n'en existe pas.
Facebook a déclaré à NPR que les conclusions d'Avaaz "ne reflètent pas avec précision les actions que nous avons prises". Il a déclaré avoir pris des mesures coercitives contre la majorité des pages et des groupes identifiés par Avaaz, tels que la réduction de la distribution de leurs publications, la non-recommandation aux utilisateurs de les rejoindre et leur interdire de monétiser ou de faire de la publicité. Facebook impose de telles sanctions aux pages qui partagent à plusieurs reprises de fausses informations.
Facebook a des politiques contre la publication de fausses informations et a réprimé cette année les canulars et les fausses déclarations concernant COVID-19 et le vote, au milieu des inquiétudes croissantes concernant les dommages réels qui peuvent découler de la diffusion de ces messages sur les réseaux sociaux.
La société s'appuie sur des vérificateurs de faits indépendants, notamment PolitiFact, Reuters et l'AP, pour évaluer l'exactitude des affirmations. Si les vérificateurs des faits trouvent des informations erronées, Facebook appose une étiquette d'avertissement sur la publication, alerte les utilisateurs avant de la partager et avertit les personnes qui l'ont déjà partagée.
Cela réduit également la distribution de la publication, par exemple en ne l'affichant pas en haut du fil d'actualité d'un utilisateur. L'entreprise affirme qu'elle utilise l'intelligence artificielle pour détecter les copies d'informations erronées qu'elle a identifiées et leur appliquer également des étiquettes. Entre mars et septembre de cette année, a-t-il déclaré, il a appliqué des étiquettes d'avertissement à plus de 150 millions de contenus qui ont été démystifiés par des vérificateurs de faits.
"Nous restons la seule entreprise à s'associer à plus de 70 organisations de vérification des faits, en utilisant l'IA pour étendre leurs vérifications des faits à des millions de publications en double, et nous travaillons pour améliorer notre capacité à agir sur des publications similaires", a déclaré Facebook.
Facebook n'a pas étiqueté 42% des messages avec des revendications démystifiées
Mais Avaaz a bien trouvé le jeu du chat et de la souris. Le groupe a examiné 1 776 messages – principalement des mèmes, des photos et des mises à jour de statut – que les partenaires indépendants de vérification des faits de Facebook avaient trouvé faux ou trompeurs, entre octobre 2019 et début août 2020.
Parmi ces messages, 738, soit près de 42%, n'étaient pas étiquetés, même s'ils contenaient des allégations qui avaient été démystifiées. En utilisant les données de CrowdTangle, un outil de recherche appartenant à Facebook, Avaaz a estimé que les publications non étiquetées trouvées avaient été vues 142 millions de fois et avaient suscité 5,6 millions de réactions telles que des likes, des commentaires ou des partages.
Êtes-vous tombé pour un canular de coronavirus? Facebook vous le fera savoir
LA CRISE DU CORONAVIRUS
Il semble qu'il y ait des efforts orchestrés pour répandre bon nombre de ces mensonges. Avaaz a identifié 119 pages sur lesquelles des informations erronées avaient été publiées au moins trois fois au cours de l'année écoulée. Parmi celles-ci, 46 pages avaient partagé des versions non étiquetées de publications que les vérificateurs des faits avaient jugées fausses.
Quran a déclaré que la société n'attraperait peut-être pas tous ces récidivistes si elle n'étiquetait pas systématiquement le contenu fact-checké.
"Une fois qu'ils voient une information erronée qui touche une corde sensible aux États-Unis et devient virale, même lorsqu'elle est signalée par Facebook, ces pages la prennent, la retournent, la modifient un peu, puis contournent le système de Facebook", a déclaré Quran. . "[Ils] continuent à développer leur réseau et à toucher de plus en plus de personnes et à amplifier ces mensonges, sans être arrêtés par la plateforme."