Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Problème 2001

Incidents associés

Incident 3246 Rapports
GAN Faces Deployed by The BL's Fake Account Network to Push Pro-Trump Content on Meta Platforms

Loading...
Comment un réseau pro-Trump construit un faux empire sur Facebook et s'en tire
snopes.com · 2019

Le mois dernier, Snopes exposed un média nommé The BL - abréviation de "The Beauté de la vie "- comme étant directement lié à la [controversée] (https://www.nbcnews.com/tech/tech-news/trump-qanon-impending-judgment-day-behind-facebook-fueled-rise-epoch -n1044121) Journal lié au Falun Gong The Epoch Times. The Epoch Times, qui a efficacement servi comme un bras de la campagne de Donald Trump depuis 2016, a été interdit d'acheter des publicités Facebook depuis août 2019 à la suite de violations de la politique publicitaire de la plateforme. Les pages du BL ont également cessé de diffuser des publicités. Malgré nos reportages qui liaient les deux organisations, qui incluaient comme un seul élément de preuve une vidéo YouTube du bureau exact répertorié comme le centre d'opérations de The BL dans lequel deux personnes qui ont écrit pour Epoch Times sont présentées, The BL continue de nier tout lien que ce soit. Après la publication initiale de cette histoire, l'éditeur d'Epoch Times, Stephen Gregory, a contesté notre caractérisation des liens entre The BL et The Epoch Times, nous disant qu'"aucun membre actuel du personnel d'Epoch Times ne travaille pour le BL, et Epoch Times n'a aucune affiliation commerciale ou communication d'entreprise". avec le BL. Dans cette enquête, nous signalons que la marque de tromperie aléatoire du BL ne se limite pas à ses liens non divulgués avec des entreprises de médias existantes. Au lieu de cela, son empire Facebook semble être construit sur des tactiques sans ambiguïté non authentiques ou frauduleuses, y compris la création massive de faux profils Facebook américains et la création de faux groupes « pro-Amérique » – qui sont tous gérés par The BL sans divulgation, et de nombreux qui ont leurs origines au Vietnam ou dans d'autres pays étrangers. Ces activités, nous le montrons, font partie d'une stratégie coordonnée qui sert à amplifier la portée du propre contenu de The BL et à gonfler la taille perçue de son audience, tout en évitant les règles pesantes associées à la publicité. L'une des pierres angulaires de la stratégie Facebook d'Epoch Times et de The BL avait été d'acheter un nombre considérable de publicités Facebook qui faisaient ostensiblement la promotion de leurs organisations, mais qui étaient en grande partie indiscernables des publicités de la campagne Trump. Notre rapport précédent a montré qu'au moins 1 929 publicités créées par The BL, représentant environ un demi-million de dollars en argent versé à Facebook, ont été supprimées pour avoir enfreint les politiques publicitaires de Facebook. La combinaison de violations de la politique publicitaire et d'un comportement clairement inauthentique - en plus de la réticence de The BL à admettre son lien avec Epoch Times - soulève une question sérieuse : que faut-il pour que Facebook considère une « entreprise de médias » comme un mauvais acteur sur son Plate-forme? Nous avons contacté Facebook avec une liste détaillée de questions concernant The BL et ses tactiques. Un porte-parole de Facebook n'a répondu à aucune de ces questions, nous disant à la place : "Nous examinons ces informations et, comme toujours, nous prendrons des mesures si nous découvrons une activité en infraction." Le M.O. du BL : groupes vagues et faux administrateurs ----------------------------------------- ---------- Dans notre histoire originale, nous avons rapporté que les pages Facebook de The BL, ainsi que les comptes liés aux membres du personnel de The BL, semblaient prendre le contrôle et/ou créer plusieurs pages et groupes sans lien évident avec The BL, prenant le contrôle de leurs abonnés et, dans certains cas ajouter des liens vers un site Web de BL. D'autres [rapports] (https://www.secjuice.com/misinformation-coordinated-inauthentic-behavior/?fbclid=IwAR2-tREFfmQxk8hf2oAyTqYjc8ajdSoaVLTfBOla5eNfzSh5Dgre0_kfwMU) de Sarah Thompson, chercheuse et blogueuse sur l'influence des médias sociaux, ont confirmé de manière indépendante cette pratique répandue en novembre 1er 2019, publication sur le site Web SecJuice, documentant "275 profils… utilisés pour spammer le contenu de [The BL] et l'administration de leurs groupes". Ici, nous décrivons notre identification de plus de 300 faux comptes Facebook personnels, dont beaucoup exécutent – ou ont exécuté – ces groupes ou pages liés à BL et répertorions ces comptes, et dont la plupart semblent avoir été créés entre juin 2019 et octobre 2019. : Base de données : Fake Facebook Profiles Tied to The BL Les groupes "administrés" par ces faux profils semblent destinés à attirer des Américains conservateurs qui seraient réceptifs à la stratégie éditoriale explicitement pro-Trump de The BL. Ceux qui dirigent les groupes emploient des tactiques qui cherchent à accroître l'engagement sur leurs pages. Par exemple, de nombreuses pages ont une publication épinglée avec une photo d'Ivanka Trump ou d'autres personnalités de Trump et une exhortation à taper le mot "beau" en dessous, ce qui améliore le nombre d'engagements pour le groupe. Les noms des groupes représentatifs incluent "Make America Great Again - PRESIDENT TRUMP" ; "PRÉSIDENT TRUMP MAGA #2020" ; "Soutenez le président Trump KAG 2020" ; « Les États-Unis pour le président Trump 2020 » ; et "NOUS SOUTENONS LE PRÉSIDENT TRUMP #KAG 2020." Quel que soit le nom du groupe, cependant, le contenu est le même : des mèmes pro-Trump et des liens vers TheBL.com. En suivant les groupes liés aux pages officielles de BL, en suivant les administrateurs partagés entre plusieurs groupes liés à BL et en utilisant l'algorithme de groupes recommandés de Facebook, nous avons maintenant identifié au moins 102 groupes liés à The BL. Ici, nous présentons ces groupes et les pages associées : Base de données : Groupes et pages liés au BL Le modus operandi du BL semble ressembler à ceci : créez un groupe en utilisant l'un des plus de 300 faux comptes ou plus de 73 pages à la disposition du BL et remplissez-le avec un grand nombre de faux profils de BL. Les opérateurs du programme déplacent ensuite ce groupe autour du réseau BL, l'associant parfois à d'autres pages officielles BL afin d'attirer de nouveaux membres. La page Facebook des meilleures vidéos de BL, par exemple, a servi d'administrateur dans au moins 25 groupes Facebook pro-Trump, aux côtés d'autres employés de BL qui agissent également en tant qu'administrateurs. En fin de compte, le jeu de la croissance du groupe est celui de l'attrition. Tous les groupes ne prospèrent pas, mais ceux qui le font sont généralement coupés de tout lien évident avec The BL – laissés à errer librement dans un désert pollué par les mèmes tout en servant d'antenne de diffusion pour The BL, leur contenu, invite à inscrivez-vous pour recevoir des alertes par SMS et leur agenda politique. Pour nourrir le besoin insatiable de groupes de The BL, et probablement pour rendre un peu plus difficile pour Facebook de détecter la coordination, The BL a besoin de ce qui semble être de véritables humains uniques pour administrer ces groupes. Confronté peut-être à une pénurie d'humains réels intéressés par ce rôle, The BL semble avoir adopté plusieurs stratégies pour créer de faux profils. Les stratégies de la BL à cet égard ne semblent ni subtiles ni clairement réfléchies. Les principales approches semblent inclure soit l'acquisition et la conversion de comptes étrangers disparus et/ou l'utilisation de photos d'archives de célébrités pour créer des profils d'Américains. Le guide BL pour créer de faux profils Facebook facilement détectables ---------------------------------------- ----------------------- À faire : utiliser des profils étrangers réutilisés Comme indiqué dans nos rapports précédents, la BL a [une myriade de liens] (https : //www.snopes.com/news/2019/10/11/pro-trump-outlet-linked-epoch-times/) aux branches vietnamiennes de l'empire médiatique du Falun Gong, un groupe diffus d'entités liées qui comprend The Epoch Times . Le fondateur et directeur du BL, Trung Vu, était autrefois le PDG de l'édition vietnamienne d'Epoch Times et a ensuite travaillé pour NTD TV, une autre propriété associée au Falun Gong. L'un des nombreux éléments reliant The BL à Epoch Times est le fait qu'un serveur IP utilisé par The BL est en fait enregistré auprès d'Epoch Times Vietnam. Cette influence vietnamienne se retrouve également dans de nombreux faux profils contrôlés par The BL. Nous soupçonnons qu'au moins certains de ces profils proviennent de l'achat ou de l'acquisition de pages existantes au Vietnam qui sont ensuite modifiées pour devenir les profils de faux Américains. De nombreux profils qui ont maintenant des noms à consonance américaine ont comme URL de profil des noms d'apparence vietnamienne totalement indépendants. Un profil Facebook actuellement nommé "Robert Henry" a "duc.liem.77" comme nom contenu dans l'URL, probablement une référence au nom réel utilisé lors de la création du compte. Un profil nommé "Madison Elijah", comme autre exemple, semble avoir appartenu à quelqu'un du nom de Parmar Jayanti. Un [profil] (http://archive.is/a03KH) pour "James Roscoe", qui répertorie toujours comme ses intérêts principalement des éléments spécifiques au Vietnam, porte le nom "luc.van.18294053" dans son URL. Faire : utiliser (et réutiliser) des images d'archives En parlant de James Roscoe, cette photo de profil est une image d'archives du site Web de photos gratuites Unsplash.com (un [thème récurrent](http://secjuice.com/misinformation- coordonné-inauthentique-comportement/?fbclid=IwAR2-tREFfmQxk8hf2oAyTqYjc8ajdSoaVLTfBOla5eNfzSh5Dgre0_kfwMU ) dans de nombreux faux profils est l'utilisation répétée de photographies trouvées sur ce site Web). Parfois, les opérateurs de The BL semblent utiliser la même photo pour différents profils Facebook avec des noms différents. Le faux visage de Roscoe est également utilisé pour un autre faux profil BL, celui-ci portant le nom de "James Anderson": Dans un autre exemple, le prétendu résident de Los Angeles "David Strong" et le prétendu vrai humain "Anthony Vu" utilisent tous les deux le même [stock photo](https://www.google.com/search?sxsrf=ACYBGNTh8yFODV_gcWFgbWJCOLgVqAZMTw:1573158248207&q=ear+monitor+worn&tbm=isch&tbs=simg:CAQSmQEJYQeGFqyiGsEajQELEKjU2AQaBggXCD0IQgwLELCMpwgaYgpgCAMSKIMQ5xrYGtcashqEEIUQhhDTGtUayC7dOoIlxzrKOrEuoz_18JIclhiUaMP5PsImp04eWrJJ91UMYhC8cm6wVDrAKLQdYPGU_1dM6DBs643mhMVoG_11kSSVtcOJiAEDAsQjq7-CBoKCggIARIElalUFww&sa=X&ved=0ahUKEwj17LyU99jlAhUB7qwKHSQ5DmQQ2A4ILygB&biw=1253&bih=661&dpr=2#imgrc=kuG2IYkTFtm6CM :) comme photo de profil. Le profil de Vu, comme c'était le cas dans d'autres pages Facebook réutilisées décrites ci-dessus, conserve toujours des références à la culture populaire vietnamienne : À faire : utiliser des célébrités comme images de profil Bien que nous ne puissions penser à aucun avantage stratégique à utiliser des personnalités publiques facilement reconnaissables comme les photos de profil de ce qui est censé être de faux profils Facebook cachés, c'est une tactique que The BL a employée à plusieurs reprises. Les prétendus administrateurs de groupes liés à BL ont utilisé les images des acteurs Glenn Close, Helen Mirren et Julie Walters comme photos de leur profil Facebook, par exemple : les trois sosies présumés de célébrités, au moment de ce reportage, sont administrateurs de la BL- groupe lié "NOUS SOUTENONS LE PRÉSIDENT TRUMP # MAGA." entre autres : Ne pas : mettre trop de réflexion ou d'efforts dans les détails du profil Un nombre anormalement élevé de faux profils BL répertorie leurs emplacements comme des villes qui ressemblent à quelque chose d'un stagiaire affamé de café avec une connaissance limitée de United La géographie des États pourrait proposer : Texas City, Texas et California City, Californie, par exemple. Il s'agit bien de vraies villes, mais la concentration anormalement élevée de profils associés au BL dans ces zones peu peuplées est suspecte. Dans certains cas, d'autres détails sont encore plus difficiles à avaler. Prenez le profil photo susmentionné de James Anderson. Résident présumé de Texas City, Texas, il indique que son employeur est l'équipe de baseball des Texas Rangers, une organisation basée à Arlington [cinq heures](https://www.google.com/maps/dir/arlington+tx/texas+ city+texas/@31.0425937,-98.36201,7z/data=!3m1!4b1!4m13!4m12!1m5!1m1!1s0x864e62d2e40898d3:0xb5ef6ac1fa05351!2m2!1d-97.1080656!2d32.735687!1m5!1m1!1s0x863f7912a0edb117:0x862d9cbcadeeb4e1!2m2 !1d-94.9027002!2d29.383845 ) de Texas City, Texas. Un autre profil d'un résident présumé de Los Angeles nommé Anderson Charles répertorie l'équipe de basket-ball des Los Angeles Lakers la plus plausible géographiquement sur sa page Facebook "À propos". Malheureusement pour la crédibilité de ce profil, cependant, il répertorie les Lakers comme une école, pas comme un employeur : Le BL est-il réellement responsable de cette activité ? ------------------------------------------------- Alors que de nombreux administrateurs liés au BL de ces myriades de groupes pro-Trump proviennent des faux profils évoqués ci-dessus, ces groupes commencent souvent à être explicitement administrés par les profils réels de vrais membres du personnel de The BL. En suivant la formation et l'évolution de plusieurs groupes BL depuis leur création, nous avons observé un schéma récurrent. Les membres du personnel de BL en général, et l'animateur à la caméra de The BL, Matt Tullar en particulier, sont parfois parmi les premiers individus à rejoindre ces groupes après leur formation mais avant qu'ils ne soient remplis d'un flot de faux profils. Une fois que ces membres du personnel ont rejoint ces groupes, ils en deviennent souvent les administrateurs peu de temps après : Tullar, comme nous l'avons vu dans notre enquête précédente, répertorie son emploi actuel sur LinkedIn en tant que directeur des ventes et du marketing pour l'édition du comté d'Orange d'Epoch Times. Gregory, l'éditeur d'Epoch Times, nous a dit : « Tullar a cessé de travailler pour Epoch Times en octobre 2016. L'édition du comté d'Orange d'Epoch Times a fermé il y a des années. Il est maintenant une personnalité vidéo pour The BL. Ses vidéos, entre autres, épousent le changement climatique [denial](https://web.archive.org/web/20191108200245/https://thebl.com/video/climate-change-p2-lying-sincerely-with- science/), amplifient la rhétorique anti-vaccin et poussent les tropes racistes. Dans [une vidéo] (http://archive.ph/b6sv1), Tullar a fait valoir que Michael Brown, l'adolescent noir non armé dont la mort a déclenché des manifestations à l'échelle nationale, a été "probablement à juste titre abattu" par un policier de Ferguson. Tullar a décrit Brown comme un "jeune de 18 ans extrêmement agressif, 6 pieds 4 pouces et 295 livres". Dans cette même vidéo, il a suggéré dans un langage à peine voilé que les Noirs ont une propension plus élevée à la violence : "Nous ne sommes pas tous les mêmes et nous n'avons pas tous la même propension au comportement criminel", a soutenu Tullar, tout en discutant de "les Noirs". - sur le crime noir. En plus d'écrire et d'héberger ces vidéos, Tullar semble également faire partie intégrante du programme de création de groupe de The BL. À titre d'exemple récent, le profil de Tullar a été parmi les premiers à rejoindre une série de groupes créés le 13 octobre 2019 : "TRUMP TRAIN 2020 - 2024 ! ”; « PRÉSIDENT TRUMP 2020-2024 ! » ; « NOUS SOUTENONS LE PRÉSIDENT TRUMP #KAG 2020 » ; et "WE STAND WITH TRUMP & PENCE!" Tullar n'est pas le seul membre du personnel de BL qui semble être un membre fondateur de nombreux groupes liés à BL, Soit. Un compte Facebook portant le même nom que la rédactrice en chef de The BL, Orysia McCabe, apparaît également dans ces plusieurs de ces groupes directement après leur formation. Ce schéma récurrent - dans lequel un groupe est formé, suivi peu de temps après dans plusieurs cas par le personnel de BL le rejoignant et en devenant l'administrateur, puis le remplissant de faux profils - peut avoir plusieurs opérations sous-jacentes au processus. Celles-ci incluraient l'acquisition d'anciens profils Facebook, la création de faux profils et de groupes vagues, ainsi que la messagerie et la manipulation des médias sociaux au sein de ces groupes. Le BL lui-même est à court de [Middletown, New York] (https://www.snopes.com/news/2019/10/11/pro-trump-outlet-linked-epoch-times/) - l'emplacement que Tullar répertorie comme sa maison. Sur la base de certaines des gaffes géographiques ou orthographiques et des détails restants trouvés dans les faux profils ou noms de groupe, il semble que des parties de l'opération soient probablement basées à l'étranger. Récemment, nous avons envoyé un message à un profil associé à BL - qui a fait plusieurs apparitions dans plusieurs groupes et pages BL - pour demander de quelle région il provenait. Malgré un profil prétendant appartenir à un résident de l'Arizona, la personne qui exploite le profil a répondu que c'était en Inde : Plus tard, cet utilisateur nous a recontactés pour changer la réponse en Kenya : Il nous a alors dit qu'il avait cinq profils Facebook. L'un d'eux a déclaré qu'il vivait en Thaïlande. Facebook "prendra des mesures" s'il "trouve une activité non autorisée" ------------------------------------- ------------------------ Bien que Facebook n'ait pas répondu aux questions demandant s'il avait interdit à The BL d'acheter des publicités comme il l'a fait avec The Epoch Times, le La société de médias sociaux semble au moins tolérer l'activité de The BL sur Facebook en général. Les pages officielles de marque de la BL, par exemple, sont et restent vérifiées sur Facebook. Il est difficile de faire valoir un argument rationnel, cependant, que The BL et ses pratiques de médias sociaux sont conformes aux propres descriptions de Facebook des conditions de service. D'une part, un record sans ambiguïté des violations de Facebook - 1 929 d'entre elles - existe déjà. C'est le nombre de publicités BL, basées sur le propre outil de transparence des publicités de Facebook, qui ont fini par être supprimées pour avoir enfreint la politique publicitaire de Facebook. Loin d'être un média jouissant d'une excellente réputation sur Facebook, The BL est déjà - même sans référence à quoi que ce soit discuté dans notre enquête - un récidiviste littéral des politiques publicitaires de Facebook. Néanmoins, les violations de la publicité ne sont pas la seule règle de Facebook que le BL, en tant qu'organisation médiatique, viole. Peu importe comment vous l'examinez, The BL pratique ce que Facebook décrit comme un comportement inauthentique. Selon la communauté de Facebook directives, Facebook « n'autorise pas les gens à se présenter sous un faux jour sur Facebook, à utiliser de faux comptes, à augmenter artificiellement la popularité du contenu ou à adopter des comportements conçu pour permettre d'autres violations de nos normes communautaires. » Le BL est engagé dans chacun de ces comportements qui, selon Facebook, violent leurs directives. Le BL se déforme à bien des égards. Comme nos reportages précédents l'ont démontré, il dénature son indépendance par rapport à Epoch Times. Et comme le montre ce rapport, en ne divulguant pas que ces groupes de spam sont conçus pour profiter à un média, chacun des groupes nommés de manière générique par The BL est également une fausse déclaration. Cette fausse déclaration est rendue possible, en grande partie, par l'utilisation de faux comptes - une autre violation sans ambiguïté de Facebook. Enfin, la création constante de groupes dont le rôle est de spammer les membres avec du contenu spécifique à BL est une pratique conçue pour, comme le décrit Facebook, « augmenter artificiellement la popularité du contenu ». Le BL est loin d'être le premier point de vente à trouver des moyens de jouer à Facebook pour gonfler la popularité de son contenu. Facebook a récemment été critiqué lorsque le journaliste Judd Legum a démontré que The Daily Wire, un média conservateur fondé par Ben Shaprio qui se classe régulièrement comme le média le plus partagé sur la plateforme, avait créé [des pages non divulguées] (https://popular. info/p/facebook-allows-prominent-right-wing) dont l'objectif principal était de partager le contenu du Daily Wire. Facebook, dans cette affaire, n'a pris aucune mesure contre The Daily Wire. Il reste à voir quelle action, le cas échéant, Facebook prendra contre l'empire Facebook clairement inauthentique du BL. La suppression de faux profils, quelque chose qui semble s'être produite pendant la période où nous avons observé The BL, est moins qu'une tape sur le poignet pour un point de vente qui semble avoir un inventaire jetable de faux profils et la capacité d'en créer plus en quelques minutes si besoin est. Les groupes Facebook semblent également être un autre domaine délicat pour la réglementation de Facebook. D'après nos précédents rapports, Facebook semble moins désireux d'agir sur un groupe (par opposition à une page). Dans notre rapport initial sur The BL, nous avons identifié 69 pages Facebook, dont 22 avec de petits suivis ont ensuite été supprimées suite à notre publication. Inversement, notre rapport initial a identifié 91 groupes Facebook, mais les 91 groupes que nous avons identifiés dans ce rapport sont toujours actifs au moment de ce rapport. De même, une enquête distincte menée par Snopes en octobre 2019 identifié plusieurs pages "américaines" à court d'Ukraine . Facebook a supprimé les pages que nous avons identifiées, mais dans au moins un cas un groupe administré par l'une de ces pages supprimées reste en ligne. "Nous n'autorisons pas les publications partagées à partir d'autres pages ou groupes Facebook" ------------------------------------ ------------------------------ Pourtant, peut-être que Facebook fait obstacle à la stratégie de The BL. Le 6 novembre 2019, un profil Facebook avec le nom "Josephson Magnolia", peuplé d'une photo d'archive de Unsplash.com, [informé](http:/ /archive.is/1VYpV) membres du groupe BL-Linked "Trump For America's President" qui "en raison de l'escalade du contrôle des fausses nouvelles par Facebook [et] pour assurer le bon fonctionnement de notre groupe". les membres n'étaient pas autorisés à partager des publications d'autres pages Facebook, à l'exception de celles appartenant à The BL : d'autre part, contrôler les groupes Facebook qui ne partagent que des liens vers le contenu de The BL semble avoir été la vision de toute cette opération depuis le début.

Lire la source

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd