Incidents associés
Facebook vendredi supprimé ce qu'il a appelé un réseau mondial de plus de 900 comptes, pages et groupes de sa plateforme et d'Instagram qui auraient utilisé des pratiques trompeuses pour pousser les récits pro-Trump à environ 55 millions d'utilisateurs. Le réseau a utilisé de faux comptes, une amplification artificielle et, notamment, des photos de profil de faux visages générés à l'aide de l'intelligence artificielle pour diffuser du contenu polarisant, principalement de droite, sur le Web, y compris sur Twitter et YouTube.
Il représente un nouveau développement alarmant dans les guerres de l'information, car il semble être le premier déploiement à grande échelle d'images générées par l'IA dans un réseau social. Dans un rapport sur l'opération d'influence, des chercheurs des groupes de désinformation Graphika et DFRLab ont noté que c'était la première fois qu'ils avaient vu la technologie utilisée pour soutenir une campagne de médias sociaux inauthentique.
Les images ont été utilisées pour renforcer l'authenticité de certains des 610 comptes Facebook, 156 groupes, 89 pages et 72 comptes Instagram associés à "The BL", un média numérique qui se décrit comme une "pure source de montagne, humidifiant le cœur". de chaque lecteur » sur Facebook avant sa suppression. L'enquête de Facebook a relié The BL à The Epoch Times, une organisation médiatique conservatrice ayant des liens avec le groupe spirituel chinois Falun Gong et une [histoire de soutien agressif](https://www.nbcnews.com/tech/tech-news/trump-qanon -jugement-imminent-day-behind-facebook-fueled-rise-epoch-n1044121) pour Donald Trump.
Apparemment une organisation médiatique basée aux États-Unis, les pages du réseau BL étaient exploitées par des utilisateurs au Vietnam et aux États-Unis, qui, selon Facebook, utilisaient largement de faux comptes pour échapper à la détection et canaliser le trafic vers ses propres sites Web. Un rapport par des chercheurs de Graphika et DFRLab, a révélé que la majorité des faux comptes du réseau BL étaient utilisés pour maintenir un groupe de plus de 80 groupes et pages faisant la promotion du président Trump. Les comptes agissant en tant qu'administrateurs de ces pages - qui arboraient des noms tels que "L'Amérique a besoin du président Trump", "Trump pour le président américain" et "NOUS SOMMES AVEC TRUMP & PENCE!" - étaient principalement faux et créés au Vietnam.
"Les faux comptes ont servi d'administrateurs de groupes Facebook, augmenté le nombre de membres de ces groupes, aimé les publications sur les pages et publié de grandes quantités de contenu à partir d'actifs liés à TheBL", note le rapport. "Cette structure constituait une usine d'amplification artificielle à grande échelle dont la seule fonction observable était de booster le contenu de TheBL et, dans une moindre mesure, d'Epoch Times."
Beaucoup de ces comptes utilisaient des images de profil qui, selon les chercheurs, semblaient avoir été créées à l'aide de réseaux neuronaux formés sur des images de vrais visages humains pour créer des photos de personnes qui n'existaient pas réellement. Des chercheurs de Graphika et de DFRLab ont trouvé 18 images de visages dans des photos de profil utilisées par le réseau BL qui, selon eux, avaient probablement été générées à l'aide de réseaux antagonistes génératifs.
Bien que la technologie soit capable de créer de faux visages passables, elle a quelques indices évidents qui ont alerté les chercheurs. Il fonctionne en grande partie en imitant les motifs visuels, mais ne comprend pas l'anatomie humaine et se débat avec les arrière-plans et les caractéristiques symétriques, comme les lunettes ou les boucles d'oreilles.
L'image ci-dessus, tirée du rapport Graphika, a été tirée de la photo de profil de "Alfonzo Macias", un administrateur de l'un des groupes du réseau BL. "Notez l'asymétrie dans les verres et aussi l'arrière-plan mal défini", indique le rapport. "Les auteurs ont vérifié cette image avec des experts de l'Université Federico II de Naples, qui ont estimé que cette image avait été générée par le GAN avec une certitude de 99,9 %."