Incidents associés
Alors que les chars russes franchissaient la frontière ukrainienne le 24 février, les agences de presse russes contrôlées par l'État ou affiliées ont inondé les médias sociaux de récits de désinformation du Kremlin.
En une semaine, Twitter avait interdit environ 100 de ces comptes pour « activité inauthentique coordonnée ».
Aujourd'hui, Tim Graham, expert en désinformation de QUT, affirme qu'il s'est trouvé un nombre beaucoup plus important caché à la vue de tous.
Certains utilisateurs sans photo de profil portent des noms tels que "oui_imabot".
Plus de 800 comptes sont presque certainement des comptes de robots, alors que des milliers d’autres le sont très probablement.
"J'avais le sentiment que Twitter avait résolu le problème le plus grave d'activité des robots sur sa plateforme, en particulier pour les robots politiques", a déclaré le Dr Graham.
"J'ai été choqué de découvrir des réseaux de robots massifs qui aiment cette désinformation russe."
Des centaines avec un score de bot « parfait »
Le Dr Graham a découvert le réseau en enquêtant sur une faille qui permet aux comptes officiels du gouvernement de diffuser de la désinformation sans attirer un examen minutieux ou des étiquettes d'avertissement.
Twitter s'est engagé à ne pas recommander ni amplifier de quelque manière que ce soit les tweets émanant d'organisations médiatiques russes affiliées à l'État, et à inclure un avertissement dans chaque tweet renvoyant à l'une de leurs histoires : "Restez informé : ce tweet renvoie à un site Web de médias affiliés à l'État russe". .
Mais ces règles ne s'appliquent pas aux comptes officiels du gouvernement, comme ceux des ambassades russes.
Les comptes du gouvernement russe ont tweeté et retweeté de la désinformation sur l'Ukraine. (Fourni : Dr Graham, QUT / The Conversation)
Après avoir signalé cette faille apparente dans la réponse à la désinformation de Twitter il y a deux semaines, le Dr Graham J'ai regardé plus loin : les robots aimaient-ils ces tweets pour qu'ils soient vus par plus de personnes ?
Le Dr Graham s'est concentré sur les comptes qui avaient aimé les tweets d'une liste de 75 comptes du gouvernement ou des ambassades russes. Parmi ceux-ci, 16 513 ont été créés en 2021 et 2022.
Le tableau ci-dessous montre le jour où ces comptes relativement nouveaux ont été créés.
De nombreux comptes semblent avoir été créés en réponse à l'invasion. (Fourni : Tim Graham, QUT)
Le pic massif autour du 24 février, jour de l'invasion, a indiqué que certains étaient probablement des robots, mais n'a pas été concluant.
Ensuite, le Dr Graham a déployé un logiciel spécialisé appelé Botometer, qui utilise un algorithme d'apprentissage automatique pour distinguer les comptes de robots des comptes humains en examinant les caractéristiques d'un profil, notamment les amis, la structure du réseau social, la langue et les sentiments.
Le modèle attribue aux comptes un score de zéro à un, un score indiquant qu'il est certain que le compte est un robot.
"Lorsque nous avons exécuté ce modèle et vérifié le résultat, nous avons clairement constaté une énorme augmentation de comptes présentant un score de robot presque parfait", a déclaré le Dr Graham.
"Chaque fois que j'utilise cet outil, je trouve peut-être une poignée de robots, ou 50 au maximum. Il y en avait des centaines : 870 comptes avaient une note de un."
La distribution des scores du botomètre – notez les pics à 0,8 et 1,0 (Fourni : Timothy Graham, QUT )
9 423 autres ont obtenu un score de 0,8 ou plus , ce qui signifie qu'ils sont probablement automatisés, ou du moins semi-automatisés.
"C'était comme des bogies sur un radar", a déclaré le Dr Graham.
"C'est en quelque sorte sans précédent."
Twitter affirme avoir supprimé 75 000 comptes depuis le début de la guerre
Depuis au moins cinq ans, Twitter sévit contre l'utilisation malveillante de robots pour diffuser de la désinformation.
Lors des incendies de brousse australiens de 2019/20, par exemple, les robots ont avancé la théorie démystifiée selon laquelle les incendies criminels étaient la cause principale, ce qui a vu [le hashtag #ArsonEmergency tendance au plus fort de la crise](https://theconversation.com/bushfires-bots -et-les-incendies-réclamations-australiens-jetés-sous-les-projecteurs-de-désinformation-mondiale-129556).
Avec le COVID, les robots ont propagé de fausses informations sur la sécurité des vaccins, ainsi que démystifié les théories selon lesquelles le virus aurait été créé en laboratoire ou que la pandémie était utilisée pour dissimuler les effets nocifs des nouvelles tours 5G.
Des études ont lié ces robots de désinformation à la Russie, à la Chine et à l’Iran.
Au cours des dernières années, Twitter a supprimé des dizaines de millions de comptes automatisés.
Le Dr Graham s'est dit surpris que Twitter n'ait ni détecté ni supprimé le réseau de robots qu'il avait trouvé.
"Twitter a tendance à être à l'avant-garde à ce sujet car ils savent à quel point cela peut être mauvais pour eux s'il s'avère qu'il y a une manipulation généralisée de la plateforme", a-t-il déclaré.
"Il dispose d'une quantité énorme de ressources… il devrait être capable d'exploiter de manière assez complète l'ensemble de sa plate-forme."
En réponse, Twitter a mis en doute les recherches du Dr Graham.
Un porte-parole de Twitter a déclaré que les recherches utilisant Botometer pouvaient être erronées et que Twitter avait accès à davantage de données, telles que les adresses e-mail, pour évaluer si un compte était un robot.
Le porte-parole a ajouté que les chercheurs externes ne sauraient pas dans quelle mesure Twitter avait pris des mesures sur les comptes figurant dans l'ensemble de données du Dr Graham, par exemple en les filtrant des résultats de recherche.
"Depuis le début de la guerre en Ukraine, nous avons supprimé plus de 75 000 comptes pour violation de notre politique en matière de manipulation de notre plateforme et de spam", a déclaré le porte-parole.
"Nous continuons d'évaluer de manière proactive les comportements inauthentiques et autres violations de nos règles.
"Lorsque nous identifions du contenu et des comptes qui enfreignent les règles de Twitter, nous prendrons des mesures coercitives."
Les réseaux de robots suspects restent actifs
Twitter semble avoir mis du temps à agir face aux réseaux de robots précédemment identifiés qui spamment des hashtags pro-russes.
En mars 2022, il a interdit plus de 100 comptes automatisés qui a poussé le hashtag pro-russe # Je me tiens aux côtés de Poutine.
Mais quelques jours plus tard, le Dr Graham a découvert que deux grands réseaux regroupant des milliers de comptes de robots présumés diffusaient toujours le hashtag.
Il a alerté Twitter et les médias ont couvert l'histoire.
Mais Twitter semble avoir pris peu de mesures au cours des semaines qui ont suivi.
Dans les réseaux découverts par le Dr Graham, 4 868 avaient un score au botomètre supérieur à 0,8.
Parmi ces comptes, seuls 123 ont depuis été suspendus.
"Twitter suspend les plus évidents, mais il en manque encore beaucoup", a déclaré le Dr Graham.
"Des centaines de millions d'yeux ont vu ce hashtag."
Le fait que le hashtag était à la mode début mars montre le pouvoir des comptes de robots pour manipuler les plateformes, a-t-il déclaré.
"Si cela arrive sur la liste des tendances, cela captera l'attention des journalistes et va certainement façonner l'attention du public d'une manière sismique", a-t-il déclaré.
Un porte-parole de Twitter a déclaré que la société était au courant de la tentative de manipulation de la plateforme.
"Nos équipes continuent d'enquêter dans le cadre de nos efforts continus", ont-ils déclaré.
Et les autres plateformes ?
Facebook, TikTok et d'autres plateformes ont également été témoins d'un flot de propagande russe, mais n'ont pas le même problème avec les robots.
L'interface de programmation d'applications, ou API, de Twitter est plus ouverte et flexible que celle de Facebook, par exemple, ce qui signifie que des tiers tels que le Dr Graham ont davantage accès aux données générées par la plateforme.
Cela signifie également que d'autres ont une plus grande capacité à contrôler ou à automatiser les comptes Twitter.
"Twitter a un problème bien plus important que les autres plateformes, notamment en ce qui concerne l'activité automatisée, notamment à cause de leur API", a déclaré le Dr Graham.
"Je pense que Twitter est un peu seul dans ce domaine… Twitter et les robots vont de pair."
Depuis l'invasion de l'Ukraine, Meta, propriétaire de Facebook, a [interdit les médias d'État russes](https://www.theverge.com/2022/2/28/22954451/facebook-twitter-remove-misinformation-network- propagande-russe-ukraine-invasion) de vendre des publicités sur ses plateformes et supprimé les réseaux de comptes diffusant de la désinformation.
Mais certains estiment que cela ne va pas assez loin.
Bien que Facebook ait promis de qualifier les médias contrôlés par l'État dans le cadre de ses efforts contre la désinformation, une [étude récente](https://www.counterhate.com/post/facebook-failing-to-label-91-of-posts- contenant de la propagande russe sur l'Ukraine) a constaté qu'il ne parvenait pas à étiqueter 91 % des messages contenant de la propagande russe contre l'Ukraine.
Depuis 2017, Twitter interdit la publicité dans les médias russes contrôlés par l'État Russia Today (RT) et Spoutnik.
(Et il a interdit toute publicité dans les médias d’information et toute publicité politique soutenue par l’État en 2019.)
Les responsables ukrainiens ont supplié les géants américains de la technologie de prendre des mesures contre la désinformation russe sur leurs plateformes et de réprimer la désinformation diffusée par les médias affiliés à l'État russe.
"En 2022, la technologie moderne est peut-être la meilleure réponse aux chars, aux lance-roquettes multiples et aux missiles", a déclaré le ministre ukrainien de la Transformation numérique, Mykhailo Fedorov, deux jours après l'invasion.
Les réseaux de robots Twitter russes montrent que cette même technologie moderne est également utilisée aux côtés des chars.