Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Problème 4860

Incidents associés

Incident 70136 Rapports
American Asylum Seeker John Mark Dougan in Russia Reportedly Spreads Disinformation via AI Tools and Fake News Network

Loading...
Un Américain qui crée des deepfakes ciblant Harris travaille avec les services secrets russes, selon des documents
washingtonpost.com · 2024

Un ancien shérif adjoint du comté de Palm Beach, qui s'est enfui à Moscou et est devenu l'un des propagandistes les plus prolifiques du Kremlin, travaille directement avec les services de renseignement militaire russes pour diffuser des deepfakes et des fausses informations visant la campagne de la vice-présidente Kamala Harris, selon des documents russes obtenus par un service de renseignement européen et examinés par le Washington Post. Les documents montrent que John Mark Dougan, qui a également servi dans les Marines américains et a longtemps prétendu travailler indépendamment du gouvernement russe, a reçu un financement d'un officier du GRU, le service de renseignement militaire russe. Certains des paiements ont été effectués après que les sites de fausses nouvelles qu'il a créés ont commencé à avoir des difficultés à accéder aux systèmes d'intelligence artificielle occidentaux ce printemps et qu'il a eu besoin d'un générateur d'IA - un outil qui peut être invité à créer du texte, des photos et des vidéos. L'agent de liaison de Dougan au GRU est un haut responsable du renseignement militaire russe travaillant sous le nom de couverture de Yury Khoroshevsky, montrent les documents. Le vrai nom de l'officier est Yury Khoroshenky, bien qu'il soit mentionné uniquement sous le nom de Khoroshevsky dans les documents, et il sert dans l'unité 29155 du GRU, qui supervise les opérations de sabotage, d'ingérence politique et de cyberguerre ciblant l'Occident, selon deux responsables de la sécurité européens qui ont parlé sous couvert d'anonymat pour discuter de renseignements sensibles. Les plus de 150 documents - qui ont été partagés avec le Washington Post pour démontrer l'étendue de l'ingérence russe par l'intermédiaire de Dougan et se concentrent principalement sur la période entre mars 2021 et août 2024 - révèlent pour la première fois certains des rouages internes d'un réseau qui, selon les chercheurs et les responsables du renseignement, est devenu la source la plus puissante de fausses nouvelles émanant de Russie et ciblant les électeurs américains au cours de l'année écoulée. Selon des chercheurs en désinformation, le réseau de Dougan est probablement à l'origine d'une vidéo virale récente diffamant le candidat démocrate à la vice-présidence Tim Walz, qui, selon les services de renseignement américains, a été créée par la Russie. Elle a été vue près de 5 millions de fois sur X en moins de 24 heures, a déclaré Microsoft. Depuis septembre 2023, les publications, articles et vidéos générés par Dougan et certains des Russes qui travaillent avec lui ont recueilli 64 millions de vues, a déclaré McKenzie Sadeghi, qui a suivi de près les sites de Dougan et est chercheur chez NewsGuard, une entreprise qui traque la désinformation en ligne. « Par rapport aux autres campagnes de désinformation russes, Dougan a une compréhension claire de ce qui pourrait trouver un écho auprès du public occidental et de l’atmosphère politique, ce qui, je pense, a rendu cette campagne plus efficace », a déclaré Sadeghi. Les documents montrent que Dougan est également subventionné et dirigé par un institut de Moscou fondé par Alexander Dugin, un idéologue impérialiste d’extrême droite parfois appelé « le cerveau de Poutine » en raison de son influence sur la pensée revancharde du président russe ; les idées de Dugin sont devenues une force motrice derrière l’invasion de l’Ukraine par la Russie. Un document de 2022 montre que le mouvement Eurasie de Dugin, qui promeut ses théories d’un empire russe, « coopère activement avec le ministère russe de la Défense ». Le contact de Dougan à l’institut de Moscou, le Centre d’expertise géopolitique, est son directeur, Valery Korovin. Selon la page de Korovin sur les réseaux sociaux de la version russe de Facebook, il a reçu une médaille du président Vladimir Poutine en 2023 pour « services rendus à la patrie » pour « avoir accompli des tâches spéciales ». Korovin travaille également en étroite collaboration avec Khoroshenky, qui, sous son nom d'emprunt, est le directeur adjoint de l'institut, montrent les documents. Les documents montrent des paiements directs de Khoroshenky sur le compte bancaire de Dougan à Moscou à partir d'avril 2022 et des réunions fréquentes entre Khoroshenky, Dougan et Korovin. « Nous ne serons pas battus », a déclaré Khoroshenky lors d'une discussion avec Korovin, selon les documents, après le lancement d'un nouveau serveur cet été permettant à Dougan d'ajouter des éléments à la myriade de sites qu'il avait déjà créés et de redémarrer l'un des domaines qui avait été bloqué. Dougan est responsable du contenu de dizaines de sites de fausses nouvelles portant des noms tels que DC Weekly, Chicago Chronicle et Atlanta Observer, selon les documents et les chercheurs en désinformation. Dans les mois qui ont suivi son redémarrage avec le nouveau serveur facilité par le GRU et le générateur d'IA, les sites et les fausses vidéos d'actualités diffusés par Dougan et ses associés ont produit certaines des désinformations russes les plus virales ciblant Harris, selon Microsoft et NewsGuard, y compris un enregistrement audio deepfake en août qui prétendait montrer Barack Obama insinuant que les démocrates avaient ordonné la tentative d'assassinat de juillet contre Donald Trump. Plus récemment, Dougan a été la source initiale d'une fausse affirmation derrière la fausse vidéo virale selon laquelle Walz aurait abusé d'une élève du lycée où il enseignait, et NewsGuard pense que le réseau de Dougan pourrait être à l'origine de sa diffusion ultérieure. Onze jours avant l'apparition d'une vidéo avec ce que NewsGuard dit être probablement un personnage généré par l'IA prétendant être un ancien élève de Walz, Dougan est apparu sur un podcast faisant une fausse affirmation similaire mais distincte, présentant un homme anonyme prétendant être un ancien étudiant d'échange du Kazakhstan. D’autres efforts du Kremlin pour influencer l’élection présidentielle américaine incluent la campagne Doppelgänger menée par des stratèges politiques du Kremlin, qui a récemment été ciblée par le ministère de la Justice pour son clonage de médias d’information légitimes, dont Fox News et The Post --- une opération russe sur laquelle le Post avait déjà fait état. Le ministère de la Justice a également accusé RT, le média d’État russe, d’avoir acheminé des centaines de milliers de dollars à des influenceurs américains des médias sociaux pour qu’ils répètent les points de discussion du Kremlin. Dans une interview téléphonique avec le Post, Dougan a nié être derrière des sites tels que DC Weekly, et il a déclaré qu’il ne connaissait pas Korovin ou Khoroshenky et qu’il n’avait aucun lien avec les services de renseignements militaires russes ou le gouvernement russe. Dougan a insisté sur le fait qu'il opérait de manière indépendante et a déclaré que « personne ne m'envoie d'argent pour quoi que ce soit ». Il a ensuite affirmé qu'il travaillait comme consultant informatique pour une entreprise américaine et a déclaré que les documents auxquels le Post faisait référence devaient avoir été fabriqués. « Je vais vous dire hypothétiquement, s'il s'agissait de mes sites », a-t-il déclaré, « alors je ne fais que combattre le feu par le feu parce que l'Occident ment sur tout ce qui se passe. Ils mentent sur tout ». Korovin a déclaré qu'il était un universitaire qui ne s'intéressait qu'aux pensées, aux idées et à la philosophie, ajoutant que les allégations liées aux documents semblent représenter « une collection de moments d'informations combinées accidentellement, prises on ne sait où, dont la plupart semblent absurdes et ridicules » et dont beaucoup, selon lui, « entendaient pour la première fois ». Dugin a déclaré : « Toute suggestion sur notre supposée affiliation avec le GRU ou sur toute tentative de manipuler les journalistes étrangers ou d'influencer le paysage politique aux États-Unis est complètement injustifiée ». Il a déclaré que son mouvement eurasien ne participait à aucun partenariat officiel avec des organisations gouvernementales russes, y compris le ministère de la Défense. Khoroshenky n'a pas répondu aux demandes de commentaires. Une tour de sécurité portable du bureau du shérif du comté de Palm Beach se dresse au domicile de Donald Trump à Mar-a-Lago, le 1er avril 2023, à Palm Beach, en Floride. (Alex Wong/Getty Images) ### Des affirmations farfelues L'utilisation par Dougan de sites Web pour attaquer des ennemis présumés remonte à l'époque où il était dans les forces de l'ordre aux États-Unis. Il a déclaré qu'il s'était affronté avec des personnes du bureau du shérif du comté de Palm Beach après s'être plaint des abus d'un sergent de son unité qui s'était vanté sur Facebook d'avoir battu des personnes qu'il avait arrêtées. Dougan a travaillé au bureau du shérif de Palm Beach de 2005 à 2008 et a fait l'objet de 11 enquêtes internes avant son départ, selon le Palm Beach Post. Un jury a également accordé 275 000 dollars à un collègue adjoint du shérif de Palm Beach après avoir découvert que Dougan avait aspergé de gaz poivré et arrêté l'officier sans motif. Dougan a affirmé que les enquêtes internes étaient le résultat de sa dénonciation des agressions présumées du sergent. Après avoir démissionné de son poste à Palm Beach, Dougan a déménagé dans le Maine, où il a rapidement été renvoyé d'un service de police à la suite de plaintes pour harcèlement sexuel, ont déclaré des responsables du Maine. Dans le Corps des Marines, il a également eu une carrière en dents de scie. Dougan a servi de mai 1996 à juillet 1998, une période abrégée ; la plupart des Marines servent au moins quatre ans. Il a également quitté l'armée en tant que caporal, un grade que la plupart des Marines atteignent après seulement quelques mois, et il n'a jamais été déployé, selon le Pentagone, qui ne caractériserait pas son statut de démobilisé, invoquant des problèmes de confidentialité. Le grade de Dougan à sa démobilisation et la date à laquelle il est devenu caporal, en avril 1998, près de deux ans après son entrée en service, sont « révélateurs du fait que le caractère de son service n'était pas conforme aux attentes et aux normes du Corps des Marines », a déclaré Yvonne Carlock, une porte-parole du service. Après son retour en Floride depuis le Maine, Dougan a créé PBSOTalk, un site qu'il a déclaré avoir conçu comme un lieu de diffusion des plaintes d'autres adjoints au sujet du bureau du shérif du comté de Palm Beach, mais qui est rapidement devenu le foyer d'allégations de corruption et de diffamations impliquant ses anciens supérieurs. En 2016, Dougan a publié des données confidentielles sur des milliers de policiers, d’agents fédéraux et de juges sur PBSOTalk, ce qui a incité le FBI et la police locale à perquisitionner son domicile. L’année suivante, il a été inculpé de 21 chefs d’accusation d’extorsion et d’écoutes téléphoniques. À ce moment-là, il s’était enfui à Moscou, une ville qu’il avait visitée plusieurs fois après avoir noué une relation en ligne avec une femme russe. On ne sait pas exactement comment Dougan a attiré l’attention des propagandistes russes, mais certaines des compétences qu’il a perfectionnées en Floride sont la marque de fabrique de son travail à Moscou, selon les chercheurs –- utiliser un langage authentique en ligne pour faire des déclarations farfelues. Dès juin 2019 –- plus de deux ans avant l’invasion de l’Ukraine –- Korovin avait proposé dans une lettre au ministère russe de la Défense que son centre organise « une guerre sur Internet contre les États-Unis sur son territoire ». « Les possibilités offertes par les guerres sur Internet sont vraiment illimitées, et ce n’est qu’avec leur aide que nous pourrons affirmer une parité stratégique complète avec nos adversaires géopolitiques », a écrit Korovine dans la lettre, qui faisait partie du trésor de documents examinés par le Post. Dugin, l’idéologue russe qui est le patron de Korovine, avait auparavant appelé à « une guerre géopolitique avec l’Amérique… pour affaiblir, démoraliser, tromper et, au final, battre notre adversaire au maximum », montrent les documents. Des dizaines de documents montrent que le centre de Korovine a travaillé en étroite collaboration avec des journalistes étrangers « indépendants » qui se sont retrouvés à Moscou, et qu’il en a payé certains, dont Dougan. En mars 2021, Korovine a déclaré que lui et Dougan formaient « une seule équipe » et que Korovine fournirait autant de soutien que possible, montre l’un des documents. Pendant ce temps, Khoroshenky a envoyé des instructions à Korovine décrivant les tâches et dirigeant la couverture de la guerre pour Dougan et les autres reporters. Dans un exemple, Khoroshenky a exigé que les journalistes, dont Dougan, publient « dans l’heure » des rapports affirmant que les troupes russes avaient tué des mercenaires étrangers en Ukraine, montrent les documents. « Ensuite, nous donnerons des bonus à tout le monde », a-t-il déclaré. Korovin et Khoroshenky ont ostensiblement soutenu Dougan alors qu’il cherchait à transformer l’asile politique qu’il avait obtenu en Russie en 2017 en citoyenneté russe, tout en soulignant que Dougan avait peu d’autres options puisqu’il était recherché aux États-Unis, montrent les documents. Le processus s’est poursuivi jusqu’à l’été 2023, lorsque Dougan a finalement obtenu la citoyenneté ; à un moment donné, un Dougan frustré a déclaré qu’il était sur le point de se rendre à l’ambassade de Chine pour demander le soutien de Pékin, montrent les documents. « Le moment viendra où cela suffira », a déclaré Dougan, selon un document. À ce moment-là, Dougan avait le sentiment d’avoir établi sa valeur. Avant l’invasion russe, il s’était rendu en Ukraine et avait publié une vidéo sur YouTube selon laquelle les États-Unis y dirigeaient des laboratoires d’armes biologiques, une fausse affirmation que la Russie a utilisée comme l’un des prétextes de sa guerre. Alors que les forces russes s’effondraient dans les premières semaines de l’invasion, Dougan a dit à Korovin qu’il pensait qu’il serait d’une plus grande aide en utilisant son expérience dans les Marines pour former les troupes russes. Korovin lui a dit qu’il obtiendrait davantage de résultats pour assurer « notre victoire » en faisant la promotion de son faux rapport sur les laboratoires biologiques, comme le montrent les documents. Cet été-là, Dougan s’est rendu à Azovstal, la vaste usine sidérurgique ukrainienne de Marioupol, qui a été le théâtre d’un bombardement russe intensif. Il a réalisé un reportage de 30 minutes sur les ruines en tant que correspondant étranger pour One America News, la chaîne de télévision américaine d'extrême droite. Dans le reportage, Dougan a déclaré que le président ukrainien Volodymyr Zelensky était responsable de la mort de milliers de personnes innocentes, affirmant : « Il a trahi son pays pour ses maîtres américains. » Dougan a suggéré que la mort et la destruction dans la ville étaient entièrement causées par les troupes ukrainiennes, sans mentionner les bombardements incessants russes, ni même leur invasion de l'Ukraine. OAN a titré son article en affirmant que les médias occidentaux dissimulaient les atrocités commises par les troupes ukrainiennes contre les civils. Un porte-parole de One America News a déclaré que Dougan n'était apparu sur la chaîne qu'une seule fois et n'avait pas été payé pour le reportage, ajoutant que la chaîne avait depuis coupé tous les liens avec lui. Sa co-journaliste lors du voyage était Daria Dugina, la fille de Dugin, qui a affirmé que les Ukrainiens « bombardaient en tapis leur propre peuple ». Quelques mois plus tard, Dougina a été tuée dans une voiture piégée à l’extérieur de Moscou. Dougan a déclaré au Post que Dougina était une « femme merveilleuse » et qu’il était d’accord avec de nombreux points soulevés par son père sur la nécessité d’un monde multipolaire dans lequel les États-Unis ne « dicteraient pas tout à tout le monde ». À la mi-2023, Dougan produisait du contenu pour le site DC Weekly, se vantant auprès de Korovine que celui-ci recueillait déjà des centaines de milliers de vues chaque mois, comme le montrent les documents. Il a expliqué qu’il utilisait l’intelligence artificielle pour remplir le site d’articles de presse russes traduits en anglais et pour mettre l’accent sur un ton critique envers l’OTAN et le gouvernement américain. La qualité est « superlative », a déclaré Dougan. En octobre 2023, il a obtenu son premier succès viral : un article sur DC Weekly alléguant que la femme de Zelensky, Olena Zelenska, avait dépensé 1,1 million de dollars dans une boutique Cartier lors d'une visite officielle à New York. Il s'est vanté auprès de Korovin que l'histoire avait eu un large écho. L'article citait une fausse interview vidéo d'un ancien employé présumé de la boutique Cartier, qui quelques semaines plus tard a été identifié comme un étudiant de Saint-Pétersbourg et directeur d'un salon de beauté. Un autre faux article datant de la première heure, attribué à Dougan, affirmait que Zelensky avait utilisé l'aide américaine pour acheter deux yachts de luxe. Cette fausse affirmation a été citée par plusieurs républicains de haut rang comme une raison pour arrêter le financement de l'Ukraine. Mais le succès de Dougan a également suscité une attention croissante. Des chercheurs de l'université de Clemson ont réussi à relier l'adresse IP de DC Weekly à d'autres domaines qui, selon eux, étaient affiliés à Dougan, tandis que des chercheurs en désinformation de Microsoft et de NewsGuard ont rapidement mis en évidence ces liens. Au printemps de cette année, plusieurs des sites de fausses informations de Dougan ont rencontré des difficultés techniques. Un domaine, le Chicago Chronicle, a été bloqué, et il a dû trouver un nouveau domaine pour DC Weekly. Dougan a commencé à plaider auprès de Korovin pour obtenir un financement pour construire un nouveau serveur puissant qui générerait son propre contenu IA, mettant fin à la dépendance à la technologie occidentale. Dougan « a de l'expérience dans les détails techniques des technologies de l'information et sait que plus son infrastructure et son contenu sont produits en interne, moins il est susceptible d'être détecté en train de mener ses opérations ou d'être empêché d'utiliser des services extérieurs », a déclaré Clint Watts, responsable du centre d'analyse des menaces de Microsoft. Le nouveau serveur a conduit à une explosion de nouvelles productions et à une augmentation du nombre de sites, tandis que Dougan a également commencé à enregistrer de nouveaux domaines en Islande pour dissimuler davantage ses empreintes digitales, a déclaré Sadeghi de NewsGuard. Dans le même temps, la portée de l'audience a augmenté de façon spectaculaire, passant de 37,7 millions en mai à 64 millions en octobre, a déclaré Sadeghi. « L'augmentation substantielle des vues et des récits du réseau montre que malgré le fait qu'ils ont été exposés et signalés à plusieurs reprises, les mensonges ont continué à toucher un large public », a-t-elle déclaré. Pour l’instant, Dougan et ses associés semblent se concentrer sur la diffamation de Harris. Mais on craint de plus en plus qu’ils ne se mettent bientôt à produire des deepfakes qui remettraient en cause l’intégrité des élections américaines. « S’ils passent de la tentative d’influencer le résultat de l’élection à l’ingérence dans le déroulement de l’élection, cela serait très inquiétant à l’approche du jour du scrutin », a déclaré Watts. Dan Lamothe et Cate Brown ont contribué à ce rapport.

Lire la source

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd