Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Problème 3210

Incidents associés

Incident 5654 Rapports
AI-Generated Imagery and Multilingual Disinformation in Chinese Campaign Regarding Maui Wildfires

Loading...
La Chine sème la désinformation sur les incendies à Hawaï en utilisant de nouvelles techniques
nytimes.com · 2023

Lorsque les incendies de forêt ont ravagé Maui le mois dernier avec une fureur destructrice, les guerriers de l’information chinois, de plus en plus ingénieux, se sont précipités.

La catastrophe n’était pas naturelle, ont-ils déclaré dans une série de faux messages diffusés sur Internet, mais était le résultat d’une « arme météorologique » secrète testée par les États-Unis. Pour renforcer la plausibilité, les messages comportaient des photographies qui semblaient avoir été générées par des programmes d'intelligence artificielle, ce qui en faisait l'un des premiers à utiliser ces nouveaux outils pour renforcer l'aura d'authenticité d'une campagne de désinformation.

Pour la Chine – qui s’est largement tenue en marge des élections présidentielles américaines de 2016 et 2020 tandis que la Russie menait des opérations de piratage informatique et des campagnes de désinformation – la tentative de présenter les incendies de forêt comme un acte délibéré des agences de renseignement et de l’armée américaines a constitué un changement rapide de tactique.

Jusqu’à présent, les campagnes d’influence de la Chine se sont concentrées sur l’amplification de la propagande défendant sa politique à l’égard de Taiwan et d’autres sujets. L’effort le plus récent, révélé par des chercheurs de Microsoft et de diverses autres organisations, suggère que Pékin tente plus directement de semer la discorde aux États-Unis.

Cette décision intervient également alors que l’administration Biden et le Congrès se demandent comment riposter à la Chine sans faire basculer les deux pays dans un conflit ouvert, et comment réduire le risque que l’IA ne s’attaque à la Chine. est utilisé pour amplifier la désinformation.

L'impact de la campagne chinoise – identifié par des chercheurs de Microsoft, Recorded Future, RAND Corporation, NewsGuard et l'Université du Maryland – est difficile à mesurer, même si les premières indications suggèrent que peu d'utilisateurs des médias sociaux se sont engagés dans la plus farfelue des théories du complot. .

Brad Smith, vice-président et président de Microsoft, dont les chercheurs ont analysé la campagne secrète, a vivement critiqué la Chine pour avoir exploité une catastrophe naturelle à des fins politiques.

"Je ne pense tout simplement pas que cela soit digne d'un pays, encore moins d'un pays qui aspire à devenir un grand pays", a déclaré M. Smith dans une interview lundi.

La Chine n’a pas été le seul pays à utiliser politiquement les incendies de Maui. La Russie a fait de même, en diffusant des messages soulignant combien d’argent les États-Unis dépensaient pour la guerre en Ukraine et suggérant que cet argent serait mieux dépensé dans le pays pour les secours en cas de catastrophe.

Les chercheurs ont suggéré que la Chine était en train de construire un réseau de comptes qui pourrait être utilisé dans de futures opérations d’information, notamment lors de la prochaine élection présidentielle américaine. C’est le modèle que la Russie a adopté au cours de l’année qui a précédé les élections de 2016.

"Cela va dans une nouvelle direction, qui amplifie en quelque sorte les théories du complot qui ne sont pas directement liées à certains de leurs intérêts, comme à Taiwan", a déclaré Brian Liston, chercheur chez Recorded Future, une société de cybersécurité basée dans le Massachusetts.

Un quartier détruit à Lahaina, à Hawaï, le mois dernier. La Chine a fait des incendies de forêt une cible de désinformation. Crédit... Allez Nakamura pour le New York Times

Si la Chine s’engage dans des opérations d’influence pour les élections de l’année prochaine, ont évalué les responsables du renseignement américain ces derniers mois, elle tentera probablement de diminuer le président Biden et de rehausser le profil de l’ancien président Donald J. Trump. Bien que cela puisse sembler contre-intuitif aux Américains qui se souviennent des efforts de M. Trump pour blâmer Pékin pour ce qu’il a appelé le « virus chinois », les responsables du renseignement ont conclu que les dirigeants chinois préfèrent M. Trump. Il a appelé au retrait des Américains du Japon, de la Corée du Sud et d’autres régions d’Asie, tandis que M. Biden a coupé l’accès de la Chine aux puces les plus avancées et aux équipements conçus pour les produire.

La promotion par la Chine d’une théorie du complot sur les incendies intervient après que M. Biden s’est exprimé à Bali l’automne dernier auprès de Xi Jinping, le président chinois, sur le rôle de Pékin dans la propagation d’une telle désinformation. Selon des responsables de l’administration, M. Biden a critiqué avec colère M. Xi pour la propagation de fausses accusations selon lesquelles les États-Unis exploiteraient des laboratoires d’armes biologiques en Ukraine.

Rien n’indique que la Russie et la Chine travaillent ensemble sur des opérations d’information, selon les chercheurs et les responsables de l’administration, mais elles se font souvent écho des messages de l’autre, notamment lorsqu’il s’agit de critiquer la politique américaine. Leurs efforts combinés suggèrent qu’une nouvelle phase des guerres de désinformation est sur le point de commencer, renforcée par l’utilisation de l’IA. outils.

"Nous n'avons pas de preuve directe d'une coordination entre la Chine et la Russie dans ces campagnes, mais nous constatons certainement un alignement et une sorte de synchronisation", a déclaré William Marcellino, chercheur à RAND et auteur d'un nouveau rapport avertissant que l’intelligence artificielle](https://www.rand.org/pubs/perspectives/PEA2679-1.html) permettra un « bond en avant critique » dans les opérations d’influence mondiale.

Les incendies de forêt à Hawaï – comme de nombreuses catastrophes naturelles ces jours-ci – [ont donné naissance à de nombreuses rumeurs, faux rapports et théories du complot](https://www.nytimes.com/2023/08/30/business/media/maui-idalia-disinformation- Climate-change.html) presque dès le début.

Caroline Amy Orr Bueno, chercheuse au laboratoire de recherche appliquée sur le renseignement et la sécurité de l'Université du Maryland, a rapporté qu'une campagne russe coordonnée avait débuté sur Twitter, la plateforme de médias sociaux désormais connue sous le nom de X, le 9 août, un jour après le début des incendies. .

Il a diffusé l'expression « Hawaï, pas l'Ukraine », à partir d'un compte obscur avec peu de followers, à travers une série de comptes conservateurs ou de droite comme Breitbart et, finalement, les médias d'État russes, atteignant des milliers d'utilisateurs avec un message destiné à saper l'assistance militaire américaine. en Ukraine.

Le président Biden a critiqué le président chinois Xi Jinping pour la propagation de fausses accusations contre les États-Unis et l'Ukraine. Crédit... Florence Lo/Reuters

L’appareil médiatique d’État chinois fait souvent écho aux thèmes russes, en particulier à l’animosité à l’égard des États-Unis. Mais dans ce cas-ci, il a également mené une campagne de désinformation distincte.

Recorded Future a pour la première fois rapporté que le gouvernement chinois avait lancé une campagne secrète pour accuser une « arme météorologique » d'être à l'origine des incendies, identifiant de nombreux messages à la mi-août affirmant faussement que le MI6, le service de renseignement étranger britannique, avait révélé « l'étonnante vérité derrière les incendies de forêt ». .» Des publications dans la langue exacte sont apparues sur les sites de médias sociaux sur Internet, notamment Pinterest, Tumblr, Medium et Pixiv, un site japonais utilisé par les artistes.

D’autres comptes non authentiques diffusent un contenu similaire, souvent accompagné de vidéos mal étiquetées, notamment celle d’un compte TikTok populaire, The Paranormal Chic, qui montre une explosion de transformateur au Chili. Selon Recorded Future, le contenu chinois faisait souvent écho – et amplifiait – les messages des théoriciens du complot et des extrémistes aux États-Unis, y compris les suprémacistes blancs.

La campagne chinoise s’est déroulée sur plusieurs des principales plateformes de médias sociaux – et dans de nombreuses langues, ce qui suggère qu’elle visait à atteindre un public mondial. Le centre d’analyse des menaces de Microsoft a identifié des publications inauthentiques dans 31 langues, dont le français, l’allemand et l’italien, mais aussi dans des langues moins connues comme l’igbo, l’odia et le guarani.

Les images générées artificiellement des incendies de forêt à Hawaï identifiées par les chercheurs de Microsoft sont apparues sur plusieurs plateformes, y compris une publication Reddit en néerlandais. "Ces images spécifiques générées par l'IA semblent être exclusivement utilisées" par les comptes chinois utilisés dans cette campagne, a déclaré Microsoft dans un rapport. "Ils ne semblent pas être présents ailleurs en ligne."

Clint Watts, directeur général du Centre d’analyse des menaces de Microsoft, a déclaré que la Chine semblait avoir adopté le modèle russe en matière d’opérations d’influence, jetant ainsi les bases d’une influence politique aux États-Unis et dans d’autres pays.

« Ce serait la Russie de 2015 », a-t-il déclaré, faisant référence aux robots et aux comptes inauthentiques créés par la Russie avant sa vaste opération d’influence en ligne lors des élections de 2016. « Si nous regardons comment d’autres acteurs ont fait cela, ils renforcent leurs capacités. Maintenant, ils créent des comptes secrets.

Les catastrophes naturelles ont souvent fait l’objet de campagnes de désinformation, permettant à de mauvais acteurs d’exploiter leurs émotions pour accuser les gouvernements de lacunes, que ce soit dans leur préparation ou dans leur réponse. L’objectif peut être de saper la confiance dans des politiques spécifiques, comme le soutien américain à l’Ukraine, ou plus généralement de semer la discorde interne. En suggérant que les États-Unis testaient ou utilisaient des armes secrètes contre leurs propres citoyens, les efforts de la Chine semblaient également destinés à dépeindre le pays comme une puissance militariste et imprudente.

"Nous avons toujours été capables de nous rassembler à la suite de catastrophes humanitaires et de fournir des secours à la suite de tremblements de terre, d'ouragans ou d'incendies", a déclaré M. Smith, qui présente mardi certaines des conclusions de Microsoft au Congrès. « Et voir ce genre de poursuite à la place est à la fois, je pense, profondément inquiétant et quelque chose que la communauté mondiale devrait tracer une ligne rouge autour et interdire. »

Lire la source

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd