Bienvenue dansla base de données des incidents d'IA
Incident 1697: Un ancien policier de Costa Mesa, en Californie, aurait utilisé le système de lecture de plaques d'immatriculation Flock Safety pour suivre la femme qu'il fréquentait et ses partenaires amoureux.
“Un ancien policier de Costa Mesa a plaidé coupable d'avoir contacté sa maîtresse des milliers de fois par SMS, appels téléphoniques et messages sur les réseaux sociaux, dont plus de 100 fois en une seule journée, et d'avoir accédé illégalement à des bases de données confidentielles des forces de l'ordre pour surveiller ses rivales amoureuses, son ex-petite amie et son épouse.”Dernier rapport
SANTA ANA, Californie – Un ancien policier de Costa Mesa a plaidé coupable d'avoir contacté sa maîtresse des milliers de fois par SMS, appels téléphoniques et messages sur les réseaux sociaux, parfois plus de 100 fois par jour, pendant neuf mois. Il a également utilisé des bases de données confidentielles des forces de l'ordre pour suivre ses déplacements, ceux de ses partenaires et ceux de sa propre épouse. L'ancien policier a aussi reconnu avoir violé une ordonnance d'éloignement en passant devant le domicile de la femme après avoir reçu une notification d'ordonnance et un avis de licenciement du service de police de Costa Mesa.
Robert Jay Josett, 35 ans, de Costa Mesa, a plaidé coupable d'un délit d'accès non autorisé à un système informatique et de fraude, d'un délit d'appels téléphoniques répétés et importuns, et d'un délit d'outrage au tribunal pour violation d'une ordonnance d'éloignement.
Josett a été condamné à suivre un programme de 52 semaines pour les auteurs de violences conjugales et à trois ans de probation non surveillée. Après son arrestation, Josett a porté un bracelet électronique GPS pendant neuf mois, conformément à une décision de justice.
À partir d'avril 2024, après que sa maîtresse a mis fin à leur relation, Josett est accusé de l'avoir harcelée d'appels, de SMS et de messages sur les réseaux sociaux, la menaçant de diffuser des photos compromettantes et exigeant de savoir si elle avait une liaison. Il a ensuite commencé à l'appeler, ainsi que son nouveau compagnon, de manière répétée, jusqu'à 58 fois en une seule journée, et à passer régulièrement devant son domicile en voiture.
Entre juin et décembre 2023, Josett est accusé d'avoir utilisé la base de données du Système de télécommunications des forces de l'ordre de Californie (CLETS) pour effectuer 13 recherches concernant des personnes et des véhicules sans lien avec son activité professionnelle, notamment sa maîtresse, un de ses amants et sa propre épouse. Josett est également accusé d'avoir accédé au système de lecture automatique des plaques d'immatriculation FLOCK de la police afin de localiser le véhicule de sa maîtresse et celui de l'amant de cette dernière, et ainsi de les suivre.
Même après avoir été suspendu du service de police de Costa Mesa en décembre 2023, Josett a continué d'accéder illégalement au système de lecture automatique des plaques d'immatriculation FLOCK du commissariat en juin 2024 afin de trouver l'adresse du nouveau compagnon de sa maîtresse à Torrance.
Le 28 juin 2024, Josett a reçu une ordonnance de protection d'urgence et un avis de licenciement du service de police de Costa Mesa. Après avoir quitté le commissariat, il est passé en voiture devant le domicile de sa maîtresse, en violation de l'ordonnance d'éloignement, et a été arrêté.
« Les agissements d'un agent de police assermenté sont obsessionnels, inquiétants et dangereux », a déclaré Todd Spitzer, procureur du comté d'Orange. « Personne ne devrait vivre dans la crainte d'être fiché par un agent des forces de l'ordre armé simplement parce qu'il a mis fin à une relation amoureuse. Nul ne peut se cacher derrière son insigne pour justifier des actes criminels, et lorsqu'un agent assermenté franchit la ligne rouge et commet des crimes, il sera poursuivi en justice. »
Les agissements de Josett ont été signalés au Peace Officers Standards and Training (POST), organisme qui délivre les licences aux agents des forces de l'ordre en Californie, et son dossier est en cours de réexamen.
L'affaire est instruite par la procureure adjointe Heather Heslep-Morrissey, de l'Unité des poursuites spéciales.
Cliquez ici pour consulter le communiqué de presse complet.
Incident 1699: Des images générées par IA montrant Donald Trump embrassant Natalie Harp, conseillère à la Maison Blanche, sont devenues virales sur les réseaux sociaux.
“Des images de Trump embrassant Natalie Harp sont devenues virales. Ce sont des faux générés par intelligence artificielle.”
Des images censées montrer le président Donald Trump embrassant Natalie Harp, conseillère à la Maison-Blanche, sur un terrain de golf ont fait le tour des réseaux sociaux cette semaine, cumulant des millions de vues sur différentes plateformes en ligne.
Il s'agissait de faux – diffusés sans origine claire et présentant des signes visuels révélateurs, comme des mains humaines étrangement déformées – créés à l'aide d'outils d'intelligence artificielle générative, selon une analyse du Washington Post utilisant les outils de détection d'IA d'OpenAI (créateur de ChatGPT) et de Google. (Le Washington Post a un partenariat de contenu avec OpenAI.)
Deux versions de la scène de baiser – l'une nette et l'autre floue – sont apparues en ligne lundi, d'après des recherches d'images inversées menées par le Post sur Google et le site web TinEye.
« Il s'agit clairement d'une fausse photo », a déclaré la Maison Blanche dans un courriel adressé au Post, avant de l'attribuer à une manœuvre politique. « Bien sûr, cela vient des Démocrates qui n'ont rien de concret à proposer et qui préfèrent diffuser de fausses images. »
Si certaines personnes se sont laissées berner – « Aujourd'hui, c'est la catastrophe pour avoir des yeux », a déploré un utilisateur de Threads –, les internautes se sont empressés de rétablir la vérité. « Sa main a six doigts », a fait remarquer un internaute en commentaire d'une publication populaire sur X. Il a joint un gros plan de la main féminine montrant un doigt supplémentaire. (Les modèles d'images générés par IA sont notoirement mauvais pour la modélisation des mains.)
Malgré les erreurs évidentes de l'image, sa diffusion rapide témoigne d'une érosion croissante de la confiance du public, explique Hany Farid, spécialiste des images générées par IA au Dartmouth College.
« C'est une mort lente et douloureuse », dit-il. « Quand on sème la méfiance envers les images, plus rien n'est authentique. Plus rien n'est faux, plus rien n'est vrai. »
L'un des premiers partages viraux provenait d'un utilisateur de X identifié comme Mykhailo Rohoza, qui a publié l'image plus nette lundi soir.
« Il y a trente ans, une photo comme celle-ci aurait pu ruiner la carrière d'un homme politique du jour au lendemain. Aujourd'hui ? À peine digne d'interrompre l'actualité », a-t-il écrit. « Mais ne vous inquiétez pas, je suis sûr que les gardiens des "valeurs familiales chrétiennes" préparent déjà leurs déclarations indignées. »
Dans un courriel adressé au Washington Post vendredi, Rohoza a déclaré être surpris par la viralité de sa publication, qu'il avait envoyée sur le ton de la plaisanterie. « Je ne m'attendais certainement pas à ce qu'elle atteigne plus de 10 millions de vues », a-t-il affirmé.
Rohoza insiste sur le fait qu'il n'est pas l'auteur de l'image et ne se souvient pas qui l'a publiée dans la discussion originale, mais il précise l'avoir légèrement modifiée à l'aide d'une intelligence artificielle. « J'ai trouvé une version floue et de mauvaise qualité de cette image qui circulait sur X. J'ai utilisé ChatGPT pour l'éclaircir et l'améliorer, mais je n'ai ni ajouté, ni supprimé, ni modifié les six doigts qui y figuraient », a-t-il écrit. « Ils étaient déjà présents sur l'image originale. »
Lundi, Keith Edwards, un influenceur de gauche populaire, a utilisé cette image plus nette comme miniature YouTube pour l'une de ses vidéos – l'une des premières utilisations connues. Il ne l'a pas utilisée dans la vidéo elle-même et n'a pas commenté son contenu, mais elle sert toujours de miniature avec la mention « WTF » superposée.
« Mon équipe en charge des miniatures a trouvé l'image en ligne », a déclaré Edwards au Washington Post dans un courriel vendredi. « Nous n'avons ni créé ni modifié l'image originale, mais nous n'avons pas non plus vérifié indépendamment sa source ni confirmé que la femme photographiée était bien Natalie Harp. » Edwards n'a pas répondu à la question de savoir où son équipe avait trouvé l'image.
Les efforts déployés pour démasquer ces images et leurs variantes en ligne soulignent la difficulté de modérer les photos et vidéos générées par IA, faciles à créer, sur les réseaux sociaux.
Selon Farid, l'image haute résolution est très probablement apparue en premier, la version floue ayant sans doute été créée par quelqu'un cherchant à supprimer le filigrane de l'IA. Les détecteurs d'IA de deux entreprises différentes ont signalé la photo floue, ce qui laisse penser que quelqu'un a peut-être tenté de l'améliorer.
L'analyse la plus approfondie de ce canular est sans doute celle de Shayan Sardarizadeh, journaliste et vérificateur de faits à la BBC, publiée jeudi sur X. Dans un fil de discussion en neuf parties (https://x.com/Shayan86/status/2100642920437108946), il détaille sa démarche pour démontrer que les deux images étaient bel et bien des faux.
Après quelques recherches, il a découvert que les deux images avaient été créées par intelligence artificielle. La version nette, avec la harpe à six doigts, a été détectée par OpenAI, indiquant qu'elle avait été réalisée avec les outils de cette société. La version floue était plus trompeuse et, au premier abord, n'a pas été détectée par les systèmes de Google ni par ceux d'OpenAI.
Finalement, il a trouvé une version détectée par les propres détecteurs d'IA de Google. (OpenAI et Google apposent tous deux un filigrane sur les images générées avec leurs outils comme ChatGPT et Gemini, et permettent aux utilisateurs de vérifier eux-mêmes l'origine des photos.)
Sardarizadeh n'a toutefois pas pu déterminer qui avait publié l'image en premier, ni si la version floue ou la version nette était antérieure.
« Vérifier le contenu à l'ère de l'IA devient un processus complexe, long et fastidieux », a-t-il écrit sur X.
Incident 1700: Google Gemini aurait accédé aux systèmes protégés de trois entreprises réelles lors d'une évaluation de cybersécurité.
“Gemini a piraté trois entreprises : première intrusion connue de l’IA de Google”
Le modèle Gemini de Google a accédé à Internet et piraté d'autres entreprises lors d'un test de ses capacités de cybersécurité. Il s'agit du premier exemple connu d'un système d'intelligence artificielle de l'entreprise commettant un tel acte de manière autonome.
Ces piratages, confirmés par l'entreprise vendredi, ont eu lieu en mai dans le cadre d'un test mené par la société Irregular, également impliquée dans des incidents similaires révélés par OpenAI, Anthropic et Meta.
Dans un cas, le modèle a deviné des mots de passe jusqu'à obtenir l'accès à un système protégé. Dans les deux autres cas, il a trouvé des identifiants dans un répertoire public, ce qui lui a permis d'accéder à des systèmes protégés. À chaque fois, le modèle a mis fin à l'intrusion après avoir déterminé qu'il avait accédé aux systèmes d'une entreprise réelle, a précisé Google.
Irregular a informé Google des piratages fin juillet, ont indiqué Google et Irregular, suite à la découverte que les agents d'OpenAI avaient piraté la société de logiciels d'IA Hugging Face (https://www.wsj.com/tech/ai/openai-models-escaped-and-hacked-a-company-in-cybersecurity-test-gone-wrong-ee388506). Google n'a divulgué ces piratages que cette semaine, après avoir été contacté par le Wall Street Journal.
Face à la multiplication de ces incidents et aux craintes croissantes concernant une IA incontrôlée, les entreprises s'interrogent sur la manière et le moment de divulguer les failles de sécurité et les dysfonctionnements des modèles. Certaines failles de sécurité ont été divulguées volontairement par les entreprises elles-mêmes. D'autres ont été découvertes par des chercheurs en sécurité et révélées dans les médias, notamment une cyberattaque menée en mai par des agents d'OpenAI contre un service en ligne populaire pour les développeurs.
Google a déclaré qu'il n'estimait pas que ces piratages justifiaient une divulgation publique, car son modèle n'avait causé aucun préjudice aux entreprises et avait mis fin à chaque intrusion immédiatement après avoir déterminé qu'il s'agissait d'une entreprise réelle et non d'une simulation. Google a comparé cet épisode à un programme de primes aux bogues, dans lequel les pirates informatiques sont récompensés pour la découverte et le signalement de failles de sécurité.
« Cet événement souligne l'importance de former des modèles d'IA puissants à agir de manière responsable », a déclaré Heather Adkins, vice-présidente de l'ingénierie de la sécurité chez Google, dans un communiqué. « Dans ce cas précis, le modèle a agi de façon appropriée. »
Jack Cable, PDG de la startup de sécurité IA Corridor et hacker éthique, a déclaré que cette explication mettait l'accent sur la gravité de l'incident, alors que le véritable problème était que l'agent d'IA avait accidentellement piraté les systèmes d'une autre entreprise.
« On a l'impression qu'ils essaient de se retrancher derrière les normes établies en matière de divulgation des vulnérabilités, ce qui pose un problème bien différent », a déclaré Cable. « Le problème de fond, c'est que les modèles dépassent leurs limites et mènent de véritables cyberattaques, ce qui, à mon avis, relève de l'intérêt public. »
OpenAI a publié mercredi un nouveau cadre de signalement des incidents, précisant qu'elle « viserait à divulguer des exemples fournissant des preuves utiles » de ce qu'on appelle le désalignement des modèles – ou une IA agissant à l'encontre des intentions ou des valeurs humaines. En parallèle de ce cadre de référence, OpenAI a publié des rapports sur six exemples de désalignement jusque-là inconnus. « Une découverte n'a pas forcément besoin de causer des dommages ou de révéler une tendance plus générale pour être digne d'être partagée », a déclaré Kai Chen, responsable de l'alignement chez OpenAI, lors d'une interview concernant ce cadre.
Selon Google, les piratages de Gemini sont dus à une erreur d'identité.
Ces piratages ont eu lieu alors que le modèle participait à un exercice de type « capture de drapeau » mené sur l'infrastructure d'Irregular afin de tester ses capacités en matière de cybersécurité. Il devait récupérer des informations à partir d'un logiciel exploité par une entreprise fictive au sein de l'environnement de test. Cette entreprise fictive portait le même nom qu'une entreprise réelle.
Bien que le modèle n'ait pas été conçu pour se connecter à Internet, l'accès a été rendu possible par inadvertance, d'après Irregular. Dans un premier temps, le modèle a réussi à deviner un mot de passe et à accéder au service de l'entreprise réelle, a indiqué Google. Il s'est ensuite rendu compte de son erreur, s'est arrêté et a quitté le système, toujours selon Google.
Les autres piratages se sont produits lors de différentes phases du test. Dans les deux cas, le modèle a effectué des recherches web avec le nom de l'entreprise, a indiqué Google. Ces recherches l'ont conduit à deux répertoires publics en ligne contenant des identifiants appartenant à d'autres entreprises. Le modèle a tenté d'utiliser ces identifiants dans l'espoir de mener à bien l'évaluation. Mais après avoir réussi à les utiliser, le modèle s'est rendu compte qu'il avait accédé à de véritables entreprises et s'est arrêté, a précisé Google.
Google a déclaré ne pas considérer ce comportement comme un exemple de dysfonctionnement du modèle, car ses mesures de sécurité ont permis de l'interrompre. L'entreprise a refusé de divulguer le nom des entreprises piratées, mais a indiqué que les trois avaient été informées.
Google a également informé les autorités fédérales, a ajouté l'entreprise.
Google a précisé que ces piratages n'impliquaient pas son modèle le plus récent, sans toutefois révéler quel modèle Gemini était concerné.
Irregular a joué un rôle dans plusieurs incidents au cours desquels des modèles en cours d'évaluation se sont échappés des environnements de test et ont compromis les systèmes d'autres entreprises. Irregular a déclaré que le cas de Google était similaire aux autres incidents et ne constituait pas un problème nouveau.
« Tous les laboratoires concernés ont été informés fin juillet et les entités affectées ont été contactées dans le cadre de l'enquête », a indiqué un porte-parole d'Irregular. « Irregular a réagi immédiatement et tous les problèmes connus de notre côté ont été corrigés il y a plusieurs semaines. »
Contrairement à Google, le modèle Claude Opus 4.7 d'Anthropic n'a pas interrompu l'exercice de capture de drapeau après avoir réalisé qu'il accédait probablement à une entreprise réelle, selon un article de blog d'Anthropic. Le modèle d'OpenAI, quant à lui, a cru que l'entreprise réelle faisait partie de la simulation, a précisé OpenAI dans sa publication.
Les inquiétudes concernant la cybersécurité des nouveaux modèles se sont accrues depuis la découverte, en juillet, du piratage de Hugging Face. Dans ce cas précis, jusqu'à 1 200 agents coordonnés via un forum secret au sein d'OpenAI ont tenté de truquer une évaluation, comme l'a révélé un rapport de la société de tests tierce METR en août.
La semaine dernière, ces inquiétudes ont été largement relayées par le grand public suite à la démission soudaine de Jacob Coxon, un ancien chercheur d'OpenAI qui avait rejoint Anthropic en début d'année. Ce week-end, les dirigeants d'Anthropic, d'OpenAI, de Google et de SpaceX ont tous convenu de la nécessité de ralentir le rythme des progrès de l'IA, bien qu'aucune de ces entreprises n'ait précisé comment cela se ferait exactement.
Incident 1701: Un chatbot doté d'intelligence artificielle aurait confondu par erreur la cargaison d'un navire chinois avec des composants de programme nucléaire, ce qui a incité l'armée américaine à se préparer à une interception.
“Exclusif : L’armée américaine a frôlé la catastrophe après avoir utilisé l’IA pour produire un faux rapport de renseignement, selon des sources.”
Le rapport de renseignement, diffusé au sein de l'armée américaine ce printemps en pleine guerre contre l'Iran, a immédiatement déclenché l'alarme : un navire chinois au Moyen-Orient transportait des composants d'un programme d'armement nucléaire.
L'armée américaine a immédiatement mis en œuvre un plan d'interception du navire, selon quatre sources proches du dossier. D'après deux de ces sources, des militaires américains armés se préparaient à aborder le navire. Des avions militaires étaient en vol, ont indiqué l'une de ces sources et une autre source informée de l'incident.
Ce n'est qu'au dernier moment, juste avant l'opération prévue, que les responsables ont examiné plus en détail le rapport rédigé par un analyste du commandement des opérations spéciales et ont découvert qu'il avait été généré à l'aide d'une intelligence artificielle (IA) – et qu'un chatbot utilisé par l'analyste avait identifié de manière erronée la nature du chargement. CNN n'a pas pu déterminer la nature de cette cargaison erronée.
Le rapport, selon l'une des sources, était « totalement faux ». Mais il a aussi « failli déclencher une guerre », a ajouté la source. Toute opération américaine contre un navire chinois aurait pu dégénérer en conflit armé entre les deux pays.
Au sein des forces armées américaines et des services de renseignement, les responsables s'efforcent d'intégrer l'IA dans presque tous les aspects de leur travail, depuis l'analyse des volumes considérables de renseignements bruts collectés par les États-Unis et la sélection des cibles de frappes, jusqu'à des applications plus courantes comme la gestion budgétaire, logistique et des chaînes d'approvisionnement.
Mais cet épisode souligne les risques importants liés à l'utilisation de cette technologie puissante, nouvelle et encore mal maîtrisée pour le ciblage en pleine guerre. Les analystes craignent depuis longtemps que l'IA puisse conduire à une erreur d'appréciation catastrophique si les États s'appuient sur des données de mauvaise qualité ou corrompues – le genre d'erreur qui pourrait amener les États-Unis à tirer sur un navire chinois sur la base d'informations erronées.
Dans ce cas précis, l'analyste a interrogé un chatbot au sujet d'un rapport de renseignement concernant le manifeste du navire, provenant du Commandement des opérations spéciales des États-Unis pour le Pacifique (US Special Operations Command Pacific), basé à Hawaï. On ignore si le chatbot était un produit commercial ou un outil développé par le gouvernement américain.
« Les outils internes ne sont pour la plupart que des copies des logiciels commerciaux, légèrement modifiées », a déclaré un ancien haut responsable américain connaissant bien les systèmes d'IA utilisés par les analystes militaires et du renseignement.
Le chatbot a combiné des renseignements de sources ouvertes avec des renseignements d'origine électromagnétique secrets détenus par le gouvernement et est parvenu à sa conclusion fatidique concernant le matériel transporté par le navire.
L'analyste a ensuite utilisé l'IA pour compiler les résultats dans un rapport de renseignement standard – du type de ceux auxquels font confiance les responsables militaires – et l'a diffusé.
Le Commandement des opérations spéciales des États-Unis pour le Pacifique et le Pentagone n'ont pas répondu à notre demande de commentaires.
L'adoption rapide de l'IA se justifie par sa capacité à aider les militaires à prendre plus rapidement des décisions sur le champ de bataille, comme le choix des cibles à frapper ou le déploiement des moyens militaires. Selon des responsables, les États-Unis ne peuvent se permettre de prendre du retard dans l'intégration de l'IA, au cas où ils devraient un jour affronter la Chine ou un autre adversaire capable de garder une longueur d'avance.
En janvier, le secrétaire à la Défense, Pete Hegseth, a présenté la « Stratégie d'accélération de l'intelligence artificielle » de son ministère, visant à accélérer l'utilisation de l'IA par les forces armées.
« Nous allons encourager l'expérimentation, éliminer les obstacles bureaucratiques, concentrer nos investissements et démontrer la méthode d'exécution nécessaire pour garantir notre leadership en matière d'IA militaire », a déclaré M. Hegseth lors de son discours annonçant la stratégie.
La stratégie préconise également une utilisation généralisée de l'IA au sein des forces armées, ordonnant au département de rendre l'IA accessible via plusieurs programmes. L'objectif est de « démocratiser l'expérimentation et la transformation de l'IA au sein du département en mettant les modèles d'IA de pointe américains directement entre les mains de nos trois millions de civils et de militaires, à tous les niveaux de classification », indique une note annonçant la stratégie (https://media.defense.gov/2026/Jan/12/2003855671/-1/-1/0/ARTIFICIAL-INTELLIGENCE-STRATEGY-FOR-THE-DEPARTMENT-OF-WAR.PDF).
Cependant, cette initiative est décentralisée, selon plusieurs responsables américains connaissant bien la situation. Différentes composantes du gouvernement utilisent différents outils, selon des directives et des normes de sécurité différentes. Il n'existe pas de normes uniformes régissant la vérification des informations générées par ces outils. La multitude de systèmes d'IA déployés par différents services des forces armées et du renseignement explique la grande disparité de leur fiabilité et de leurs fonctionnalités.
Depuis des semaines, les décideurs politiques à Washington débattent intensément de l'IA suite à une série d'avertissements alarmistes lancés par des ingénieurs de la Silicon Valley et des PDG du secteur technologique. Ces avertissements pointent du doigt la possibilité que l'IA échappe à tout contrôle humain, avec des conséquences potentiellement apocalyptiques pour la civilisation.
Mais l'incident du navire chinois met en lumière un risque différent, et plus immédiat : celui de décisions catastrophiques prises par des êtres humains sur la base d'informations inexactes ou trompeuses générées par l'IA ou d'autres systèmes automatisés. Selon certaines sources, l'armée se tourne rapidement vers l'IA pour l'aider dans le ciblage, un domaine où le risque d'erreurs fatales est évident.
« L'utilisation de l'IA dans le ciblage est en plein essor, et il n'existe aucune directive claire sur la manière dont la présence humaine dans le processus permettra d'éviter les pertes civiles ou les tirs fratricides », a déclaré une autre source proche des politiques militaires actuelles.
Le type d’« hallucination » (https://www.cnn.com/2023/08/29/tech/ai-chatbot-hallucinations) provoquée par l’outil utilisé par l’analyste dans cette affaire n’est pas un cas isolé au sein des services de renseignement depuis la prolifération de ces outils dans les administrations, selon une source.
Pour certains responsables du renseignement plus âgés – même ceux qui soutiennent globalement l’utilisation de l’IA dans l’armée – l’IA a accru la pression sur les analystes pour produire et diffuser des renseignements plus rapidement, ce qui augmente le risque d’erreurs. Les jeunes analystes, en particulier, sont très à l’aise avec ces outils et ont tendance à leur faire confiance aveuglément, selon plusieurs sources.
« L’IA permet de se tromper plus rapidement », a déclaré une des sources.
Incident 1702: Une opération d'influence de type « Matriochka », liée à la Russie, aurait utilisé des voix de célébrités clonées par IA et des vidéos de style journalistique fabriquées de toutes pièces pour cibler des candidats démocrates avant les élections de mi-mandat américaines de 2026.
“La Russie cherche à semer le chaos dans les élections, selon les services de renseignement américains.”
Le gouvernement russe cible les Américains par le biais d'opérations secrètes de désinformation en ligne visant à saper la confiance du public dans les élections de mi-mandat de novembre, utilisant une stratégie bien rodée pour semer le chaos durant la période électorale, selon des responsables américains au fait du dossier.
Des évaluations classifiées des services de renseignement américains datant de ces derniers mois ont établi que le Kremlin a de nouveau autorisé une campagne d'influence numérique pour diffuser du contenu sur les réseaux sociaux dans l'espoir d'attiser ou d'amplifier les divisions internes à l'approche des élections, ont indiqué ces responsables.
Ces évaluations n'ont pas mis en évidence de tentatives de ciblage du matériel de vote susceptibles de compromettre le processus électoral, ont-ils ajouté. Ces responsables, qui ont requis l'anonymat car ils n'étaient pas autorisés à divulguer d'informations classifiées, n'ont pas précisé la nature des efforts déployés pour influencer les opinions en ligne. Cependant, des experts en désinformation russe ont repéré ces dernières semaines des campagnes sur les réseaux sociaux utilisant l'intelligence artificielle pour créer de fausses vidéos de célébrités hollywoodiennes s'exprimant sur les élections sénatoriales clés.
La campagne de désinformation semble moins étendue et moins coordonnée que certaines des précédentes tentatives russes d'ingérence dans les élections américaines, ont déclaré certains responsables. Depuis 2016, le Kremlin a lancé des opérations d'influence en ligne lors de chaque cycle électoral fédéral américain, d'après des évaluations déclassifiées. Ces responsables ont ajouté que les agences de renseignement américaines estiment que Moscou s'intéresse moins aux élections de mi-mandat qu'à l'élection présidentielle et qu'elle est préoccupée par son conflit interminable avec l'Ukraine.
Cette volonté d'attiser les passions au sein de l'électorat intervient alors que le président Trump s'efforce à plusieurs reprises de remettre en cause l'intégrité de la démocratie américaine. En juillet, lors d'une allocution télévisée en prime time sur la sécurité des élections, M. Trump a affirmé que le système de vote américain présentait de graves failles et a accusé les responsables américains d'avoir orchestré pendant des années une dissimulation des efforts déployés par la Chine et d'autres pays pour influencer les élections.
Il a chargé un groupe de travail de déclassifier des documents censés étayer ses allégations de fraude électorale massive et d'ingérence étrangère. Cependant, ces documents, fortement expurgés, n'ont révélé aucune nouvelle faille majeure dans le système électoral américain ni démontré que des gouvernements étrangers aient manipulé les votes.
Selon certains responsables, l'objectif principal des opérations d'influence russes semble être de semer le chaos plutôt que de favoriser un parti en particulier. Pourtant, les exemples de désinformation attribués à la Russie ces dernières semaines par des chercheurs indépendants spécialisés dans ce domaine ont exclusivement ciblé des candidats démocrates dans des États clés.
La Maison Blanche, le Bureau du directeur du renseignement national et l'ambassade de Russie n'ont pas répondu aux demandes de commentaires. La Russie a toujours nié les accusations américaines d'ingérence électorale.
Selon certaines évaluations des services de renseignement, l'Iran pourrait également mener des opérations d'influence en vue de l'élection de novembre, ont indiqué les responsables. Toutefois, peu d'activités ont été documentées dans les canaux classifiés remontant à Téhéran. Le pays, en conflit armé avec les États-Unis depuis février, a cherché à diffuser une propagande visant à discréditer M. Trump lors des élections présidentielles de 2020 et 2024, et les responsables estiment qu'il est raisonnable de s'attendre à ce que le régime récidive.
Le mois dernier, Meta a publié un rapport mettant en lumière un petit réseau de comptes Facebook et Instagram, basés en Iran et axés sur la politique américaine. Le contenu du réseau, dont une partie était générée par intelligence artificielle, véhiculait des opinions anti-républicaines, a déclaré Meta.
Selon les conclusions des services de renseignement américains, la Chine pourrait également être disposée à mener des opérations d'influence en ciblant des élections législatives ou des membres du Congrès que Pékin considère comme hostiles à ses intérêts, ont indiqué des responsables.
Cette approche rappellerait également ses agissements lors des précédentes campagnes électorales, mais les évaluations des services de renseignement américains ont conclu que Pékin pourrait finalement s'en abstenir par crainte de représailles, ont précisé ces mêmes responsables. De manière générale, la Chine se montre plus prudente afin d'éviter d'être prise en flagrant délit, tandis que la Russie et l'Iran semblent moins préoccupés par le risque d'être découverts, ont déclaré des responsables américains, actuels et anciens.
En 2016, le président russe Vladimir Poutine a ordonné une campagne d'ingérence à plusieurs volets visant à discréditer Hillary Clinton, la candidate démocrate, et à renforcer les chances électorales de son rival républicain, Donald Trump, ont conclu les agences de renseignement américaines. Plusieurs audits de ces conclusions de renseignement, dont une enquête pluriannuelle menée par la commission du renseignement du Sénat, à majorité républicaine, les ont corroborées.
Des chercheurs en Europe et aux États-Unis, qui suivent les campagnes de désinformation russes, ont récemment observé des signes d'activité russe. Au cours de deux vagues distinctes la semaine dernière, un réseau précédemment lié à des trolls du Kremlin a publié sur X et BlueSky une série de vidéos semblant utiliser l'intelligence artificielle pour diffuser des allégations infondées contre des candidats démocrates au Sénat dans des circonscriptions très disputées. Des éléments de cette campagne avaient déjà été signalés par MS NOW.
Ces publications attaquaient les candidats en reprenant des thèmes chers à M. Trump et au Parti républicain pour discréditer les démocrates, notamment des accusations de corruption, d'antisémitisme et de soutien aux droits des personnes LGBTQ+.
Les publications contenaient des allégations fausses ou non fondées, présentées dans des vidéos conçues pour faire croire qu'elles provenaient d'organes de presse importants, tels que CNN, la BBC et le New York Times.
Parmi les personnes visées figuraient le sénateur Jon Ossoff, candidat à sa réélection en Géorgie, et d'autres candidats susceptibles de donner la majorité aux démocrates au Sénat : Sherrod Brown dans l'Ohio, Roy Cooper en Caroline du Nord, Troy Jackson dans le Maine, Chris Pappas dans le New Hampshire, Mary Peltola en Alaska, Abdul El-Sayed dans le Michigan, James Talarico au Texas et Joshua Turek dans l'Iowa.
Graphika, une société d'analyse des menaces, a attribué cette campagne de désinformation à une opération liée au Kremlin, baptisée « Opération Surcharge » ou « Matriochka » par les experts. Cette opération consiste souvent à usurper l'identité de véritables médias pour diffuser de faux contenus.
Une publication apparue jeudi imitait une vidéo du New York Times montrant une image de l'actrice Jamie Lee Curtis, accompagnée de sous-titres critiquant la politique des démocrates concernant les questions transgenres. « Il n'y a pas la moindre once de vérité là-dedans », a déclaré Heidi Schaeffer, l'attachée de presse de l'actrice, lors d'une interview.
À la fin de la journée, la publication avait été vue près de 200 000 fois, selon le décompte de X. X, qui n'a pas répondu à notre demande de commentaires, a supprimé certaines publications apparues plus tôt dans la semaine, mais beaucoup restent en ligne.
Ces publications employaient des tactiques russes déjà vues lors de précédentes élections aux États-Unis et en Europe.
Jean Le Roux, chercheur principal chez Graphika, a noté que le contenu américain est apparu peu après la fin des élections en Allemagne et en Suède.
« Nous nous attendons clairement à une intensification de ces agissements », a-t-il déclaré au sujet de l'effort russe. « Je ne pense pas qu'ils vont s'arrêter. Je pense que nous assistons au lancement initial d'une campagne ciblée sur l'élection américaine. »
A propos de la base de données
La base de données des incidents d'IA est dédiée à l'indexation de l'historique collectif des dommages ou les quasi-dommages réalisés dans le monde réel par le déploiement de systèmes d'intelligence artificielle. Comme des bases de données similaires dans l'aviation et la sécurité informatique, La base de données des incidents d'IA vise à apprendre de l'expérience afin que nous puissions prévenir ou atténuer les mauvais résultats.
Vous êtes invité à soumettre des rapports d'incident, après quoi les soumissions seront indexées et rendues visibles au monde entier. L'intelligence artificielle ne sera bénéfique pour les personnes et la société que si nous enregistrons et apprenons collectivement de ses échecs. (Plus d'informations)

Enquête sur les incidents d'IA pour construire un avenir plus sûr : l'Instituto de Investigación de Seguridad Digital s'associe à Responsible AI Collaborative
By TheCollab Board of Directors
2024-02-20
L'Institut d'inestigation de Securité Digital (DSRI) des Instituts d'Investigation de UL est assoicé evec Responsible AI Collaborative (TheC...
La base de données dans la presse
En savoir plus sur la base de données sur Time Magazine, Vice News, Venture Beat, Wired et Bulletin of the Atomic Scientists entre autres points de vente.
La collaboration IA responsable
La base de données d'incidents d'IA est un projet du Responsible AI Collaborative, une organisation autorisée à promouvoir la base de données d'incidents d'IA. La gouvernance de la Collaborative est structurée autour de la participation de sa programmation d'impact. Pour plus de détails, nous vous invitons à lire le rapport de la fondation et à en savoir plus sur notre and learn more on our.

View the Responsible AI Collaborative's Form 990 and tax-exempt application. We kindly request your financial support with a donation.
Commanditaire fondateur de l'organisation
Commanditaire fondateur de la base de données

Commanditaires et subventions
Commanditaires en nature
Le briefing sur les incidents d'IA

Create an account to subscribe to new incident notifications and other updates.


