Bienvenue dansla base de données des incidents d'IA
Incident 1720: Un policier de Stow, dans le Massachusetts, aurait utilisé le système de lecture de plaques d'immatriculation Flock pour suivre son ancienne partenaire amoureuse.
“Un policier de Stow accusé d'avoir utilisé à mauvais escient le système Flock pour suivre son ex-compagne”Dernier rapport
STOW, Massachusetts — Un policier de Stow risque des sanctions disciplinaires après que le service a découvert qu'il avait utilisé à plusieurs reprises les bases de données de la police pour obtenir des informations sur une ancienne compagne.
Cette femme, qui a souhaité garder l'anonymat, a déclaré avoir mis fin à sa relation avec l'agent Jason Rogers il y a environ cinq ans. Elle a expliqué que leur relation était abusive et qu'elle avait changé d'identité, de numéro de téléphone et d'activité sur les réseaux sociaux après leur rupture.
Cet été, elle a découvert que Rogers avait utilisé le système de caméras Flock pour la localiser alors qu'il travaillait pour le service de police de Stow.
« C'était une relation abusive que j'ai fuie et pour laquelle j'ai changé d'identité », a-t-elle déclaré. « J'ai déménagé, changé de numéro de téléphone, bloqué le sien et je ne suis plus très active sur les réseaux sociaux. »
Elle a expliqué avoir saisi son numéro d'immatriculation sur un site web et avoir découvert que Rogers avait recherché sa position à plusieurs reprises en 2024 et 2025. Elle a également indiqué que Rogers était passé en voiture devant son domicile.
« Il l'a utilisé illégalement pour me traquer et me retrouver, pour surveiller mes déplacements et mes activités », a-t-elle déclaré.
Le service de police de Stow a indiqué avoir porté plainte contre Rogers le 17 juillet pour « violations potentielles de la loi de l'État ».
À la suite d'une enquête interne de quatre semaines, le service a constaté que Rogers avait utilisé à plusieurs reprises les systèmes informatiques de l'État pour obtenir des informations sur la femme en 2024 et 2025.
La femme a précisé que Rogers avait accédé non seulement à Flock, mais aussi à d'autres bases de données policières.
« Sur Flock, il a accédé à plusieurs reprises, mais il a également utilisé CJIS, CORI et d'autres systèmes auxquels il avait accès », a-t-elle expliqué.
Le service de police de Stow a suspendu Rogers avec maintien de salaire en juillet, après avoir jugé son comportement indigne d'un agent. Le 31 juillet, il a été suspendu sans solde.
« Je ne pense pas qu'une personne comme lui devrait porter un insigne et une arme », a conclu la femme.
Elle a également obtenu une ordonnance restrictive contre Rogers, qui, selon elle, restera en vigueur pendant au moins un an.
« Je crois que c'est la seule chose qui me permette de sortir de chez moi sans avoir à me retourner constamment », a-t-elle déclaré.
Le chef de la police de Stow a indiqué qu'une audience du conseil municipal se tiendra la semaine prochaine, au cours de laquelle les élus pourraient se prononcer sur le statut professionnel de Rogers.
La chaîne Boston 25 News a tenté de joindre l'avocat de Rogers pour obtenir un commentaire, mais n'a pas encore reçu de réponse.
Incident 1721: Le représentant américain du Wisconsin, Derrick Van Orden, aurait publié des deepfakes (des vidéos truquées) montrant son adversaire Rebecca Cooke dire des choses qu'elle n'a jamais dites.
“L'équipe de campagne de Cooke envoie une mise en demeure au député Van Orden concernant les deepfakes basés sur l'IA.”
Les avocats de Rebecca Cooke, candidate au Congrès, ont adressé une mise en demeure au représentant Derrick Van Orden (républicain, Prairie du Chien) concernant l'utilisation par ce dernier de vidéos truquées (deepfakes).
Rebecca Cooke, candidate démocrate, affronte Derrick Van Orden en novembre prochain dans une élection très disputée pour le 3e district du Wisconsin.
Derrick Van Orden a utilisé à plusieurs reprises l'intelligence artificielle pour publier sur son compte X des vidéos montrant Rebecca Cooke tenant des propos qu'elle n'a jamais tenus.
Ces vidéos, publiées sur la plateforme X, sont automatiquement étiquetées comme ayant été créées avec « Grok Imagine », un générateur d'images et de vidéos par intelligence artificielle.
Dans une de ces vidéos, une version de Cooke générée par une IA déclare : « Que les paysans mangent de la brioche. Ils voteront pour moi de toute façon. » Dans une autre vidéo truquée, l’avatar de Cooke affirme : « Il y a 100 % de chances que je vienne de voter pour deux communistes. »
La mise en demeure (https://drive.google.com/file/d/1cqk8OPoIGN__tQeSgNPW0RqHYJr82Xuo/view) fait spécifiquement référence à une vidéo (https://x.com/derrickvanorden/status/2084804099074040317?s=20) partagée par Van Orden le 4 août. On y voit une version fictive de Cooke parler dans un microphone, tandis qu'une image de l'ancien président Joe Biden, générée par une intelligence artificielle, apparaît en arrière-plan.
Cette version IA de Cooke affirme qu'elle se présente au Congrès pour « profiter au maximum de la corruption et offrir des soins de santé gratuits à tous les immigrés clandestins ».
Selon la lettre, il s'agit là de « pure fiction ».
« Mme Cooke n'a jamais tenu les propos qui lui sont attribués », a écrit l'avocat Ben Stafford le 30 septembre. « Vous diffusez ces fausses informations pour tenter de tromper les électeurs du Wisconsin et leur faire croire qu'elle a dit quelque chose qu'elle n'a jamais dit, et non pour nuire à sa réputation à des fins politiques. »
La lettre suggère qu'en partageant ces vidéos, Van Orden risque d'enfreindre la loi de l'État qui interdit à une personnalité publique d'agir avec « intention malveillante » pour diffamer quelqu'un. La diffamation peut inclure la publication d'une fausse déclaration dans le but de nuire à la réputation d'une personne, précise la lettre.
« Non seulement ces publicités sont indignes de votre fonction, mais le droit coutumier de la diffamation du Wisconsin comble les lacunes qui subsistent dans la protection légale du Wisconsin contre les fausses informations diffusées par l'IA », conclut la lettre.
La lettre indique que les avocats de Cooke surveillent les comptes de réseaux sociaux de Van Orden et prévient qu'ils envisagent « toutes les options légales » si Van Orden persiste à « utiliser l'intelligence artificielle à mauvais escient pour diffamer Mme Cooke ».
« Derrick Van Orden ne peut pas se présenter en s'appuyant sur son bilan et passe son temps et son énergie à produire des vidéos truquées par IA qui me font dire des choses que je n'ai pas dites », a déclaré Cooke dans un communiqué, avant de faire apparemment référence au soutien de Van Orden à la loi fédérale One Big Beautiful Act. « Ironiquement, ces deepfakes sont rendus possibles par les mêmes centres de données auxquels Derrick Van Orden a accordé des avantages fiscaux spéciaux, au détriment de nos factures d'énergie et de santé. »
L'OBBA comprenait des allégements fiscaux pour de nombreux types d'entreprises, et ces incitations ont été utilisées par les entreprises technologiques qui construisent des centres de données.
Dans son propre communiqué de presse, l'équipe de campagne de Van Orden a accusé Cooke de faire une « crise de colère monumentale ».
« Rebecca Cooke a passé six ans à faire campagne, mentant aux électeurs sur son identité et son bilan », a déclaré l'équipe de campagne.
Cooke s'est présentée pour la première fois dans le 3e district de la région de Driftless, dans le sud-ouest du Wisconsin, lors des primaires de 2022, où elle a été battue par le démocrate Brad Pfaff. En 2024, Cooke remporta la primaire démocrate pour ce siège, mais perdit face à Van Orden lors de l'élection générale, avec un écart d'environ 3 points de pourcentage.
Cette semaine, sur les réseaux sociaux, Van Orden a répondu à la mise en demeure par une nouvelle vidéo réalisée avec l'aide de Grok.
Ce court extrait met en scène un canard rouge généré par intelligence artificielle.
« Mettez fin à vos agissements ! » s'exclame le canard.
Incident 1717: Le lecteur de plaques d'immatriculation Flock Safety aurait mal interprété une plaque, ce qui a conduit la police de Toledo, dans l'Ohio, à arrêter un automobiliste sous la menace d'une arme et à déployer un chien policier.
“Un homme témoigne après avoir été contrôlé par un chien policier lors d'un contrôle routier : « Traumatisé »”
Un Afro-Américain de l'Ohio se dit « traumatisé » après que la police a lâché un chien policier sur lui lors d'un contrôle routier. Les policiers, soupçonnés à tort d'avoir volé leur véhicule, l'ont interpellé, comme le montrent les images de la caméra corporelle.
La section de Toledo de la NAACP a qualifié cette semaine le lâcher du chien policier d'« injustifié » et d'« inhumain ».
Brandon Upchurch, 38 ans, de Toledo, a déclaré à ABC News avoir été mordu sept fois à l'avant-bras et au coude par le chien policier après avoir été arrêté le 11 avril. Depuis, il est dans l'incapacité de travailler.
« Mon coude était déjà abîmé », a-t-il confié au correspondant d'ABC News, Ike Ejiochi. « Je suis complètement paralys é. »
M. Upchurch a expliqué qu'il ramenait son cousin du travail lorsque les policiers l'ont arrêté.
« Ils sont immédiatement sortis, armes au poing », a-t-il déclaré. « Ils ne sont même pas venus à ma voiture pour me demander mon permis de conduire, mon assurance, etc. »
Upchurch a été interpellé pour suspicion de vol de véhicule, comme le montrent les images de la caméra corporelle diffusées par le département de police de Toledo. Les policiers lui demandent à plusieurs reprises de sortir du véhicule, tandis qu'on entend Upchurch demander pourquoi ils l'ont arrêté.
Une fois sorti du camion, les agents lui ordonnent de leur tourner le dos. Upchurch demande à plusieurs reprises : « Pourquoi m'arrête-t-on ? » Les agents lui ordonnent de se mettre à terre à plusieurs reprises. Alors qu'Upchurch s'éloigne du trottoir et commence à s'agenouiller, un agent lâche le chien policier sur lui, comme le montrent les images.
« Mec, je ne fais rien ! », dit Upchurch dans la vidéo, puis il demande à plusieurs reprises aux policiers : « Qu'est-ce que j'ai fait ? »
Pendant qu'on lui menotte les menottes, un agent lui dit que la plaque d'immatriculation du camion est volée, ce qu'Upchurch nie catégoriquement.
Après qu'Upchurch a demandé des soins médicaux, un agent lui répond : « Ça arrive. » En s'éloignant, l'agent confie à un collègue qu'Upchurch s'est comporté comme un « enfant capricieux » pour avoir demandé des soins médicaux.
Suite à l'arrestation d'Upchurch, on entend les policiers, sur la vidéo, réaliser que les informations relatives à la plaque d'immatriculation étaient erronées et qu'il s'agissait d'une erreur de lecture du lecteur. La plaque du véhicule conduit par Upchurch ne correspondait pas à celle du véhicule prétendument volé.
« Maintenant, je sais que ce n'est pas la même plaque », déclare l'un des policiers.
Upchurch a déclaré à ABC News qu'il ne représentait aucune menace et qu'il n'essayait pas de s'enfuir.
« C'est inadmissible pour une plaque volée », a déclaré Upchurch. « Il leur suffisait de revérifier la plaque pour se rendre compte qu'elle n'était pas volée. »
« J'ai mon permis, mon assurance, tout est en règle », a-t-il affirmé. « Il l'a même admis devant sa caméra corporelle. »
Upchurch a été inculpé de résistance à l'arrestation et d'entrave à la justice. La plainte allègue qu'il a ignoré les « nombreux ordres » des policiers pendant qu'ils enquêtaient sur un véhicule volé et qu'il a « refusé d'obtempérer tout au long de l'intervention ».
ABC News a contacté le département de police de Toledo et le bureau du procureur du comté de Lucas pour obtenir leurs commentaires.
La section de Toledo de la NAACP a exigé une enquête approfondie sur l'incident et a déclaré qu'il rappelait l'utilisation de chiens policiers contre les manifestants noirs pendant le mouvement des droits civiques.
« Nos policiers sont là pour servir, et non pour occuper nos quartiers, même lorsqu'ils estiment qu'une infraction a été commise », a déclaré l'organisation dans un communiqué vendredi. « Nous comptons sur nos policiers pour être justes et équitables envers les membres de la communauté car, comme dans ce cas, les agents peuvent être mal informés. »
« Des incidents de ce type compromettent non seulement les progrès réalisés en matière de relations positives entre la police et la communauté, mais démontrent également un besoin criant de formation », poursuit le communiqué. « Nous ne retournerons pas aux années 1960 ! »
Upchurch a déclaré à ABC News qu'il exigeait que justice soit faite.
« J'ai eu peur. Je suis vraiment traumatisé », a-t-il déclaré. « Il faut que quelqu'un soit tenu responsable. »
« Si on avait fait une gaffe, ça aurait mal tourné, je pense », a-t-il dit.
Incident 1718: Une image prétendument générée par une intelligence artificielle aurait déclenché une alerte policière et des recherches concernant une vipère venimeuse inexistante à Santa Ana, en Californie.
“L'image de la vipère qui a semé l'inquiétude en Californie était générée par une intelligence artificielle.”
Le message de la police du sud de la Californie était alarmant : une vipère venimeuse avait été aperçue dans un arbre.
La suite fut rassurante et un peu cocasse, mais tout aussi inquiétante : l’image présentée comme preuve de cette observation rare était un faux ; elle avait été générée par intelligence artificielle.
« Nous avons reçu des signalements concernant un serpent, vraisemblablement une vipère du Gabon, aperçu pour la dernière fois dans un arbre d’un quartier résidentiel », a indiqué la police de Santa Ana, au sud-est de Los Angeles, dans son alerte initiale lundi. « Le serpent mesurerait environ 1,20 à 1,50 mètre. »
Les réactions des riverains ont sans doute été diverses, mais on peut supposer que beaucoup se sont exclamés : « Un serpent d'un mètre cinquante dans un arbre ? Mon Dieu, mon oncle Rudy habite tout près ! » Le serpent était loin de son habitat naturel, les forêts tropicales d'Afrique équatoriale.
Si les plus inquiets poursuivaient leur lecture, il n'y avait pas grand-chose pour les rassurer : « Les vipères du Gabon sont extrêmement venimeuses », ajoutait la police. « NE PAS approcher ni tenter de la manipuler. » (L'utilisation des majuscules est de leur fait. Mais nous aussi, nous aurions fait de même.)
La police a agi. Des herpétologues ont été appelés. La zone a été fouillée. Aucun serpent, ni aucune trace de sa présence, n'a été trouvé dans l'immédiat.
La vipère du Gabon est remarquable à bien des égards.
« Voici une magnifique vipère du Gabon », déclare le zoo de Toronto, vantant ses couleurs – brunes, beiges, violettes et roses – et les motifs symétriques de ses écailles.
Mais ce qui est effrayant, c’est que ses crochets sont les plus longs de tous les serpents venimeux au monde : de 2,5 à 4 cm. C’est aussi le serpent venimeux le plus lourd d’Afrique, pesant entre 7 et 9 kg.
Et surtout, le zoo prévient que la vipère du Gabon possède la plus grande quantité de venin de tous les serpents.
« Elle peut frapper à une vitesse fulgurante et maintient souvent sa prise sur sa victime jusqu’à ce que le venin fasse son effet », explique le zoo. « Quand la proie cesse de bouger, la vipère du Gabon commence à la dévorer. » Brrr !
Ah oui, c’est vrai. Dans toute cette agitation liée à la possibilité d'être dévorés, nous avions presque oublié un détail important : il n'y avait en réalité aucune vipère du Gabon en Californie du Sud.
Les enquêteurs ont interrogé la personne qui avait signalé la présence du serpent. Au début, elle a maintenu sa version des faits. Mais elle a fini par admettre que sa photo était générée par une intelligence artificielle, ont indiqué les autorités mardi. La police n'a pas immédiatement répondu aux questions concernant l'identité de cette personne ni la possibilité de poursuites judiciaires.
Ce communiqué ajoutait : « Dès le départ, on a soupçonné que la photo pouvait avoir été générée par une intelligence artificielle. »
Certaines images d'animaux générées par une intelligence artificielle sont, disons-le, extrêmement trompeuses. Ce chat domestique n'a pas fait fuir un ours menaçant, croyez-moi. Mais d'autres semblent tromper tous, sauf les naturalistes les plus avertis.
Ce n'est pas la première fois qu'une photographie d'origine douteuse inquiète la population. Le mois dernier, les activités récréatives dans un réservoir à Singapour ont été suspendues après la publication d'une image montrant un crocodile dans l'eau.
Cette image s'est également révélée être une image générée par intelligence artificielle, et un homme a été inculpé.
Incident 1719: L'agent d'IA Claude Code d'Anthropic aurait supprimé environ 48 000 fichiers de projets actifs et l'historique de contrôle de version lors d'une réparation logicielle.
“« J'ai tout cassé » : Un agent d'IA de Claude Code a supprimé 48 000 fichiers en un peu plus de 100 secondes, puis s'est excusé.”
Un incident catastrophique, provoqué par un agent de programmation IA, a entraîné la suppression d'environ 48 000 fichiers et la destruction de la base de données Git du dépôt.
L'information, initialement apparue sur Reddit, s'est rapidement répandue sur Internet, suscitant des réactions mitigées, entre rires et consternation, au sein de la communauté des développeurs.
Un développeur a ouvert une discussion sur Reddit pour partager une expérience récente. Il avait confié à un assistant de programmation IA la tâche de réparer une suite logicielle utilisée pour analyser des données historiques sur les options boursières. Il lui avait demandé de copier les fichiers concernés, de les modifier, de tester les réparations et de ne pas toucher aux fichiers originaux.
Erreur de direction à l'intersection
Au total, 11 tâches de réparation étaient en cours. Dix d'entre elles se sont déroulées sans problème, mais la dernière consistait à reconstruire un environnement de test appelé « miroir » (une copie d'un ensemble de fichiers utilisés pour les tests). Cette tâche était censée créer une copie propre de l'ancien environnement de test, appliquer les réparations et la tester sans toucher aux fichiers de travail.
L'environnement de test contenait 614 dossiers Windows appelés « jonctions ». Ces dossiers ressemblent à des dossiers ordinaires, mais pointent en réalité vers un emplacement distinct sur l'ordinateur. Dans ce cas précis, ils pointaient vers les fichiers de travail de l'utilisateur. Lorsque l'IA a tenté de supprimer les jonctions, elle ne les a pas reconnues comme de simples pointeurs, les a suivies jusqu'au répertoire de fichiers réel et a supprimé les documents.
Le processus de nettoyage a supprimé environ 55 550 fichiers, dont environ 7 300 auraient dû l'être de toute façon. Les 48 218 fichiers restants provenaient de l'environnement de travail. Tout s'est passé en un clin d'œil, en moins de deux minutes. L'IA a été étonnamment honnête quant à ses actions. À un moment donné, elle a dit au développeur : « Craig, arrête-toi et lis ça. J'ai cassé quelque chose. »
Le dépôt Git de l'ordinateur a également été endommagé. L'index a survécu, mais les copies de fichiers stockées sous-jacentes, ainsi que l'historique utilisé pour les reconstruire, ont été effacés. Git pouvait encore lister des milliers de noms de fichiers, mais ne pouvait plus en récupérer le contenu.
Réaction de Reddit
Le post Reddit a fait un véritable carton. En cinq jours, il a généré plus de 1 400 réponses. Le bot Reddit qui résume les commentaires indique que le consensus général est que cet incident est un « cas typique de FAFO et un problème majeur de compétences ».
« Pendant que tout le monde rit de la franchise hilarante de Claude : « Craig… arrête-toi et lis ça. » Face au message « J'ai tout cassé », le verdict de la communauté est sans appel : vous vous êtes fait avoir parce que vous n'avez pas respecté les bonnes pratiques de développement.
Les utilisateurs de Reddit ont partagé leur expérience et ont expliqué à l'auteur du message initial qu'il aurait dû utiliser Git et envoyer régulièrement ses modifications vers un dépôt distant comme GitHub. Dans ce genre de situation, GitHub est une solution de secours, et ne pas avoir de sauvegarde distante pour un projet de 48 000 fichiers est considéré comme un comportement typique des développeurs inexpérimentés.
Le message a depuis été supprimé, probablement parce que l'auteur avait pris une capture d'écran. « La police des captures d'écran est à l'œuvre », a commenté le bot de Reddit.
« Certains internautes ont suggéré d'utiliser un logiciel de récupération de fichiers ou Windows Shadow Copy pour récupérer vos fichiers, mais la principale leçon à retenir est d'utiliser un système de contrôle de version avant de confier votre travail à une IA. »
Bien que la suppression d'archives entières par des agents d'IA soit relativement rare, cela s'est déjà produit.
Fin février 2026, Summer Yue, chercheuse en sécurité et alignement des IA chez Meta, a donné accès à son compte Gmail à un agent IA d'OpenClaw. Elle l'avait d'abord testé sur une petite boîte de réception de test, où tout fonctionnait comme prévu. Cependant, lorsqu'elle a transféré l'accès à sa véritable boîte de réception, l'agent a commencé à supprimer et archiver en masse des centaines d'e-mails, malgré ses instructions d'arrêt.
A propos de la base de données
La base de données des incidents d'IA est dédiée à l'indexation de l'historique collectif des dommages ou les quasi-dommages réalisés dans le monde réel par le déploiement de systèmes d'intelligence artificielle. Comme des bases de données similaires dans l'aviation et la sécurité informatique, La base de données des incidents d'IA vise à apprendre de l'expérience afin que nous puissions prévenir ou atténuer les mauvais résultats.
Vous êtes invité à soumettre des rapports d'incident, après quoi les soumissions seront indexées et rendues visibles au monde entier. L'intelligence artificielle ne sera bénéfique pour les personnes et la société que si nous enregistrons et apprenons collectivement de ses échecs. (Plus d'informations)

Enquête sur les incidents d'IA pour construire un avenir plus sûr : l'Instituto de Investigación de Seguridad Digital s'associe à Responsible AI Collaborative
By TheCollab Board of Directors
2024-02-20
L'Institut d'inestigation de Securité Digital (DSRI) des Instituts d'Investigation de UL est assoicé evec Responsible AI Collaborative (TheC...
La base de données dans la presse
En savoir plus sur la base de données sur Time Magazine, Vice News, Venture Beat, Wired et Bulletin of the Atomic Scientists entre autres points de vente.
La collaboration IA responsable
La base de données d'incidents d'IA est un projet du Responsible AI Collaborative, une organisation autorisée à promouvoir la base de données d'incidents d'IA. La gouvernance de la Collaborative est structurée autour de la participation de sa programmation d'impact. Pour plus de détails, nous vous invitons à lire le rapport de la fondation et à en savoir plus sur notre and learn more on our.

View the Responsible AI Collaborative's Form 990 and tax-exempt application. We kindly request your financial support with a donation.
Commanditaire fondateur de l'organisation
Commanditaire fondateur de la base de données

Commanditaires et subventions
Commanditaires en nature
Le briefing sur les incidents d'IA

Create an account to subscribe to new incident notifications and other updates.


