Bienvenue dans

la base de données des incidents d'IA

Un Afro-Américain de l'Ohio se dit « traumatisé » après que la police a lâché un chien policier sur lui lors d'un contrôle routier. Les policiers, soupçonnés à tort d'avoir volé leur véhicule, l'ont interpellé, comme le montrent les images de la caméra corporelle.

La section de Toledo de la NAACP a qualifié cette semaine le lâcher du chien policier d'« injustifié » et d'« inhumain ».

Brandon Upchurch, 38 ans, de Toledo, a déclaré à ABC News avoir été mordu sept fois à l'avant-bras et au coude par le chien policier après avoir été arrêté le 11 avril. Depuis, il est dans l'incapacité de travailler.

« Mon coude était déjà abîmé », a-t-il confié au correspondant d'ABC News, Ike Ejiochi. « Je suis complètement paralysé. »

M. Upchurch a expliqué qu'il ramenait son cousin du travail lorsque les policiers l'ont arrêté.

« Ils sont immédiatement sortis, armes au poing », a-t-il déclaré. « Ils ne sont même pas venus à ma voiture pour me demander mon permis de conduire, mon assurance, etc. »

Upchurch a été interpellé pour suspicion de vol de véhicule, comme le montrent les images de la caméra corporelle diffusées par le département de police de Toledo. Les policiers lui demandent à plusieurs reprises de sortir du véhicule, tandis qu'on entend Upchurch demander pourquoi ils l'ont arrêté.

Une fois sorti du camion, les agents lui ordonnent de leur tourner le dos. Upchurch demande à plusieurs reprises : « Pourquoi m'arrête-t-on ? » Les agents lui ordonnent de se mettre à terre à plusieurs reprises. Alors qu'Upchurch s'éloigne du trottoir et commence à s'agenouiller, un agent lâche le chien policier sur lui, comme le montrent les images.

« Mec, je ne fais rien ! », dit Upchurch dans la vidéo, puis il demande à plusieurs reprises aux policiers : « Qu'est-ce que j'ai fait ? »

Pendant qu'on lui menotte les menottes, un agent lui dit que la plaque d'immatriculation du camion est volée, ce qu'Upchurch nie catégoriquement.

Après qu'Upchurch a demandé des soins médicaux, un agent lui répond : « Ça arrive. » En s'éloignant, l'agent confie à un collègue qu'Upchurch s'est comporté comme un « enfant capricieux » pour avoir demandé des soins médicaux.

Suite à l'arrestation d'Upchurch, on entend les policiers, sur la vidéo, réaliser que les informations relatives à la plaque d'immatriculation étaient erronées et qu'il s'agissait d'une erreur de lecture du lecteur. La plaque du véhicule conduit par Upchurch ne correspondait pas à celle du véhicule prétendument volé.

« Maintenant, je sais que ce n'est pas la même plaque », déclare l'un des policiers.

Upchurch a déclaré à ABC News qu'il ne représentait aucune menace et qu'il n'essayait pas de s'enfuir.

« C'est inadmissible pour une plaque volée », a déclaré Upchurch. « Il leur suffisait de revérifier la plaque pour se rendre compte qu'elle n'était pas volée. »

« J'ai mon permis, mon assurance, tout est en règle », a-t-il affirmé. « Il l'a même admis devant sa caméra corporelle. »

Upchurch a été inculpé de résistance à l'arrestation et d'entrave à la justice. La plainte allègue qu'il a ignoré les « nombreux ordres » des policiers pendant qu'ils enquêtaient sur un véhicule volé et qu'il a « refusé d'obtempérer tout au long de l'intervention ».

ABC News a contacté le département de police de Toledo et le bureau du procureur du comté de Lucas pour obtenir leurs commentaires.

La section de Toledo de la NAACP a exigé une enquête approfondie sur l'incident et a déclaré qu'il rappelait l'utilisation de chiens policiers contre les manifestants noirs pendant le mouvement des droits civiques.

« Nos policiers sont là pour servir, et non pour occuper nos quartiers, même lorsqu'ils estiment qu'une infraction a été commise », a déclaré l'organisation dans un communiqué vendredi. « Nous comptons sur nos policiers pour être justes et équitables envers les membres de la communauté car, comme dans ce cas, les agents peuvent être mal informés. »

« Des incidents de ce type compromettent non seulement les progrès réalisés en matière de relations positives entre la police et la communauté, mais démontrent également un besoin criant de formation », poursuit le communiqué. « Nous ne retournerons pas aux années 1960 ! »

Upchurch a déclaré à ABC News qu'il exigeait que justice soit faite.

« J'ai eu peur. Je suis vraiment traumatisé », a-t-il déclaré. « Il faut que quelqu'un soit tenu responsable. »

« Si on avait fait une gaffe, ça aurait mal tourné, je pense », a-t-il dit.

Le message de la police du sud de la Californie était alarmant : une vipère venimeuse avait été aperçue dans un arbre.

La suite fut rassurante et un peu cocasse, mais tout aussi inquiétante : l’image présentée comme preuve de cette observation rare était un faux ; elle avait été générée par intelligence artificielle.

« Nous avons reçu des signalements concernant un serpent, vraisemblablement une vipère du Gabon, aperçu pour la dernière fois dans un arbre d’un quartier résidentiel », a indiqué la police de Santa Ana, au sud-est de Los Angeles, dans son alerte initiale lundi. « Le serpent mesurerait environ 1,20 à 1,50 mètre. »

Les réactions des riverains ont sans doute été diverses, mais on peut supposer que beaucoup se sont exclamés : « Un serpent d'un mètre cinquante dans un arbre ? Mon Dieu, mon oncle Rudy habite tout près ! » Le serpent était loin de son habitat naturel, les forêts tropicales d'Afrique équatoriale.

Si les plus inquiets poursuivaient leur lecture, il n'y avait pas grand-chose pour les rassurer : « Les vipères du Gabon sont extrêmement venimeuses », ajoutait la police. « NE PAS approcher ni tenter de la manipuler. » (L'utilisation des majuscules est de leur fait. Mais nous aussi, nous aurions fait de même.)

La police a agi. Des herpétologues ont été appelés. La zone a été fouillée. Aucun serpent, ni aucune trace de sa présence, n'a été trouvé dans l'immédiat.

La vipère du Gabon est remarquable à bien des égards.

« Voici une magnifique vipère du Gabon », déclare le zoo de Toronto, vantant ses couleurs – brunes, beiges, violettes et roses – et les motifs symétriques de ses écailles.

Mais ce qui est effrayant, c’est que ses crochets sont les plus longs de tous les serpents venimeux au monde : de 2,5 à 4 cm. C’est aussi le serpent venimeux le plus lourd d’Afrique, pesant entre 7 et 9 kg.

Et surtout, le zoo prévient que la vipère du Gabon possède la plus grande quantité de venin de tous les serpents.

« Elle peut frapper à une vitesse fulgurante et maintient souvent sa prise sur sa victime jusqu’à ce que le venin fasse son effet », explique le zoo. « Quand la proie cesse de bouger, la vipère du Gabon commence à la dévorer. » Brrr !

Ah oui, c’est vrai. Dans toute cette agitation liée à la possibilité d'être dévorés, nous avions presque oublié un détail important : il n'y avait en réalité aucune vipère du Gabon en Californie du Sud.

Les enquêteurs ont interrogé la personne qui avait signalé la présence du serpent. Au début, elle a maintenu sa version des faits. Mais elle a fini par admettre que sa photo était générée par une intelligence artificielle, ont indiqué les autorités mardi. La police n'a pas immédiatement répondu aux questions concernant l'identité de cette personne ni la possibilité de poursuites judiciaires.

Ce communiqué ajoutait : « Dès le départ, on a soupçonné que la photo pouvait avoir été générée par une intelligence artificielle. »

Certaines images d'animaux générées par une intelligence artificielle sont, disons-le, extrêmement trompeuses. Ce chat domestique n'a pas fait fuir un ours menaçant, croyez-moi. Mais d'autres semblent tromper tous, sauf les naturalistes les plus avertis.

Ce n'est pas la première fois qu'une photographie d'origine douteuse inquiète la population. Le mois dernier, les activités récréatives dans un réservoir à Singapour ont été suspendues après la publication d'une image montrant un crocodile dans l'eau.

Cette image s'est également révélée être une image générée par intelligence artificielle, et un homme a été inculpé.

Un incident catastrophique, provoqué par un agent de programmation IA, a entraîné la suppression d'environ 48 000 fichiers et la destruction de la base de données Git du dépôt.

L'information, initialement apparue sur Reddit, s'est rapidement répandue sur Internet, suscitant des réactions mitigées, entre rires et consternation, au sein de la communauté des développeurs.

Un développeur a ouvert une discussion sur Reddit pour partager une expérience récente. Il avait confié à un assistant de programmation IA la tâche de réparer une suite logicielle utilisée pour analyser des données historiques sur les options boursières. Il lui avait demandé de copier les fichiers concernés, de les modifier, de tester les réparations et de ne pas toucher aux fichiers originaux.

Erreur de direction à l'intersection

Au total, 11 tâches de réparation étaient en cours. Dix d'entre elles se sont déroulées sans problème, mais la dernière consistait à reconstruire un environnement de test appelé « miroir » (une copie d'un ensemble de fichiers utilisés pour les tests). Cette tâche était censée créer une copie propre de l'ancien environnement de test, appliquer les réparations et la tester sans toucher aux fichiers de travail.

L'environnement de test contenait 614 dossiers Windows appelés « jonctions ». Ces dossiers ressemblent à des dossiers ordinaires, mais pointent en réalité vers un emplacement distinct sur l'ordinateur. Dans ce cas précis, ils pointaient vers les fichiers de travail de l'utilisateur. Lorsque l'IA a tenté de supprimer les jonctions, elle ne les a pas reconnues comme de simples pointeurs, les a suivies jusqu'au répertoire de fichiers réel et a supprimé les documents.

Le processus de nettoyage a supprimé environ 55 550 fichiers, dont environ 7 300 auraient dû l'être de toute façon. Les 48 218 fichiers restants provenaient de l'environnement de travail. Tout s'est passé en un clin d'œil, en moins de deux minutes. L'IA a été étonnamment honnête quant à ses actions. À un moment donné, elle a dit au développeur : « Craig, arrête-toi et lis ça. J'ai cassé quelque chose. »

Le dépôt Git de l'ordinateur a également été endommagé. L'index a survécu, mais les copies de fichiers stockées sous-jacentes, ainsi que l'historique utilisé pour les reconstruire, ont été effacés. Git pouvait encore lister des milliers de noms de fichiers, mais ne pouvait plus en récupérer le contenu.

Réaction de Reddit

Le post Reddit a fait un véritable carton. En cinq jours, il a généré plus de 1 400 réponses. Le bot Reddit qui résume les commentaires indique que le consensus général est que cet incident est un « cas typique de FAFO et un problème majeur de compétences ».

« Pendant que tout le monde rit de la franchise hilarante de Claude : « Craig… arrête-toi et lis ça. » Face au message « J'ai tout cassé », le verdict de la communauté est sans appel : vous vous êtes fait avoir parce que vous n'avez pas respecté les bonnes pratiques de développement.

Les utilisateurs de Reddit ont partagé leur expérience et ont expliqué à l'auteur du message initial qu'il aurait dû utiliser Git et envoyer régulièrement ses modifications vers un dépôt distant comme GitHub. Dans ce genre de situation, GitHub est une solution de secours, et ne pas avoir de sauvegarde distante pour un projet de 48 000 fichiers est considéré comme un comportement typique des développeurs inexpérimentés.

Le message a depuis été supprimé, probablement parce que l'auteur avait pris une capture d'écran. « La police des captures d'écran est à l'œuvre », a commenté le bot de Reddit.

« Certains internautes ont suggéré d'utiliser un logiciel de récupération de fichiers ou Windows Shadow Copy pour récupérer vos fichiers, mais la principale leçon à retenir est d'utiliser un système de contrôle de version avant de confier votre travail à une IA. »

Bien que la suppression d'archives entières par des agents d'IA soit relativement rare, cela s'est déjà produit.

Fin février 2026, Summer Yue, chercheuse en sécurité et alignement des IA chez Meta, a donné accès à son compte Gmail à un agent IA d'OpenClaw. Elle l'avait d'abord testé sur une petite boîte de réception de test, où tout fonctionnait comme prévu. Cependant, lorsqu'elle a transféré l'accès à sa véritable boîte de réception, l'agent a commencé à supprimer et archiver en masse des centaines d'e-mails, malgré ses instructions d'arrêt.

PÉKIN, 21 sept. (Reuters) - La start-up chinoise Z.ai a annoncé lundi avoir désactivé certaines fonctionnalités de son assistant de codage IA phare après que des utilisateurs ont signalé le transfert, sans leur consentement, de l'intégralité de leurs dépôts de code locaux vers des serveurs cloud situés à l'étranger.

Z.ai, également connue sous le nom de Zhipu et basée à Pékin, a présenté ses excuses sur les réseaux sociaux après que des développeurs chinois ont signalé la semaine dernière que son application ZCode avait transféré leurs données de code depuis la plateforme de développement open source Git vers Alibaba Cloud.

Interrogée par Reuters sur cet incident, Z.ai a renvoyé l'entreprise à ses déclarations publiques.

Dans un communiqué publié vendredi, Z.ai a indiqué que le problème provenait de la fonctionnalité « Indexation du code source » de ZCode, activée par défaut, et qu'une faille de sécurité avait été corrigée.

« À l'avenir, nous mettrons en place un processus continu de signalement et de réponse aux failles de sécurité de nos produits », a précisé Z.ai dans une publication distincte sur son compte officiel ZCode X, lundi.

La rare divulgation publique d'une faille de sécurité par un laboratoire d'IA chinois intervient dans un contexte d'alertes internationales concernant les risques liés à la sécurité des IA de pointe et après que plusieurs grandes entreprises américaines du secteur ont annoncé ces dernières semaines des cas de piratage et d'incidents impliquant des agents d'IA « défectueux ».

L'autorité chinoise de régulation du cyberespace a publié la semaine dernière une mise à jour de son cadre de sécurité pour l'IA, mettant en garde contre la résistance des modèles d'IA à l'arrêt, la tromperie des évaluateurs et les évasions des environnements de test.

Z.ai a déclaré le mois dernier que son modèle GLM-5.3 se rapproche du modèle Mythos d'Anthropic en matière de détection de vulnérabilités logicielles et l'a publié après deux semaines d'examen, devenant ainsi le premier laboratoire chinois à reporter explicitement la publication d'un modèle d'IA pour des raisons de sécurité.

ÉVALUATION DE SÉCURITÉ INDÉPENDANTE

Z.ai s'était initialement excusé vendredi et avait affirmé que les données avaient été supprimées. Cependant, des utilisateurs ont constaté que les données étaient chiffrées à l'aide d'une clé privée détenue uniquement par Z.ai, ce qui les empêchait d'ouvrir ou de vérifier leurs propres fichiers téléchargés, ou de confirmer indépendamment leur suppression.

Des développeurs ont également signalé sur X et sur la plateforme de médias sociaux chinoise RedNote qu'il n'existait aucune option pour désactiver cette fonctionnalité et que la politique de confidentialité de Z.ai n'en faisait aucune mention.

Chengming Technology a déclaré vendredi sur les réseaux sociaux que six de ses espaces de travail de développement avaient été téléchargés sur le cloud sans le consentement de ZCode, contenant des données sensibles telles que le code source complet, les mots de passe des bases de données et les informations personnelles des employés.

Lundi, Chengming Technology a rétracté sa déclaration, affirmant disposer de « preuves erronées ». L'entreprise technologique chinoise n'a pas immédiatement répondu à une demande de commentaires.

Lundi, Z.ai a annoncé avoir rendu open source son assistant de codage, qui exécute son dernier modèle d'IA GLM-5.3, et avoir désactivé certaines fonctionnalités, s'engageant ainsi à rendre le produit plus transparent.

« Nous invitons les développeurs à continuer d'examiner ZCode et à signaler les problèmes potentiels. »

Z.ai a indiqué qu'une évaluation de sécurité indépendante, menée par le groupe de réflexion sur les normes informatiques affilié au ministère chinois de l'Industrie et par la société chinoise de cybersécurité NSFOCUS, a révélé que les données de code des utilisateurs avaient été supprimées et n'étaient pas conservées par la plateforme cloud.

Z.ai a précisé avoir activé une fonctionnalité de suppression totale des données sur l'assistant de codage utilisé par les développeurs et les entreprises technologiques.

« Nous présentons une nouvelle fois nos sincères excuses et nous nous félicitons de la vigilance continue de la communauté. Le rapport complet d'évaluation de la sécurité sera publié prochainement », a écrit Z.ai lundi.