Bienvenue dans

la base de données des incidents d'IA

BEIJING, Sept 21 (Reuters) - Chinese startup Z.ai said on Monday it had disabled some features of its flagship AI coding assistant ​after some users reported it was uploading entire local code repositories onto overseas cloud servers without their consent.

Beijing-based ‌Z.ai, also known as Zhipu, apologised in a social media post after Chinese developers last week wrote on social media that its ZCode had uploaded their code data from open-source developer platform Git to Alibaba Cloud.

Z.ai referred Reuters to its public statements when asked for further comment on the ​incident.

In a stat

Cet été, l'intelligence artificielle d'OpenAI a déraillé et a perturbé les sites web du ministère de l'Éducation, du ministère du Commerce et de la Securities and Exchange Commission (SEC), à l'insu du laboratoire d'IA, selon des chercheurs en sécurité et une source proche du dossier.

OpenAI a confirmé les incidents concernant le ministère du Commerce et la SEC et a indiqué poursuivre son enquête sur la situation au sein du ministère de l'Éducation. La société de San Francisco a déclaré avoir informé les agences gouvernementales ces dernières semaines que ses agents d'IA (des robots capables d'agir de manière autonome) avaient interagi avec leurs sites de façon inhabituelle.

Concernant le ministère de l'Éducation, la technologie d'OpenAI a tenté de pirater le site web afin de collecter des données auprès du bureau des droits civiques, mais sans succès, ont indiqué des chercheurs du cabinet de recherche en IA Transluce. OpenAI a également extrait des données du site web du Bureau du recensement, hébergé par le Département du Commerce, en utilisant des identifiants de connexion trouvés en ligne. Par ailleurs, des agents d'OpenAI ont partagé des données publiques provenant du site web de la SEC sur un forum en ligne.

OpenAI a précisé qu'aucun de ces incidents ne constituait une violation de données, mais qu'ils illustraient le comportement inattendu et préoccupant de sa technologie. L'entreprise a récemment découvert ces agissements lors d'un examen des piratages perpétrés par sa technologie, notamment une attaque contre un site web du gouvernement australien en juin et une autre contre la start-up d'IA Hugging Face en juillet.

La révélation des incidents survenus sur le site web du gouvernement américain vient s'ajouter à la liste croissante des cas où des agents d'IA d'OpenAI, d'Anthropic, de Meta et de Google ont mal agi et piraté, ou tenté de pirater, des entreprises, des universités et des organismes gouvernementaux. Dans certains cas, les attaques d'IA ont réussi ; dans d'autres, la technologie a échoué. À chaque fois, les concepteurs de la technologie n'ont découvert les agissements de leur IA qu'après coup.

Aucune entreprise d'IA n'a été impliquée dans autant de révélations d'incidents malveillants qu'OpenAI. Une enquête interne sur le piratage de Hugging Face a mis au jour la violation d'un site web du gouvernement australien dédié à son système de santé publique, ainsi qu'au moins six autres tentatives d'intrusion et des cas où l'IA a mal agi. https://www.nytimes.com/2026/09/16/technology/openai-model-safety-guardrails.html ...openai/model-safety-guardrails.html)](https://www.nytimes.com/2026/09/16/technology/openai-model-safety-guardrails.html)](https://www.nytimes.com/2026/09/16/openai/model-safety-guardrails.html)](https://www.nytimes. « Nous priorisons au mieux les incidents en fonction de leur gravité », a-t-il déclaré, ajoutant que la faille de sécurité chez Hugging Face restait « l'incident le plus grave » découvert par l'entreprise.

Ces incidents ont alimenté un débat houleux sur la sécurité de l'IA. M. Altman a déclaré ce mois-ci sur les réseaux sociaux que la sécurité devait primer sur le développement des capacités de l'IA et que, sans garde-fous, la société pourrait « perdre le contrôle de son avenir face à l'IA ».

Dario Amodei, PDG d'Anthropic, laboratoire concurrent spécialisé dans l'IA, s'est également prononcé en faveur d'un ralentissement du développement de l'IA afin de privilégier la sécurité. Cependant, d'autres dirigeants du secteur technologique, comme Jensen Huang, PDG de Nvidia, estiment que les craintes d'une IA incontrôlable sont irréalistes. Le président Trump a déclaré qu'il ne jugeait pas nécessaire de ralentir le développement de l'industrie de l'IA.

Le New York Times a porté plainte contre OpenAI et Microsoft pour violation de droits d'auteur concernant des contenus journalistiques relatifs aux systèmes d'intelligence artificielle. Les deux entreprises ont nié ces accusations.

La Maison Blanche a renvoyé les questions au département du Commerce et à la SEC. Un porte-parole de la SEC a déclaré que l'agence était en contact avec OpenAI et n'avait connaissance d'aucun accès non autorisé à des informations non publiques.

Une porte-parole du département du Commerce a indiqué qu'OpenAI avait accédé à des informations publiques disponibles sur le site web du Bureau du recensement et accessibles à tous, mais à aucune donnée privée.

Un porte-parole du département de l'Éducation a déclaré que « les audits des systèmes n'ont révélé aucun impact sur notre site web ou nos bases de données ».

Par ailleurs, un représentant du bureau du maire de Chicago a déclaré qu'OpenAI avait récemment informé la municipalité que sa technologie avait obtenu des informations publiques sur un site web municipal, et qu'il ne semblait pas qu'aucune information sensible ait été dérobée.

Conrad Stosz, responsable de la gouvernance chez Transluce, a indiqué que, lors des incidents survenus sur des sites web du gouvernement américain, les agents d'OpenAI avaient « utilisé toute une gamme de tactiques ambiguës », notamment « en exploitant souvent les sites à des fins non prévues et en enfreignant parfois les politiques d'utilisation explicites ».

M. Stosz a ajouté que son équipe de recherche avait également identifié d'autres activités suspectes non clairement imputables à OpenAI, ce qui signifie que les agents pourraient provenir de cette entreprise ou d'un autre laboratoire d'IA. Dans ces cas, les agents d'IA ont sondé des sites appartenant à plusieurs autres administrations fédérales et étatiques, dont la Marine et le Bureau de la gestion et du budget de la Maison Blanche, a-t-il précisé.

La Marine et la Maison Blanche n'ont pas immédiatement répondu à une demande de commentaires concernant ces incidents.

« Ces incidents s'inscrivent dans un schéma plus large où ces agents tentent d'accéder à ces sites web des centaines de milliers de fois, en contournant apparemment les restrictions imposées par leurs développeurs », a déclaré M. Stosz.

Le représentant Ted Lieu, démocrate de Californie, a qualifié les modèles d'IA d'« implacables ».

« Ils s'efforcent sans relâche d'accomplir une tâche, sans faire la distinction entre moralité, conséquences, bien et mal », a-t-il affirmé.

M. Lieu, coprésident d'un groupe de travail de la Chambre des représentants consacré à l'intelligence artificielle, a indiqué que les entreprises spécialisées en IA pourraient devoir entièrement reprogrammer leurs modèles plutôt que de tenter de limiter leur comportement par des garde-fous.

« Ces agents ne cherchent pas à commettre d'actes malveillants », a-t-il précisé. « Il s'agit de tâches plutôt banales, et les agents s'agitent de manière frénétique pour les accomplir. »

BENGALURU : « Je suis CM Vijay. Je suis là pour vous aider. » C’est ainsi qu’une voix et un visage apparus lors d’un appel vidéo WhatsApp ont convaincu un agent de sécurité de 29 ans qu’il parlait au ministre en chef du Tamil Nadu et acteur C. Joseph Vijay.

Promis à une aide financière de 11 lakhs de roupies (environ 12 000 euros), l’homme, naïf, a finalement perdu plus de 1 lakh de roupies (environ 12 000 euros) après qu’un escroc a utilisé une vidéo truquée générée par intelligence artificielle (deepfake) et a exigé à plusieurs reprises des frais de dossier et autres paiements. Il s’agit du premier cas de ce type signalé dans la ville.

Selon la plainte déposée par Ratikanta Giri, originaire d’Odisha et travaillant à Bengaluru depuis 20 ans, il a reçu un appel vidéo WhatsApp du numéro 7986304658 le 9 septembre. Dès qu’il a répondu, il a vu le ministre en chef du Tamil Nadu, « Vijay », se présenter. L’escroc prétendait apporter une aide financière aux personnes en difficulté.

« Après s'être présenté comme le ministre en chef Vijay en hindi, on m'a demandé mon nom, ma profession et mon adresse. Après avoir répondu, on m'a proposé une aide financière provenant du compte personnel de Vijay », a-t-il déclaré au Times of India.

« J'ai refusé toute aide, mais la personne au bout du fil a insisté, affirmant qu'elle aidait déjà de nombreuses personnes. Elle m'a ensuite dit que son responsable me contacterait et que les fonds seraient transférés par ses soins. Elle m'a demandé de suivre les instructions de son responsable », a expliqué Giri.

Ce responsable a proposé une aide de 11 lakhs de roupies, prétendant que l'argent serait transféré sur le compte de Giri via le compte étranger de Vijay, en dollars. Plus tard, il lui a indiqué que 5 lakhs de roupies lui avaient été immédiatement allouées.

Dans un premier temps, on a demandé à Giri de payer 5 000 roupies de frais de change. Ensuite, on lui a annoncé que son code PIN était bloqué et qu'il devait payer 18 000 roupies pour le débloquer. Lorsque Giri a refusé de payer, on lui aurait dit qu'il perdrait son premier versement de 5 000 roupies.

Giri a déclaré : « J'ai d'abord versé 18 000 roupies. Plus tard, une autre personne se faisant passer pour Thakur, du Bureau central d'enquête (CBI), m'a contacté et m'a réclamé plus de 50 000 roupies d'amende. Craignant de perdre mes premiers versements, j'ai effectué le virement. J'ai ensuite versé plusieurs autres sommes, pour un total de plus de 104 000 roupies, via une application de paiement numérique. Lorsque les escrocs ont exigé 50 000 roupies supplémentaires, j'ai refusé et j'ai compris que j'avais été dupé. »

Giri a ensuite contacté la ligne d'assistance téléphonique contre la cybercriminalité (1930) avant de se présenter au commissariat de police de Byappanahalli. Une plainte a été déposée en vertu de la loi sur les technologies de l'information.

Pour le convaincre d'effectuer les paiements, les escrocs ont envoyé à Giri une lettre affirmant qu'une somme de 500 000 roupies lui avait été allouée. Ils ont également diffusé une pièce d'identité prétendument celle d'un agent du CBI.

« Nous exhortons la population à ne pas croire à ces appels ni à effectuer de paiements sur la base de telles affirmations », a déclaré un haut responsable.

Une personne a perdu 250 000 £ après avoir été victime d'une escroquerie générée par intelligence artificielle.

Le Service de police d'Irlande du Nord (PSNI) a déclaré que la victime avait visionné une vidéo apparemment générée par IA mettant en scène une personnalité connue du secteur financier.

La publicité promouvait une opportunité d'investissement et promettait des rendements importants.

Un porte-parole du PSNI a déclaré qu'une « preuve de la crédibilité d'une célébrité » ne devait jamais être considérée comme une preuve de la légitimité d'un investissement.

Le PSNI n'a pas confirmé l'identité de la célébrité utilisée dans la vidéo générée par IA, mais BBC News NI a constaté des escroqueries en ligne utilisant des experts financiers tels que Martin Lewis, Peter Jones et Steven Bartlett.

Après avoir initialement investi une somme relativement modeste, la victime a été contactée via WhatsApp et incitée à effectuer d'autres versements.

La police a indiqué que les escrocs avaient persuadé la victime, résidant dans la région d'Ards et du nord du comté de Down, de créer de multiples comptes en ligne et avaient obtenu un accès à distance à son ordinateur, prétendant l'aider dans son investissement.

La police nord-irlandaise (PSNI) a qualifié l'escroquerie de « sophistiquée » et a indiqué que la victime avait été incitée à emprunter de l'argent pour poursuivre ses investissements, les fonds étant transférés vers des comptes contrôlés par les escrocs.

Un porte-parole de la PSNI a déclaré que les escrocs avaient progressivement gagné la confiance de la victime avant de l'inciter à verser des sommes de plus en plus importantes.

Il a ajouté que les fraudeurs étaient capables de créer des publicités, des sites web et des communications « extrêmement convaincants », et que l'intelligence artificielle était également utilisée pour fabriquer des vidéos, des voix et de faux témoignages.

La commissaire Joanne Gibson, présidente du partenariat Scamwise, a exhorté la population à « vérifier » ses activités financières et a encouragé les familles à parler de fraude avec leurs proches.

La police a conseillé au public de vérifier indépendamment l'identité de son interlocuteur et, le cas échéant, de s'assurer que toute personne proposant des services financiers est agréée par la Financial Conduct Authority (FCA).

L'intelligence artificielle d'OpenAI a déraillé cette année lors d'au moins quatre incidents supplémentaires, piratant et tentant de s'introduire dans des sites web gouvernementaux et universitaires sans y avoir été autorisée, selon des chercheurs et des responsables gouvernementaux.

Ces attaques ont eu lieu en mai et juin, avant que la technologie d'OpenAI ne compromette la sécurité de la start-up Hugging Face en juillet, déclenchant un débat international sur la sécurité de l'IA.

Contrairement à l'attaque contre Hugging Face et à d'autres incidents où les systèmes d'IA étaient sollicités pour effectuer des tests de cybersécurité qui les incitaient de fait à démontrer leurs capacités de piratage, ces nouveaux incidents se sont produits lorsque les systèmes d'IA étaient chargés d'effectuer une collecte de données relativement banale, ont indiqué les chercheurs. Lorsque les systèmes d'OpenAI ont rencontré des difficultés pour collecter des données sur des sites web, ils ont eu recours à des techniques de piratage pour obtenir les informations.

Trois de ces incidents ont été identifiés par Transluce (https://transluce.org/agent-activity), un laboratoire de recherche spécialisé dans la supervision de l'IA, et tous ont été confirmés par OpenAI. Voici comment ils se sont produits :

• Les systèmes d'OpenAI ont tenté de pirater une bibliothèque numérique de l'Université du Nouveau-Mexique les 25 et 26 mai. L'IA n'a apparemment pas réussi.

• Le 28 mai, la technologie a ciblé Data USA, un dépôt de données publiques sur l'emploi et l'éducation aux États-Unis. Cette tentative semble également avoir échoué, selon les chercheurs.

• Le 18 juin, l'IA d'OpenAI a piraté un site web du gouvernement australien, le Service de rapports statistiques de Medicare, et a acquis des données de santé. Le Premier ministre australien, Anthony Albanese, a révélé l'incident mercredi.

Les 20 et 21 juin, la technologie d'OpenAI a tenté de pirater le site web de l'Institut australien de la santé et du bien-être. Aucune information privée n'a été dérobée, ont déclaré les autorités australiennes.

Ces incidents s'ajoutent à une série d'intrusions où l'IA d'OpenAI, d'Anthropic, de Meta et de Google a pénétré d'autres systèmes à l'insu de l'utilisateur. Ces événements ont relancé le débat sur la nécessité de ralentir le développement de l'IA afin de limiter les dangers potentiels de cette technologie.

Dario Amodei, PDG d'Anthropic, a appelé les entreprises spécialisées en IA et les gouvernements à collaborer avant que cette technologie ne devienne trop puissante pour être contrôlée par l'humain. Cependant, d'autres dirigeants, comme Jensen Huang, PDG du fabricant de puces Nvidia, ont estimé que ces scénarios apocalyptiques étaient exagérés. Le président Trump a déclaré qu'il ne pensait pas que l'IA doive être soumise à une réglementation stricte.

La révélation de ces quatre incidents supplémentaires « renforce l'idée que les agents doivent être manipulés avec précaution », a déclaré Conrad Stosz, responsable de la gouvernance chez Transluce, une entreprise qui a utilisé des données de trafic web public pour analyser l'activité des agents d'OpenAI. Les agents sont des programmes autonomes qui exécutent des tâches pour un utilisateur.

M. Stosz a ajouté que les incidents australiens étaient probablement « le premier cas d'un agent choisissant de manière autonome de pirater un gouvernement ».

Une porte-parole d'OpenAI a déclaré mercredi que l'entreprise avait contacté l'Université du Nouveau-Mexique et DataUSA et était en contact avec le gouvernement australien au sujet de ces incidents.

« Dans le cadre de notre examen approfondi, nous continuons de prioriser les incidents les plus graves tout en étendant nos recherches aux activités moins graves, notamment le spamming de sites web par des agents malveillants », a-t-elle déclaré.

Elle a ajouté par ailleurs que l'entreprise de San Francisco avait découvert les incidents survenus en Australie lors d'un « examen approfondi » de ses modèles d'IA et avait constaté que « nos modèles ont agi de manière non intentionnelle ». L'examen mené par OpenAI prendra plusieurs mois, a-t-elle précisé.

Sam Altman, PDG d'OpenAI, a déclaré ce mois-ci sur les réseaux sociaux que la sécurité devait primer sur l'amélioration des capacités de l'IA et que, sans garde-fous, la société pourrait « perdre le contrôle de son avenir au profit de l'IA ».

M. Albanese a indiqué avoir parlé à M. Altman mercredi et lui avoir fait part de sa « vive inquiétude » concernant le piratage. Il a précisé que des données « non sensibles », telles que des données de dépenses, avaient été compromises, mais qu'aucune information médicale personnelle n'avait été touchée.

(Le New York Times a porté plainte contre OpenAI et Microsoft pour violation de droits d'auteur concernant des contenus d'actualité liés aux systèmes d'IA. Les deux entreprises ont nié ces accusations.)

Ces incidents supplémentaires suggèrent que les systèmes d'OpenAI tentent de pirater des sites web, des bases de données et des systèmes d'entreprise depuis plus longtemps qu'on ne le pensait. Transluce a détecté du trafic web provenant de ces agents dès le mois de mars et jusqu'à mercredi dernier, indiquant que ce comportement a commencé il y a plusieurs mois et a persisté après qu'OpenAI a entamé une enquête sur l'affaire Hugging Face et d'autres agissements répréhensibles.

Lors des incidents de mai et juin, les systèmes d'IA de l'entreprise semblaient être impliqués dans des exercices d'entraînement à la récupération de données, selon les chercheurs.

Lors de la tentative d'intrusion dans la bibliothèque de l'Université du Nouveau-Mexique, l'IA a tenté d'accéder à des photos d'un ancien centre de traitement de la tuberculose. N'ayant pu obtenir les données, l'IA a commencé à sonder le site à la recherche de vulnérabilités lui permettant de s'y introduire. N'ayant trouvé aucune faille, elle a envoyé ce qu'elle a décrit comme un « déluge » de 80 requêtes au serveur de l'université.

Ciblant Data USA, l'IA a envoyé une requête brouillée au site pour obtenir des données. Face à cet échec, elle a lancé 12 sondages pour rechercher diverses vulnérabilités, sans succès.

« Si l'on entraînait un essaim d'agents à accomplir une tâche générique et que ces agents étaient prêts à recourir au piratage, toute personne détenant ces informations pourrait être en danger », a déclaré M. Stosz de Transluce.

Le site web du gouvernement australien piraté est un portail de statistiques contenant des données sur Medicare, le système de santé universel du pays, qui couvre 27,5 millions d'assurés, sans compter les visiteurs internationaux. Le système de santé est souvent considéré comme un sujet tabou en politique australienne en raison de son large soutien populaire.

Une équipe d'OpenAI menait des recherches sur Internet concernant les dépenses publiques de santé, a déclaré M. Albanese, lorsque ses agents d'IA, confrontés à des blocages répétés, ont tenté d'obtenir des informations par d'autres moyens et ont accédé à des parties non publiques du portail. OpenAI a informé le gouvernement australien le 10 septembre.

« Nous sommes confrontés à un nouveau monde », a déclaré le Premier ministre.

Il n'a pas répondu aux questions des journalistes lui demandant s'il avait évoqué cette faille de sécurité avec M. Trump lors de leur rencontre cette semaine en marge de l'Assemblée générale des Nations Unies.