Skip to Content
logologo
AI Incident Database
Faire un don
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Vue spatiale
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Incident au hasard
  • S'inscrire
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Vue spatiale
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Incident au hasard
  • S'inscrire

Bienvenue dans
la base de données des incidents d'IA

Loading...
OpenAI’s A.I. Tried to Breach 4 Other Targets, Without Prompting

Incident 1707: OpenAI AI Agent Reportedly Gained Unauthorized Access to Australian Medicare Statistics Portal During Research Task

“OpenAI’s A.I. Tried to Breach 4 Other Targets, Without Prompting”Dernier rapport
nytimes.com2026-09-24

OpenAI's artificial intelligence went rogue this year in at least four additional incidents, hacking and trying to break into government and university websites without being instructed to do so, according to researchers and government officials.

The attacks took place in May and June, before OpenAI's technology breached the A.I. start-up Hugging Face in July and set off a global debate about A.I. safety.

Unlike the Hugging Face attack and [other incidents](https://www.nytimes.com/2026/09/22/technology/ai-hacks-

Lire plus
Loading...

Incident 1708: Stanford University Acknowledged Using AI to Alter Student Photo for Campus Banners, Replacing Hispanic Student With Black Woman

“”
nytimes.com2026-09-24
Lire plus
Loading...
Data Center Is Fined $1.1 Million for Operating 62 Power Generators

Incident 1709: New Jersey Regulators Found DataOne Operated 62 Unpermitted Natural-Gas Generators at Vineland AI Data Center

“Data Center Is Fined $1.1 Million for Operating 62 Power Generators”
nytimes.com2026-09-24

When state inspectors visited a dusty construction site amid the farmland of southern New Jersey in late July, it was impossible to miss the 62 tractor-trailer-size generators powering one of the largest planned data centers on the Eastern Seaboard.

None of the 2,000-kilowatt natural-gas-powered generators had the required permits to be installed or to operate at the site. On Tuesday, New Jersey fined the data center's operator, DataOne, $1.07 million for violating the state's Air Pollution Control Act. The fine is the largest ever issued to the operator of a data center in New Jersey, state

Lire plus
Loading...
Un deuxième membre du département de police de Milwaukee est inculpé pour utilisation abusive du système de lecture des plaques d'immatriculation.

Incident 1706: Un détective de la police de Milwaukee aurait utilisé à 20 reprises un lecteur de plaques d'immatriculation Flock Safety pour suivre deux personnes, en violation du règlement du département.

Traduit par IA
“Un deuxième membre du département de police de Milwaukee est inculpé pour utilisation abusive du système de lecture des plaques d'immatriculation.”
wpr.org2026-09-23

Un autre membre du département de police de Milwaukee a été inculpé pour utilisation abusive présumée du système de lecture automatique des plaques d'immatriculation.

Le détective Tehrangi Chapman, du département de police de Milwaukee, a été inculpé mercredi d'abus de fonction (un crime) et d'utilisation abusive d'un appareil GPS.

Selon la plainte, Chapman, détective affecté à la division des affaires internes, a reconnu avoir utilisé le système de caméras Flock à 20 reprises pour « suivre les déplacements » de deux personnes. « Ceci constitue une violation du règlement du département de police de Milwaukee », précise la plainte.

Les caméras de lecture automatique des plaques d'immatriculation prennent des photos des plaques et stockent ces informations. Ces données peuvent être partagées avec d'autres services de police.

Krissie Fung, commissaire de police et des pompiers de Milwaukee, a qualifié ces accusations d'« extrêmement préoccupantes ».

« Le fait que cette personne soit membre de la division des affaires internes, censée être un élément central du mécanisme de responsabilisation interne du MPD, a un impact disproportionné sur la confiance du public », a déclaré Fung.

Dans un communiqué, le chef de la police de Milwaukee, Jeffrey Norman, a déclaré : « Nul n'est au-dessus des lois. »

« Nous attendons de tous les membres de ce service, agents assermentés et personnel administratif, qu'ils respectent les normes éthiques les plus élevées », a déclaré Norman. « Nous continuerons à prendre des mesures décisives pour préserver la confiance du public et honorer les valeurs de notre organisation. »

Ces accusations surviennent quelques mois après que l'agent de police de Milwaukee, Josue Ayala, a été inculpé pour avoir utilisé le système de caméras de lecture de plaques d'immatriculation afin de vérifier la position du véhicule de sa compagne et de l'ex-compagne de celle-ci. Ayala a plaidé coupable de tentative de faute professionnelle en juin et a démissionné du service.

La plainte indique que Chapman a utilisé le système de caméras à 17 reprises entre le 10 janvier 2024 et le 3 janvier 2025 pour rechercher la plaque d'immatriculation du véhicule d'une personne. Chapman a également admis avoir installé un dispositif GPS sur le véhicule de cette personne. Les enquêteurs ont déclaré qu'il avait recherché la plaque d'immatriculation d'une autre personne à trois reprises le 7 janvier 2025, prétextant une « formation » pour justifier ces recherches.

La plainte précise que Chapman a également « mené l'enquête concernant l'utilisation abusive du système Flock par l'agent Ayala ».

Selon la plainte, une note de service « stipule clairement que l'accès au système Flock est réservé aux enquêtes et que tout membre du service de police de la ville de Milwaukee ayant accédé au système Flock pour des raisons sans lien avec l'application de la loi s'expose à des sanctions disciplinaires ».

Chapman, qui compte 22 ans de service au sein du département, est suspendu depuis le 13 mars. Il comparaîtra pour la première fois devant le tribunal le 17 juillet. Son avocat n'était pas disponible pour une interview jeudi.

Amanda Merkwae, directrice du plaidoyer pour l'Union américaine pour les libertés civiles du Wisconsin, a déclaré qu'il était « extrêmement préoccupant » que Chapman travaille au sein de la division des affaires internes.

« Les affaires internes sont censées être le dernier rempart contre la corruption et les abus policiers », a déclaré Merkwae. « Lorsque le détective chargé d'enquêter sur l'utilisation abusive du système Flock par un autre agent aurait déjà utilisé cette même technologie pour harceler des personnes, cette illusion d'autorégulation efficace s'effondre complètement. »

Dans un courriel envoyé jeudi en réponse aux accusations portées contre Chapman, MoMo Zhou, porte-parole de Flock Safety, la société à l'origine des caméras de lecture de plaques d'immatriculation, a déclaré que tout usage abusif d'un outil des forces de l'ordre était inacceptable.

« Ce cas illustre parfaitement pourquoi Flock conçoit sa technologie avec des pistes d'audit immuables et transparentes, afin que les rares cas d'abus potentiels puissent être détectés, examinés et traités », a écrit Zhou.

Le département de police de Milwaukee a annoncé des modifications de son accès au système et de sa procédure d'audit suite à la mise en examen d'Ayala.

Certaines municipalités du Wisconsin ont rompu leurs liens avec Flock.

D'autres services de police de l'État ont déjà rompu leurs liens avec Flock Safety ces dernières semaines et ces derniers mois. Certains habitants ont exprimé des inquiétudes quant au respect de la vie privée et à l'accès et au partage des données.

En novembre, le conseil municipal de Verona a voté contre le renouvellement de son contrat avec Flock. En avril, les superviseurs du comté de Dane ont voté à 32 voix contre 1 pour supprimer le financement alloué aux caméras par le bureau du shérif du comté.

Plus récemment, le service de police de l'Université du Wisconsin à Madison (UWPD) a décidé de ne pas renouveler son contrat avec Flock Safety.

« Cette décision a été prise afin que l'UWPD puisse identifier un fournisseur de systèmes de lecture automatisée de plaques d'immatriculation (LAPI) répondant mieux aux besoins de sécurité publique de l'université, tout en prenant en compte les préoccupations exprimées par la communauté universitaire concernant le recours à Flock pour la fourniture de cette technologie », a déclaré le service dans un communiqué du 3 juillet (https://uwpd.wisc.edu/uw-madison-police-department-not-renewing-current-flock-alpr-contract/).

La ville de Kaukauna ne renouvelle pas son contrat avec Flock Safety, selon un communiqué du 8 juillet.

« Compte tenu des préoccupations soulevées et de l'impossibilité de collaborer avec les communautés environnantes, il n'est pas financièrement responsable pour la ville de continuer à investir dans les caméras Flock », a déclaré Jamie Graff, chef de la police de Kaukauna, dans un communiqué. « Nous travaillons actuellement avec Flock pour désactiver l'équipement et le retirer de la ville. »

Lire plus
Loading...
« Je vais te tirer dessus » : deux hommes tenus en joue avant que les policiers ne réalisent leur erreur, selon les victimes.

Incident 1703: Dans le comté de Harris, au Texas, des adjoints du shérif ont interpellé deux jeunes de 19 ans sous la menace d'une arme après que le système de lecture de plaques d'immatriculation Flock Safety a détecté une Camaro volée différente.

Traduit par IA
“« Je vais te tirer dessus » : deux hommes tenus en joue avant que les policiers ne réalisent leur erreur, selon les victimes.”
abc13.com2026-09-23

HOUSTON, Texas (KTRK) – Des adjoints du shérif du comté de Harris ont encerclé une voiture qu'ils pensaient volée, sortant leurs armes et menottant deux hommes qui se trouvaient à bord. Ils se sont vite rendu compte de leur erreur : il s'agissait de la mauvaise voiture et les deux hommes n'étaient pas des suspects.

C'était en début de soirée, le 3 août, dans un quartier résidentiel paisible de Cypress, lorsqu'Anthony et Julian, tous deux âgés de 19 ans, revenaient d'une station-service. Anthony s'apprêtait à partir au volant de sa Camaro lorsque, soudain, des adjoints du shérif ont encerclé sa voiture. Les images de sonnettes de voisins montrent au moins cinq voitures de patrouille et le bruit d'un hélicoptère qui tourne autour d'eux avant leur arrestation. ABC13 ne divulgue pas leurs noms de famille puisqu'ils ne sont pas poursuivis.

« J'étais en train de démarrer, j'ai fait à peine quelques centimètres et je me suis retrouvé encerclé par une horde de policiers et un hélicoptère », a déclaré Anthony. « C'était comme dans un film. »

Les amis ont déclaré que les adjoints du shérif les avaient braqués et menottés avant de leur demander leur permis de conduire ou la carte grise de leur véhicule.

« Il a pointé son arme sur nous deux et m'a ordonné de me mettre à terre », a raconté Julian. « Je me suis retourné et il m'a poussé au sol. Il a dit : "À terre ! Je vais te tirer dessus et te tuer !" »

Julian a partagé une vidéo montrant des coupures et des éraflures sur ses bras après avoir été, selon ses dires, poussé au sol par un adjoint du shérif. Tous deux ont rapidement compris que les adjoints les avaient pris pour des conducteurs de voiture volée.

D'après le bureau du shérif du comté de Harris, des caméras de surveillance ont repéré la plaque d'immatriculation d'une Camaro volée dans le secteur. Le bureau du shérif a indiqué que cette voiture était liée à plusieurs vols qualifiés.

Une unité en civil a repéré une voiture correspondant à la description, mais ni l'adjoint ni l'hélicoptère n'ont pu lire la plaque d'immatriculation. Un porte-parole a déclaré qu'ils avaient alors demandé des renforts. Une fois les deux hommes menottés, les adjoints ont réalisé leur erreur.

« Ils ont ouvert la porte et m'ont demandé : "Vous voulez savoir ce qui s'est passé ?" J'ai répondu : "Oui." Ils m'ont dit qu'ils recherchaient une voiture volée et m'ont montré la photo. C'est là que j'ai compris », a raconté Anthony.

Soulagée, la mère d'Anthony, Leslie, souhaite que les adjoints soient tenus responsables et estime que cet incident aurait pu être évité, ou du moins géré différemment. Elle envisage de prendre un avocat.

« Ils auraient pu vérifier sa plaque d'immatriculation ou l'aborder autrement. Un simple contrôle routier pour lui demander ses papiers d'identité, par exemple, pour s'assurer qu'il n'était pas dans cet état. Ils auraient pu lui éviter ce traumatisme », a déclaré Leslie. « Ils n'ont rien fait de mal. Ce sont de bons garçons. En tant que mère, j'étais en colère, triste et inquiète. »

Selon le bureau du shérif du comté de Harris, les supérieurs hiérarchiques, notamment le capitaine de district, les lieutenants et les sergents de quart, visionneront les enregistrements des caméras corporelles afin de vérifier que les procédures et protocoles ont été respectés.

Un porte-parole a indiqué que les hommes avaient reçu des informations sur la procédure à suivre pour déposer une plainte officielle auprès de leur service des affaires internes, ce qu'ils comptent faire.

Lire plus
A propos de la base de données

La base de données des incidents d'IA est dédiée à l'indexation de l'historique collectif des dommages ou les quasi-dommages réalisés dans le monde réel par le déploiement de systèmes d'intelligence artificielle. Comme des bases de données similaires dans l'aviation et la sécurité informatique, La base de données des incidents d'IA vise à apprendre de l'expérience afin que nous puissions prévenir ou atténuer les mauvais résultats.

Vous êtes invité à soumettre des rapports d'incident, après quoi les soumissions seront indexées et rendues visibles au monde entier. L'intelligence artificielle ne sera bénéfique pour les personnes et la société que si nous enregistrons et apprenons collectivement de ses échecs. (Plus d'informations)

post-image
Enquête sur les incidents d'IA pour construire un avenir plus sûr : l'Instituto de Investigación de Seguridad Digital s'associe à Responsible AI Collaborative

By TheCollab Board of Directors

2024-02-20

L'Institut d'inestigation de Securité Digital (DSRI) des Instituts d'Investigation de UL est assoicé evec Responsible AI Collaborative (TheC...

Lire plus
La base de données dans la presse

En savoir plus sur la base de données sur Time Magazine, Vice News, Venture Beat, Wired et Bulletin of the Atomic Scientists entre autres points de vente.

Arxiv LogoVenture Beat LogoWired LogoVice logoNewsweek logoTime logoBulletin of the Atomic Scientists logoStanford HAI logoRolling Stone logoThe Guardian logoHarvard Business Review logoBrasil em Folhas logo
La collaboration IA responsable

La base de données d'incidents d'IA est un projet du Responsible AI Collaborative, une organisation autorisée à promouvoir la base de données d'incidents d'IA. La gouvernance de la Collaborative est structurée autour de la participation de sa programmation d'impact. Pour plus de détails, nous vous invitons à lire le rapport de la fondation et à en savoir plus sur notre and learn more on our.

View the Responsible AI Collaborative's Form 990 and tax-exempt application. We kindly request your financial support with a donation.

Commanditaire fondateur de l'organisation
Commanditaire fondateur de la base de données
Commanditaires et subventions
Commanditaires en nature
Le briefing sur les incidents d'IA
An envelope with a neural net diagram on its left

Create an account to subscribe to new incident notifications and other updates.

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2026 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • dd3f754