Skip to Content
logologo
AI Incident Database
Faire un don
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Vue spatiale
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Incident au hasard
  • S'inscrire
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Vue spatiale
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Incident au hasard
  • S'inscrire

Bienvenue dans
la base de données des incidents d'IA

Loading...
Incident report: AI agents attempted exploits on our website during a third-party alignment evaluation

Incident 1828: AI Agents Operated by Safety-Testing Firm Trajectory Labs Attempted Website Exploits and Impersonated Staff at AI Research Organization Epoch AI

“Incident report: AI agents attempted exploits on our website during a third-party alignment evaluation”Dernier rapport
epoch.ai2026-11-15

Overview

In late October, three events occurred during alignment evals run by Trajectory Labs, PBC (Trajectory) in which AI agents — identified by Trajectory as publicly available frontier models — interacted with Epoch employees and the Epoch website. Trajectory is an organization that builds safety evals and conducts red-teaming of frontier models. To avoid misattributing behavior, this report does not name any AI models or developers, as Epoch AI has not independently verified which were involved.

The first event, which occurred without Epoch’s approval or prior notice from Trajectory,

Lire plus
Loading...
La fin de l'identité du Dr Erik Breclj

Incident 1819: Une vidéo prétendument modifiée par intelligence artificielle aurait faussement présenté un chirurgien slovène faisant la promotion de Detoxil Water, un prétendu remède contre les parasites.

Traduit par IA
“La fin de l'identité du Dr Erik Breclj”
zdravniskazbornica.si2026-11-14

L'Ordre des médecins de Slovénie met une nouvelle fois en garde contre une usurpation d'identité visant un médecin. Des publications en ligne exploitent la détresse des personnes et induisent le public en erreur.

Nous constatons qu'il s'agit d'une utilisation abusive répétée de l'identité du Dr Erik Brecelj, membre de notre Ordre. Son identité a été usurpée dans une vidéo publiée à l'adresse suivante : https://www.facebook.com/share/1AEH1YggiB/.

Il s'agit d'un enregistrement modifié à l'aide d'une intelligence artificielle. Une vidéo authentique a été utilisée, mais son contenu, son son et d'autres éléments ont été modifiés. L'enregistrement attribue au médecin des propos qu'il n'a jamais tenus.

L'objectif de cette publication est de promouvoir le produit Detoxil Water, en utilisant des allégations mensongères et trompeuses, telles que : « C'est de la folie de se soigner avec des pilules », « 8 maladies sur 10 liées au vieillissement sont causées par des parasites » et un produit simple « élimine 98 % des parasites en 72 heures ». Ces affirmations sont totalement infondées, fausses et peuvent mettre gravement en danger la santé.

Nous tenons à préciser que le Dr Erik Brecelj ne vend ni ne promeut aucun médicament, complément alimentaire ou autre préparation et n'est en aucun cas associé à la publicité de ce produit. L'utilisation de son identité à cette fin constitue une manipulation inacceptable.

Nous avons constaté cette pratique à maintes reprises : des annonceurs inconnus utilisent abusivement les noms et les images de médecins slovènes et leur attribuent de faux témoignages, des conseils de santé et des expériences personnelles avec des produits fictifs. Des personnes de bonne foi sont ainsi exposées à des escroqueries dangereuses.

L’Ordre des médecins de Slovénie appelle une nouvelle fois le public à la plus grande vigilance face aux publicités en ligne promettant des effets rapides ou « miraculeux », utilisant des images de médecins et faisant état de prétendues recommandations professionnelles non vérifiables.

Ces publicités relèvent d’une exploitation et d’une tromperie systématiques des consommateurs. Nous vous mettons donc en garde une fois de plus : ne vous laissez pas abuser par ces publicités. Nous avons déjà signalé cette usurpation d’identité à l’Inspection du marché et de la santé, à l’Agence publique de la République de Slovénie pour les médicaments et les dispositifs médicaux, ainsi qu’à la police.

Lire plus
Loading...
Concernant la suspension de l'opération de démonstration de bus autonome de la ville de Toyooka

Incident 1825: Un bus autonome a2z ROii a percuté un mur de pierre en bord de route lors d'un essai avec des passagers à Toyooka, au Japon.

Traduit par IA
“Concernant la suspension de l'opération de démonstration de bus autonome de la ville de Toyooka”
city.toyooka.lg.jp2026-11-14

Le service de bus autonome, mis en service aujourd'hui, sera suspendu comme suit :

1. Motif de la suspension

Un accident s'est produit à Kinosaki-cho, dans la ville de Toyooka, impliquant une collision entre un bus autonome et un mur de pierre.

Afin de garantir la sécurité des futurs trajets, le service sera suspendu jusqu'à ce qu'une enquête soit menée sur les causes de l'accident et que la sécurité soit confirmée.

2. Période de suspension

À compter du lundi 9 novembre 2026 jusqu'à la fin des vérifications de sécurité.

3. Détails de l'accident

(1) Heure de l'accident : lundi 9 novembre à 11h31

(2) Lieu : À proximité de l'arrêt de bus « Motoyakushi » à Yushima, dans la ville de Kinosaki

(3) Détails de l'accident : Le bus a détecté un véhicule arrivant en sens inverse et a fait une embardée sur la gauche pour l'éviter, mais a percuté un mur de pierre en bordure de route.

(4) Cause de l'accident : Inconnue (enquête en cours)

(5) Passagers : 2 touristes, 2 citoyens, 2 membres du personnel (à l'exclusion du conducteur et du responsable de la sécurité)

*Aucun blessé n'est à déplorer parmi les passagers ou l'équipage.

4. Divers

(1) Les citoyens et les touristes seront informés par affichage aux arrêts de bus et sur le site web de la ville.

(2) La cause de l'accident sera communiquée dès qu'elle sera déterminée.

(3) La date de reprise du service sera communiquée dès qu'elle sera fixée.

Lire plus
Loading...
Avis à nos patients concernant un incident de sécurité des données

Incident 1823: Le département de radiologie de Weill Cornell Medicine à New York aurait utilisé des données de patients dans des outils d'IA sans autorisation.

Traduit par IA
“Avis à nos patients concernant un incident de sécurité des données”
weill.cornell.edu2026-11-14

À Weill Cornell Medicine, nous nous engageons à protéger la confidentialité et la sécurité des informations de nos patients. Le présent avis concerne un incident de confidentialité impliquant l'utilisation non autorisée de certaines informations de santé de patients dans le cadre d'une étude de recherche. Les données étant limitées, rien n'indique qu'une information patient ait été utilisée à mauvais escient. Cet avis explique l'incident et décrit les mesures que nous avons prises en réponse.

Que s'est-il passé ? Le 6 septembre 2026, WCM a été informé d'un incident impliquant des informations de santé protégées utilisées dans le cadre d'une étude de recherche en radiologie et a lancé une enquête afin d'en déterminer les circonstances. L'enquête a établi qu'entre le 10 et le 20 juin 2026, certaines informations de patients provenant de Weill Cornell Imaging at NewYork-Presbyterian (WCINYP) ou du NewYork-Presbyterian Hospital ont été saisies dans des outils d'intelligence artificielle (IA) et traitées par apprentissage automatique sans autorisation et en violation des politiques de WCM. À ce jour, WCM n'a identifié aucun élément prouvant qu'une personne non autorisée a consulté vos informations.

Quelles informations étaient concernées ? Les informations comprenaient les numéros de dossier médical, les numéros d’accès aux examens radiologiques (numéros internes attribués aux images radiologiques), les dates et heures des examens radiologiques, le nom de l’établissement, le nom du professionnel de santé et les informations cliniques relatives aux examens radiologiques du patient, telles que les diagnostics, les traitements, les antécédents chirurgicaux et interventionnels, ainsi que les informations sur les médicaments.

Quelles informations n’étaient PAS concernées ? Les informations ne comprenaient ni le nom, ni l’adresse, ni le numéro de téléphone, ni l’adresse électronique, ni le numéro de sécurité sociale, ni aucune information financière personnelle du patient.

Mesures prises : Nous avons suspendu l’activité de recherche et demandé la suppression de toutes les données concernées. Nous avons également dispensé une formation complémentaire afin de renforcer le respect des exigences de WCM concernant l’utilisation appropriée des outils d’IA et la protection des données des patients.

Outre les lettres d'information adressées aux patients concernés, WCM a également mis en place un centre d'appels gratuit et dédié, joignable au 1-888-204-2481, du lundi au vendredi, de 9 h à 21 h (heure de l'Est), sauf les jours fériés américains.

Weill Cornell regrette profondément les inquiétudes que cet incident pourrait susciter. Nous prenons très au sérieux la confidentialité et la sécurité des informations de nos patients et continuons de renforcer nos mesures de sécurité, notamment en proposant des formations complémentaires.

Lire plus
Loading...
57 personnes inculpées dans une affaire d'escroquerie sentimentale par clonage vocal d'une valeur de 900 millions de dollars taïwanais.

Incident 1824: Un réseau taïwanais d'escroquerie sentimentale aurait utilisé un logiciel de modification vocale par intelligence artificielle pour escroquer plus de 20 000 personnes.

Traduit par IA
“57 personnes inculpées dans une affaire d'escroquerie sentimentale par clonage vocal d'une valeur de 900 millions de dollars taïwanais.”
focustaiwan.tw2026-11-14

Taipei, 2 sept. (CNA) Le parquet de Taipei a inculpé mercredi 57 personnes dans le cadre d'une escroquerie sentimentale sophistiquée. Cette escroquerie aurait fait plus de 20 000 victimes pour un montant d'au moins 900 millions de dollars taïwanais (28,32 millions de dollars américains) grâce à une technologie de clonage vocal.

Dans un communiqué, le parquet du district de Taipei a indiqué que le groupe, dirigé par un homme du nom de Huang et son épouse, Mme Hsu, avait structuré ses opérations en plusieurs équipes : « prospection », « acquisition de nouveaux clients », « relations publiques » et « fidélisation de la clientèle ».

À partir de 2022, l'équipe de prospection créait des profils sur des applications de rencontre en utilisant les photos et les noms de femmes, y compris des membres de l'équipe des relations publiques, afin d'attirer des victimes potentielles, ont précisé les procureurs.

Selon l'accusation, les personnes manifestant un intérêt pour les profils étaient ensuite mises en relation avec l'équipe de prospection, dont les membres se faisaient passer pour des femmes du service des relations publiques du groupe lors de conversations en ligne avec les victimes.

L'accusation a déclaré que l'équipe de prospection persuadait les victimes d'acheter des produits d'une valeur d'environ 1 000 à 2 000 NT$, notamment de l'huile de poisson, de l'Antrodia cinnamomea et des batteries externes, sous prétexte d'aider les femmes à atteindre leurs objectifs de vente.

Les victimes étaient ensuite confiées aux membres de l'équipe de séduction, qui continuaient de communiquer avec elles en se faisant passer pour les femmes et nouaient des relations amoureuses, a ajouté l'accusation.

Une fois la relation établie, les victimes étaient invitées à acheter ou à offrir des cadeaux, tels que des téléphones, des purificateurs d'air et des sèche-cheveux, a précisé l'accusation.

Les femmes du service des relations publiques rencontraient les victimes en personne pour des rendez-vous, parfois avec lesquelles elles avaient des relations sexuelles, et récupéraient de l'argent, des téléphones, des appareils électroménagers et d'autres cadeaux, qui étaient ensuite restitués au groupe, a conclu l'accusation.

L'équipe de « clients fidèles », qui continuait de communiquer avec les victimes en se faisant passer pour elles, leur demandait de l'argent pour couvrir leurs frais de subsistance, leurs factures médicales et leurs dettes de chirurgie esthétique, ainsi que pour des cours d'esthétique et de tatouage dispensés par des entreprises gérées par des complices, ont déclaré les procureurs.

Selon l'accusation, un ingénieur du nom de famille Chung (鐘) a développé un logiciel de modification vocale par intelligence artificielle permettant aux membres du groupe d'usurper l'identité de femmes de l'équipe des relations publiques lors de leurs appels téléphoniques avec les victimes.

Les responsables du réseau organisaient des réunions d'évaluation mensuelles au cours desquelles les membres qui n'atteignaient pas leurs objectifs étaient soumis à des châtiments corporels, notamment des électrocutions avec des tapettes à mouches, des sodomies avec des objets étrangers et des actes sexuels forcés, ont précisé les procureurs.

Les accusés ont été inculpés en vertu de la loi sur la prévention des risques de fraude et de criminalité, de la loi sur le contrôle du blanchiment d'argent et des dispositions du Code pénal relatives à la fraude sur Internet commise par trois personnes ou plus.

Le parquet requiert des peines d'au moins 25 ans de prison pour Huang et 18 ans pour Hsu.

Lire plus
A propos de la base de données

La base de données des incidents d'IA est dédiée à l'indexation de l'historique collectif des dommages ou les quasi-dommages réalisés dans le monde réel par le déploiement de systèmes d'intelligence artificielle. Comme des bases de données similaires dans l'aviation et la sécurité informatique, La base de données des incidents d'IA vise à apprendre de l'expérience afin que nous puissions prévenir ou atténuer les mauvais résultats.

Vous êtes invité à soumettre des rapports d'incident, après quoi les soumissions seront indexées et rendues visibles au monde entier. L'intelligence artificielle ne sera bénéfique pour les personnes et la société que si nous enregistrons et apprenons collectivement de ses échecs. (Plus d'informations)

post-image
Enquête sur les incidents d'IA pour construire un avenir plus sûr : l'Instituto de Investigación de Seguridad Digital s'associe à Responsible AI Collaborative

By TheCollab Board of Directors

2024-02-20

L'Institut d'inestigation de Securité Digital (DSRI) des Instituts d'Investigation de UL est assoicé evec Responsible AI Collaborative (TheC...

Lire plus
La base de données dans la presse

En savoir plus sur la base de données sur Time Magazine, Vice News, TechTalks, Wired et Bulletin of the Atomic Scientists entre autres points de vente.

Arxiv LogoTechTalks LogoWired LogoVice logoNewsweek logoTime logoBulletin of the Atomic Scientists logoStanford HAI logoRolling Stone logoThe Guardian logoHarvard Business Review logoBrasil em Folhas logo
La collaboration IA responsable

La base de données d'incidents d'IA est un projet du Responsible AI Collaborative, une organisation constituée pour promouvoir la base de données d'incidents d'IA. La gouvernance de la Collaborative est structurée autour de la participation de sa programmation d'impact. Pour plus de détails, nous vous invitons à en savoir plus sur notre conseil d'administration et nos contributeurs.

L'AIID repose sur un grand nombre d'organisations et de personnes qui partagent sa mission. Nous mettons à l'honneur les contributeurs du jeu de données dans le classement. Vous pouvez aussi voir qui contribue au code sur GitHub.

Voir le formulaire 990 et la demande d'exonération fiscale de la Responsible AI Collaborative. Nous sollicitons votre soutien financier sous forme de don. Tous les fonds donnés à la base de données d'incidents améliorent la couverture des incidents, la qualité de la présentation et la profondeur de l'analyse. Nous consacrons très peu de notre temps et aucune partie de notre budget à la collecte de fonds.

Commanditaire fondateur de l'organisation
Commanditaire fondateur de la base de données
Commanditaires et subventions
Commanditaires en nature
Le briefing sur les incidents d'IA
An envelope with a neural net diagram on its left

Create an account to subscribe to new incident notifications and other updates.

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2026 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité