Bienvenue dansla base de données des incidents d'IA
Incident 1690: À Kechi, dans le Kansas, le lieutenant de police Victor Heiar a utilisé le système de lecture de plaques d'immatriculation Flock Safety pour surveiller son épouse séparée.
“Un lieutenant de police de Kechi arrêté pour avoir utilisé la technologie policière afin de harceler son épouse”Dernier rapport
WICHITA, Kansas (KWCH) – Le lieutenant de police de Kechi, Victor Heiar, a été arrêté par la police de Wichita après la découverte qu'il avait abusé de sa position pour accéder illégalement au système de lecture automatique des plaques d'immatriculation du WPD afin de surveiller les déplacements de son épouse, dont il était séparé.
Heiar a depuis été suspendu de ses fonctions. Il a été incarcéré à la prison du comté de Sedgwick pour harcèlement et utilisation illégale d'un ordinateur.
« Il est évident que lorsqu'on est policier et qu'on a accès à des informations confidentielles auxquelles le commun des mortels n'a pas accès, on n'est pas censé les utiliser à des fins personnelles », a déclaré Charles O'Hara, avocat de la défense au sein du cabinet O'Hara and O'Hara. « Lorsque cela se répète et devient abusif, cela constitue du harcèlement. »
O'Hara précise que, bien souvent, le harcèlement relève de la voie civile et non de la voie pénale.
« Je ne comprends pas comment ils peuvent l'accuser de harcèlement », a déclaré O'Hara. « Je ne connais pas les détails de cette affaire, nous ne faisons que des suppositions, mais je suppose qu'il faisait l'objet d'une ordonnance restrictive et qu'il l'a violée, ou qu'il a harcelé la femme au point de la terroriser. »
La semaine dernière, il a été annoncé que les forces de l'ordre de Wichita et du comté de Sedgwick recevraient 1,6 million de dollars de fonds fédéraux pour l'acquisition de lecteurs de plaques d'immatriculation et la modernisation de leur système de caméras.
Il craint pour la sécurité publique si les forces de l'ordre n'utilisent pas correctement leurs ressources.
« Il est inquiétant, je trouve, qu'un haut gradé des forces de l'ordre puisse faire un mauvais usage des outils à sa disposition », a déclaré O'Hara.
L'enquêteur privé Joseph Schillaci affirme que, bien que cette situation doive être prise en charge, il ne pense pas qu'elle soit fréquente dans les services de police. Selon lui, la sécurité publique n'est pas menacée.
« Chaque fois qu'un problème de ce genre survient, il est absolument impératif d'y remédier », a déclaré Schillaci. « En ce qui concerne les préoccupations et la sécurité publiques, ces circonstances sont isolées. »
Incident 1691: Le logiciel ChatGPT aurait été utilisé pour planifier l'attaque au couteau contre Zürich-Oerlikon qui a grièvement blessé trois garçons de cinq ans.
“Attaque au couteau contre des enfants : l’auteur aurait « acheté du bœuf pour s’entraîner ».”
Agression au couteau sur des enfants : L'auteur présumé « s'entraînait avec du bœuf »
Un étudiant chinois qui a poignardé trois garçons à Zurich-Oerlikon à l'automne 2024 est jugé pour tentative de meurtre ce jeudi. L'acte d'accusation révèle de nouveaux détails sur les faits.
De quoi s'agit-il ?
-
Un étudiant chinois est jugé à Zurich pour tentative de meurtre : le 1er octobre 2024, il a poignardé trois garçons de cinq ans à Oerlikon.
-
L'acte d'accusation montre que l'homme a méticuleusement planifié son agression : il a utilisé ChatGPT et s'est entraîné avec du bœuf.
-
Le parquet requiert une peine de 15 ans de prison et une mesure d'expulsion d'une durée équivalente.
Cet acte a suscité l'indignation dans toute la Suisse : le 1er octobre 2024, jour de la fête nationale chinoise, un étudiant chinois de 23 ans a attaqué des enfants à l'arme blanche dans une garderie de Zurich-Oerlikon. Trois garçons de cinq ans ont été grièvement blessés par la lame d'environ 8,5 centimètres de long.
L'un des enfants a eu la veine jugulaire sectionnée au niveau de la clavicule et a également subi des blessures au cou et à l'épaule gauche. Une intervention chirurgicale d'urgence a été nécessaire pour éviter un décès par hémorragie ou embolie gazeuse. L'agresseur a poignardé un deuxième garçon à deux reprises à la poitrine. Les coups de couteau ont perforé le péricarde et lésé l'auricule droite, l'artère thoracique droite et la veine thoracique droite.
Une employée de la garderie a maîtrisé l'agresseur
La blessure au cœur a entraîné une hémorragie du péricarde et une perte de sang potentiellement mortelle. Le garçon a survécu de justesse ; sa mort n'a été évitée que grâce à une intervention médicale immédiate. Le troisième garçon a subi de multiples blessures à l'oreille et au poumon.
D'autres attaques ont été empêchées uniquement grâce à l'intervention énergique de l'employée de la garderie : selon l'acte d'accusation, elle s'est précipitée vers l'agresseur et l'a saisi par les bras, le contraignant à renoncer à son projet. Comprenant qu'il ne pouvait se dégager, l'homme a jeté le couteau et s'est rendu. D'autres passants, dont Mirco Brühwiler (38 ans), sont arrivés et ont retenu l'homme chinois jusqu'à l'arrivée de la police. 20 Minuten s'est entretenu avec l'un d'eux après l'incident.
« D'un sang-froid extraordinaire »
L'homme comparaîtra devant le tribunal jeudi. Le procureur l'a inculpé de tentative de meurtre : ce ressortissant chinois a méticuleusement planifié l'attaque et l'a préparée avec l'aide de ChatGPT. Arrivé en Suisse un an auparavant pour poursuivre un master à l'Université de Zurich, le jeune homme était malheureux et se sentait méprisé, selon l'accusation.
Le parquet qualifie la préparation et l'exécution de l'attaque par le ressortissant chinois d'« extraordinaires actes de sang-froid ». Début août 2024, il a décidé de tuer. Il a consulté l'intelligence artificielle ChatGPT au sujet des « conséquences juridiques des différentes manières de tuer des victimes choisies au hasard à l'arme blanche » et a choisi de poignarder des enfants.
Quinze ans de prison requis
L'acte d'accusation poursuit : dans les semaines qui ont suivi, il a commandé des vêtements pour l'attaque et un ensemble de quatre couteaux de cuisine de tailles différentes. Le 18 septembre, il a effectué des recherches sur les lieux et les moments où il pourrait trouver des enfants à Zurich. Dix jours plus tard, il a étudié des illustrations anatomiques de la tête, du cou et du torse humains, ainsi que des vaisseaux sanguins. Le 30 septembre, l'étudiant a acheté du bœuf cru pour s'entraîner à poignarder et à couper.
Le lendemain, vers midi, il a perpétré l'attaque. La date n'était pas un hasard : le 1er octobre est la fête nationale chinoise. Quelques minutes avant l'attaque, il a publié sur Instagram, depuis son appartement situé à proximité immédiate de la crèche, divers contenus patriotiques chinois, ainsi qu'un message désobligeant à l'égard d'une ancienne connaissance en Chine.
Le parquet indique dans l'acte d'accusation que l'homme a agi par « pure vengeance, soif de reconnaissance et aveuglement idéologique ». Il requiert une peine de 15 ans de prison et une interdiction d'entrée sur le territoire pour une durée de 15 ans.
Le parquet indique dans l'acte d'accusation que l'homme a agi par « pure vengeance, désir de reconnaissance et illusion idéologique ».
Incident 1693: Un agent d'IA aurait exploité des vulnérabilités d'application pour modifier des données personnelles et accéder à des factures au sein d'une organisation non identifiée.
“Première notification d'une violation de données personnelles causée par une attaque exécutée à l'aide d'un agent d'IA”
L'attaquant a lancé une analyse de vulnérabilités de fichiers génériques et s'est connecté avec succès. Une fois connecté, il a recherché de manière autonome des vulnérabilités dans l'application. Après avoir trouvé ces vulnérabilités, il a pu modifier des données personnelles et accéder aux factures.
Avant de tirer des conclusions, il convient de noter que les informations disponibles proviennent de la notification soumise par l'organisation affectée et nécessiteront une analyse plus approfondie. De plus, l'utilisation d'un modèle d'IA spécifique n'implique pas que le modèle ou l'infrastructure de son fournisseur aient été compromis, ni que l'outil ait été conçu pour mener des activités malveillantes.
Toutefois, du point de vue de la protection des données, le point pertinent est qu'un tiers semble avoir utilisé un agent d'IA comme outil pour exécuter avec succès différentes phases de l'attaque.
Cette première notification ne permet pas d'établir une tendance statistique, mais elle constitue une indication significative que les attaques basées sur l'IA ne sont plus un risque théorique et commencent à se concrétiser par des incidents affectant le traitement effectif des données personnelles.
De l'assistance à l'attaquant à l'action de l'agent
L'utilisation de l'intelligence artificielle dans des activités malveillantes n'est pas nouvelle. Il a été démontré que, appliquées à une cyberattaque, ces capacités peuvent faciliter l'automatisation d'activités illicites. De fait, les modèles génératifs sont utilisés depuis longtemps pour rédiger des messages d'hameçonnage, traduire des campagnes frauduleuses, usurper l'identité d'autrui, analyser du code et faciliter la recherche de vulnérabilités.
L'émergence des agents d'IA introduit toutefois un changement qualitatif. Un agent peut recevoir une cible, planifier des tâches intermédiaires, utiliser des outils, exécuter du code, consulter des sources, interpréter les résultats et modifier ses actions de manière autonome, en fonction de ses découvertes.
Il est important de rappeler que l'IA ne crée pas de nouvelles menaces. Mais elle accroît la vitesse, l'ampleur et l'adaptabilité des techniques malveillantes déjà connues, réduisant ainsi le temps disponible pour les détecter et les contenir.
C’est également l’une des conclusions du guide CCN-CERT BP/36 : Bonnes pratiques concernant le modèle d’IA offensive, publié par le Centre national de cryptologie. Ce document met en garde contre l’intégration de l’IA offensive dans les campagnes réelles et recommande de renforcer les contrôles essentiels, d’accélérer la gestion des vulnérabilités, de protéger les identités, de contrôler la chaîne d’approvisionnement et de réglementer l’utilisation des agents.
Pourquoi cette première notification est-elle pertinente ?
L’importance de cette notification, outre la technologie utilisée, réside dans son potentiel à modifier le paysage de la gestion des risques.
Premièrement, cela confirme la nécessité d'intégrer explicitement les attaques assistées ou exécutées par l'IA dans les analyses de risques liées au traitement des données. Autrement dit, une simple mention générique des logiciels malveillants, du phishing ou des accès non autorisés est insuffisante, car cette automatisation peut modifier considérablement la probabilité, la vitesse et l'ampleur de l'incident.
Deuxièmement, cela impose une révision des temps de réponse. Les procédures conçues pour les attaques exécutées manuellement peuvent s'avérer inadéquates lorsqu'un agent analyse simultanément plusieurs ressources, teste différents points d'accès et adapte rapidement son comportement.
Troisièmement, cela renforce l'importance des identités et des identifiants numériques. Un agent qui obtient un compte, une clé API ou un jeton doté de permissions excessives peut agir à la vitesse d'une machine et accéder à divers services avant même que l'organisation ne détecte une anomalie.
Enfin, cela démontre que la sécurité du traitement des données ne peut reposer uniquement sur une intervention manuelle. La supervision humaine demeure essentielle, mais elle doit être appuyée par des mécanismes de détection, de confinement et de réponse capables de fonctionner avec une rapidité suffisante.
Appel à l'action
L'arrivée d'agents d'IA à l'offensive doit inciter à une révision immédiate des modèles de sécurité et de protection des données.
Les responsables du traitement des données, les sous-traitants et les délégués à la protection des données doivent se préparer à un scénario où la vitesse des attaques augmentera, mais où les mêmes principes fondamentaux resteront essentiels : comprendre le traitement des données, minimiser les données, limiter l’accès, corriger les vulnérabilités, surveiller les fournisseurs et être prêt à réagir.
Incident 1692: Le lycée Parkview en Géorgie aurait reçu une série de menaces d'attentat à la bombe prétendument générées par une intelligence artificielle, ce qui a entraîné des confinements répétés.
“Le lycée Parkview reçoit cette année sa 4e alerte à la bombe générée par une intelligence artificielle.”
Comté de Gwinnett, Géorgie – La police scolaire du comté de Gwinnett collabore avec les enquêteurs de l'État et du gouvernement fédéral suite à la quatrième alerte à la bombe générée par une intelligence artificielle (IA) reçue par le lycée Parkview cette année scolaire.
Article précédent : Un appel masqué provenant d'une IA provoque un confinement partiel au lycée Parkview
Ce que l'on sait :
La dernière alerte a été reçue lundi, ce qui a incité la direction du lycée Parkview à le confiner par mesure de précaution.
L'établissement a ensuite repris son fonctionnement normal.
Les enquêteurs recherchent l'origine des menaces.
Déclaration :
Dans une lettre adressée aux parents, la police scolaire a indiqué que ce dernier incident s'inscrit dans un schéma récurrent des menaces récentes impliquant l'utilisation d'un numéro de téléphone masqué.
La police des écoles publiques du comté de Gwinnett travaille actuellement avec le Bureau d'enquête de Géorgie (GBI) et le FBI afin d'identifier les responsables.
Les autorités n'ont procédé à aucune arrestation ni identifié de suspect en lien avec ces menaces.
Source
- Information fournie par la police scolaire de Gwinnett.
Incident 1689: Un lieutenant du bureau du shérif du comté de Fort Bend, au Texas, aurait utilisé le système de lecture de plaques d'immatriculation Flock Safety pour 189 recherches non liées à l'application de la loi.
“Un lieutenant du bureau du shérif du comté de Fort Bend admet avoir fait un usage abusif des caméras Flock, selon des documents.”
Comté de Fort Bend, Texas (KTRK) – Des documents obtenus par ABC13 révèlent qu'un lieutenant du bureau du shérif du comté de Fort Bend a utilisé les caméras Flock pour consulter une plaque d'immatriculation à 41 reprises et une autre à 148 reprises entre janvier 2022 et décembre 2025.
Selon ces documents, le lieutenant a admis que ces recherches n'étaient pas liées à ses fonctions officielles.
ABC13 ne divulgue pas le nom du lieutenant car il n'est pas poursuivi au pénal.
L'enquête a révélé qu'un résident avait porté plainte, l'accusant de harcèlement et affirmant craindre pour la sécurité de sa famille.
Le document des affaires internes indique que le lieutenant a déclaré s'inquiéter de la présence des deux conducteurs rôdant près de son domicile et de sa famille.
Les documents décrivent la relation d'au moins un des conducteurs avec le propriétaire du véhicule comme étant « très conflictuelle sur le plan familial ».
L'enquête des affaires internes a conclu que le lieutenant avait enfreint le règlement du département et a été suspendu deux jours.
Les caméras Flock suscitent une controverse croissante en raison des préoccupations liées à la protection de la vie privée et à la sécurité. Récemment, une foule nombreuse a assisté à une réunion du tribunal des commissaires du comté de Harris, les exhortant à ne pas renouveler le contrat avec Flock. La police de Houston a indiqué à ABC13 qu'elle poursuivait son enquête sur une série de caméras Flock détruites dans toute la ville.
« Accéder à des informations auxquelles on n'est pas autorisé constitue généralement une violation administrative ou déontologique », a déclaré David Kwok, professeur de droit à l'Université de Houston, à ABC13.
Selon M. Kwok, pour que l'utilisation abusive des caméras Flock entraîne des sanctions plus graves que de simples conséquences administratives, une intention malveillante manifeste doit être démontrée.
« Si vous cherchiez à vous enrichir indûment, à voler pour de l'argent ou à nuire à autrui », a-t-il précisé.
D'après les documents, le lieutenant a affirmé n'avoir rien fait des informations récupérées grâce aux caméras Flock et a déclaré qu'elles n'avaient été partagées avec personne.
La chaîne ABC13 a contacté le lieutenant et le bureau du shérif du comté de Fort Bend et attend une réponse.
A propos de la base de données
La base de données des incidents d'IA est dédiée à l'indexation de l'historique collectif des dommages ou les quasi-dommages réalisés dans le monde réel par le déploiement de systèmes d'intelligence artificielle. Comme des bases de données similaires dans l'aviation et la sécurité informatique, La base de données des incidents d'IA vise à apprendre de l'expérience afin que nous puissions prévenir ou atténuer les mauvais résultats.
Vous êtes invité à soumettre des rapports d'incident, après quoi les soumissions seront indexées et rendues visibles au monde entier. L'intelligence artificielle ne sera bénéfique pour les personnes et la société que si nous enregistrons et apprenons collectivement de ses échecs. (Plus d'informations)

Enquête sur les incidents d'IA pour construire un avenir plus sûr : l'Instituto de Investigación de Seguridad Digital s'associe à Responsible AI Collaborative
By TheCollab Board of Directors
2024-02-20
L'Institut d'inestigation de Securité Digital (DSRI) des Instituts d'Investigation de UL est assoicé evec Responsible AI Collaborative (TheC...
La base de données dans la presse
En savoir plus sur la base de données sur Time Magazine, Vice News, Venture Beat, Wired et Bulletin of the Atomic Scientists entre autres points de vente.
La collaboration IA responsable
La base de données d'incidents d'IA est un projet du Responsible AI Collaborative, une organisation autorisée à promouvoir la base de données d'incidents d'IA. La gouvernance de la Collaborative est structurée autour de la participation de sa programmation d'impact. Pour plus de détails, nous vous invitons à lire le rapport de la fondation et à en savoir plus sur notre and learn more on our.

View the Responsible AI Collaborative's Form 990 and tax-exempt application. We kindly request your financial support with a donation.
Commanditaire fondateur de l'organisation
Commanditaire fondateur de la base de données

Commanditaires et subventions
Commanditaires en nature
Le briefing sur les incidents d'IA

Create an account to subscribe to new incident notifications and other updates.


