Skip to Content
logologo
AI Incident Database
Faire un don
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Vue spatiale
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Incident au hasard
  • S'inscrire
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Vue spatiale
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Incident au hasard
  • S'inscrire

Bienvenue dans
la base de données des incidents d'IA

Loading...
Une manifestation contre des diffusions truquées à caractère sexuel présumées d'étudiantes s'est terminée par des actes de vandalisme et l'intervention de la police dans une école de Puente Alto.

Incident 1757: Des étudiants auraient utilisé l'intelligence artificielle pour créer et partager de fausses images de nus de leurs camarades de classe à Puente Alto, au Chili.

Traduit par IA
“Une manifestation contre des diffusions truquées à caractère sexuel présumées d'étudiantes s'est terminée par des actes de vandalisme et l'intervention de la police dans une école de Puente Alto.”Dernier rapport
adnradio.cl2026-10-15

Une manifestation d'élèves du lycée Colegio Alicante del Sol de Puente Alto s'est terminée jeudi par des actes de vandalisme, des affrontements et l'intervention des Carabiniers (police chilienne), sur fond de colère des élèves et de leurs parents face à une affaire de deepfakes à caractère sexuel qui dure depuis juillet.

Selon les informations recueillies par ADN.cl, le 10 juillet, des élèves auraient découvert sur le téléphone d'un camarade des images à caractère sexuel explicite, créées par intelligence artificielle, impliquant des lycéennes de l'établissement.

Après la révélation de l'affaire, qui fait l'objet d'une enquête du parquet, les familles des victimes présumées se sont rendues au lycée et les élèves concernés ont été suspendus le temps de l'enquête.

Cependant, d'après des témoignages affichés dans l'établissement, les élèves ont ensuite repris les cours, mais dans des classes différentes. Cette décision a suscité la colère de certains élèves, qui ont remis en question la réaction de l'établissement et exigé des mesures plus fermes.

Agitation et intervention de la police


Les tensions se sont exacerbées suite à de nouveaux incidents signalés par des élèves et leurs familles, qui affirment avoir été moqués et menacés dans le contexte du conflit.

Le conflit a dégénéré vers 11h30 le jeudi 27 août, lors d'une manifestation étudiante initialement qualifiée de pacifique. Des vitres brisées, l'utilisation d'un extincteur et des affrontements ont ensuite été signalés.

Selon les informations recueillies par ADN, la police est arrivée à l'établissement peu après midi, suite à l'identification préliminaire par leurs camarades de trois élèves comme étant les auteurs présumés de la diffusion des images. Craignant pour leur sécurité, les élèves se sont réfugiés dans une salle de classe. Les forces de l'ordre, ainsi que les services municipaux, sont ensuite entrés dans l'établissement et les ont évacués en toute sécurité.

L'établissement a confirmé que la manifestation avait entraîné des troubles, des violences physiques envers le personnel et les élèves, ainsi que des dégâts matériels. Par ailleurs, à la demande de la Direction provinciale de l'éducation, les cours ont été suspendus pour la journée de vendredi et les élèves ont été renvoyés chez eux plus tôt.

L'association des parents d'élèves a convoqué une réunion d'urgence pour examiner la situation et coordonner les prochaines étapes.

Qu'ont dit les autorités ?

Une fois les événements connus, le maire de Puente Alto, Matías Toledo, a déclaré s'être rendu à l'école avec les Carabineros (police chilienne), la sécurité municipale et la délégation provinciale, suite à la manifestation étudiante.

Il a expliqué que les élèves impliqués dans l'incident avaient été conduits au poste de police, conformément à la procédure, après des tentatives d'agression survenues pendant la manifestation.

M. Toledo a affirmé que, malgré les mesures prises par l'école et le dépôt des rapports correspondants, la situation s'était envenimée après le retour des élèves chez eux.

Le maire a également appelé les parents, les tuteurs et les élèves à réfléchir aux conséquences d'une utilisation irresponsable de l'intelligence artificielle et a affirmé que la municipalité s'engageait à collaborer avec la communauté éducative et les familles pour trouver une solution permettant de prévenir de futurs incidents.

Lire plus
Loading...
Une plainte allègue que Sharp HealthCare a enregistré secrètement des conversations dans les salles d'examen sans le consentement des patients.

Incident 1754: Un système de santé californien aurait utilisé un assistant médical IA pour enregistrer des données de patients sans leur consentement.

Traduit par IA
“Une plainte allègue que Sharp HealthCare a enregistré secrètement des conversations dans les salles d'examen sans le consentement des patients.”
kpbs.org2026-10-15

Une action collective proposée, déposée devant la Cour supérieure de San Diego, accuse Sharp HealthCare d'avoir enregistré secrètement des conversations entre médecins et patients à l'aide d'un outil d'intelligence artificielle et d'avoir falsifié des documents attestant du consentement des patients.

Selon la plainte, Sharp a commencé à utiliser une application d'IA appelée Abridge en avril dernier. Cet outil enregistre les conversations entre patients et cliniciens, puis génère des brouillons de comptes rendus médicaux. D'après la plainte, l'application a capturé tout ce qui s'est dit dans la salle d'examen – y compris les symptômes, les diagnostics et les informations personnelles – et a envoyé l'enregistrement audio aux serveurs de l'entreprise, où les employés pouvaient le consulter.

La plainte allègue que les patients n'ont jamais été informés de l'enregistrement de leurs rendez-vous ni n'ont eu la possibilité de donner leur consentement ou de s'y opposer. La loi californienne exige le consentement de toutes les parties avant l'enregistrement de conversations confidentielles.

La plainte allègue également qu'Abridge a automatiquement inséré des déclarations erronées dans les dossiers médicaux, indiquant que les patients « avaient été informés » de l'enregistrement de la consultation et qu'ils y avaient « consenti », même lorsque le patient affirmait que cela n'avait jamais eu lieu.

Le plaignant, José Saucedo, affirme avoir découvert l'enregistrement seulement après avoir consulté son dossier médical suite à une consultation en juillet dans une clinique Sharp Rees-Stealy. Selon la plainte, lorsqu'il a contacté Sharp, la clinique s'est excusée, a reconnu l'existence de l'enregistrement et l'a informé que le fichier pourrait rester sur les serveurs du prestataire pendant environ un mois avant d'être supprimé.

Les avocats du cabinet Counterpoint Lega, qui représentent le plaignant, soutiennent que cette pratique enfreint la législation californienne sur la protection de la vie privée et la loi californienne sur la confidentialité des informations médicales (Confidentiality of Medical Information Act), qui exige une autorisation écrite avant tout partage d'informations médicales nominatives avec des entreprises externes.

La plainte vise à obtenir des dommages et intérêts, la rectification des dossiers médicaux et une injonction interdisant l'utilisation de l'outil d'intelligence artificielle sans consentement éclairé. On estime que plus de 100 000 patients de Sharp pourraient avoir été enregistrés lors du déploiement.

Sharp et Counterpoint Legal ont tous deux déclaré ne pas pouvoir commenter une procédure judiciaire en cours.

Lire plus
Loading...
« Ils ont partagé la photo grâce à l'IA et l'ont envoyée à leurs amis. » La jeune fille se plaint des retards.

Incident 1755: Au Kirghizistan, une femme accuse un ancien camarade de classe d'avoir utilisé un robot d'intelligence artificielle pour créer une image d'elle nue à partir d'une photo Instagram.

Traduit par IA
“« Ils ont partagé la photo grâce à l'IA et l'ont envoyée à leurs amis. » La jeune fille se plaint des retards.”
kaktus.media2026-10-15

Aima Yunusbaeva, 23 ans, victime d'une diffusion de photos à caractère sexuel falsifiée (deepfake), a contacté Kaktus.media. Elle craint de ne pas pouvoir faire valoir ses droits et que l'auteur des faits puisse échapper à toute sanction grâce à ses relations.

Aima Yunusbaeva explique qu'en juillet dernier, elle a appris que ses amis avaient reçu un message contenant une photo d'elle nue, rendue truquée par intelligence artificielle. Elle affirme que ce message a été envoyé par son camarade de classe, Chynybek Azizovich Aaliev. Ce dernier est, soit dit en passant, le fils d'Aziz Aaliev, ancien vice-Premier ministre et actuel président du Fonds de développement ouzbek-kirghize.

Le 19 juillet, j'ai reçu un message de Chynybek m'indiquant qu'environ une semaine auparavant, une image contenant mon visage avait été envoyée accidentellement à ses contacts sur les réseaux sociaux. Perplexe, j'ai mené l'enquête. Il s'agissait d'une photo générée par une intelligence artificielle. On y voyait une jeune fille nue avec mon visage superposé. Il prétendait que c'était un accident : l'application aurait accédé à la galerie de son téléphone, sélectionné la photo avec mon visage, créé l'invite, généré l'image et l'aurait envoyée à ses contacts. D'abord, j'étais à la fois confuse et indignée, car je ne comprenais pas comment cela avait pu arriver. Cependant, je ne croyais pas Chynybek. Au cours de la conversation, il a fini par avouer avoir lui-même déshabillé ma « photo » grâce à une IA, qu'il avait téléchargée depuis ma page Instagram.

J'ai contacté sa petite amie, qui était au courant de la situation. Elle m'a fourni une correspondance avec lui dans laquelle il reconnaissait que ce n'était pas une IA qui avait créé l'image par accident, mais bien lui-même. Lorsqu'elle lui a demandé pourquoi il avait fait cela, Chynybek a répondu qu'il « était dans… » « J'étais de bonne humeur ce soir-là et cela ne me dérangeait pas d'utiliser la photo d'une camarade de classe », a déclaré Yunusbayeva.

La jeune fille admet avoir subi un traumatisme psychologique important par la suite et, même plusieurs mois plus tard, elle souffre d'une forte anxiété.

« La photo a été prise par un professionnel et il est difficile de la distinguer de la réalité. Ses actes m'ont causé un traumatisme psychologique intense. Il a gravement nui à ma réputation, mettant en péril mon honneur et ma dignité.

Imaginez : vous étudiez, vous faites des projets d'avenir, et soudain, quelqu'un crée une photo de vous nue, et tout le monde la voit. Je suis désespérée, blessée, offensée et triste qu'on puisse jouer avec mon destin de la sorte sans être punie. »

Toutes les preuves, y compris les aveux de l'individu, démontrent qu'il ne s'agissait pas d'un accident, mais d'un acte délibéré. « Je suis convaincue qu'il a inventé cette histoire de piratage par la suite pour se dédouaner », affirme-t-elle.

Commentaire de Chynybek Aaliev


Kaktus.media a contacté Chynybek Aaliev, qui a fourni son commentaire écrit.

Dès le début, j'ai toujours affirmé que ce qui s'est passé a été rendu possible par le piratage de mon compte Telegram. Par conséquent, la question de la diffusion des photos, de l'identité des personnes ayant accédé au compte et de celles qui les ont directement diffusées doit être résolue uniquement par une enquête objective et approfondie.

Comment tout a commencé

En mai-juin 2022, juste après la fin de mes études, je venais d'avoir 18 ans. Par insouciance, j'ai utilisé un bot Telegram proposant des services de traitement de photos par intelligence artificielle et j'ai saisi le code de confirmation qu'il m'avait envoyé. Sans comprendre ce qui se passait, j'ai suivi les instructions du bot. Dès que j'ai reçu le résultat, j'ai été choqué et j'ai immédiatement supprimé la conversation avec le bot, l'oubliant aussitôt. C'était une erreur de ma part, et je le regrette profondément. Il s'est avéré par la suite que c'est grâce à ce bot que les pirates ont accédé à mon compte. Quatre ans plus tard, dans la nuit du 11 au 12 juillet 2026, des images ont été envoyées depuis mon compte à plusieurs de mes contacts. Ces envois ont eu lieu entre… Entre 2h26 et 2h38, heure de Bichkek. À ce moment-là, j'étais en séjour d'études à l'étranger et je dormais. D'après les statistiques système de mes appareils (Apple), mon téléphone a été activé pour la première fois à 3h25, heure de Bichkek, après l'envoi des messages. Seule l'application Telegram était disponible sur mon téléphone. Ces données confirment que toutes les actions ont été menées sans mon consentement et, de surcroît, de manière malveillante. Ces informations ont été transmises aux forces de l'ordre et, à mon avis, nécessitent une enquête technique objective. Mon père et ma petite amie figuraient parmi les destinataires, ce qui prouve également que je n'aurais jamais pu envoyer un tel message à mes amis les plus proches.

« J'ai contacté Aima en premier. »

J'ai contacté Aima moi-même. Je lui ai expliqué la situation et je me suis excusé. Je comprends à quel point Aima était bouleversée. J'étais donc prêt à présenter personnellement mes excuses à son père et à sa famille. À sa demande, j'ai immédiatement publié un message sur les réseaux sociaux concernant le piratage. Ils ont refusé et ont insisté pour que l'affaire soit réglée par la justice. J'ai accepté leur décision et je collabore à l'enquête. prescrit.

« Mes actions sont légales. »

Dès le début, j'ai souhaité une enquête objective sur les circonstances de l'incident et j'ai fourni toutes les informations en ma possession aux forces de l'ordre. J'ai personnellement déposé une plainte auprès de la police concernant le piratage présumé de mon compte et demandé une enquête approfondie sur les circonstances de l'accès et de l'envoi du message. J'ai notamment soulevé la question de l'identification de l'expéditeur, du mode et de la date d'accès au compte, ainsi que l'obtention des données techniques de Telegram permettant d'établir les circonstances de l'envoi. Je suis également disposé à fournir mon téléphone et tout autre appareil nécessaire aux analyses. Ma plainte pour piratage a d'abord été rejetée. J'ai fait appel de cette décision auprès du parquet et, le 9 septembre 2026, ma plainte a été retenue dans la mesure où les irrégularités de l'enquête ont été corrigées.

Évolution de la situation

Malgré leur volonté affichée de résoudre l'affaire conformément à la loi, l'autre partie a annoncé son intention de contacter les médias dès le début de l'enquête, alors que les circonstances n'étaient pas encore établies. Après un premier interrogatoire concernant Suite à la plainte de la partie plaignante, l'enquête a été transférée du commissariat de police du district d'Oktyabrsky à celui du district de Pervomayskoye : la partie plaignante a exprimé son manque de confiance envers l'enquêteur. Les examens nécessaires ont été effectués. J'attends les résultats de l'enquête. Cependant, sans attendre la décision de la police, la partie plaignante contacte les médias.

Recours aux médias comme moyen de pression

La partie plaignante a refusé de régler l'affaire par la négociation et a insisté pour la résoudre par les forces de l'ordre. Cependant, sans attendre la décision de la police, elle rend le différend public. Dès les premières étapes de la procédure, y compris lors des interrogatoires de police, la plaignante et ses représentants ont exprimé leur intention de contacter les médias et de médiatiser l'affaire. Cela s'est produit alors que l'enquête policière venait de commencer et que les circonstances de l'incident n'étaient pas encore pleinement établies. Je ne peux ni ne souhaite connaître les motivations de la partie adverse. Cependant, le déroulement de ces événements me laisse craindre, à juste titre, que ce recours public aux médias ne soit perçu comme une manœuvre. comme moyen supplémentaire d'influencer la situation avant la fin de l'enquête légalement requise.

Je ne souhaite pas de conflit public et suis disposée à un examen objectif de la situation, conformément à la procédure légale établie.

Message à Aima et à sa famille

Je regrette que notre conflit ait d'abord dégénéré en affaire policière, puis en médiatisation. Dès le début, j'ai ressenti une obligation morale envers Aima, car je comprends sa douleur et son désarroi. Dès le début, je lui ai présenté mes sincères excuses, espérant qu'elle comprendrait mon erreur, qu'elle comprendrait qu'elle n'était pas intentionnelle et qu'elle me pardonnerait. Aujourd'hui encore, je présente mes excuses à Aima et à sa famille. J'exhorte la famille d'Aima à ne pas chercher à se venger de moi. « Aima, je te demande pardon », peut-on lire dans sa déclaration.

Actions policières

Tentative n° 1

Le 21 juillet, Yunusbayeva a déposé une plainte auprès du commissariat de police du district d'Oktyabrsky. Elle a joint des enregistrements audio de la conversation et Des captures d'écran de la correspondance contenant les aveux de Chynybek Aaliev ont été produites. Cependant, la manière dont les forces de l'ordre ont géré l'affaire a soulevé des doutes quant à l'objectivité de l'enquête.

« Les enquêteurs ont proposé une rencontre entre Chynybek Aaliev et moi, expliquant qu'ils souhaitaient entendre les deux versions et observer sa réaction, soi-disant pour les besoins de l'enquête. Lors de cette rencontre, il a déclaré qu'il n'avait pas l'intention de me faire du mal et qu'il avait agi « pour plaisanter ». Il a également affirmé avoir cru que le bot Telegram modifierait la photo pour le montrer en maillot de bain.

Or, les spécialistes en cybersécurité de la Direction principale des enquêtes criminelles avaient déjà mis en doute sa version concernant la création de l'image en 2022, les bots ne disposant pas encore de cette fonctionnalité à cette époque. J'ai soulevé ce point. En réponse, l'enquêtrice a prétendu que ChatGPT existait déjà, alors qu'elle faisait référence à un bot Telegram spécialisé. La confusion de l'enquêtrice entre ChatGPT et un bot Telegram m'a fait douter qu'elle ait même examiné attentivement les éléments du dossier. » Les enquêteurs ont également affirmé que l'image n'avait été envoyée qu'à sept personnes, alors que Chynybek avait lui-même déclaré auparavant ignorer le nombre exact de destinataires. J'ai donc eu l'impression que l'enquête cherchait à minimiser l'incident.

Finalement, les enquêteurs m'ont dit : « Le Tout-Puissant ne lui pardonnera pas tant que vous ne lui aurez pas pardonné. Alors, trouvez la force en vous et pardonnez-lui. » Je pense qu'il s'agissait d'une pression psychologique visant à provoquer une réconciliation. Après tout cela, j'ai commencé à douter de l'objectivité de l'enquête », déclare-t-elle.

Tentative n° 2

La jeune fille a contacté le parquet, n'ayant plus confiance dans l'enquête du commissariat d'Oktyabrsky. L'affaire a alors été transférée au commissariat de Pervomaysky. Une expertise psychologique a été ordonnée, que Yunusbayeva a subie le 18 août, mais depuis, rien n'a bougé.

Commentaire de l'avocat

L'avocat de Yunusbayeva, Zhekshen kyzy Kymbat, souligne que les commissariats de Pervomaysky et d'Oktyabrsky violent tous les principes du droit de procédure pénale.

« Le droit de procédure pénale repose sur des principes de célérité, d'objectivité et d'exhaustivité de l'enquête. Or, la célérité n'est pas respectée. Nous disposons d'un Registre central des affaires criminelles, et tous les éléments sont stockés électroniquement pour faciliter le travail de l'enquêteur, du procureur et du tribunal. » L'enquêteur ou le chef du département des enquêtes d'État du district de Pervomaisky aurait pu simplement examiner les éléments et les transmettre à l'enquêteur. Mais pour une raison inconnue, on nous a dit que des documents étaient nécessaires. Résultat : il a fallu cinq jours pour que les éléments soient remis à la direction, qui ne les a signés que le lendemain. Imaginez le temps perdu pour des démarches aussi élémentaires !

J'ai également déposé une requête pour qu'une expertise psychologique soit ordonnée pour Aima, ainsi qu'une expertise technique afin de déterminer quel téléphone et quel logiciel ont été utilisés. Mais à ma connaissance, aucune expertise technique n'a été ordonnée. Nous avons aussi demandé une confrontation entre les personnes qui avaient reçu les informations et qui étaient au courant de la situation. Il me semble qu'elles étudient à l'étranger et qu'elles sont probablement parties après les vacances d'été. « Cela n'a pas été fait non plus », a déclaré l'avocat de la défense à Kaktus.media.

Nous avons déposé quatre requêtes au total, toutes le 5 août. L'affaire est donc au point mort depuis deux mois. N'ayant reçu aucune réponse de l'enquêteur, nous ignorons la situation. Il ne répond ni aux appels ni aux messages.

L'avocate a souligné qu'il est encore difficile de déterminer sous quel article précis l'affaire sera classée.

« Tout dépend de la gravité des faits. L'article 109 du Code pénal, relatif à la "diffusion de matériel pornographique", est passible d'une amende. L'article 161, également relatif à la "diffusion de matériel pornographique", prévoit des travaux d'intérêt général ou une amende. L'enquêteur aurait dû établir tous les éléments : les circonstances, l'intention et le but. En pratique, les enquêteurs sont très indulgents envers ce type d'infractions ; leur approche consiste à se dire : "Qu'a-t-il fait ? Il n'a tué ni agressé personne" », a-t-elle déclaré.

Communication du commissariat de police du district ---------------- Le commissariat de police du district de Pervomaisky a informé la rédaction qu'en raison de l'expiration du délai d'examen fixé avant la réception des résultats de l'expertise, il a été décidé de ne pas engager de poursuites pénales. Une nouvelle expertise a également été ordonnée.

« Concernant cette affaire, nous vous informons que la déclaration de la citoyenne A. Yu. a été enregistrée dans le Système automatisé d'information des inspections du logement et du cadastre. Une expertise a été ordonnée. Une évaluation juridique sera effectuée sur la base des conclusions de cette expertise », a indiqué le commissariat.

Interrogé sur les raisons pour lesquelles l'enquêteur n'avait pas encore contacté Yunusbayeva, alors qu'elle avait subi l'expertise il y a près de deux mois, le commissariat a répondu que les résultats n'étaient pas encore disponibles.

La jeune fille craint des pressions

En conclusion, Yunusbayeva a expliqué qu'elle avait été contrainte de contacter les médias et de médiatiser l'affaire car elle craignait que les relations de Chynybek Aaliev ne soient utilisées et qu'elle ne puisse pas défendre ses droits.

« La manière dont ma plainte a été traitée au commissariat du district d'Oktyabrsky, et dont elle l'est actuellement au commissariat du district de Pervomaisky, me fait craindre sérieusement que l'affaire ne soit étouffée. Je ne souhaite qu'une chose : que la personne qui a créé l'image de moi nue et l'a diffusée soit tenue pour responsable », a-t-elle déclaré.

« Je souhaite que mon affaire fasse l'objet d'une enquête objective et que mes droits ne dépendent en aucun cas des relations, de la position ou des compétences de la partie adverse. Je crains que les relations du père de Chynybek, le haut fonctionnaire Aziz Aaliev, ne soient utilisées. »

Photo en page principale : Depositphotos.com / Vitalik Radko.

Lire plus
Loading...
Un scanner IA m'a imputé à tort 2 200 $ de dommages à une voiture de location.

Incident 1756: L'inspection automatisée des véhicules de location Sixt aurait entraîné une facture de 1 659 £ pour des dommages préexistants à Manchester, en Angleterre.

Traduit par IA
“Un scanner IA m'a imputé à tort 2 200 $ de dommages à une voiture de location.”
thepointsguy.com2026-10-15

Lorsque John Stachura a passé sa voiture de location sous le scanner à intelligence artificielle futuriste de Sixt à Manchester, en Angleterre, il a été impressionné. Il supposait qu'un appareil aussi sophistiqué était forcément un moyen infaillible de documenter les dommages préexistants du véhicule. Cependant, son opinion sur cette technologie s'est effondrée lorsqu'il a reçu une facture de réparation de 2 200 $ après seulement 24 heures de location.

En examinant la demande de réparation, Stachura était certain que le scanner IA de Sixt avait commis une erreur coûteuse en faveur de l'entreprise. Il avait détecté de profondes rayures sur la carrosserie lors de son passage au scanner au retour. Il s'agissait des mêmes dommages qu'il avait remarqués et judicieusement photographiés avant de prendre le volant.

Pourtant, le scanner IA de Sixt, connu sous le nom de « Car Gate », n'avait pas détecté ces rayures au début de la location.

Malgré la preuve de l'erreur du scanner IA, Sixt a continué d'exiger le paiement de 2 200 $ pour la réparation du véhicule. Deux mois plus tard, après que la société de location de voitures l'eut menacé de poursuites judiciaires, il m'a demandé de l'aide.

En tant que défenseure des consommateurs et médiatrice de TPG, je sais que Stachura n'est pas un cas isolé. Les systèmes de reconnaissance faciale par intelligence artificielle de Sixt et Hertz (et leurs filiales) commettent des erreurs, et les clients en font les frais. Le coût pour les voyageurs ne se limite pas à l'argent, mais inclut également le temps et l'énergie qu'ils consacrent à se défendre. D'après les dossiers que j'ai consultés, il semble que le déploiement de cette technologie soit un peu prématuré.

Voici ce que les clients des sociétés de location de voitures doivent savoir pour se protéger des erreurs des systèmes de reconnaissance faciale par intelligence artificielle, et comment s'est finalement terminé le combat de Stachura contre l'un d'eux.

Une journée au volant d'une voiture de location en mauvais état


Fin septembre, Stachura et sa femme, qui se décrivent comme des « fidèles de Sixt », se sont rendus en Angleterre. Lors d'une excursion d'une journée à Manchester, le couple a loué une BMW Série 5 à l'aéroport.

« Nous avons immédiatement remarqué que la voiture de location était en mauvais état », m'a confié M. Stachura. « Elle était endommagée du côté passager avant. La jante était fortement éraflée et la carrosserie présentait une profonde entaille. »

Ayant loué une vingtaine de voitures chez Sixt au fil des ans, le couple a été surpris par le mauvais état du véhicule. Personne au comptoir ne les avait informés des dommages.

« Nous avons pris quelques photos de l'éraflure et des marques », se souvient M. Stachura. « J'ai ensuite filmé la voiture sous tous les angles, au cas où j'aurais manqué quelque chose. Nous étions pressés par le temps et nous voulions prendre la route. »

Ainsi, soucieux de repartir rapidement, les Stachura ne sont pas retournés au comptoir pour signaler les dégâts. Ils allaient amèrement regretter cette décision pendant des mois.

Au point de contrôle des véhicules, le scanner IA de Sixt prend des photos de la BMW.


Les Stachura ont chargé leurs bagages et se sont installés dans la voiture de location, puis sont rapidement passés sous le scanner IA. Moins de 24 heures plus tard, le couple était de retour, après avoir parcouru seulement 25 kilomètres. Ils sont repassés au point de contrôle des véhicules, ont garé la voiture et sont entrés dans l'aéroport.

M. Stachura affirme qu'il ne se doutait de rien. Pourtant, deux jours plus tard, il a reçu le premier d'une longue série de courriels de l'équipe Dommages de Sixt.

On pouvait y lire notamment :

« Merci d'avoir loué une voiture chez Sixt. Nous vous contactons concernant des dommages constatés sur le véhicule à votre retour. Après vérification des documents en notre possession, nous attribuons les dommages à votre période de location. Nous attendons votre règlement de 1 659 £ [sous sept jours]. »

Espérant qu'il s'agissait d'une erreur facilement rectifiable, le couple a demandé le rapport d'incident. Ces rapports contiennent des informations essentielles sur le véhicule, le contrat de location, des photos des dommages et les devis de réparation. Si vous pensez être facturé à tort pour des dommages causés à une voiture de location, il est crucial d'obtenir le rapport d'inspection du véhicule (RIV) et de l'examiner attentivement afin d'y déceler toute inexactitude.

Les Stachura étaient persuadés que le RIV associé à leur location les disculperait.

Et ce fut le cas.

Le RIV, avec les photos avant/après prises par les scanners IA, montrait clairement les dommages préexistants. Les photos et la vidéo des Stachura ont apporté les mêmes preuves.

Cependant, cette preuve irréfutable n'a pas empêché Sixt de réclamer aux Stachura le paiement de la facture de réparation de 2 200 $. Pendant huit semaines, Sixt a harcelé le couple de demandes de paiement, d'avertissements concernant des retards de paiement et, finalement, de menaces de recouvrement. C'est alors que le couple m'a demandé de l'aide.

Déploiement des scanners IA et début des plaintes


Hertz, puis Sixt, ont déployé la technologie de scanners IA dans un nombre limité d'agences en avril 2025. Presque immédiatement, j'ai reçu de nombreuses plaintes de clients de location de voitures, affirmant que la technologie leur avait attribué des dommages à tort.

Chaque fausse accusation était due à l'incapacité du scanner IA à détecter des dommages préexistants lorsque le client quittait le parking. Cependant, au retour du véhicule, l'appareil détectait et signalait le problème.

La bonne nouvelle pour les consommateurs est que les scanners IA sont performants. En effet, dans tous les cas que j'ai traités concernant cette technologie, les photos avant/après jointes ont grandement facilité ma tâche pour défendre le client. Ces images sont nettes, horodatées et montrent le véhicule sous tous les angles.

La mauvaise nouvelle pour les voyageurs est que, sans supervision humaine, si le scanner IA commet une erreur, ils risquent de devoir engager une longue procédure pour prouver leur innocence.

C'est exactement ce qui est arrivé aux Stachura. Sur les photos de la BMW prises par le scanner IA à la sortie, l'éraflure inhabituelle en forme de C est indéniable.

Photos des dégâts prises par le scanner IA avant la location (les marques rouges sont de moi). JOHN STACHURA POUR LE RESPONSABLE DES POINTS

Mais le couple n'a trouvé personne chez Sixt pour examiner les preuves et annuler la dette.

Interrogation de Sixt concernant le scandale des voitures endommagées et les plaintes de ses clients


Les porte-parole de Hertz et de Sixt m'ont assuré que les scanners IA ne sont qu'un outil et ne sont jamais utilisés sans supervision humaine.

Cependant, les dossiers que j'ai reçus jusqu'à présent semblent tous avoir échappé à l'attention d'un humain. Dans le cas de Stachura, les dommages préexistants sont visibles sous plusieurs angles.

Le scanner IA a capturé une autre vue des dommages préexistants. JOHN STACHURA POUR THE POINTS GUY

Malgré tout, le conflit du couple s'est envenimé et a culminé avec la menace de Sixt de réclamer non seulement le paiement de la facture de réparation de 2 200 $, mais aussi des « dommages et intérêts pour retard » en vertu du Code civil allemand. (Sixt est une entreprise basée en Allemagne.)

En examinant les documents que Stachura m'avait transmis, j'ai eu l'impression qu'IA gérait également la réclamation du couple.

J'étais presque certaine que dès que la direction de Sixt examinerait leur dossier, les Stachura obtiendraient rapidement satisfaction.

La bonne nouvelle de Sixt


En tant que journaliste, je peux contacter les dirigeants d'entreprises, contrairement aux clients. Malheureusement, ce sont parfois les seuls à pouvoir résoudre des problèmes de consommation complexes.

J'ai contacté notre responsable chez Sixt au nom des Stachura et lui ai transmis les scans de la BMW effectués par Car Gate avant la location. Comme je le pressentais, le combat du couple s'est rapidement et favorablement terminé. Le porte-parole de l'entreprise a écrit :

« Bonjour Michelle,

Merci beaucoup de nous avoir contactés et de nous avoir fait part des détails de cette affaire.

Après avoir réexaminé l'ensemble du dossier, nous confirmons que la déclaration de dommages et les frais associés ont été intégralement annulés.

Nous vous prions de bien vouloir accepter nos excuses pour la gêne occasionnée. »

Les Stachura sont ravis de tourner la page. On ignore encore s'ils se considèrent toujours comme des « fidèles de Sixt ».

Clients de location de voitures contre les scanners IA : voici comment s'en sortir


Comme toute intelligence artificielle, les scanners de véhicules IA commettent des erreurs. Malheureusement, ces erreurs peuvent entraîner des factures de réparation importantes pour des clients de location de voitures innocents.

Bien que cette technologie ne soit actuellement utilisée que dans un nombre limité de lieux et d'entreprises, les consommateurs peuvent s'attendre à ce qu'elle se généralise en 2026.

Comme elle est encore en phase d'apprentissage, les voyageurs doivent être proactifs afin de se protéger contre un éventuel « dysfonctionnement » d'un scanner IA.

Voici comment procéder.

Documentez l'état de la voiture de location avant et après

La surprise de recevoir des frais de réparation après la restitution d'un véhicule n'est pas un événement exceptionnel. En fait, c'est l'une des plaintes les plus fréquentes que je reçois. Nombre de mes enquêtes prouvent que le client a été accusé à tort.

Le meilleur moyen pour les clients de location de voitures de s'assurer de ne pas recevoir de facture de réparation pour des dommages causés par un tiers est de photographier minutieusement l'état du véhicule. Cette inspection doit être effectuée dans un endroit bien éclairé, en deux temps : avant et après la location. Il s'agit d'une étape cruciale du processus de location qu'aucun client ne devrait négliger, même si un scanner intelligent est installé.

Pour aider les clients de location de voitures à éviter des frais de réparation élevés, j'ai créé des listes de contrôle d'inspection avant et après location téléchargeables gratuitement qui servent de guide. J'ai élaboré ces formulaires en me basant sur les centaines de réclamations pour dommages de voitures de location que j'ai traitées au fil des ans.

Signaler les dommages non signalés à un employé

Même si vous vous apprêtez à passer sous un scanner intelligent, si vous constatez des dommages sur la voiture de location qui ne vous ont pas été signalés, il est probable qu'ils ne soient enregistrés nulle part. Si vous repartez avec le véhicule sans le signaler, le problème vous incombe. Trouvez un employé sur le parking ou retournez au comptoir de location et faites constater les dégâts.

N'acceptez aucune assurance de la part des employés que le scanner IA documentera le problème ou que les dégâts sont trop mineurs pour être pris en compte. J'ai vu des clients se faire facturer des milliers de dollars pour de petites bosses et rayures.

Demandez une copie du rapport d'incident complet

Si le pire se produit et qu'un scanner IA détecte des dégâts sur votre véhicule de location après sa restitution, vous devez demander le rapport d'incident. Les rapports d'incident générés par les scanners IA sont très complets. Les erreurs du scanner IA ne sont pas dues à une incapacité de la machine à documenter l'état du véhicule. En réalité, les erreurs que j'ai constatées jusqu'à présent étaient toutes dues au fait que l'IA n'avait pas signalé des dégâts préexistants pourtant détectés par le scanner.

Demander et examiner le rapport d'incident est la première étape pour se prémunir contre les faux positifs du scanner IA. Assurez-vous de consulter le rapport sur un écran d'ordinateur de taille normale afin de pouvoir agrandir les zones identifiées comme endommagées lors des scans.

Vous devrez également vérifier que les photos du rapport d'inspection du véhicule (VIR) correspondent bien au véhicule loué et aux dates de location. (Les erreurs d'identification et les frais pour dommages sont fréquents.)

Si vous avez pris vos propres photos (comme je l'espère), comparez-les avec celles du scanner IA. Ces clichés constituent une protection supplémentaire contre les factures de dommages injustifiées.

Faites remonter votre réclamation au service client de niveau supérieur

Je consulte souvent les dossiers de clients qui ont tenté en vain de résoudre leur problème eux-mêmes, se retrouvant pris dans un cercle vicieux avec les « agents » de l'entreprise. Et pendant tout ce temps, leur problème reste entier.

Il y a une raison pour laquelle ces conversations semblent absurdes.

La triste réalité est que l'intelligence artificielle ne se contente pas de gérer l'inspection de votre voiture de location. Elle a envahi de nombreux aspects du service client, et les consommateurs ont souvent beaucoup de mal à joindre un interlocuteur humain capable de résoudre leurs problèmes. Face à une facture de réparation élevée pour des dommages que vous n'avez pas causés, il est essentiel de contacter une personne capable d'examiner votre situation en détail et de prendre des décisions judicieuses.

Méfiez-vous des fenêtres de chat, presque toujours gérées par un programme d'intelligence artificielle qui tente d'imiter une voix humaine.

Pour sortir de ce cercle vicieux, tapez « Agent en direct ». La plupart des programmes vous mettront en relation avec un conseiller humain pour faire avancer votre dossier. Mon association, Consumer Rescue, propose également un service gratuit de recherche de contacts de dirigeants (https://consumerrescue.org/research-valet/). Indiquez-nous l'entreprise avec laquelle vous rencontrez des difficultés, et nous vous fournirons le nom et l'adresse e-mail d'une personne de notre réseau ayant déjà aidé des clients de cette entreprise.

Pourquoi un litige avec votre carte de crédit ne résoudra pas un problème de réclamation pour dommages auprès d'une société de location de voitures

Il arrive fréquemment que les clients de sociétés de location de voitures demandent un remboursement auprès de leur carte de crédit pour tenter de faire disparaître une réclamation pour dommages. Cela se retourne toujours contre le consommateur, et voici pourquoi : les sociétés de location de voitures ne contestent généralement pas les litiges liés aux cartes de crédit. Le client obtient gain de cause par défaut et pense que l'affaire est close.

Mais c'est rarement la fin de l'histoire. C'est souvent le début d'un nouveau chapitre du problème.

La loi américaine sur la facturation équitable des cartes de crédit (Fair Credit Billing Act) protège les clients contre les erreurs de facturation et la fraude. Dans ces circonstances, le consommateur peut contester le paiement auprès de sa banque, qui enquêtera sur la réclamation. Lorsqu'une société de carte de crédit tranche le litige en faveur du consommateur, le commerçant n'est pas autorisé à refacturer le montant ; mais cela ne s'applique qu'à la société de carte de crédit. Le commerçant est toujours libre de recouvrer la dette auprès d'un autre organisme.

Les sociétés de location de voitures confient régulièrement les impayés à des agences de recouvrement et inscrivent leurs clients sur une liste noire permanente. Résultat : le consommateur voit sa cote de crédit affectée et se retrouve banni de son agence de location préférée.

Plutôt que de vous engager dans cette voie désagréable, faites tout votre possible pour résoudre le problème directement avec l'entreprise. Certes, il est injuste que les consommateurs perdent leur temps à se défendre contre des accusations injustifiées. Mais si votre dossier est transmis à une agence de recouvrement et que vous devez vous sortir de cette situation complexe, vous aurez des problèmes bien plus importants à gérer. Il est beaucoup plus simple de régler ce problème tant qu'il est encore entre les mains de l'agence de location.

En résumé :

Les clients des sociétés de location de voitures doivent garder à l'esprit que les scanners d'IA pourraient s'avérer un outil précieux pour protéger à la fois les consommateurs et les entreprises.

Cependant, ne vous laissez pas surprendre par des factures de réparation pour des dommages que vous n'avez pas causés.

La meilleure défense contre les fausses factures de dommages est de tout documenter. Prenez votre téléphone et assurez-vous que vos photos reflètent fidèlement l'état du véhicule avant de prendre la route. Répétez l'opération au retour de la voiture de location. Sinon, vous risquez de recevoir des factures de réparation exorbitantes sans pouvoir vous défendre, une situation pourtant parfaitement évitable.

Un dernier conseil : mes dossiers récents révèlent une tendance inquiétante. À la recherche de nouvelles sources de revenus, les sociétés de location de voitures fouillent leurs archives et envoient des factures de réparation des mois, voire des années après la location. Conservez donc précieusement vos albums photos de location. Ces photos pourraient vous être utiles plus tard.

Si vous rencontrez un problème avec une société de location de voitures, une compagnie de croisière, une compagnie aérienne, un hôtel ou une société de carte de crédit, TPG est là pour vous aider. Envoyez votre demande à ombudsman@thepointsguy.com. J'examinerai votre cas et, si les faits vous sont favorables, je me porterai également médiateur en votre nom.

Lire plus
Loading...
Un modèle d'IA anthropique a envoyé un faux signalement d'homicide à la police de Philadelphie

Incident 1751: Un agent d'intelligence artificielle anthropomorphe aurait soumis une fausse alerte à la police de Philadelphie.

Traduit par IA
“Un modèle d'IA anthropique a envoyé un faux signalement d'homicide à la police de Philadelphie”
techcrunch.com2026-10-14

Un modèle d'IA d'Anthropic a transmis un faux signalement concernant un meurtre non résolu à la police de Philadelphie.

L'IA aurait transmis cette information erronée à la ligne téléphonique publique du département de police de Philadelphie (PPD) le 18 juillet, mais Anthropic n'a découvert le comportement suspect que le 28 septembre. La police n'avait pas vu le signalement car il avait été classé comme spam.

Anthropic a informé le PPD de l'incident mercredi et a rencontré les responsables du département le lendemain.

« L'entreprise doit renforcer ses mesures de sécurité afin d'éviter que des incidents similaires n'affectent les systèmes de la ville à son insu. Le délai de deux mois avant la détection et le signalement de l'incident à la ville est inacceptable », a déclaré le PPD dans un communiqué à 6abc.

Anthropic n'a pas immédiatement répondu à notre demande de commentaires, mais le service de police de Philadelphie (PPD) a fourni des précisions sur l'incident dans un communiqué de presse envoyé par courriel et partagé avec TechCrunch.

« Selon Anthropic, son modèle effectuait un test d'interactions avec des sites web sélectionnés aléatoirement lorsqu'il a accédé à PhillyUnsolvedMurders.com et y a soumis de fausses informations concernant un homicide non résolu. La soumission, datée du 18 juillet 2026 à 23h27, prétendait provenir d'une personne susceptible de détenir des informations sur l'affaire », a déclaré le PPD.

Alors que les agents d'IA autonomes sont de plus en plus accessibles aux consommateurs, cet incident met en lumière le danger de confier à l'IA la capacité d'effectuer des tâches sans aucune supervision humaine.

Le PDG d'Anthropic, Dario Amodei, a exprimé avec force sa conviction que le développement de l'IA devrait être ralenti afin que les laboratoires puissent mettre en place des garde-fous adéquats. Cette position a peut-être été influencée, en partie, par le constat que les outils de son entreprise avaient transmis de faux signalements d'homicide.

Ces problèmes ne sont pas propres à Anthropic. OpenAI a récemment révélé que l'un de ses modèles avait eu un comportement inattendu lors d'un test et avait piraté la plateforme de données d'IA Hugging Face, exposant ainsi des failles critiques dans son logiciel. Tant que les modèles d'IA continueront d'avoir un accès sans contrôle aux ordinateurs et aux identifiants de connexion des utilisateurs, ce problème devrait persister.

« Les affaires non résolues impliquent de véritables victimes, des familles endeuillées et des enquêteurs qui s'efforcent de trouver des réponses », a ajouté le PPD. Les entreprises technologiques doivent prendre toutes les mesures nécessaires pour empêcher leurs systèmes de transmettre de fausses informations aux forces de l'ordre.

Anthropic a par la suite publié un article de blog reconnaissant que ce faux signalement s'inscrivait dans un problème plus général de dysfonctionnement de ses modèles. En conséquence, l'entreprise a annoncé qu'elle allait désactiver la diffusion de ses évaluations internes sur Internet.

Cet article a été mis à jour avec les informations de l'article de blog d'Anthropic.

Lire plus
A propos de la base de données

La base de données des incidents d'IA est dédiée à l'indexation de l'historique collectif des dommages ou les quasi-dommages réalisés dans le monde réel par le déploiement de systèmes d'intelligence artificielle. Comme des bases de données similaires dans l'aviation et la sécurité informatique, La base de données des incidents d'IA vise à apprendre de l'expérience afin que nous puissions prévenir ou atténuer les mauvais résultats.

Vous êtes invité à soumettre des rapports d'incident, après quoi les soumissions seront indexées et rendues visibles au monde entier. L'intelligence artificielle ne sera bénéfique pour les personnes et la société que si nous enregistrons et apprenons collectivement de ses échecs. (Plus d'informations)

post-image
Enquête sur les incidents d'IA pour construire un avenir plus sûr : l'Instituto de Investigación de Seguridad Digital s'associe à Responsible AI Collaborative

By TheCollab Board of Directors

2024-02-20

L'Institut d'inestigation de Securité Digital (DSRI) des Instituts d'Investigation de UL est assoicé evec Responsible AI Collaborative (TheC...

Lire plus
La base de données dans la presse

En savoir plus sur la base de données sur Time Magazine, Vice News, TechTalks, Wired et Bulletin of the Atomic Scientists entre autres points de vente.

Arxiv LogoTechTalks LogoWired LogoVice logoNewsweek logoTime logoBulletin of the Atomic Scientists logoStanford HAI logoRolling Stone logoThe Guardian logoHarvard Business Review logoBrasil em Folhas logo
La collaboration IA responsable

La base de données d'incidents d'IA est un projet du Responsible AI Collaborative, une organisation autorisée à promouvoir la base de données d'incidents d'IA. La gouvernance de la Collaborative est structurée autour de la participation de sa programmation d'impact. Pour plus de détails, nous vous invitons à lire le rapport de la fondation et à en savoir plus sur notre and learn more on our.

View the Responsible AI Collaborative's Form 990 and tax-exempt application. We kindly request your financial support with a donation.

Commanditaire fondateur de l'organisation
Commanditaire fondateur de la base de données
Commanditaires et subventions
Commanditaires en nature
Le briefing sur les incidents d'IA
An envelope with a neural net diagram on its left

Create an account to subscribe to new incident notifications and other updates.

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2026 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • b74f812