Bienvenue dans

la base de données des incidents d'IA

A proposed class-action lawsuit filed in San Diego Superior Court claims Sharp HealthCare secretly recorded doctor-patient conversations using an artificial intelligence tool --- and falsely documented that patients had given consent.

Sharp began using an AI app called Abridge in April of this year, according to the complaint. The tool records conversations between patients and clinicians and then generates draft medical notes. According to the lawsuit, the app captured everything said inside the exam room --- including symptoms, diagnoses and personal details --- and sent the audio to the co

В редакцию Kaktus.media обратилась 23-летняя Аима Юнусбаева, которая стала жертвой сексуализированного дипфейка. Она опасается, что не сможет защитить свои права, а виновник сможет избежать наказания, используя свои связи.

Девушка рассказала, что в июле этого года ей стало известно, что ее знакомые получили рассылку ее фотографии, оголенной с помощью ИИ. По ее словам, это сделал ее одноклассник Чыныбек Азизович Аалиев. Он, кстати, является сыном экс-зампреда кабмина, а сейчас председателя правления Узбекско-кыргызского фонда развития Азиза Аалиева.

"19 июля я получила сообщение от Чыныбе

When John Stachura drove his rental car through Sixt's futuristic artificial intelligence scanner in Manchester, England, he was impressed. He assumed that such an elaborate contraption must be a foolproof way to document the vehicle's preexisting damage. However, his opinion of the technology disintegrated when he received a $2,200 repair bill after his 24-hour rental.

Reviewing the damage claim, Stachura was certain that Sixt's AI scanner had made an expensive error in the company's favor. It had alerted to deep scratches on the body of the car during his return trip through the scanner. Th

Un modèle d'IA d'Anthropic a transmis un faux signalement concernant un meurtre non résolu à la police de Philadelphie.

L'IA aurait transmis cette information erronée à la ligne téléphonique publique du département de police de Philadelphie (PPD) le 18 juillet, mais Anthropic n'a découvert le comportement suspect que le 28 septembre. La police n'avait pas vu le signalement car il avait été classé comme spam.

Anthropic a informé le PPD de l'incident mercredi et a rencontré les responsables du département le lendemain.

« L'entreprise doit renforcer ses mesures de sécurité afin d'éviter que des incidents similaires n'affectent les systèmes de la ville à son insu. Le délai de deux mois avant la détection et le signalement de l'incident à la ville est inacceptable », a déclaré le PPD dans un communiqué à 6abc.

Anthropic n'a pas immédiatement répondu à notre demande de commentaires, mais le service de police de Philadelphie (PPD) a fourni des précisions sur l'incident dans un communiqué de presse envoyé par courriel et partagé avec TechCrunch.

« Selon Anthropic, son modèle effectuait un test d'interactions avec des sites web sélectionnés aléatoirement lorsqu'il a accédé à PhillyUnsolvedMurders.com et y a soumis de fausses informations concernant un homicide non résolu. La soumission, datée du 18 juillet 2026 à 23h27, prétendait provenir d'une personne susceptible de détenir des informations sur l'affaire », a déclaré le PPD.

Alors que les agents d'IA autonomes sont de plus en plus accessibles aux consommateurs, cet incident met en lumière le danger de confier à l'IA la capacité d'effectuer des tâches sans aucune supervision humaine.

Le PDG d'Anthropic, Dario Amodei, a exprimé avec force sa conviction que le développement de l'IA devrait être ralenti afin que les laboratoires puissent mettre en place des garde-fous adéquats. Cette position a peut-être été influencée, en partie, par le constat que les outils de son entreprise avaient transmis de faux signalements d'homicide.

Ces problèmes ne sont pas propres à Anthropic. OpenAI a récemment révélé que l'un de ses modèles avait eu un comportement inattendu lors d'un test et avait piraté la plateforme de données d'IA Hugging Face, exposant ainsi des failles critiques dans son logiciel. Tant que les modèles d'IA continueront d'avoir un accès sans contrôle aux ordinateurs et aux identifiants de connexion des utilisateurs, ce problème devrait persister.

« Les affaires non résolues impliquent de véritables victimes, des familles endeuillées et des enquêteurs qui s'efforcent de trouver des réponses », a ajouté le PPD. Les entreprises technologiques doivent prendre toutes les mesures nécessaires pour empêcher leurs systèmes de transmettre de fausses informations aux forces de l'ordre.

Anthropic a par la suite publié un article de blog reconnaissant que ce faux signalement s'inscrivait dans un problème plus général de dysfonctionnement de ses modèles. En conséquence, l'entreprise a annoncé qu'elle allait désactiver la diffusion de ses évaluations internes sur Internet.

Cet article a été mis à jour avec les informations de l'article de blog d'Anthropic.

Du fait de la faible diffusion des revues littéraires, peu de lecteurs ont probablement lu « Le Lanceur d'alerte », une nouvelle de l'écrivain zimbabwéen Simbarashe Steyn Kundizeza. Publiée en 2021 dans la revue Transition, cette nouvelle est un thriller politique concis et haletant. Le narrateur, un jeune diplômé en informatique brillant mais inexpérimenté, originaire d'Harare, au Zimbabwe, croise dans un centre commercial un agent des services de renseignement – un ancien professeur – qui lui demande désormais quelque chose. D'abord nerveux, le jeune homme s'inquiète pour une raison qui s'avérera erronée : « J'avais eu une brève relation avec sa nièce Agatha et j'ignorais s'il était au courant et, le cas échéant, quelle en serait sa réaction. »

Une nouvelle plus récente signée Kundizeza, « The Blue Fighter », touchera sans aucun doute un public plus large. La semaine dernière, elle a remporté le prestigieux prix Caine de littérature africaine, qui récompense une nouvelle d'un auteur africain par la somme de 10 000 livres sterling (environ 13 000 dollars). D'anciens lauréats, comme Namwali Serpell et NoViolet Bulawayo, comptent aujourd'hui parmi les auteurs les plus célèbres au monde.

Les goûts et les couleurs ne se discutent pas, mais croyez-moi, cette histoire est mauvaise : larmoyante et pleine de clichés éculés. Le narrateur zimbabwéen est le fils d'un père malchanceux qui dilapide l'argent familial en essayant d'élever des poissons dans des aquariums, au grand dam de sa mère. « “On ne peut plus se permettre cette maison”, dit-elle un soir, en posant l’avis devant lui tandis qu’il testait l’étanchéité de sa dernière création », raconte l’histoire. « Non pas avec colère, mais avec la résignation tranquille de quelqu’un qui savait depuis toujours que ce moment arriverait. » À la fin, le narrateur compare le dernier poisson survivant à sa famille : « Pas brisé, apprenant simplement à vivre autrement. Seul, parfois. Mais toujours en mouvement. Toujours là. »

Le fait que ce narrateur ait la personnalité d’un chatbot n’est probablement pas un hasard. Le détecteur d’IA Pangram signale la quasi-totalité du récit comme étant généré par une IA ; une exception notable est son épigraphe, qui parle également d’un père obsédé par les poissons, et qui est extraite d’un poème inédit de Vangile Gantsho. Ce n’est pas la première nouvelle primée à être signalée par Pangram. Cette affaire fait suite à des scandales similaires survenus cette année lors du Commonwealth Prize et du Prix Goncourt, deux autres concours littéraires prestigieux, où Pangram avait déjà signalé l'utilisation de l'IA par certains finalistes.

Dans le cas du Commonwealth Prize, l'un des finalistes a finalement remporté le prix ; quant au Prix Goncourt, un auteur a été disqualifié après que des soupçons d'utilisation de l'IA ont été aggravés par des accusations de plagiat concernant une œuvre antérieure. Chacun de ces incidents aurait pu être considéré comme un simple accident. Ensemble, ils révèlent une crise de confiance – tant envers les auteurs qu'envers la technologie – qui menace de fragiliser le système mondial de reconnaissance littéraire.

La détection par IA est faillible, ce qui a suscité des inquiétudes chez certains lecteurs et auteurs quant au risque de faux positifs. Pourtant, Pangram, qui utilise l'IA pour la classification des textes, est très précis : l'entreprise affirme que son outil étiquette par erreur un texte humain comme étant généré par une IA dans environ un cas sur 24 000 ; des études externes confirment également la rareté des faux positifs. Lorsque j'ai soumis les 25 nouvelles lauréates du prix Caine à Pangram, le logiciel les a toutes identifiées comme étant écrites à 100 % par des humains ; c'est également le cas pour « The Whistleblower » de Kundizeza.

J'ai contacté Kundizeza au sujet de l'évaluation de Pangram concernant « The Blue Fighter » par l'intermédiaire de son agent, Adrienne Ingrum, de l'agence littéraire Serendipity. Elle m'a écrit que Regina Brooks, la directrice générale de l'agence, me ferait parvenir « la preuve que l'auteur et nous, chez Serendipity, sommes absolument certains que cette nouvelle est bien l'œuvre de Simba ». Ni Ingrum ni Brooks n'ont donné suite avant la publication.

J'ai également longuement discuté avec Ellah Wakatama, présidente du conseil d'administration du prix Caine. Éditrice de longue date, Wakatama m'a indiqué que les œuvres de fiction générées par une IA ne sont pas admissibles au prix. Dès qu'elle a eu connaissance de ma demande d'informations concernant l'évaluation de la nouvelle de Kundizeza par Pangram, elle et ses collègues ont lancé une enquête et contacté l'auteur. Wakatama m'a confié qu'elle et un collègue allaient interviewer les membres du jury et qu'elle relirait le récit de Kundizeza afin de discuter en détail avec lui de ses méthodes. Elle a ajouté qu'un collègue avait contacté l'agent de Kundizeza pour savoir si une vérification pourrait inclure, par exemple, l'examen des versions précédentes du manuscrit.

Pourtant, Wakatama a catégoriquement rejeté l'idée qu'un détecteur d'IA puisse, ou doive, être utilisé pour évaluer l'implication de l'IA. « En tant que responsable du prix, ma position est la suivante : si une telle accusation est portée, j'exige des preuves qui ne proviennent pas d'une machine. » Elle a indiqué qu'elle comptait aborder Kundizeza avec compassion et en présumant de sa sincérité. Wakatama est également zimbabwéenne. « En tant qu'Africaine », a-t-elle déclaré, « ma première réaction est la suivante : si je vous demande : "Dites-vous la vérité ?" et que vous répondez par l'affirmative, je vous croirai, d'autant plus que les accusateurs ne sont pas issus de notre communauté. »

Wakatama a relevé dans le récit de Kundizeza des détails si typiquement zimbabwéens qu'elle ne pouvait nier leur origine : la honte de quitter une banlieue huppée pour un township défavorisé ; la façon dont la tolérance initiale de la mère envers le père cède la place à une prise de décision. Wakatama perçoit également de multiples niveaux de lecture. Elle estime que les modèles d'IA sont incapables de saisir ce genre de nuances culturelles et littéraires.

Pourtant, elle a reconnu ne pas utiliser d'IA ni de détecteurs d'IA. « Quand on me demande d'utiliser l'IA, ma première réaction est de penser à l'eau et à l'énergie », a-t-elle déclaré, faisant référence à la consommation excessive de ces deux ressources par les entreprises spécialisées en IA. « Franchement, cela me dépasse, et je préfère ne pas y toucher. »

Wakatama ne participe pas au choix du lauréat du prix Caine – un jury examine toutes les candidatures – mais son approche de l'IA est courante parmi les organisations qui décernent des prix ou autres distinctions littéraires. Il s'agit en partie d'une réponse pragmatique au risque de faux positifs. « Notre cadre juridique ne nous permet pas de remettre en cause l'honnêteté de nos auteurs simplement parce qu'un outil l'affirme », m'a expliqué Razmi Farook, directeur général de la Commonwealth Foundation, lors du scandale lié à son prix.

Mais cette méfiance reflète aussi une aversion générale, dans les milieux littéraires et artistiques, pour les produits d'IA, ne serait-ce que pour mieux les comprendre – y compris Pangram. Le produit de cette start-up repose lui-même sur l'IA et elle appartient à l'écosystème de la Silicon Valley ; l'entreprise a récemment levé 50 millions de dollars, selon une source proche du dossier.

Ce scepticisme est compréhensible, mais il pourrait s'avérer réducteur. Des recherches suggèrent que les personnes les plus familières avec les résultats de l'IA excellent à les déceler. Je couvre l'actualité de l'IA depuis près de dix ans et j'écris de la fiction depuis encore plus longtemps ; En bref, j'ai une solide expérience de la littérature et des dialogues générés par les chatbots. Je sais par expérience, par exemple, que les modèles d'IA sont plutôt doués pour saisir les subtilités culturelles.

À la lecture de « The Blue Fighter », j'ai été frappé par la profusion de figures de style caractéristiques des écrits produits par l'IA : les constructions de phrases du type « pas x, mais y » ; la profusion de métaphores ; les aphorismes convenus. « La colère finit par s'apaiser », dit la mère du narrateur à un moment donné. « La faim, non. » La nouvelle précédente de Kundizeza était dépourvue de ces artifices stylistiques ; sa prose et ses dialogues étaient bien plus directs et naturels : « Alors, comment vont les choses avec ma nièce ? » demande l'agent du renseignement à un moment donné.

Ce que j'ai également constaté, et c'est plus inquiétant encore, c'est la présence de stéréotypes sur la vie africaine répandus chez les observateurs extérieurs : un père maladroit et sans emploi ; une matriarche résiliente qui dispense des approximativement sages et clichés ; un environnement marqué par la misère. Les recherches montrent systématiquement que les produits d'IA reproduisent des stéréotypes culturels, notamment ceux liés au continent africain.

Le romancier et critique Tope Folarin, ancien lauréat du prix Caine et auteur d'ouvrages sur l'influence de la culture blanche dominante sur la littérature mondiale, m'a confié après avoir lu la nouvelle qu'il serait regrettable que Kundizeza ait eu recours à l'intelligence artificielle, car l'intrigue est « profondément humaine » et « mérite une expression humaine ». Il a également déclaré : « Nombre d'écrivains des pays du Sud subissent une pression énorme pour se conformer aux attentes du public occidental, et les chatbots ont manifestement exploité cette tendance. » Il a qualifié l'incident de « tragédie ».

Wakatama, pour sa part, a expliqué sa méfiance envers la détection par l'IA en évoquant la longue et complexe histoire de l'utilisation de la science pour opprimer les personnes de couleur. Pour un lecteur sceptique, son recours à la question raciale pourrait passer pour une excuse prématurée. Mais lors de notre conversation, elle s'est montrée ouverte d'esprit et intellectuellement honnête. J'ai trouvé sa méfiance envers la Silicon Valley tout à fait justifiée et raisonnable, d'autant plus que les écrivains impliqués dans trois scandales littéraires majeurs cette année étaient tous non blancs et non américains.

Les recherches internes de Pangram montrent que les faux positifs sont rares, voire inexistants, pour de nombreuses ethnies et langues, y compris chez les apprenants d'anglais écrivant en anglais. Dans une étude distincte évaluée par des pairs, des chercheurs de la Vrije Universiteit Brussel n'ont relevé aucun faux positif dans les textes en anglais écrits par des personnes non anglophones. Il est également à noter que Pangram n'a détecté aucune IA dans les nouvelles ayant remporté le prix Caine, ni dans une nouvelle de Kundizeza antérieure à ChatGPT. Cependant, les recherches indépendantes sur l'efficacité de Pangram pour les écrivains de différentes nationalités restent limitées.

Il semble néanmoins que la répulsion des milieux artistiques envers l'IA ait engendré un sous-investissement contre-productif dans la compréhension de son fonctionnement précis et des moyens de contrer son emprise, notamment pour ceux que la présence des entreprises d'IA dans la sphère culturelle rebute. Si un outil de détection par IA s'avère très performant, ne pourrait-on pas au moins l'utiliser en complément d'autres méthodes ? À défaut, ne pourrait-on pas développer une expertise dans la détection des contrefaçons à l'ancienne, par la formation et l'intuition humaines ?

« La langue véhicule la culture », écrivait le romancier kényan Ngũgĩ wa Thiong'o, « et la culture véhicule, notamment à travers la tradition orale et la littérature, l'ensemble des valeurs qui nous permettent de nous percevoir et de trouver notre place dans le monde. » La langue, ajoutait-il, est « ainsi indissociable de nous-mêmes en tant que communauté d'êtres humains dotés d'une forme et d'un caractère spécifiques, d'une histoire spécifique et d'un rapport spécifique au monde. » Suivant ce raisonnement, Ngũgĩ a choisi de revenir à sa langue maternelle, le kĩkũyũ, après avoir bâti sa carrière en écrivant en anglais. Autrement dit, il a analysé la situation, puis a changé d'approche.

Peut-être la communauté artistique dans son ensemble pourrait-elle s'en inspirer. Vers la fin de notre conversation, Wakatama m'a dit : « Je prie ardemment pour que vous vous trompiez. » Ce serait plus simple si je me trompais ; d'ailleurs, peut-être que c'est le cas. Mais si j'ai raison, cela signifie que plusieurs des prix littéraires les plus prestigieux au monde ont été pervertis par un langage qui ne reflète pas les valeurs et les cultures authentiques des peuples, mais en est une pâle imitation, produite par les entreprises et les personnes les plus puissantes de la planète. Il est temps d'agir.