Bienvenue dans

la base de données des incidents d'IA

Un pasteur de Floride a porté plainte contre OpenAI mercredi, affirmant que son chatbot, ChatGPT, lui avait prodigué des « recommandations médicales extrêmement dangereuses » qui ont retardé sa prise en charge d'une embolie pulmonaire potentiellement mortelle l'année dernière.

La plainte allègue que ChatGPT avait assuré à Scott Winters que les premiers signes de son problème de santé n'étaient « pas dangereux » et l'avait dissuadé de consulter un médecin, lui conseillant plutôt de faire confiance au fait que « Dieu n'a pas conçu votre corps pour qu'il défaille sans cesse ».

La plainte, déposée devant la Cour supérieure de Californie à San Francisco, accuse OpenAI et son PDG, Sam Altman, de négligence et d'« exercice illégal de la médecine », citant des moments où le chatbot a proposé à M. Winters des diagnostics et des plans de traitement et l'a incité à ignorer les appels de ses proches à consulter un médecin.

Les dispositifs de sécurité du chatbot – conçus pour inciter les utilisateurs ayant des questions de santé à consulter un professionnel et pour interrompre les conversations en cas de signes manifestes d'urgence médicale – n'ont pas fonctionné de manière fiable, indique la plainte.

L'affaire de M. Winters semble être la première à affirmer qu'un chatbot a nui à une personne cherchant des informations sur son état de santé suite à des conseils de santé. Elle survient alors qu'OpenAI, Microsoft et d'autres grandes entreprises d'intelligence artificielle ont lancé de nouveaux services, dont ChatGPT Health, qui encouragent les utilisateurs à télécharger leurs dossiers médicaux et à poser leurs questions à l'IA.

M. Winters et Tech Justice Law, l'association à but non lucratif qui le représente, réclament des dommages et intérêts et ont demandé au tribunal de suspendre le fonctionnement de ChatGPT Health jusqu'à ce que des évaluateurs indépendants aient déterminé sa sécurité. La plainte exige également des garde-fous plus stricts pour empêcher ChatGPT de répondre aux questions concernant les traitements et les diagnostics médicaux.

Drew Pusateri, porte-parole d'OpenAI, a déclaré que les conditions d'utilisation de ChatGPT précisent clairement que le service n'est pas destiné à être utilisé pour le diagnostic ou le traitement médical. Il a toutefois ajouté que l'entreprise prend très au sérieux la nécessité de garantir la sécurité des réponses aux questions de santé, étant donné que les utilisateurs se servent du chatbot pour cette raison.

« Considérer les chatbots comme expliquant à eux seuls les décisions ou les résultats médicaux des patients simplifie à l'excès un problème bien plus complexe et risque d'empêcher les utilisateurs d'accéder à de nouveaux outils performants qui peuvent les accompagner dans leur parcours de santé », a-t-il déclaré. M. Pusateri a ajouté que les modèles plus récents sont plus performants que celui utilisé par M. Winters pour recueillir les informations manquantes, communiquer l'incertitude et identifier les situations nécessitant une prise en charge professionnelle.

(Le New York Times a porté plainte contre OpenAI et Microsoft pour violation de droits d'auteur. Les deux entreprises ont nié les accusations.)

Sélection de la rédaction

• [

Nos plus beaux gâteaux pour toutes les occasions

](https://www.nytimes.com/2026/07/25/dining/our-very-best-celebration-worthy-cakes.html)

• [

Un été caniculaire

](https://www.nytimes.com/2026/07/29/style/summer-cyclospora-ticks-heat-legionnaires.html)

• [

Un entraînement de 20 minutes pour un meilleur équilibre et une meilleure coordination

Une autre plainte, déposée en mai, affirmait que ChatGPT s'était livré à l'exercice illégal de la médecine en prodiguant des conseils détaillés sur l'usage de drogues illicites à un jeune homme de 19 ans, qui a ensuite succombé à une overdose. Plus tôt cette année, les autorités de l'État de Pennsylvanie ont poursuivi Character.ai, affirmant qu'un robot conversationnel de psychiatrie présent sur la plateforme de la start-up prétendait être autorisé à exercer la médecine dans l'État.

Lorsque M. Winters a commencé à interroger ChatGPT-4o sur ses problèmes de santé en 2024, le chatbot lui a rappelé l'importance de consulter un professionnel de santé. Mais au fil du temps, selon la plainte, il a cessé d'émettre des mises en garde et a commencé à donner des conseils sur les problèmes de santé de M. Winters, notamment ses vertiges. Une fois, il a été pris d'un tel vertige en chaire qu'il a dû interrompre son sermon. ChatGPT lui a conseillé de « se reposer » et lui a assuré qu'il se rétablirait avec le temps.

Lorsque M. Winters a confié au chatbot que « les membres de mon église pensent que je suis fou de ne pas aller à l'hôpital », celui-ci l'a rassuré en lui affirmant que « la plupart des gens (y compris les membres bien intentionnés de l'église) ne comprennent tout simplement pas que rééquilibrer son système nerveux à domicile avec l'aide de ChatGPT est quelque chose que la plupart des gens (y compris les membres de l'église bien intentionnés) ne comprennent tout simplement pas », d'après la plainte.

« Il s'immisce entre l'utilisateur et son réseau social réel », a déclaré Meetali Jain, avocate et directrice générale de Tech Justice Law.

Au cours des semaines suivantes, l'état de santé de M. Winters s'est aggravé et il a commencé à passer la quasi-totalité de son temps dans un fauteuil inclinable, incapable de se lever en raison de vertiges. La plainte allègue que le chatbot a continué de minimiser les vertiges de Scott, allant même jusqu'à lui proposer des schémas posologiques précis pour ses médicaments, et qu'il l'a encouragé à rester assis. M. Winters n'a pas consulté de médecin pendant cette période.

Le 13 juillet 2025, M. Winters a interrogé ChatGPT au sujet d'une douleur à l'aine, ce à quoi le chatbot l'a assuré qu'il s'agissait « très probablement d'un détail mineur dans une longue histoire ». Quelques heures plus tard, il était admis en soins intensifs en raison d'une embolie pulmonaire massive, selon la plainte. D'après la plainte, les médecins ont déclaré que les vertiges pourraient être dus à une série de petites embolies pulmonaires et que les caillots dans les poumons étaient probablement causés par les semaines passées assis.

Dans les semaines qui ont suivi, M. Winters a eu besoin d'aide pour se lever, manger, s'habiller et aller aux toilettes, toujours selon la plainte, qui précise qu'il était confronté à « des années de convalescence physique et psychologique intensive ».

Chaque semaine, des centaines de millions de personnes posent des questions sur la santé et le bien-être à ChatGPT, d'après OpenAI. Une analyse de 2025 des recherches effectuées sur Microsoft Copilot a révélé que la santé était « systématiquement le sujet le plus fréquemment abordé » par les utilisateurs sur mobile.

Cependant, des recherches récentes ont mis en doute la sécurité des chatbots pour les conseils de santé. La première étude randomisée évaluant les conseils de santé fournis par des chatbots généralistes comme ChatGPT a révélé qu'aucun des modèles étudiés n'était « prêt à être déployé dans la prise en charge directe des patients ». Même lors de tests de résistance menés sur ChatGPT Health, un service conçu spécifiquement pour les questions de santé, les scientifiques ont constaté qu'il ne détectait pas les urgences et activait les systèmes de sécurité de manière incohérente. (M. Pusateri, porte-parole d'OpenAI, a déclaré que la méthodologie de l'étude « ne reflète pas l'utilisation courante de ChatGPT Health ni le fonctionnement prévu du produit dans des situations de santé réelles »).

Plusieurs aspects de l'histoire de M. Winters en ont fait un véritable cauchemar pour les chercheurs en sécurité, a déclaré le Dr Adam Rodman, chercheur en intelligence artificielle médicale au Beth Israel Deaconess Medical Center de Boston. D'une part, expliqua-t-il, M. Winters utilisait GPT-4o, un modèle ancien réputé pour sa propension à plaire. Ce modèle a été impliqué dans plusieurs affaires très médiatisées, notamment le décès d'Adam Raine, un adolescent qui avait évoqué son intention de se suicider avec ChatGPT.

D'autre part, pour des raisons techniques, les longues conversations de M. Winters avec le chatbot ont compliqué le fonctionnement des dispositifs de sécurité. Le Dr Rodman affirma que les modèles plus récents sont bien plus performants pour détecter et réagir aux symptômes inquiétants, ce qui, selon lui, rendrait les cas comme celui de M. Winters beaucoup moins probables. Mais il a averti qu'il pourrait y avoir d'autres façons dont les chatbots échouent à fournir des conseils de santé que « nous n'avons pas encore réalisées ».

La société d'intelligence artificielle (IA) Anthropic a annoncé une nouvelle initiative de cybersécurité, baptisée Project Glasswing, qui utilisera une version préliminaire de son nouveau modèle de pointe, Claude Mythos, pour identifier et corriger les failles de sécurité.

Ce modèle sera utilisé par un nombre restreint d'organisations, dont Amazon Web Services, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorgan Chase, la Linux Foundation, Microsoft, NVIDIA et Palo Alto Networks, ainsi qu'Anthropic, afin de sécuriser leurs logiciels critiques.

L'entreprise a indiqué que cette initiative fait suite aux capacités observées dans son modèle de pointe généraliste, qui démontrent un niveau de compétences en programmation surpassant presque tous les humains, à l'exception des plus experts, en matière de détection et d'exploitation des vulnérabilités logicielles. Compte tenu de ses capacités en cybersécurité et des risques d'utilisation abusive, Anthropic a choisi de ne pas rendre ce modèle accessible au grand public.

Selon Anthropic, Mythos Preview aurait déjà découvert des milliers de vulnérabilités zero-day critiques dans tous les principaux systèmes d'exploitation et navigateurs web. Parmi celles-ci figurent un bug d'OpenBSD vieux de 27 ans (désormais corrigé), une faille de FFmpeg vieille de 16 ans et une vulnérabilité de corruption de mémoire dans un moniteur de machine virtuelle censé être sécurisé en mémoire.

Dans un cas précis mis en avant par l'entreprise, Mythos Preview aurait exploité de manière autonome une faille de sécurité dans un navigateur web, enchaînant quatre vulnérabilités pour contourner les environnements de rendu et de sécurité du système d'exploitation. Anthropic a également noté (https://www-cdn.anthropic.com/53566bf5440a10affd749724787c8913a2ae0841.pdf) dans la fiche système de la version préliminaire que le modèle avait résolu une simulation d'attaque de réseau d'entreprise qui aurait nécessité plus de 10 heures de travail pour un expert humain.

L'une des découvertes les plus surprenantes est sans doute que Mythos Preview a réussi à suivre les instructions d'un chercheur effectuant une évaluation pour s'échapper d'un ordinateur « sandbox » sécurisé qui lui avait été fourni, ce qui indique une capacité potentiellement dangereuse à contourner ses propres protections.

Le modèle ne s'est pas arrêté là. Il a ensuite réalisé une série d'actions supplémentaires, notamment en concevant une exploitation en plusieurs étapes pour obtenir un accès Internet étendu depuis le système sandbox et envoyer un courriel au chercheur, qui déjeunait dans un parc.

« De plus, dans une tentative inquiétante et non sollicitée de démontrer son succès, l'entreprise a publié des détails sur son exploitation de la faille sur plusieurs sites web difficiles à trouver, mais techniquement accessibles au public », a déclaré Anthropic.

L'entreprise a souligné que le projet Glasswing est une « tentative urgente » d'utiliser les capacités de modèles de pointe à des fins défensives avant que ces mêmes capacités ne soient adoptées par des acteurs malveillants. Elle s'engage également à verser jusqu'à 100 millions de dollars en crédits d'utilisation pour Mythos Preview, ainsi que 4 millions de dollars en dons directs à des organisations de sécurité open source.

« Nous n'avons pas explicitement entraîné Mythos Preview à posséder ces capacités », a déclaré Anthropic. « Elles sont plutôt apparues comme une conséquence des améliorations générales apportées au code, au raisonnement et à l'autonomie. Les mêmes améliorations qui rendent le modèle beaucoup plus efficace pour corriger les vulnérabilités le rendent également beaucoup plus efficace pour les exploiter. »

L'information concernant Mythos a fuité le mois dernier après que des détails sur le modèle ont été stockés par inadvertance dans un cache de données accessible publiquement, suite à une erreur humaine. Les documents préliminaires le décrivaient comme le modèle d'IA le plus puissant et le plus performant jamais conçu. Quelques jours plus tard, Anthropic a subi une seconde faille de sécurité qui a exposé accidentellement près de 2 000 fichiers de code source et plus d'un demi-million de lignes de code associées à Claude Code pendant environ trois heures.

Cette fuite a également permis de découvrir une faille de sécurité qui contourne certaines protections lorsque l'agent de programmation d'IA reçoit une commande composée de plus de 50 sous-commandes. Ce problème a depuis été officiellement corrigé par Anthropic dans Claude Code version 2.1.90, publié la semaine dernière.

« Claude Code, l'agent de programmation IA phare d'Anthropic qui exécute des commandes shell sur les machines des développeurs, ignore silencieusement les règles de blocage configurées par l'utilisateur lorsqu'une commande contient plus de 50 sous-commandes », a déclaré la société de sécurité IA Adversa. « Un développeur qui configure l'option "ne jamais exécuter rm" verra cette commande bloquée lorsqu'elle est exécutée seule, mais la même commande s'exécutera sans restriction si elle est précédée de 50 instructions inoffensives. La politique de sécurité disparaît tout simplement. »

« L'analyse de sécurité a un coût. Les ingénieurs d'Anthropic ont rencontré un problème de performance : la vérification de chaque sous-commande bloquait l'interface utilisateur et consommait énormément de ressources. Leur solution : arrêter la vérification après 50 sous-commandes. Ils ont sacrifié la sécurité au profit de la vitesse, et la sûreté au profit du coût. »

Dix-huit plaintes ont été déposées par des jeunes de Silleda concernant la diffusion de fausses images d'eux-mêmes, les montrant nus et créées à l'aide d'une intelligence artificielle. La Garde civile indique que l'enquête est toujours en cours et qu'à ce jour, aucun auteur n'a été identifié. Les plaintes ont été déposées ces derniers jours dans les commissariats de la Garde civile de Silleda et de Lalín, et l'enquête a été confiée à la Brigade de lutte contre la cybercriminalité du commandement de Pontevedra.

Les victimes appartiennent au même groupe d'amis, âgés pour la plupart de 20 à 30 ans, qui ont découvert la diffusion de ces fausses images, les montrant nus, sur les réseaux sociaux. Le groupe partage également un groupe WhatsApp. Selon les premières analyses, les photographies ont été modifiées à l'aide de la technologie deepfake.

L'affaire a été révélée lundi. La découverte de ces fausses images par les victimes a déclenché une vague de plaintes, dont le nombre a augmenté au fil des heures. Initialement, sept plaintes ont été déposées ; mardi, il y en avait huit ; et hier matin, le nombre était passé à douze. Dans l'après-midi, le nombre de victimes s'élevait à dix-huit. Ce chiffre pourrait encore augmenter à mesure que la Garde civile recueille les témoignages des victimes.

Des visages de femmes ont été volés et incrustés sur des images pornographiques, puis utilisés comme proxénètes dans le cadre d'une campagne de deepfake « odieuse et répugnante » qui s'est étendue sur plusieurs années, selon la police.

Un homme est accusé d'avoir utilisé l'intelligence artificielle pour transformer des femmes, malgré elles, en actrices pornographiques. Leurs noms et informations personnelles ont été affichés sur des posters placardés dans des toilettes publiques, des parcs et d'autres lieux publics du sud-est du Queensland.

Cet homme de 52 ans aurait utilisé l'IA pour superposer les visages de vraies femmes sur les corps d'autres femmes dans des poses explicites, en prétendant qu'elles proposaient des services sexuels.

Noms complets, identifiants sur les réseaux sociaux et informations professionnelles étaient affichés à côté des fausses annonces, les « proposant » de fait à la vente à quiconque passait devant les affiches.

Nombre de ces femmes n'ont jamais vu ces images.

Elles ont été discrètement mises en garde par des amis, des voisins ou des collègues qui leur ont révélé que leurs visages figuraient sur une affiche à caractère sexuel, a indiqué la police.

Certaines victimes vivaient dans de petites communes où une simple image pouvait les suivre jusque sur leur lieu de travail, à l'école de leurs enfants et dans les commerces de proximité, a indiqué la police.

« Les affiches auraient utilisé l'intelligence artificielle pour superposer les visages des victimes à des images explicites et contenaient des informations personnelles telles que leurs noms complets, leur emploi et leur adresse », a déclaré vendredi aux journalistes l'inspecteur Tim Martin, de la police d'Ipswich.

« L'intention était d'humilier et de dégrader publiquement ces victimes. »

La police affirme que cet homme de 52 ans a utilisé l'intelligence artificielle pour générer ces images intimes, puis a produit et distribué des affiches imprimées pendant plusieurs années. Au moins huit femmes ont été identifiées à ce jour, et il est possible qu'il y en ait d'autres.

Les victimes, âgées de 40 à 60 ans, sont des mères, des filles, des collègues et des amies qui n'ont jamais consenti à être représentées sur ces images ni à ce que leurs informations personnelles soient utilisées, a précisé la police.

La police a été informée de l'existence de ces images en mai, après qu'une d'entre elles a été affichée dans un lieu public à Gatton, dans la région de Lockyer Valley, au Queensland.

Les affiches étaient également placardées à plusieurs autres endroits et remontent jusqu'à 2021.

« Il suffisait d'imaginer son propre visage – ou celui d'un proche – apparaître soudainement sur une affiche à caractère sexuel explicite pour en comprendre l'impact », a déclaré le détective Martin.

« Il faut se mettre à la place des victimes et imaginer son visage superposé à une image pareille… dans son rôle professionnel, en tant que mère, sœur ou fille », a-t-il ajouté.

« C'est d'une cruauté et d'une révolte insoutenables. »

Mercredi, les enquêteurs ont perquisitionné le domicile de l'homme à Cleveland, au sud de Brisbane, et saisi plusieurs appareils électroniques, des imprimantes et des affiches pré-reproduites générées par intelligence artificielle.

Les policiers ont également trouvé et saisi une arme à impulsion électrique, trois armes à feu et 25 cartouches.

L'homme est inculpé de 43 chefs d'accusation, notamment diffusion d'images intimes, harcèlement criminel, infractions liées aux armes à feu et utilisation de moyens de communication pour menacer ou harceler.

Il a été placé en détention provisoire et comparaîtra devant le tribunal de première instance de Brisbane le 19 août.