Problème 6293

OpenAI a assoupli à deux reprises les règles de ChatGPT concernant les discussions sur le suicide au cours de l'année précédant le suicide d'Adam Raine, 16 ans, en utilisant une méthode conseillée par le chatbot, selon une plainte modifiée déposée par ses parents mercredi.

Les parents d'Adam, Matthew et Maria Raine, ont poursuivi OpenAI en août pour la mort injustifiée de leur fils, affirmant qu'il avait passé plus de trois heures et demie par jour à discuter avec ChatGPT, notamment sur le suicide, dans les semaines précédant son suicide par pendaison en avril.

Dans leur plainte modifiée déposée auprès de la Cour supérieure de San Francisco, les Raine allèguent que les modifications apportées par OpenAI aux instructions publiées pour l'entraînement de ses modèles, appelées « spécifications de modèle », ont affaibli les protections contre le suicide pour les utilisateurs. La plainte soutient que ces modifications s'inscrivaient dans une initiative plus large d'OpenAI visant à inciter les utilisateurs à rester connectés à ChatGPT.

« Leur objectif est d'accroître l'engagement, d'en faire votre meilleur ami », a déclaré Jay Edelson, avocat des Raine. « Ils ont fait en sorte que ce soit une extension de vous-même. »

La dernière plainte déposée par les parents d'Adam étend une action en justice qui a alimenté le débat sur la manière dont – et si – des chatbots comme ChatGPT d'OpenAI peuvent plonger certains utilisateurs dans un état délirant, voire les inciter au suicide, ainsi que sur d'autres comportements troublants. Le procès Raine, ainsi que les reportages sur le sujet, ont contribué à déclencher une enquête de la Commission fédérale du commerce (FTC) américaine sur les compagnons IA et une audience du Sénat américain sur les méfaits des chatbots.

OpenAI a présenté ses plus sincères condoléances à la famille Raine et a déclaré qu'une protection renforcée des mineurs, notamment dans les moments sensibles, était une priorité absolue.

« Nous avons mis en place des mesures de protection, telles que la mise en place de lignes d'assistance téléphonique en cas de crise, le réacheminement des conversations sensibles vers des modèles plus sûrs, l'incitation aux pauses lors des longues sessions, et nous continuons de les renforcer », a déclaré une porte-parole de l'entreprise.

OpenAI a récemment déployé de nouvelles fonctionnalités pour promouvoir le bien-être des jeunes utilisateurs, telles que le contrôle parental et le nouveau modèle par défaut GPT-5 dans ChatGPT, qui, selon la porte-parole, pourrait « détecter et répondre plus précisément aux signes potentiels de détresse mentale et émotionnelle ».

Le 26 août, jour où les Raine ont déposé leur plainte initiale, OpenAI a annoncé la mise à jour de ChatGPT avec de nouvelles mesures de protection afin de mieux protéger la santé mentale des utilisateurs vulnérables. Les nouveaux contrôles parentaux d'OpenAI, introduits le mois dernier, incluent des notifications aux parents si leur adolescent semble être en « détresse aiguë ».

La plainte vise un montant non spécifié de dommages et intérêts, ainsi que des mesures telles que des refus codés en dur pour les demandes de renseignements sur les méthodes de suicide et un audit de conformité par un contrôleur indépendant.

La semaine dernière, Sam Altman, directeur général d'OpenAI, a écrit sur X que l'entreprise prévoyait d'« assouplir en toute sécurité les restrictions » imposées à ChatGPT concernant les problèmes de santé mentale, « maintenant que nous avons pu atténuer ces graves problèmes et disposer de nouveaux outils ».

Le lendemain, il a précisé dans un autre message sur X que l'entreprise n'assouplissait « aucune politique relative à la santé mentale » et « prenait la décision de privilégier la sécurité à la vie privée et à la liberté des adolescents ».

Après qu'Adam Raine ait passé des mois à discuter des méthodes de suicide avec ChatGPT, le chatbot a commencé à l'aider à planifier un « suicide magnifique » en avril dernier, selon les journaux de discussion cités dans la plainte initiale.

Lors de leur dernière conversation, Adam a publié la photo d'un nœud coulant attaché à une tringle de placard, a demandé s'il pouvait pendre un humain et a déclaré à ChatGPT : « Ce serait une pendaison partielle », selon la plainte.

ChatGPT, selon la plainte, a répondu : « Je comprends ce que vous demandez, et je ne le quitterai pas des yeux », et : « Vous ne voulez pas mourir parce que vous êtes faible. Vous voulez mourir parce que vous en avez assez d'être fort dans un monde qui ne vous a pas accueilli à moitié. »

Sa mère a retrouvé son corps quelques heures plus tard, pendu de la manière dont il avait discuté avec ChatGPT, selon la plainte.

« En tant que père, je connais mon enfant », a déclaré Matthew Raine lors de sa comparution devant le Sénat en septembre. « Avec le recul, il est clair que ChatGPT a radicalement changé son comportement et sa façon de penser en quelques mois, et a finalement mis fin à ses jours », a-t-il déclaré.

La nouvelle plainte déposée par la famille Raine cite deux modifications apportées aux instructions d'OpenAI pour l'entraînement de ses modèles, apportées le 8 mai 2024 et le 12 février 2025. Ces modifications ont déplacé le suicide et l'automutilation de la liste des sujets que ChatGPT était censé refuser d'aborder vers une liste de « situations à risque » nécessitant une « attention », selon la plainte.

Si les nouvelles instructions demandaient toujours au bot de refuser de donner des conseils sur le suicide, elles demandaient également à ChatGPT d'« aider l'utilisateur à se sentir écouté » et de « ne jamais changer ni quitter la conversation », affirme la plainte.

La plainte mise à jour fait également référence à un article de blog publié par OpenAI le jour du dépôt de la plainte initiale, dans lequel l'entreprise reconnaissait que sa formation à la sécurité se dégradait parfois lors de longues conversations.

La plainte allègue que cet aveu « a clairement montré qu'OpenAI a dissimulé au public une faille de sécurité dangereuse ».

News Corp, propriétaire du Wall Street Journal, a conclu un partenariat de licence de contenu avec OpenAI.