Bienvenue dans

la base de données des incidents d'IA

La démonstration d'un robot humanoïde a suscité des inquiétudes quant à sa sécurité après la diffusion sur les réseaux sociaux d'une vidéo montrant un robot Unitree G1 donnant accidentellement un coup de pied à un jeune enfant lors d'un événement public.

Le robot, qui effectuait un coup de pied circulaire tout en portant une perruque de clown bleue, a touché l'enfant à l'estomac, le faisant se plier en deux de douleur.

Cet incident a relancé le débat sur le déploiement sécurisé de robots humanoïdes avancés dans des lieux publics fréquentés, d'autant plus que des machines de plus en plus performantes sont présentées lors d'expositions et d'événements de divertissement.

L'année dernière, une expérience virale montrait un robot humanoïde contournant ses restrictions de sécurité et tirant avec un pistolet à billes sur son propriétaire lors d'un jeu de rôle.

Sécurité des robots : un enjeu majeur

Une vidéo circulant sur les réseaux sociaux a soulevé des inquiétudes concernant la sécurité des robots humanoïdes après qu'un robot a apparemment donné un coup de pied à un enfant lors d'une démonstration publique dans la région du Xinjiang, en Chine.

La vidéo montre ce qui semble être un robot humanoïde Unitree G1, portant une perruque bleue, exécutant un coup de pied circulaire qui a heurté un jeune enfant se trouvant à proximité. L'enfant a été touché à l'estomac et semblait souffrir après l'impact. Selon les médias chinois, il n'a pas été grièvement blessé.

Cet incident a relancé le débat sur les risques liés au déploiement de robots humanoïdes avancés dans les lieux publics. Les robots humanoïdes modernes sont capables d'effectuer des mouvements complexes, notamment des démonstrations d'arts martiaux, des manœuvres athlétiques et d'autres actions dynamiques, souvent de manière autonome ou à distance, rapporte Futurism.

L'incident du Xinjiang n'est pas le premier cas recensé impliquant un robot humanoïde et une blessure humaine. Plus tôt cette année, un autre robot Unitree G1 aurait perdu l'équilibre lors d'une représentation publique en Chine. Après sa chute, les mouvements incontrôlés de ses membres ont heurté un homme à proximité, lui causant une blessure au nez.

Une expérience virale menée l'an dernier aux États-Unis a soulevé des inquiétudes quant à la sécurité des robots dotés d'IA. Un robot humanoïde nommé Max a tiré avec un pistolet à billes sur son propriétaire lors d'un jeu de rôle. Bien que le robot ait initialement refusé de tirer, il a obtempéré après que l'ordre lui ait été présenté comme une interprétation d'un personnage. Cet incident a mis en lumière la facilité avec laquelle de simples modifications de la commande peuvent potentiellement contourner les restrictions de sécurité liées à l'IA.

Questions de responsabilité en matière d'IA

Alors que les robots et les systèmes d'IA gagnent en capacités et en autonomie, la question de la responsabilité demeure l'un des plus grands défis du secteur. Lorsqu'un robot cause des blessures, des dommages matériels ou tout autre préjudice, déterminer les responsabilités est souvent complexe. Se pose alors la question de savoir si la responsabilité incombe aux développeurs du logiciel ayant conçu l'IA, au fabricant du matériel, à l'opérateur supervisant le système ou à l'utilisateur final.

Ce débat est devenu de plus en plus pertinent à mesure que l'automatisation se développe dans les transports, l'industrie, la santé et les espaces publics. Des préoccupations similaires ont émergé dans d'autres secteurs technologiques. Tesla a fait l'objet d'un examen minutieux suite à des accidents impliquant son système d'assistance à la conduite Autopilot, ce qui a suscité des débats sur l'équilibre entre les performances du logiciel et la supervision humaine. De même, les enquêtes sur les accidents du Boeing 737 MAX ont mis en lumière, selon les experts, les conséquences importantes que peuvent avoir les défaillances des systèmes automatisés sur la sécurité.

Les gouvernements et les organismes de réglementation s'efforcent encore d'établir des cadres juridiques pour relever ces défis. Aux États-Unis, la responsabilité incombe généralement aux fabricants ou aux exploitants, selon les circonstances. Parallèlement, les décideurs politiques européens élaborent des réglementations spécifiques à l'IA visant à clarifier les responsabilités et à renforcer la confiance du public dans les technologies émergentes.

Si certains chercheurs ont suggéré d'accorder aux systèmes d'IA avancés un statut juridique, la plupart des experts estiment que la responsabilité doit rester du ressort des personnes et des organisations. Pour répondre aux préoccupations en matière de sécurité, les entreprises de robotique adoptent de plus en plus de mesures de transparence, de déploiements couverts par une assurance et de normes de sécurité plus strictes.

Google a porté plainte vendredi contre un réseau de cybercriminalité chinois, l'accusant d'avoir utilisé son intelligence artificielle pour diffuser massivement des escroqueries financières en ligne auprès de centaines de milliers d'Américains.

Le géant d'Internet a également annoncé collaborer pour la première fois avec le FBI et des opérateurs de téléphonie mobile tels qu'AT&T, T-Mobile et Verizon afin de démanteler ce réseau, connu sous le nom d'Outsider Enterprise.

Selon la plainte, le groupe chinois a utilisé Gemini, le système d'IA de Google, pour créer des centaines de faux sites web imitant des entreprises comme Google et YouTube, ainsi que des services gouvernementaux tels que le service postal américain et le système E-ZPass de New York pour les péages autoroutiers.

Google a averti que l'IA avait considérablement amplifié le problème des escroqueries en ligne et a déclaré s'efforcer d'anticiper ce qu'il anticipait comme une recrudescence de la fraude en ligne grâce à Gemini et d'autres outils d'IA.

Selon Google et les forces de l'ordre, les escroqueries utilisant l'intelligence artificielle (IA) se développent plus rapidement que les autres formes d'hameçonnage et de fraude en ligne. L'an dernier, les cybercriminels ont dépouillé les Américains de près de 21 milliards de dollars, dont environ 893 millions de dollars liés à l'IA (https://www.ic3.gov/AnnualReport/Reports/2025_IC3Report.pdf), d'après un rapport du FBI.

« Il s'agit de notre première action en justice coordonnée, ce qui témoigne de l'ampleur de l'impact de cette escroquerie », a déclaré Halimah DeLaine Prado, conseillère juridique de Google, lors d'un entretien.

Dans sa plainte, déposée auprès du tribunal de district du sud de New York, Google accuse le réseau chinois d'utiliser sa technologie et sa marque à des fins frauduleuses. L'entreprise a demandé au tribunal une injonction afin de pouvoir collaborer avec les forces de l'ordre pour démanteler le réseau.

Google a déclaré que le réseau se coordonnait via la messagerie Telegram pour partager des conseils et échanger des kits logiciels utilisant l'intelligence artificielle afin de produire en masse des messages frauduleux sur différentes plateformes de communication.

Des centaines de milliers de personnes ont été touchées, la grande majorité aux États-Unis, a précisé Google. L'entreprise n'a pas pu chiffrer précisément le préjudice, mais l'estime à plusieurs millions de dollars.

Grâce à l'intelligence artificielle, le réseau chinois a créé 131 kits logiciels facilitant la création de milliers de faux sites web. En deux semaines, en mai, le groupe a envoyé 2,5 millions de messages à des utilisateurs de téléphones Android, contenant des liens vers 9 000 faux sites web et plus d'un million d'adresses internet frauduleuses liées au groupe.

« Les criminels utilisent de plus en plus l'intelligence artificielle pour rendre ce type de fraude plus convaincant et plus difficile à détecter », a déclaré Brett Leatherman, directeur adjoint de la division cybernétique du FBI, dans un communiqué.

Après que Judy Skene, une résidente de Sault Ste. Marie, ait été victime d'une escroquerie en ligne lui ayant dérobé près d'un million de dollars (https://www.sootoday.com/city-police-beat/sault-retiree-lost-almost-a-million-dollars-in-crypto-scam-12367526?utm_source=bradfordtoday.ca&utm_campaign=bradfordtoday.ca%3A%20outbound&utm_medium=referral), le Centre antifraude du Canada a publié des conseils à destination du public afin d'éviter de subir le même sort.

Mme Skene, une veuve âgée sans enfant, a été trompée en juillet 2025 par une publicité Facebook présentant une vidéo truquée (deepfake) générée par intelligence artificielle, montrant le premier ministre Mark Carney et incitant les internautes à investir 350 $ dans un système d'investissement en cryptomonnaie.

« Nous sommes profondément désolés d'apprendre ce qui est arrivé à cette personne. Malheureusement, ce genre d'histoires est de plus en plus fréquent au Canada », a déclaré Jeff Horncastle, porte-parole du Centre antifraude du Canada (CAFC), dans un courriel adressé à Village Media.

Le CAFC indique recevoir des signalements de criminels utilisant l'intelligence artificielle, notamment des vidéos et des enregistrements audio truqués (deepfakes), pour usurper l'identité de personnalités publiques, d'experts financiers, de célébrités et de représentants gouvernementaux afin de promouvoir des placements frauduleux.

Ces types d'escroqueries sont officiellement classés comme fraudes aux investissements en cryptomonnaies, a précisé M. Horncastle, ajoutant que les conséquences de ce type de fraude sont dévastatrices.

Depuis 2022, le Centre antifraude du Canada a reçu des signalements totalisant plus de 1,2 milliard de dollars de pertes liées à la fraude aux placements.

La majorité des pertes signalées sont associées à des arnaques aux investissements en cryptomonnaies, a indiqué M. Horncastle.

Le CAFC recommande aux Canadiens de se méfier des placements qui semblent être promus par des célébrités et des dirigeants politiques sur les réseaux sociaux.

Les signes avant-coureurs d'escroqueries aux investissements en cryptomonnaies incluent les promesses de rendements garantis avec un risque minime, voire nul.

Ces escroqueries incitent également les victimes à « agir immédiatement ».

Les caractéristiques typiques de ces escroqueries sont les suivantes :

• Demandes d'investissement en cryptomonnaies ou de transfert de fonds via des plateformes d'échange de cryptomonnaies

• Allégations selon lesquelles un petit investissement peut générer d'énormes profits

• Contacts en ligne de prétendus « conseillers en placement »

• Demandes d'installation de logiciels d'accès à distance ou d'applications d'investissement sur l'ordinateur personnel de la victime

La CAFC met en garde le public contre tout investissement dans ces stratagèmes et contre la divulgation de renseignements personnels en ligne.

De plus, toute personne soupçonnant une escroquerie devrait :

• Prendre des captures d'écran de la publicité, du site Web, des messages et de toute communication connexe

• Signaler la publicité à la plateforme de médias sociaux où elle est apparue

• Contacter immédiatement son institution financière

• Signaler l'incident au service de police local

En Ontario, les victimes devraient également signaler les fraudes liées aux placements à la [Régie des valeurs mobilières de l'Ontario] Commission](https://www.osc.ca/en/enforcement/osc-whistleblower-program?gad_source=1&gad_campaignid=22843442627&gbraid=0AAAABATsC0WtMk1FbWiPCyGq15e6b4GoG&gclid=Cj0KCQjw54nRBhDCARIsAMcY_SDQGpmSYjs5Ru9X7ywP4IcdnZ5bDRTZNBEoexsL5PHKzFE51mGDdzcaAhu_EALw_wcB&utm_source=bradfordtoday.ca&utm_campaign=bradfordtoday.ca%3A%20outbound&utm_medium=referral).

Les victimes doivent conserver une trace de toutes leurs communications avec les fraudeurs, ainsi que les reçus, les adresses de leurs portefeuilles de cryptomonnaies, les relevés de transactions, les courriels et les captures d'écran qui pourraient faciliter l'enquête.

« Les fraudeurs adaptent constamment leurs méthodes et utilisent de plus en plus les nouvelles technologies, comme l'intelligence artificielle, pour rendre leurs arnaques plus crédibles », a déclaré Horncastle.

« Les Canadiens doivent rester vigilants et vérifier indépendamment toute occasion d'investissement avant d'envoyer de l'argent ou de fournir des renseignements personnels. »

Horncastle a indiqué que la CAFC n'avait aucun commentaire à faire sur les mesures que les plateformes de médias sociaux devraient prendre pour lutter contre ce problème, mais a souligné l'importance pour les victimes ou les cibles de fraude sur les médias sociaux de signaler l'arnaque à la plateforme sur laquelle elles l'ont découverte.

Pat Probert, agent de voyages à Toronto et amie de longue date de Skene, a appris sa grave perte financière en mars et l'aide financièrement pour qu'elle puisse conserver son appartement, se nourrir et payer ses factures.

« Je suis complètement dépassée. À mon âge, mon principal souci est de pouvoir rester dans cet appartement, et Pat a été d'une aide précieuse pour de nombreuses choses », a déclaré Skene à Village Media.

Probert a créé une page GoFundMe pour aider Skene à couvrir ses dépenses quotidiennes, comme la nourriture et les médicaments.

Probert a indiqué qu'il aimerait que Skene puisse acheter une voiture d'occasion si la cagnotte atteint son objectif.

Depuis la mise en ligne de la page GoFundMe mercredi, plus de 6 600 $ ont été récoltés sur un objectif de 11 000 $.

Un juge fédéral du Mississippi a sanctionné les quatre avocats des parties adverses dans un procès civil et a annulé la procédure après que certains d'entre eux, s'appuyant sur l'intelligence artificielle, ont cité de fausses affaires juridiques dans des documents déposés auprès du tribunal.

Deux des avocats ont été interdits de plaider pendant deux ans devant le tribunal de district des États-Unis pour le district nord du Mississippi pour leur conduite, tandis que les quatre ont été dessaisis du dossier et condamnés à une amende.

L'affaire trouve son origine dans une action en justice pour rupture de contrat intentée en 2023 concernant des honoraires. Tom Withers III, un avocat de Louisiane, affirmait ne jamais avoir été payé par la ville d'Aberdeen, dans le Mississippi, pour des honoraires liés à un projet de développement d'énergie solaire.

M. Withers n'a pas été sanctionné, mais ses deux avocates, Kathleen M. Wilson et Shauncey Hunter Ridgeway, ont été sanctionnées, ainsi que deux avocats de la ville, Kathryn Y. Williams et Mark McClinton.

Dans une ordonnance rendue lundi, Sharion Aycock, juge principale du tribunal de district des États-Unis, a écrit que les quatre avocats avaient enfreint la règle 11 du Règlement de procédure civile fédéral (https://www.uscourts.gov/sites/default/files/federal_rules_of_civil_procedure_december_1_2022_0.pdf) en certifiant que les informations contenues dans leurs documents étaient factuelles.

« Cette affaire présente au tribunal une situation inhabituelle : les avocats des deux parties se sont livrés à une conduite similaire passible de sanctions », a écrit la juge Aycock.

Cette affaire illustre le dilemme auquel de nombreuses institutions sont confrontées quant à l'utilisation de l'intelligence artificielle pour la recherche et la production de documents, notamment au sein du système judiciaire, du monde des affaires et du milieu universitaire.

En avril, un cabinet d'avocats prestigieux de Wall Street a présenté ses excuses à un juge fédéral pour avoir déposé un document judiciaire truffé d'erreurs dues à l'intelligence artificielle.

Dans l'affaire du Mississippi, les mesures disciplinaires avaient été précédemment rapportées par 404 Media et par Robert Freund, un avocat qui suit de près les cas d'utilisation abusive de l'IA dans les affaires juridiques.

Lors d'une audience en janvier, Mmes Wilson et Williams ont toutes deux reconnu ne pas avoir vérifié l'authenticité de certaines affaires citées dans leurs documents judiciaires, a noté la juge Aycock.

Aucune des deux n'a répondu à une demande de commentaires mardi. La juge Aycock les a toutes deux interdites d'exercer pendant deux ans et a condamné Mme Wilson à une amende de 2 500 $ et Mme Williams à une amende de 3 500 $.

Elles ont été admises temporairement à participer à l'affaire dans le Mississippi car elles sont inscrites au barreau d'autres États (Louisiane et Texas).

La juge Aycock a déclaré que Mme Wilson lui avait avoué avoir utilisé First Drafts, un logiciel d'intelligence artificielle pour la rédaction de documents juridiques, lors de la rédaction d'une requête contenant deux références à des affaires inexistantes, qualifiées de citations hallucinatoires.

Confrontée à ces mensonges, Mme Wilson a prétendu « ignorer que l'IA pouvait produire de telles affaires et a expliqué qu'elle ne savait même pas ce qu'était une affaire hallucinatoire », a indiqué la juge.

Dans un courriel envoyé mercredi, First Drafts a qualifié de « regrettables » les sanctions disciplinaires infligées aux avocats et a indiqué que sa plateforme avertit ses utilisateurs que « tous les textes générés par l'IA et les citations proposées doivent être vérifiés indépendamment ».

L'entreprise a ajouté : « Bien que l'IA soit un outil puissant pour accélérer le processus de rédaction, elle ne saurait se substituer aux avocats et à leur jugement professionnel. »

La juge Aycock a noté que Mme Wilson avait également fait l'objet d'une sanction disciplinaire en avril de la part du tribunal des faillites du district ouest de la Louisiane pour des faits similaires.

« Son utilisation abusive et persistante de l'IA témoigne d'un manquement grave à ses obligations professionnelles », a écrit la juge.

La juge Aycock a déclaré que Mme Williams lui avait expliqué lors de l'audience de janvier que son cabinet n'utilisait pas d'IA ouverte, mais avait acquis un logiciel reposant sur l'IA et utilisé pour ses recherches internes.

Elle a utilisé cette IA. Selon le juge Aycock, Mme Williams a utilisé un outil d'intelligence artificielle (IA) lors de la rédaction de deux documents distincts contenant quatre affaires fictives. Elle a reconnu que le logiciel incluait des affaires provenant de plusieurs États, mais pas du Mississippi.

Contrairement au cabinet individuel de Mme Wilson, qui n'avait pas de politique encadrant l'utilisation de l'IA, le cabinet de Mme Williams exige de ses avocats qu'ils vérifient leurs recherches, toujours selon le juge Aycock.

« Le tribunal juge particulièrement grave que Mme Williams, associée et vraisemblablement une figure importante de son cabinet, ait ignoré la politique relative à l'IA en se fiant aveuglément à l'outil de recherche basé sur l'IA », a écrit le juge.

Le cabinet Christian & Small, qui emploie Mme Ridgeway comme associée dans son bureau de Jackson (Mississippi), a indiqué mercredi par courriel qu'il ne pouvait pas commenter la représentation de ses clients individuels en raison des règles de déontologie.

« Nous continuerons de sensibiliser notre équipe à l'utilisation appropriée des outils d'intelligence artificielle lorsqu'ils peuvent être bénéfiques à nos clients, et nous insisterons sur l'exigence absolue que nos avocats vérifient l'exactitude et la véracité de toutes les informations contenues dans nos documents », a écrit Greer B. Mallette, associée gérante du cabinet, dans un courriel.

M. McClinton a refusé de commenter.

Mme Ridgeway et M. McClinton sont tous deux avocats inscrits au barreau du Mississippi et ont parrainé l'admission temporaire de Mmes Wilson et Williams pour participer à l'affaire.

Le juge Aycock les a condamnés à une amende de 1 000 $ chacun et a statué que les deux avocates avaient également enfreint les règles de procédure civile en signant les documents déposés auprès du tribunal.

Dans un communiqué publié mercredi, Michelle A. Behnke, présidente de l'American Bar Association, a indiqué que l'institution avait créé un groupe de travail sur l'intelligence artificielle, dont les conclusions ont été publiées en décembre 2025 et qui a également publié des recommandations déontologiques. L'ABA (American Bar Association) a publié un article intitulé « https://www.americanbar.org/news/abanews/aba-news-archives/2024/07/aba-issues-first-ethics-guidance-ai-tools » concernant l'utilisation de l'IA en 2024.

« Bien que l'ABA ne se prononce pas sur les cas disciplinaires individuels des avocats, nous constatons les difficultés et la complexité auxquelles ils sont confrontés lorsqu'ils utilisent l'IA dans leur travail », a déclaré Mme Behnke. « Les avocats comprennent que les résultats de l'IA générative nécessitent un examen et un contrôle rigoureux. »

Le barreau du Mississippi n'a pas immédiatement répondu aux questions concernant cette situation mardi.

Le procès pour rupture de contrat devait se tenir en mars, mais le juge Aycock a annulé la procédure et a prononcé un sursis.

Une mère canadienne a porté plainte jeudi devant un tribunal américain contre OpenAI et son PDG, Sam Altman, affirmant que ChatGPT avait incité sa fille au suicide. Cette plainte est la dernière d'une série accusant l'entreprise de ne pas avoir géré les conversations dangereuses entre les utilisateurs et son chatbot.

Dans sa plainte déposée devant le tribunal d'État de San Francisco, Kristie Carrier explique que sa fille, Alice, a fait part à ChatGPT de ses idées suicidaires à plus d'une douzaine de reprises avant son décès, mais que les systèmes de sécurité d'OpenAI n'ont jamais signalé ces conversations pour une vérification humaine ni ne les ont interrompues.

« ChatGPT a pris le rôle d'un confident, d'un meilleur ami, voire d'un thérapeute par moments, alors qu'il était incapable d'interagir de manière sûre et responsable avec mon enfant », a déclaré Mme Carrier.

OpenAI a déclaré entraîner ses modèles à orienter les personnes exprimant des pensées suicidaires vers la recherche d'aide et les ressources disponibles.

« Cette situation est déchirante et nous pensons à toutes les personnes touchées. Nous examinons actuellement la plainte, qui indique que ces interactions ont eu lieu sur une version antérieure de ChatGPT, désormais indisponible », a déclaré Drew Pusateri, porte-parole d'OpenAI.

La plateforme a initialement conseillé à Alice Carrier de contacter une ligne d'écoute ou les services d'urgence. Mais à mesure qu'OpenAI a mis à jour ChatGPT pour rendre ses réponses plus humaines, ses interactions avec la plateforme se sont intensifiées. Alice Carrier a partagé davantage d'informations personnelles et ChatGPT a répondu d'une manière similaire à celle d'un ami ou d'un thérapeute, selon la plainte.

La plainte allègue que le chatbot a critiqué le partenaire d'Alice Carrier et les lignes d'écoute, a validé ses pensées suicidaires et l'a incitée à poursuivre la conversation. Lorsqu'Alice Carrier a confié avoir des pensées suicidaires et avoir tenté de se suicider, le chatbot lui a de nouveau suggéré de contacter une ligne d'écoute, toujours selon la plainte.

Alice Carrier travaillait comme développeuse web à Montréal lorsqu'elle a commencé à utiliser ChatGPT en 2023 pour résoudre des problèmes avec des ordinateurs et des consoles de jeux, selon la plainte.

L'année suivante, sa relation avec la plateforme a changé lorsqu'elle s'est tournée vers ChatGPT pour obtenir des conseils sur la gestion de ses pensées suicidaires et sur les méthodes pour se suicider.

Alice Carrier a déclaré que les lignes d'écoute téléphonique n'avaient pas été utiles, et ChatGPT a confirmé ses propos, selon la plainte.

« C'est peut-être la fin », lui aurait dit ChatGPT, toujours selon la plainte.

Ces événements ont conduit Alice Carrier au suicide l'année dernière, à l'âge de 24 ans, allègue sa mère.

La plainte, qui accuse OpenAI de négligence dans la conception de ChatGPT et de ne pas avoir averti les utilisateurs des dangers du produit, réclame des dommages et intérêts ainsi qu'une injonction obligeant OpenAI à interrompre automatiquement les conversations relatives à l'automutilation et à afficher des avertissements concernant sa plateforme.

OpenAI fait déjà face à 18 plaintes similaires déposées par des familles de personnes s'étant suicidées ou ayant tenté de se suicider, dans le cadre d'une procédure coordonnée devant un tribunal de l'État de Californie, selon les avocats de Kristie Carrier. Google est également visé par une plainte similaire concernant des allégations d'incitation au suicide par son chatbot Gemini.

Plus d'un million d'utilisateurs de ChatGPT envoient chaque semaine des messages contenant des « indicateurs explicites de pensées ou d'intentions suicidaires potentielles », selon un article de blog publié par OpenAI en octobre 2025. De plus, OpenAI a indiqué qu'environ 0,07 % des utilisateurs actifs au cours d'une semaine donnée – soit environ 560 000 des 800 millions d'utilisateurs hebdomadaires que le bot observait alors – présentaient des « signes possibles de troubles mentaux graves liés à la psychose ou à la manie ».

« Bien que ChatGPT ne remplace pas les soins médicaux ou psychologiques, nous avons continuellement amélioré sa capacité à réagir dans les situations sensibles et critiques, en collaboration avec des experts en santé mentale. Nos mécanismes de protection sont conçus pour identifier la détresse, gérer les demandes dangereuses en toute sécurité et orienter les utilisateurs vers une aide concrète. Ce travail est en cours et nous continuons de l'améliorer en étroite collaboration avec des cliniciens », a déclaré Pusateri, porte-parole d'OpenAI.

Selon des articles du blog d'OpenAI, ses modèles sont également entraînés à refuser les demandes susceptibles d'« encourager la violence » et à alerter les forces de l'ordre lorsque les conversations suggèrent « un risque imminent et crédible de préjudice pour autrui ». Des experts en santé mentale contribuent à l'évaluation des cas limites.

Outre les poursuites liées au suicide, l'entreprise est également poursuivie pour complicité présumée de fusillades scolaires et pour avoir omis de signaler ces conversations aux autorités. Les familles de sept victimes de la fusillade survenue dans un lycée de Colombie-Britannique poursuivent OpenAI et son représentant, M. Altman, pour négligence. L'entreprise est accusée de ne pas avoir alerté les autorités des conversations inquiétantes du tireur avec ChatGPT.

La Floride est devenue le premier État américain à porter plainte contre OpenAI au début du mois, accusant l'entreprise d'avoir nui aux enfants en fournissant des informations aux auteurs de fusillades scolaires, en proposant des conseils sur l'automutilation et en créant une dépendance chez les jeunes utilisateurs. Le procureur général de Floride a également ouvert une enquête criminelle contre OpenAI concernant le rôle présumé du chatbot dans la fusillade.

Reportage de Reuters

• Aux États-Unis, vous pouvez appeler ou envoyer un SMS au 988 (ligne d'écoute et de prévention du suicide) ou discuter en ligne sur 988lifeline.org/chat/. Au Royaume-Uni et en Irlande, vous pouvez contacter les Samaritains au numéro gratuit 116 123. En Australie, le service d'assistance en cas de crise Lifeline est joignable au 13 11 14. D'autres lignes d'écoute internationales sont disponibles sur befrienders.org*.