Problème 6163

En moins d'un an et demi, Frankie Johnson, un homme incarcéré à la prison William E. Donaldson, près de Birmingham, en Alabama (https://www.theguardian.com/us-news/alabama), affirme avoir été poignardé une vingtaine de fois.

En décembre 2019, Johnson affirme avoir été poignardé « au moins neuf fois » dans son unité de détention. En mars 2020, un agent l'a menotté à un bureau après une séance de thérapie de groupe et a quitté l'unité. Un autre détenu est ensuite entré et l'a poignardé à cinq reprises.

En novembre de la même année, Johnson affirme avoir été menotté par un agent et emmené dans la cour de la prison, où un autre détenu l'a attaqué avec un pic à glace, le poignardant « cinq à six fois » sous le regard de deux agents pénitentiaires. Selon Johnson, l'un des agents avait en fait encouragé son agresseur à commettre l'agression en représailles d'une précédente dispute entre lui et lui.

En 2021, Johnson a porté plainte contre les autorités pénitentiaires de l'Alabama pour manquement à sa sécurité, violence endémique, manque de personnel, surpopulation et corruption généralisée dans les prisons de l'Alabama. Pour défendre son dossier, le bureau du procureur général de l'Alabama s'est tourné vers un cabinet d'avocats qui, depuis des années, perçoit des millions de dollars de l'État pour défendre son système pénitentiaire en difficulté : Butler Snow.

Les autorités de l'État ont salué l'expérience de Butler Snow dans la défense des affaires carcérales, et plus particulièrement celle de William Lunsford, responsable du groupe de contentieux constitutionnel et des droits civiques du cabinet. Mais le cabinet fait désormais l'objet de sanctions de la part du juge fédéral chargé du dossier de Johnson, après qu'un avocat du cabinet, travaillant avec Lunsford, a cité des cas générés par l'intelligence artificielle, qui se sont avérés inexistants.

Cet exemple s'inscrit dans un nombre croissant de cas où des avocats à travers le pays subissent des conséquences pour avoir inclus de fausses informations générées par l'IA dans des documents juridiques officiels. Une base de données tentant de suivre la prévalence des cas a identifié 106 cas à travers le monde où les tribunaux ont constaté des « hallucinations d'IA » dans des documents judiciaires.

L'année dernière, un avocat a été suspendu pour un an de son droit d'exercer dans le district fédéral central de Floride, après qu'une commission a découvert qu'il avait cité des cas inventés de toutes pièces par l'IA. En Californie, plus tôt ce mois-ci, un juge fédéral a condamné une entreprise à payer plus de 30 000 dollars de frais juridiques après avoir inclus de fausses recherches générées par l'IA dans un mémoire.

Lors d'une audience mercredi à Birmingham dans l'affaire Johnson, la juge fédérale Anna Manasco a déclaré qu'elle envisageait un large éventail de sanctions – notamment des amendes, une formation juridique continue obligatoire, des orientations vers des organismes de délivrance de permis et des suspensions temporaires – contre Butler Snow, après que l'avocat Matthew Reeves a utilisé ChatGPT pour ajouter de fausses citations à des documents liés à des litiges en cours concernant des dépositions et des communications préalables.

Elle a suggéré que, jusqu'à présent, les sanctions disciplinaires prises à travers le pays n'étaient pas allées assez loin. L'affaire actuelle est « la preuve irréfutable que ces sanctions étaient insuffisantes », a-t-elle déclaré aux avocats. « Si c'était le cas, nous ne serions pas là. »

Lors de l'audience, les avocats de Butler Snow se sont excusés avec effusion et ont déclaré qu'ils accepteraient les sanctions que Manasco jugerait appropriées. Ils ont également rappelé une politique stricte exigeant que les avocats obtiennent une autorisation avant d'utiliser l'IA pour des recherches juridiques.

Reeves a tenté d'assumer l'entière responsabilité.

« J'étais conscient des limites d'utilisation de l'IA et, dans ces deux cas, je n'ai pas respecté la politique », a déclaré Reeves. « J'espère que Votre Honneur ne punira pas mes collègues. »

Les avocats de Butler Snow ont été désignés par le bureau du procureur général de l'Alabama et sont rémunérés par l'État pour défendre Jefferson Dunn, l'ancien commissaire du département des services correctionnels de l'Alabama, dans cette affaire.

Lunsford, qui détient le contrat avec l'État pour cette affaire, a déclaré avoir commencé à examiner les dossiers antérieurs afin de s'assurer qu'il n'y avait pas d'autres cas de fausses citations.

« C'est très récent et brut », a déclaré Lunsford à Manasco. « La réponse du cabinet n'est pas encore complète. »

Manasco a indiqué qu'elle autoriserait Butler Snow à déposer une requête dans les 10 jours afin d'expliquer la procédure à suivre pour résoudre le problème avant de prendre une décision concernant les sanctions.

L'utilisation de fausses citations d'IA dans cette affaire a été révélée suite à un litige de calendrier.

Les avocats de Butler Snow avaient contacté les avocats de Johnson afin d'organiser une déposition de Johnson, toujours en prison. Les avocats de Johnson se sont opposés aux dates proposées, invoquant des documents manquants auxquels ils estimaient avoir droit avant la déposition de Johnson.

Mais dans un document déposé au tribunal le 7 mai, Butler Snow a rétorqué que la jurisprudence imposait une déposition rapide de Johnson. « Les tribunaux du onzième circuit et de district autorisent systématiquement les dépositions de détenus lorsqu'un préavis approprié est donné et que la déposition est pertinente pour les demandes ou les défenses, nonobstant d'autres litiges liés à la communication préalable », ont-ils écrit. Les avocats ont cité quatre affaires censées étayer leurs affirmations. Il s'avère qu'elles étaient toutes inventées.

Si certaines des affaires citées ressemblaient à des citations de cas réels, aucune n'était pertinente pour la question soumise au tribunal. Par exemple, l'une d'elles concernait une affaire de 2021 intitulée Kelley c. Ville de Birmingham. Or, selon les avocats de Johnson, « la seule affaire existante intitulée Kelley c. Ville de Birmingham que l'avocat du demandeur a pu identifier a été jugée par la Cour d'appel de l'Alabama en 1939 concernant la résolution d'une contravention pour excès de vitesse ».

En début de semaine, les avocats de Johnson ont déposé une requête dénonçant les fabrications et suggérant qu'elles étaient le fruit d'une « intelligence artificielle générative ». Ils ont également découvert une autre citation apparemment fabriquée dans un dossier antérieur relatif à un litige relatif à la communication des pièces.

Le lendemain, Manasco a fixé une audience pour déterminer si les avocats de Butler Snow devaient être sanctionnés. « Compte tenu de la gravité de l'accusation, le tribunal a mené des recherches indépendantes pour chaque citation prétendument fabriquée, en vain », a-t-elle écrit.

Dans une déclaration au tribunal, Reeves a déclaré avoir examiné les documents rédigés par un collègue plus jeune et avoir souhaité inclure des citations pour ce qu'il « considérait comme des points de droit bien établis ».

« Je connaissais ChatGPT de manière générale », a écrit Reeves, ajoutant qu'il avait effectué une recherche de jurisprudence justificative pour les requêtes, laquelle « a immédiatement identifié des citations prétendument applicables à ces points de droit ». Mais dans sa « précipitation à finaliser les requêtes et à les faire déposer », il « a omis de vérifier les citations de jurisprudence renvoyées par ChatGPT par le biais d'un examen indépendant dans Westlaw ou Pacer avant de les inclure ».

« Je regrette sincèrement ce manque de diligence et de jugement », a écrit Reeves. « J'en assume l'entière responsabilité. »

Les cas où de faux contenus d'IA se retrouvent dans des dossiers judiciaires semblent de plus en plus fréquents, a déclaré Damien Charlotin, chercheur juridique et universitaire basé à Paris, qui tente de suivre ces cas (https://www.damiencharlotin.com/hallucinations/).

« Je constate une accélération », a-t-il déclaré. « Il y a tellement de cas ces dernières semaines et ces derniers mois qu'avant. »

Jusqu'à présent, cependant, la réponse des tribunaux au problème a été remarquablement clémente, a déclaré M. Charlotin. Les sanctions les plus lourdes, notamment de lourdes amendes et des suspensions, sont généralement appliquées lorsque les avocats n'assument pas la responsabilité de leurs erreurs.

« Je ne m'attends pas à ce que cela dure », a déclaré M. Charlotin. « Je pense qu'à un moment donné, tout le monde en sera informé. »

Outre l'affaire Johnson, Lunsford et Butler Snow ont signé des contrats pour travailler sur plusieurs vastes affaires de droits civiques contre le département pénitentiaire de l'Alabama, dont une intentée par le ministère de la Justice des États-Unis sous Donald Trump en 2020. Cette affaire met en lumière de nombreux problèmes systémiques importants, dénoncés par Johnson dans sa plainte, et allègue que les conditions de détention violent l'interdiction des peines cruelles et inhabituelles prévue par le huitième amendement.

Le contrat pour cette seule affaire s'élevait à près de 15 millions de dollars sur deux ans à un moment donné.

Certains législateurs de l'Alabama ont remis en question le montant que l'État consacre au cabinet pour la défense de ces affaires. Mais il ne semble pas que l'erreur de cette semaine ait ébranlé la confiance du procureur général envers Lunsford et Butler Snow pour poursuivre leur travail, jusqu'à présent.

Mercredi, Manasco a demandé à un avocat du bureau du procureur général, présent à l'audience, s'il maintiendrait ou non la défense de Butler Snow.

« M. Lunsford demeure l'avocat privilégié du procureur général », a-t-il répondu.