Incidents associés
Un expert témoin, appelé à témoigner dans le cadre d'un procès concernant la responsabilité de l'explosion survenue à Houston, qui a coûté la vie à trois personnes et détruit environ 200 maisons, a utilisé ChatGPT pour rédiger des parties importantes de son rapport d'expertise. Cet homme, engagé par le conglomérat industriel 3M, a rendu publiques les instructions données par l'IA. Celles-ci ont révélé qu'il avait demandé à ChatGPT de l'aider à « rédiger un rapport d'expertise exceptionnel défendant les normes de diligence raisonnable chez 3M », et que ce rapport devait « démontrer que 3M n'est en rien responsable de l'explosion survenue chez Watson Grinding ».
Cet incident montre que l'intelligence artificielle s'est introduite dans les salles d'audience non seulement dans les mémoires juridiques générés par l'IA, les cas hallucinés, et les "injections de prompts" contradictoires,' mais aussi dans les témoignages d'experts. Les transcriptions d'audience, les dépositions et les documents de procédure communiqués à 404 Media révèlent un recours intensif à l'intelligence artificielle dans une affaire très médiatisée, où plusieurs personnes ont perdu la vie et où des centaines de millions de dollars de responsabilité sont en jeu dans le cadre du litige en cours concernant l'explosion. Cette affaire démontre également que les messages spécifiques utilisés pour générer ce type de témoignage d'expert peuvent être divulgués au cours d'une procédure et qu'ils peuvent s'avérer particulièrement compromettants. (Les messages utilisés dans cette affaire sont disponibles ici : [https://www.documentcloud.org/documents/28560618-ai-prompts-1/?ref=404media.co]).
Le Cette affaire fait partie d'une série de poursuites concernant la responsabilité de l'explosion survenue en 2020 chez Watson Grinding, une usine de fabrication située à Houston. L'explosion aurait été causée par un tuyau de soudage en caoutchouc dégradé et mal serti, qui aurait laissé échapper un gaz inflammable provoquant l'explosion, selon le Bureau américain d'enquête sur la sécurité chimique et les risques (CSB). Des dizaines de propriétaires ont intenté des poursuites contre 3M et Watson Grinding. Les plaignants ont allégué que 3M n'avait pas correctement entretenu le système de détection de gaz de l'usine et avait commis d'autres erreurs ayant contribué à l'explosion.
Dans le cadre de cette affaire, 3M a mandaté Josh Autenrieth, de la société Knighthawk Engineering, pour rédiger un rapport d'expertise sur l'explosion. Lors de la phase de communication des pièces, Will Moye, l'un des avocats des plaignants, a découvert un document de cinq pages intitulé « Citation Overlay », qui semblait avoir été généré par une intelligence artificielle. Maître Moye a reconnu que ce document provenait de ChatGPT et a exigé des avocats de 3M la communication de toutes les requêtes utilisées par Autenrieth. L'audience a été suspendue pendant trois heures, le temps de rassembler ces documents, et Maître Moye a reçu 350 pages de conversations ChatGPT tenues par Autenrieth lors de la rédaction du rapport. Ces documents incluaient les liens publics de ChatGPT vers l'intégralité des conversations d'Autenrieth. Les transcriptions d'audience suggèrent que 3M a versé environ 90 000 $ à Knighthawk Engineering pour son analyse, et un document déposé par 3M indique que le tarif horaire d'Autenrieth était de 475 $.
Extrait de la page de couverture du rapport :
Les conversations retracent une grande partie du processus d’Autenrieth, du début à la fin. Il a notamment indiqué à ChatGPT qu’il était « mandaté par 3M en tant que témoin expert ». Pour les défendre dans les poursuites et autres procédures judiciaires liées à l'explosion de janvier 2020 chez Watson Grinding, il a déclaré à ChatGPT qu'il devait rédiger un rapport d'expert afin de défendre les normes de diligence de 3M et, plus précisément, que ce rapport devait réfuter les allégations extravagantes et mensongères du témoin de la défense, notamment concernant l'utilisation d'équipements pour lesquels on n'est pas formé et sans les autorisations requises. Il a demandé à ChatGPT de l'aider à identifier les violations de diverses normes de travail et a joint des centaines de documents judiciaires.
Autenrieth a ensuite demandé à ChatGPT d'examiner tous les documents joints et de défendre 3M, en démontrant le manque de gestion des procédés et de la sécurité chez Watson Grinding, en réfutant les propos du témoin de la défense et en prouvant que 3M n'est en rien responsable de l'explosion chez Watson Grinding. Il a également expliqué que son expérience et ses compétences lui permettaient de formuler cet avis professionnel.
ChatGPT a produit un rapport d'une trentaine de pages contenant la phrase : « D'un point de vue technique et en matière de normes de soins, 3M n'est responsable à 0 % de l'explosion du 24 janvier 2020. » Cette phrase n'a pas été retenue dans le rapport final déposé auprès du tribunal, car lorsque Autenrieth a demandé ultérieurement à ChatGPT de « réviser ce document du point de vue de la partie adverse », ChatGPT a estimé que l'expression « responsable à 0 % » était une cible facile pour un avocat et faisait partie des « phrases [permettant] à la partie adverse de vous présenter comme un avocat plutôt que comme un expert ».
[Dans un autre Dans une conversation en ligne via ChatGPT (https://chatgpt.com/share/6a2987c9-a704-83ea-a804-89aeff60cff7?ref=404media.co), Autenrieth a téléchargé l'image d'un détecteur de gaz et a demandé à ChatGPT : « Qu'est-ce que je vois ? » et « Quels sont les noms de modèles des détecteurs de gaz industriels ? » Moye a indiqué que le détecteur de gaz en question était « l'élément central de toute l'affaire ».
Autenrieth a utilisé ChatGPT pour modifier le rapport généré et a téléchargé à plusieurs reprises différentes versions de ce rapport, obtenant des corrections de l'outil, puis téléchargeant de nouvelles versions (dans certaines conversations, il a changé le sujet, passant de son témoignage d'expert à la génération d'images de t-shirts par ChatGPT). Il a également demandé à ChatGPT de noter son rapport (qui a obtenu 97/100) et de préciser : « Quels sont les cinq principaux points de mon rapport que l'accusation pourrait attaquer et comment puis-je les contester ? » Il a ensuite demandé à ChatGPT si son CV était suffisant pour témoigner en tant qu'expert : « L'accusation va-t-elle me poursuivre pour n'avoir jamais été [témoin expert] auparavant, compte tenu de la formulation ? Comment puis-je me défendre ? »
Le rapport qu'Autenrieth a remis au tribunal est structuré de la même manière que le rapport initial fourni par ChatGPT, et de larges sections sont identiques à la première version produite par ChatGPT et aux modifications qu'il a recommandées lors des échanges ultérieurs avec Autenrieth.
« Cet expert s'est appuyé sur l'IA non pas comme un outil d'assistance, mais exclusivement sur ChatGPT pour se forger ses opinions et rédiger son rapport », a déclaré Moye à 404 Media lors d'un entretien téléphonique. « Il a reconnu [au procès] que les suggestions qu'il a saisies étaient biaisées en faveur de 3M afin d'aider 3M à gagner le procès […] c'est vraiment scandaleux. » Moye a ajouté que nombre de ces suggestions ont été formulées la veille de la déposition d'Autenrieth en tant que témoin expert. « Ils l'ont engagé dans le seul but d'influencer l'issue du procès. Ils l'ont engagé et il a utilisé ChatGPT pour rédiger ces rapports ; en réalité, ChatGPT était l'expert dans cette affaire. C'est indéniable. »
Moye a déclaré à 404 Media que 3M avait finalement tenté de faire disqualifier Autenrieth du procès, mais qu'après avoir appris qu'Autenrieth avait largement utilisé l'IA pour rédiger son rapport, il avait pris… L'initiative, pour le moins inhabituelle, de faire témoigner l'expert de la partie adverse comme son propre témoin a été prise. « J'ai dit : "Je vous convoque au procès car j'ai besoin qu'un jury vous entende, car il s'agit de choses très graves." Et c'est exactement ce que j'ai fait », a déclaré Moye.
Dans les transcriptions du procès, Autenrieth admet avoir utilisé ChatGPT, mais affirme à plusieurs reprises être un expert en détection de gaz : « J'ai un solide portfolio et plus de 20 ans d'expérience dans le secteur. » Il n'explique pas pourquoi il a utilisé ChatGPT, mais déclare : « J'y ai intégré mes opinions, et l'IA m'a aidé à élaborer une ébauche sur laquelle m'appuyer. » Il ajoute : « J'ai fourni des informations et des opinions dès le départ, avant même la génération du rapport. [...] Si le résultat ne correspondait pas à mon opinion ou à ce que j'avais convenu, je le modifiais. » Lors de l'interrogatoire au procès, Moye et Autenrieth s'accordent à dire que le rapport soumis est « à 90-85 % généré par ChatGPT ». Autenrieth a également indiqué avoir sollicité ChatGPT à plusieurs reprises au sujet de l'affaire, notamment lors de trajets en voiture, afin de se rafraîchir la mémoire concernant différents fabricants de détecteurs de gaz.
Outre le fait qu'il s'agisse d'une affaire particulièrement intéressante en soi, ce cas démontre que les transcriptions des conversations ChatGPT peuvent être obtenues par les avocats de la partie adverse dans le cadre de la procédure de communication des pièces ou lors des dépositions. Moye a déclaré : « Chaque avocat doit s’assurer que ses experts ne produisent pas de documents de travail de manière fallacieuse, sachant qu’il est possible d’obtenir ces documents par voie de citation à comparaître. […] J’ai des avocats partout qui me disent : 1) “C’est dingue ! Comment avez-vous obtenu ces documents ?” et 2) “Combien de dossiers cela nous arrive-t-il ?” »
Autenrieth n’est pas le premier expert pris en flagrant délit d’utilisation d’IA lors d’un procès, bien que la plupart des cas connus soient internationaux, selon une base de données de cas où l’IA a été utilisée pour créer des preuves. En France, un avocat a utilisé l’IA pour étayer un argument relatif aux régimes pluviaux dans un litige concernant une inondation ; cette preuve a été rejetée. Au Canada, l’IA a été utilisée pour générer des avis sur la question de savoir si certains types de plantes étaient à l’origine d’une infestation d’insectes dans un complexe d’appartements. Dans cette affaire, le juge a écrit : « Je n’accorde aucune importance aux preuves relatives à l’IA. L’expertise doit provenir d’une personne reconnue, possédant des qualifications avérées et des connaissances spécifiques sur le sujet traité. »
Le jury dans l’affaire 3M a accordé plus de 61 millions de dollars aux plaignants, répartissant la responsabilité à hauteur de 30 % pour 3M et de 70 % pour Watson Grinding. Des décisions antérieures ont accordé respectivement 118 millions et 38 millions de dollars aux victimes de l’explosion, et plusieurs autres affaires sont en cours.
Knighthawk Engineering, Autenrieth et 3M n’ont pas répondu à notre demande de commentaires.