Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Problème 3524

Incidents associés

Incident 62312 Rapports
Google Bard Allegedly Generated Fake Legal Citations in Michael Cohen Case

Loading...
La citation d'un cas fictif par l'avocat de Michael Cohen soulève des soupçons sur ChatGPT
newsweek.com · 2023

Avocat de Michael Cohen, ancien arrangeur et avocat de [Donald Trump](https://www.newsweek.com/topic/donald -Trump), a été accusé d'avoir cité des affaires judiciaires inexistantes dans des dossiers juridiques après avoir utilisé le programme d'intelligence artificielle ChatGPT à des fins de recherche.

David M. Schwartz, qui représente Cohen alors qu'il cherche à mettre fin à sa libération surveillée peu après son emprisonnement pour avoir menti au Congrès, aurait inclus trois fausses décisions en novembre qui montraient qu'il existait un précédent pour la Cour d'appel américaine pour la deuxième fois. Circuit faisant un tel geste.

Cependant, dans une réponse écrite, le juge du district américain de New York, Jesse Furman, a déclaré qu'il semble qu'« aucun de ces cas n'existe ». Furman a déclaré à Schwartz qu'il devait fournir des copies des trois décisions citées au tribunal avant le 19 décembre, sous peine de sanctions.

Les experts ont maintenant accusé Schwartz d'utiliser l'IA pour rechercher des cas, tout en notant que quelque chose de similaire s'était produit plus tôt cette année impliquant un avocat représentant un homme qui poursuivait en justice la compagnie aérienne Avianca.

Michael Cohen, ancien avocat et loyaliste de Donald Trump, quitte un palais de justice de Manhattan après avoir témoigné devant un grand jury le 13 mars 2023 à New York. Son avocat a été accusé d’avoir utilisé l’IA pour créer des documents judiciaires, qui comprenaient des affaires fictives. Spencer Platt/Getty Images

L'un de ces experts, Joe Patrice, rédacteur en chef d'Above the Law, diplômé en économie et en sciences politiques de l'Université de l'Oregon et titulaire d'un doctorat en droit de la NYU School of Law, a écrit dans une chronique pour le site que les documents déposés par Schwartz dans l'affaire Cohen ont " toutes les caractéristiques d'une recherche hallucinante par IA utilisant un produit prêt à l'emploi comme ChatGPT au lieu d'un produit spécifiquement conçu pour fournir des résultats juridiques.

Le journaliste Matthew Russell Lee a publié sur X, anciennement Twitter, qu'« il semble que l'avocat de Michael Cohen ou son IA ait cité des cas inexistants » dans sa tentative de mettre fin aux activités de surveillance. libérer.

Cohen et Schwartz ont été contactés pour commentaires par e-mail.

Furman n'a pas spécifiquement accusé Schwartz d'utiliser ChatGPT dans ses dossiers juridiques, mais a noté qu'il existe un précédent pour imposer des sanctions contre des avocats jugés « citant des cas inexistants devant la Cour » tout en faisant référence au procès impliquant Avianca où l'outil d'IA a été utilisé.

En mai, l'avocat Steven Schwartz, sans lien de parenté, a été contraint de s'excuser après avoir découvert qu'il avait utilisé ChatGPT à des fins de recherche et a fini par citer trois décisions de justice inexistantes pour étayer les arguments de son client. La poursuite impliquait Roberto Mata poursuivant Avianca pour avoir affirmé qu'il avait été blessé lorsqu'un chariot de service en métal lui avait heurté le genou lors d'un vol d'août 2019 entre le Salvador et New York.

Schwartz a ensuite soumis un mémoire détaillant plusieurs autres exemples de poursuites similaires déposées après que la compagnie aérienne a tenté de faire rejeter l'affaire. Trois des affaires citées – Martinez contre Delta Air Lines, Zicherman contre Korean Air Lines et Varghese contre China Southern Airlines – ont été faussement attribuées par ChatGPT et non par de véritables décisions de justice, a rapporté le New York Times._

Dans une déclaration sous serment ultérieure, Schwartz a déclaré qu'il n'avait jamais utilisé ChatGPT auparavant et qu'il n'était donc « pas conscient de la possibilité que son contenu puisse être faux », déclarant au juge Kevin Castel qu'il « regrette profondément » d'avoir utilisé l'outil d'IA.

Schwartz a ensuite été sanctionné et condamné à payer une amende de 5 000 $, avec son collègue avocat Peter LoDuca.

"De nombreux préjudices découlent de la présentation de fausses opinions. La partie adverse perd du temps et de l'argent à dénoncer la tromperie", a écrit Castel dans un avis publié en juin. "La partie adverse perd du temps et de l'argent à dénoncer la tromperie. Le temps du tribunal est détourné d'autres efforts importants. Le client peut être privé d'arguments fondés sur des précédents judiciaires authentiques."

En 2018, Cohen a été condamné à trois ans, dont la plupart ont été confinés à domicile, après avoir plaidé coupable de délits fiscaux fédéraux, menti au Congrès et à violations du financement de la campagne en relation avec les paiements secrets versés à l'actrice de films pour adultes Stormy Daniels et au mannequin Playboy Karen McDougal afin de garder secrètes les liaisons présumées entre eux et Trump avant les élections de 2016.

Cohen a été informé qu'il devait rester sous trois ans de liberté surveillée après la fin de sa peine de prison.

Lire la source

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd