Confronté à des citations juridiques inexistantes dans une affaire portée devant la Haute Cour du Gauteng, à Johannesburg, un juge suppléant a demandé à l'avocat responsable si ces citations constituaient des « hallucinations » d'intelligence artificielle (IA). L'avocat, le visage rouge de colère, a répondu par l'affirmative.
Le juge suppléant DJ Smit a fait cette découverte alors qu'il s'apprêtait à rédiger son jugement dans l'affaire Northbound Processing, qui souhaitait contraindre l'Autorité sud-africaine de réglementation des diamants et des métaux précieux à lui délivrer une licence de raffinage.
Le juge Smit a fait remarquer qu'en rédigeant ce jugement, il avait constaté que deux affaires citées dans les conclusions de Northbound n'existaient pas. Il a invité l'avocat de Northbound à clarifier sa position.
La pression du temps a été invoquée comme excuse, l'affaire ayant été portée devant le tribunal en urgence. L'avocat a expliqué avoir utilisé un outil d'abonnement en ligne appelé « Legal Genius », qui se disait « exclusivement formé sur la jurisprudence et la législation sud-africaines ».
Le tribunal a toutefois été informé que, bien que certaines citations inexistantes (de jurisprudence antérieure applicable) figuraient dans les chefs d'argumentation, l'avocat principal ayant plaidé l'affaire ne s'était pas appuyé sur ces cas inexistants lors de la plaidoirie.
L'avocat qui a exposé la situation au tribunal a assumé l'entière responsabilité des erreurs, mais a souligné qu'il n'y avait aucune intention d'induire le tribunal en erreur.
L'avocat principal (qui n'était pas responsable des citations inexistantes) a présenté de profondes excuses au nom de l'équipe juridique de Northbound. Il a également expliqué qu'il s'appuyait sur une équipe juridique expérimentée (comprenant deux avocats juniors compétents) sur laquelle il pensait pouvoir compter (et s'est effectivement appuyé).
L'avocat principal a déclaré qu'il n'avait procédé qu'à une « vérification de l'exactitude » des chefs d'argumentation de Northbound avant leur dépôt et qu'il n'avait pas eu suffisamment de temps pour vérifier l'exactitude des citations.
Dans son jugement sur ce sujet, le juge Smit a fait référence à un récent arrêt de la Division du Banc du Roi dans lequel le juge anglais avait mis en garde contre les risques liés à l'utilisation de l'IA, notamment dans la recherche juridique, car elle pourrait être totalement erronée et citer des sources inexistantes.
Le juge a déclaré que toute utilisation abusive de l'intelligence artificielle aurait de graves conséquences pour l'administration de la justice et la confiance du public dans le système judiciaire.
Le juge Smit a pris acte des excuses des avocats dans cette affaire, mais a précisé que même une négligence dans ce contexte pourrait avoir de graves répercussions. Il a renvoyé la conduite des juristes au Conseil de la pratique juridique pour enquête.