Problème 5156

Stacey Wales avait une tâche ardue devant elle : préparer une déclaration de victime en vue de la condamnation de l’homme qui avait tué son frère par balle lors d’un incident de rage au volant en 2021. Elle se demandait comment exprimer le poids de sa perte.

« L’avocat des victimes nous a dit : “Essayez de le ramener à la vie” », a déclaré Wales.

Wales s’est donc tournée vers l’intelligence artificielle. Lors de l’audience du 1er mai en Arizona, elle a diffusé une vidéo de son frère, Christopher Pelkey.

« Pour que tout le monde comprenne bien », a déclaré l’avatar de Pelkey. « Je suis une version de Chris Pelkey recréée grâce à l’IA. »

Le fac-similé de Pelkey remerciait le juge et disait à son meurtrier qu’il croyait au pardon, ajoutant que « dans une autre vie, nous aurions probablement pu être amis ». Il terminait la vidéo par un adieu à sa famille : « Bon, je vais pêcher maintenant. »

Ce n’était pas une image parfaite de Pelkey. Son visage était figé et sa voix était hachée. Mais la vidéo a ému sa famille et ses amis et a ému le juge, qui a déclaré avoir « adoré cette IA » dans ses conclusions.

« J’ai le sentiment que c’était sincère », a déclaré Todd Lang, le juge de la Cour supérieure du comté de Maricopa qui a statué dans l’affaire. Il a condamné le meurtrier de Pelkey à 10 ans et demi de prison, la peine maximale pour homicide involontaire, que Wales avait requise.

La vidéo de Wales rejoint une liste croissante d’affaires dans lesquelles des parties ont fait appel à l’intelligence artificielle générative au tribunal. Les experts ont déclaré que les images de Pelkey prises par l’IA étaient frappantes par leur nouveauté et l’accueil favorable qu’elles ont reçu.

« Cela a vraiment surpris plusieurs d’entre nous », a déclaré Diana Bowman, professeure de droit à l’Université d’État de l’Arizona.

Pelkey a été tué lors d’un incident de rage au volant à Chandler, en Arizona, en novembre 2021, selon les archives judiciaires. Arrêté à un feu rouge, Pelkey a quitté sa voiture et s'est approché d'une autre voiture dont le conducteur avait klaxonné à plusieurs reprises. Ce conducteur, Gabriel Horcasitas, l'a abattu à son approche.

Un jury a reconnu Horcasitas coupable d'homicide involontaire en mars. À l'approche de sa condamnation, Wales a contacté les amis et la famille de Pelkey et a rassemblé des dizaines de déclarations écrites, de clips vidéo et de photos pour les montrer au juge. Elle a alors pensé qu'elle pouvait faire plus.

« Je me suis dit : "Et si Chris pouvait faire sa propre déclaration d'impact ?" », a déclaré Wales.

Le mari de Wales, Tim Wales, entrepreneur en technologie, avait déjà utilisé l'IA générative pour animer des photos et reproduire des voix. Elle a proposé de créer une vidéo de Pelkey.

« Je ne la laisserai pas publier si elle est bidon ou plate », se souvient Stacey Wales l'avoir rassuré à l'époque.

Tim Wales et un ami ont utilisé des outils d'IA pour retoucher une photo de Pelkey, cloner sa voix à partir d'anciennes vidéos de lui en train de parler et animer son visage afin que ses yeux clignent et que sa bouche bouge pendant qu'il parle. Wales a écrit le discours de Pelkey elle-même – à la main et sans IA, dit-elle – en se basant sur ce qu'elle pensait que son frère dirait.

Wales souhaitait la peine la plus lourde possible pour Horcasitas, a-t-elle expliqué, mais elle a écrit avec la voix de Pelkey qu'il « croyait au pardon et à Dieu qui pardonne ».

Elle a ensuite montré la vidéo à l'avocate de ses victimes, Jessica Gattuso.

« J'ai trouvé cela très efficace », a déclaré Gattuso. « C'était approprié. Je ne savais pas quelles objections ou réactions nous pourrions rencontrer. … Je m'y étais en quelque sorte préparée. »

Mais personne n'a émis d'objection lorsque Wales a diffusé la vidéo au tribunal, après que des dizaines d'autres amis et membres de la famille ont rendu hommage à Pelkey. Wales a réservé la vidéo à sa famille. Elle ne l'a pas non plus révélée au juge ni aux avocats de Horcasitas ; la loi de l'Arizona ne l'exige pas, a déclaré Gattuso.

La vidéo a semblé trouver un écho auprès de Lang, qui l'a saluée avant de prononcer la sentence de Horcasitas. Lang a demandé une copie de la vidéo pour la montrer à ses pairs quelques jours après l'audience, ont déclaré Wales et Gattuso.

Wales a mieux réussi à introduire des vidéos générées par l'IA dans la salle d'audience que d'autres qui l'ont fait dans des contextes différents. Un New-Yorkais a été réprimandé pour avoir utilisé un avatar d'IA pour le représenter dans un litige en matière d'emploi en mars. Un juge de l'État de Washington a rejeté une vidéo d'un témoin présentée comme preuve dans une affaire de triple meurtre l'année dernière, car elle avait été améliorée par des outils d'IA.

Le professeur de droit Bowman a déclaré que l'affaire Wales avait évité la controverse, probablement parce que la vidéo avait été présentée lors d'une audience de condamnation et n'était pas utilisée pour déterminer la culpabilité de l'accusé. Le fait que Wales, contrairement au New-Yorkais, ait clairement présenté sa vidéo comme générée par l'IA a également contribué à cette décision.

Gary Marchant, professeur de droit, d'éthique et de technologies émergentes à l'Université d'État de l'Arizona, a déclaré que les avocats auraient pu s'opposer à la présentation au jury d'une vidéo imitant la voix d'une victime.

« Dans la plupart des cas, cela risque d'être trompeur et préjudiciable », a déclaré M. Marchant. « Je pense donc qu'il est dangereux de commencer à utiliser des preuves fictives créées par une IA, même si, dans ce cas précis, je suis plutôt favorable à cette idée. »

La plus haute juridiction de l'Arizona est ouverte à l'intégration de l'IA dans le processus judiciaire, a déclaré Ann Timmer, présidente de la Cour suprême de l'État. La Cour a formé un comité sur l'IA afin d'enquêter sur les risques liés à la fabrication de preuves générées par l'IA par les parties, mais a également commencé à utiliser des avatars générés par l'IA pour expliquer les décisions de justice sur YouTube.

Timmer a refusé de commenter la vidéo de Wales, mais a déclaré que tout problème découlant de l'utilisation de preuves générées par l'IA lors d'une condamnation serait tranché conformément aux directives de l'État relatives aux déclarations des victimes.

« On peut faire des déclarations qui peuvent même être émotionnelles, mais on ne peut pas aller jusqu'à priver quelqu'un d'un procès fondamentalement équitable », a déclaré Timmer.

Wales a déclaré qu'elle ne trouvait pas injuste de donner la parole à son frère devant le tribunal. La vidéo contribuerait à perpétuer sa mémoire et permettrait à sa famille de tourner la page après un long procès pénal, a-t-elle ajouté.

« Bien sûr, l'IA est étrange », a déclaré Wales. « … Mais en ce moment, que Chris puisse parler en son nom, cela en valait vraiment la peine. »