Incidents associés
PHILADELPHIE (WPVI) – Les tribunaux sont confrontés à une menace croissante : les deepfakes générés par l’IA.
Melissa Sims affirme que son ex-petit ami a créé de faux SMS générés par IA qui l’ont conduite en prison.
« C’était horrible », a-t-elle déclaré.
Melissa Sims raconte avoir passé deux jours infernaux dans une prison de Floride.
« C’était comme dans la série “Orange is the New Black” », a-t-elle expliqué. « J’ai été placée en détention ordinaire. »
Son histoire a fait la une des journaux en Floride.
Melissa Sims et son petit ami avaient récemment déménagé de Delaware County, en Pennsylvanie.
Elle explique que son cauchemar a commencé en novembre 2024, après une dispute avec son petit ami qui aurait saccagé son domicile.
« L’instant d’après, je le vois se gifler », a-t-elle raconté.
Elle ajoute qu’il se serait également griffé. À leur arrivée, les policiers l'ont arrêtée pour coups et blessures.
Dans le cadre de sa mise en liberté sous caution, le juge a ordonné à Mme Sims de ne pas approcher son petit ami et de ne plus lui parler.
Quelques mois plus tard, elle a déclaré que son petit ami avait créé un message généré par une intelligence artificielle l'insultant et tenant des propos dénigrants.
« J'ai fini par être arrêtée pour violation de ma mise en liberté sous caution », a-t-elle déclaré. « Personne n'a vérifié les preuves. »
Le juge Herbert Dixon affirme que le calvaire de Mme Sims est de plus en plus fréquent.
« Il y a quelques années, cela a commencé avec de faux enregistrements audio », a-t-il déclaré. « Et maintenant, on en est arrivé à la production de fausses vidéos et de fausses images. »
Le juge Dixon est un juge principal de la Cour supérieure du district de Columbia. Il siège également au Conseil de la justice pénale aux côtés de l'ancien commissaire de police de Philadelphie, Charles Ramsey. Ce conseil a pour mission de promouvoir les politiques du système de justice pénale.
« L'un de nos objectifs est d'élaborer un cadre pour une utilisation responsable de l'intelligence artificielle », a-t-il déclaré.
Il estime que les procureurs et la police doivent faire preuve de plus de diligence raisonnable à l'ère de l'IA avant d'engager des poursuites.
Rob D'Ovidio, professeur à l'Université Drexel, enseigne l'analyse forensique par IA.
« C'est inquiétant, mais nous ne pourrons plus nous fier à ce que nous voyons », a-t-il déclaré.
Il a expliqué que les vidéos, les textes et autres preuves générés par l'IA peuvent être difficiles à repérer. L'IA devient tout simplement trop performante.
« Le problème, c'est que les outils de détection ne suivent pas le rythme de ces capacités », a-t-il ajouté.
À titre d'exemple, il a créé une photo générée par IA pour nous la montrer. Il l'a ensuite analysée avec trois logiciels de détection d'IA réputés. Les trois logiciels ont donné des résultats différents, avec des probabilités allant de 1 % à 62 % que la photo soit synthétique ou générée par IA.
« Aujourd'hui, on a tendance à faire confiance jusqu'à preuve du contraire, n'est-ce pas ? Je pense qu'il faut inverser la tendance et se méfier jusqu'à vérification », a-t-il conclu.
Quant à Sims, son histoire se termine bien.
Après huit mois de bataille juridique menée par son avocat, le procureur a abandonné les charges de violation de sa mise en liberté sous caution. Le mois dernier, elle a comparu pour coups et blessures et a été acquittée.
Mme Sims a partagé son histoire et son combat pour une nouvelle loi établissant des normes et des sanctions concernant les preuves générées par l'IA.
« Si cela peut m'arriver, cela peut arriver à n'importe qui », a-t-elle ajouté.
En juillet, le gouverneur de Pennsylvanie, Josh Shapiro, a promulgué une nouvelle loi sur la falsification numérique qui érige en crime la création de deepfakes par IA ayant pour but de nuire, d'exploiter ou d'escroquer dans l'État.
La chaîne WPVI-TV a tenté de joindre l'ex-petit ami de Mme Sims, mais n'a pas encore reçu de réponse.