Problème 4573

WESTFIELD, NJ --- Les institutions gouvernementales, y compris la police, n'ont pas réussi à protéger les filles du lycée de Westfield contre les «violations et l'exploitation» par l'utilisation de l'intelligence artificielle (IA) pour créer de fausses photos de nu, affirme une plainte déposée par une victime.

La plainte, déposée plus tôt ce mois-ci devant un tribunal fédéral, concerne la création et le partage par un garçon du lycée de Westfield d'images, créées avec l'IA, qui montrent à quoi pourrait ressembler une camarade de classe nue.

Le plaignant et le défendeur sont tous deux gardés anonymes dans le procès en raison de leur âge ; la plainte fait référence au plaignant comme Jane Doe et au défendeur comme K.G.

Bien que la plainte demande une compensation monétaire au garçon et à ses parents, elle met un point d'honneur à critiquer la gestion de l'affaire par le département de police de Westfield.

FrançaisElle affirme que la police a dit le 24 janvier à la victime et à ses parents « que les accusations ne pouvaient pas être retenues à ce moment-là parce que les faits recueillis par l'école de Jane Doe ne pouvaient pas être utilisés pour étayer l'enquête et parce que le défendeur et d'autres témoins potentiels n'ont pas coopéré, parlé ou donné accès à leurs appareils électroniques aux forces de l'ordre. »

Cet aspect de la situation a été discuté il y a trois mois par la maire de Westfield Shelley Brindle et le chef de la police de Westfield Christopher Battiloro.  Bien que les responsables de l'école aient mené une enquête sur l'affaire, Brindle et Battiloro ont déclaré que les entretiens des élèves par les administrateurs de l'école sans la présence d'un parent ou d'un avocat ne sont pas admissibles devant un tribunal.

« Afin de mener à bien toute enquête criminelle, nous devons toujours avoir la coopération et la participation des personnes impliquées - des victimes aux témoins », a déclaré Battiloro. « Les déclarations des victimes et des témoins sont souvent requises et essentielles pour l'approbation d'une plainte pénale », car elles établissent une cause probable pour des accusations criminelles.

Le procès critique cette approche.

« Par conséquent, en plus de ne pas avoir porté d'accusations, les forces de l'ordre n'ont jamais déterminé l'étendue de la diffusion des photos de nus, n'ont jamais veillé à ce qu'aucune autre diffusion ne se produise et n'ont jamais veillé à ce que les photos de nus aient été supprimées et ne soient plus accessibles », affirme-t-il.

Battiloro et le sergent de police de Westfield, Michael Walsh, responsable de l'information publique du département, n'ont pas pu être contactés pour commenter.

La plainte a été déposée par les avocats de Floride Shane Vogt et David Hayes ainsi que par les avocats de Clark Jon-Henry Barr et John Gulyas. Gulyas a déclaré que tous les commentaires viendraient de Vogt, qui n'a pas répondu aux demandes d'interview.

La plaignante, âgée de 15 ans au moment de l'incident, a permis à K.G. de devenir son « amie » sur Instagram, indique la plainte. Le garçon aurait ensuite pris des captures d'écran ou téléchargé des photos de la fille et d'autres personnes et utilisé un logiciel d'intelligence artificielle --- peut-être appelé ClothesOff --- pour modifier les images en retirant artificiellement les vêtements des filles.

Le garçon aurait ensuite diffusé les photos via Snapchat, indique la plainte, affirmant que cette action équivalait à la distribution de pornographie juvénile et à la violation d'une série de lois fédérales et étatiques.

"Jane Doe et ses parents n'ont appris l'existence des photos nues que le 20 octobre 2023, lorsque les parents de Jane Doe ont reçu un e-mail de son école et que la mère de Jane Doe a reçu un appel téléphonique du directeur adjoint de l'école", indique la plainte.

Il allègue que, le même jour, le père du défendeur a appelé la mère de Jane Doe pour discuter des actions de son fils.

« Jane Doe et ses parents ont immédiatement coopéré à une enquête lancée par le département de police de Westfield, pensant que certaines mesures seraient prises pour tenir le défendeur responsable de sa conduite, s'assurer que les photos nues avaient été supprimées, déterminer l'étendue de leur diffusion et essayer de s'assurer qu'aucune autre diffusion n'ait lieu », indique la plainte.

Malgré ces critiques, la plainte n'inclut aucun fonctionnaire ou entité publique comme défendeur.

L'une des victimes connues de la manipulation de photos par l'IA était Frencesca Mani, une élève du lycée de Westfield. Elle et sa mère, Dorota Mani, ont rendu publiques leur plainte concernant l'incident l'année dernière.

La mère et la fille se battent énergiquement pour que de nouvelles lois, tant au niveau de l'État qu'au niveau fédéral, traitent de ce problème. Mais Dorota Mani a déclaré que sa fille n'était pas la plaignante dans le procès. Elle a déclaré qu'elle ne pensait pas que le procès soit la meilleure voie pour trouver une solution.

"La voie judiciaire (action en justice) n'a jamais vraiment été mon truc", a-t-elle déclaré. Cependant, Dorota Mani a déclaré qu'il devrait y avoir une certaine forme d'implication du système de justice pénale.

"Ce sont des adolescents", a-t-elle déclaré. "Ils feront des erreurs... Cela se produit et se produira à l'avenir parce que l'IA est si facile à manipuler et c'est beaucoup plus excitant que n'importe quel jeu vidéo auquel ils jouent. Je pense que les garçons devraient être tenus responsables, mais le degré de responsabilité dépend des procureurs et de la police".

Pour voir le procès, cliquez ici.