Problème 3450

Une mère et sa fille de 14 ans plaident pour une meilleure protection des victimes après AI-generated images nues de l'adolescente et d'autres camarades de classe ont été diffusés dans un lycée du New Jersey.

Pendant ce temps, de l’autre côté du pays, les autorités enquêtent sur un incident impliquant un adolescent qui aurait utilisé l’intelligence artificielle pour créer et diffuser des images similaires d’autres étudiants – également des adolescentes – qui fréquentent un lycée de la banlieue de Seattle, dans l’État de Washington.

Ces cas inquiétants ont mis une fois de plus en lumière des contenus explicites générés par l’IA, qui nuisent massivement aux femmes et aux enfants et qui connaissent un essor en ligne à un rythme sans précédent. Selon une analyse de la chercheuse indépendante Geneviève Oh partagée avec l'Associated Press, plus de 143 000 nouvelles vidéos deepfake ont été mises en ligne cette année, ce qui dépasse tous les records. autre année combinée.

Désespérées de trouver des solutions, les familles concernées poussent les législateurs à mettre en place des garanties robustes pour les victimes dont les images sont manipulées à l'aide de nouveaux modèles d'IA ou de la pléthore d'applications et de sites Web qui font ouvertement la publicité de leurs services. Les défenseurs et certains experts juridiques réclament également une réglementation fédérale qui puisse fournir des protections uniformes dans tout le pays et envoyer un message fort aux auteurs actuels et potentiels.

"Nous nous battons pour nos enfants", a déclaré Dorota Mani, dont la fille était l'une des victimes à Westfield, une banlieue du New Jersey à l'extérieur de New York. "Ils ne sont ni républicains ni démocrates. Ils s'en moquent. Ils veulent juste être aimés et ils veulent être en sécurité."

"Pandémie d'IA"

Le problème des deepfakes n'est pas nouveau, mais les experts affirment qu'il s'aggrave à mesure que la technologie permettant de les produire devient plus disponible et plus facile à utiliser. Cette année, les chercheurs ont tiré la sonnette d’alarme face à l’explosion de matériels d’abus sexuels sur enfants générés par l’IA et utilisant des représentations de victimes réelles ou de personnages virtuels. En juin, le FBI a averti qu'il continuait de recevoir des signalements de victimes, mineures et adultes, dont les photos ou vidéos étaient utilisées pour créer du contenu explicite partagé en ligne.

"Problème d'IA. Je l'appellerais 'pandémie d'IA' à ce stade", [Mani a déclaré à CBS New York](https://www.cbsnews.com/newyork/news/westfield-high-school-ai-pornographic-images -étudiants/) le mois dernier.

Dorota Mani est assise pour un entretien dans son bureau de Jersey City, N.J., le mercredi 8 novembre 2023. Mani est le parent d'un étudiant du New Jersey âgé de 14 ans victime d'une image deepfake générée par l'IA. Peter K. Afriyie / AP

Plusieurs États ont adopté leurs propres lois au fil des années pour tenter de lutter contre le problème, mais leur portée varie. Le Texas, le Minnesota et New York ont adopté cette année une législation criminalisant la pornographie deepfake non consensuelle, rejoignant ainsi la Virginie, la Géorgie et Hawaï qui avaient déjà des lois en vigueur. Certains États, comme la Californie et l'Illinois, ont uniquement donné aux victimes la possibilité de poursuivre les auteurs des dommages devant un tribunal civil, ce que New York et le Minnesota autorisent également.

Quelques autres États envisagent d'adopter leur propre législation, notamment le New Jersey, où un projet de loi est actuellement en préparation pour interdire la pornographie deepfake et imposer des sanctions - soit une peine de prison, une amende ou les deux - à ceux qui la diffusent.

La sénatrice de l'État Kristin Corrado, une républicaine qui a présenté le projet de loi plus tôt cette année, a déclaré qu'elle avait décidé de s'impliquer après avoir lu un article sur des personnes tentant d'échapper aux lois sur la vengeance pornographique en utilisant l'image de leur ancien partenaire pour générer du porno deepfake.

"Nous avions juste le sentiment qu'un incident allait se produire", a déclaré Corrado.

Le projet de loi traîne depuis quelques mois, mais il y a de fortes chances qu'il soit adopté, a-t-elle déclaré, surtout avec l'attention portée à la question à cause de Westfield.

L'événement de Westfield a eu lieu cet été et a été porté à l'attention du lycée le 20 octobre, a déclaré la porte-parole du lycée de Westfield, Mary Ann McGann, dans un communiqué. McGann n'a pas fourni de détails sur la manière dont les images générées par l'IA ont été diffusées, mais Mani, la mère de l'une des filles, a déclaré avoir reçu un appel de l'école l'informant que ses photos de nus avaient été créées en utilisant les visages de certaines étudiantes, puis diffusées. parmi un groupe d’amis sur l’application de réseau social Snapchat.

Les parents ont également reçu un e-mail du directeur, les avertissant des dangers de l'intelligence artificielle et affirmant que les plaintes des étudiants avaient déclenché une enquête, a rapporté CBS New York.

L'école n'a confirmé aucune mesure disciplinaire, invoquant la confidentialité sur les questions impliquant les étudiants. La police de Westfield et le bureau du procureur du comté d'Union, qui ont tous deux été informés, n'ont pas répondu aux demandes de commentaires.

"Images intimes d'individus réels"

Aucun détail n'a été révélé sur l'incident survenu dans l'État de Washington, survenu en octobre et qui fait l'objet d'une enquête de la police. Paula Schwan, chef du département de police d'Issaquah, a déclaré avoir obtenu plusieurs mandats de perquisition et a noté que les informations dont elles disposaient pourraient être « sujettes à changement » à mesure que l'enquête se poursuit. Lorsqu'on l'a contacté pour commenter, le district scolaire d'Issaquah a déclaré qu'il ne pouvait pas discuter des détails en raison de l'enquête, mais a déclaré que toute forme d'intimidation, de harcèlement ou de mauvais traitements entre élèves était « totalement inacceptable ».

Si les autorités décident de poursuivre l'incident du New Jersey, la loi actuelle de l'État interdisant l'exploitation sexuelle des mineurs pourrait déjà s'appliquer, a déclaré Mary Anne Franks, professeur de droit à l'Université George Washington et responsable de la Cyber Civil Rights Initiative, une organisation visant à lutter contre les abus en ligne. . Mais ces protections ne s'étendent pas aux adultes qui pourraient se retrouver dans un scénario similaire, a-t-elle déclaré.

La meilleure solution, a déclaré Franks, viendrait d'une loi fédérale qui puisse fournir des protections cohérentes à l'échelle nationale et pénaliser les organisations douteuses qui profitent de produits et d'applications qui permettent facilement à quiconque de créer des deepfakes. Elle a ajouté que cela pourrait également envoyer un signal fort aux mineurs qui pourraient créer impulsivement des images d’autres enfants.

Le président Joe Biden a signé un décret en octobre qui, entre autres choses, appelait à interdire l'utilisation de l'IA générative pour produire du matériel d'abus sexuel sur des enfants ou des « images intimes d'individus réels » non consensuelles. L'ordonnance ordonne également au gouvernement fédéral de publier des directives pour étiqueter et filigraner le contenu généré par l'IA afin de faciliter la distinction entre le contenu authentique et le contenu créé par un logiciel.

Citant l'incident de Westfield, le représentant américain Tom Kean, Jr., un républicain qui représente la ville, a présenté lundi un projet de loi qui obligerait les développeurs à divulguer le contenu généré par l'IA. Entre autres efforts, un autre projet de loi fédéral présenté par le représentant américain Joe Morelle, un démocrate de New York, rendrait illégal le partage en ligne de fausses images pornographiques. Mais cela n’a pas progressé depuis des mois en raison de l’impasse au Congrès.

Certains plaident en faveur de la prudence - notamment l'American Civil Liberties Union, l'Electronic Frontier Foundation et The Media Coalition, une organisation qui travaille pour des groupes professionnels représentant des éditeurs, des studios de cinéma et autres - affirmant qu'un examen attentif est nécessaire pour éviter les propositions qui pourraient aller à l'encontre des le premier amendement.

"Certaines préoccupations concernant les deepfakes abusifs peuvent être résolues dans le cadre des lois existantes sur le cyber-harcèlement", a déclaré Joe Johnson, avocat de l'ACLU du New Jersey. "Qu'il soit fédéral ou étatique, il doit y avoir une conversation substantielle et la contribution des parties prenantes pour garantir que tout projet de loi n'est pas trop large et résout le problème signalé."

Mani a déclaré que sa fille avait créé un site Web et créé une organisation caritative visant à aider les victimes de l'IA. Les deux hommes sont également en pourparlers avec les législateurs de l'État qui défendent le projet de loi du New Jersey et prévoient un voyage à Washington pour plaider en faveur de davantage de protections.

"Tous les enfants, garçons ou filles, ne bénéficieront pas du système de soutien nécessaire pour faire face à ce problème", a déclaré Mani. "Et ils pourraient ne pas voir la lumière au bout du tunnel."

Le directeur de l'école, le Dr Raymond González, a publié la déclaration suivante à CBS New York :

"Tous les districts scolaires sont aux prises avec les défis et l'impact de l'intelligence artificielle et des autres technologies disponibles pour les élèves à tout moment et en tout lieu. Le district scolaire public de Westfield a mis en place des mesures de protection pour empêcher que cela ne se produise sur notre réseau et sur les appareils fournis par l'école. Nous continuer à renforcer nos efforts en éduquant nos élèves et en établissant des lignes directrices claires pour garantir que ces nouvelles technologies sont utilisées de manière responsable dans nos écoles et au-delà.

Le district dit également qu'il ne peut pas commenter le nombre d'élèves concernés ni les éventuelles mesures disciplinaires.