Incidents associés
Le partage d'images explicites d'élèves du secondaire générées par l'IA a déclenché un tollé dans une banlieue aisée de New York et a laissé les adolescents, les parents, l'école et la police se demander comment ils peuvent remédier aux violations étant donné ce que le Wall Street Journal décrit comme un " manque de clarté sur la légalité de ces images. La loi fédérale encore à traiter fausse des images sexuelles de personnes réelles, ce qui ont explosé sur Internet avec la sortie d’outils innovants d’intelligence artificielle. Il suffit d'une seule photo pour créer une image truquée ou « deepfake », selon [Axios](https://www.axios.com/2023/11/03/ai-deepfake-nude-images-new-jersey-high -école). Et plus de 90 % des deepfakes sont pornographiques, selon la société de détection d'images Sensity AI, selon le Journal. Selon le Journal, seule une poignée d'États ont interdit le partage de deepfakes pornographiques ou donné aux victimes le droit de poursuivre les créateurs.
Un ou plusieurs étudiants de sexe masculin de la Westfield High School dans le New Jersey ont modifié des photos existantes de leurs camarades de classe disponibles en ligne en images pornographiques à l'aide d'un outil d'IA, selon le Journal. Les images très réalistes, presque impossibles à différencier des photographies réelles, ont ensuite été partagées avec d'autres garçons de l'école. Dans un e-mail adressé aux parents le 20 octobre, la directrice Mary Asfendis a déclaré qu'elle pensait que les images avaient été supprimées et ne circulaient plus, selon [CBS News](https://www.cbsnews.com/newyork/news/westfield-high- école-ai-images-pornographiques-étudiants/). Un représentant des écoles publiques de Westfield a refusé de dire combien d’élèves étaient impliqués ou si certains d’entre eux ont fait l’objet de mesures disciplinaires, invoquant la confidentialité des élèves. Bien que la police de Westfield enquête, il n'est pas clair si les agents constateront une violation de la loi.
Le sénateur d'État Jon Bramnick, dont le district comprend Westfield, examine les lois de l'État pour voir si certaines criminalisent la création et le partage de deepfakes. Si ce n’est pas le cas, il envisage de rédiger un projet de loi en ce sens. "Cela doit être un crime grave dans le New Jersey", a-t-il déclaré au Journal, soulignant qu'il avait demandé au bureau du procureur du comté d'Union d'enquêter. L'administration Biden a également appelé au blocage des images d'abus sexuels sur enfants générées par l'IA et des « images intimes non consensuelles d'individus réels », selon le Journal. Dorota Mani, dont la photo de la fille a été modifiée, se dit "terrifiée" que les images fassent surface et affectent Francesca, 14 ans, "professionnellement, académiquement ou socialement" à long terme. "Vous n'auriez jamais pensé qu'un de vos camarades de classe vous violerait de la sorte", déclare Francesca. (Lisez plus d'histoires deepfakes.)