Incidents associés
(NewsNation) — Une [polémique sur les photos nues](https://www.newsnationnow.com/us-news/ap-us-news/ap-ai-generated -des-images-d'abus-sexuels-d'enfants-pourraient-inonder-Internet-un-chien-de-garde-appelle-à-l'action/) a une communauté du New Jersey exigeant des réponses.
Des lycéens disent avoir été stupéfaits d'apprendre que des photos inappropriées d'eux circulaient parmi leurs camarades de classe – et que ces images étaient complètement fausses.
"Il s'agit de cyberintimidation et d'intimidation à un niveau supérieur", a déclaré Marva Bailer, conseillère en IA et stratège commerciale.
Un groupe de garçons de la Westfield High School dans le New Jersey a été accusé d'avoir utilisé [l'intelligence artificielle](https://www.newsnationnow.com/on- balance-with-leland-vittert/texas-private-school-swaps-teachers-ai/) (AI) pour [générer des images pornographiques](https://www.newsnationnow.com/us-news/midwest/indiana-ai -child-porn-statute/) d'élèves de l'école, puis de les partager dans des discussions de groupe. La police enquête actuellement, mais les experts affirment que ce type de problème ne fait que devenir de plus en plus répandu.
"Ces garçons pensent qu'ils s'amusent et réalisent ces créations, et ce n'est pas de la vraie photographie, mais c'est une image et une ressemblance réelles de ces filles, et cela les met dans un scénario et une situation qui leur causent du mal et probablement de la détresse mentale. ", a déclaré Bailer.
La fille de Dorota Mani était l’une des étudiantes ciblées par les faux nus. Elle a déclaré à NewsNation qu'elle était déçue par la façon dont l'école avait géré la situation.
« Je suis très déçu en tant que parent de Westfield High School. Je pense que la façon dont cela a été géré est tout simplement inacceptable à plusieurs niveaux. Personne n'a été suspendu", a-t-elle déclaré.
Un porte-parole de l'école a déclaré à NewsNation que l'école ne pouvait pas fournir de détails spécifiques sur l'enquête ou les résultats. L’incident se serait produit au cours de l’été, mais n’a été porté à l’attention de l’école qu’en octobre.
"Le service de conseil du WHS a rencontré individuellement les étudiants en quête de soutien et le service d'administration et de conseil du WHS a rencontré l'ensemble du niveau scolaire en petits groupes pour discuter de l'incident, fournir un soutien et détailler les politiques du district liées à l'utilisation inappropriée de la technologie", indique le communiqué.
Mani a déclaré que sa fille se sentait trahie par l'école et par la manière dont l'incident avait été géré. Elle a déclaré que sa fille se sentait mal à l'aise à l'école après la diffusion des faux nus, mais l'école a dit à Mani qu'il n'y avait plus rien à faire.
Le directeur des écoles publiques de Westfield a publié une déclaration aux médias locaux :
« Tous les districts scolaires sont aux prises avec les défis et l'impact de l'intelligence artificielle et des autres technologies disponibles pour les élèves à tout moment et en tout lieu. Nous continuons de renforcer nos efforts en éduquant nos élèves et en établissant des lignes directrices claires pour garantir que ces nouvelles technologies sont utilisées de manière responsable dans nos écoles et au-delà.
Bailer a déclaré qu’elle n’était pas surprise que les gens profitent de la technologie de l’IA pour nuire aux autres alors qu’ils pensent que c’est une blague.
"Ce n'est pas une blague", a-t-elle déclaré.
Selon Sensity AI, qui propose des services de détection des deepfakes, 90 % de tous les deepfakes sur Internet sont de la pornographie. Les experts affirment que la pédopornographie en particulier constitue un problème croissant, car les outils d'IA en ligne sont de plus en plus disponibles gratuitement avec à peine plus qu'une recherche sur Google.
« Aujourd’hui, à l’ère numérique dans laquelle nous vivons, l’information circule si rapidement et le facteur de confiance est le facteur de confiance parce que vous la regardez si rapidement. Vous faites confiance à tout. Une fois que c’est là, c’est là, et il va donc être très, très difficile pour les forces de l’ordre de trouver les mauvais acteurs », a déclaré Bailer.
Plus tôt cette semaine, le président Joe Biden a signé un décret sur l'intelligence artificielle. Il a déclaré : « Pour réaliser les promesses de l’IA et éviter les risques, nous devons gouverner cette technologie. »