Problème 3276

Un téléphone, quelques photos et l'intelligence artificielle ont suscité la controverse et brisé la vie privée de plusieurs adolescents d'un lycée du New Jersey après avoir appris que des images nues d'eux - créées via l'IA - ont circulé dans des discussions de groupe.

Pourquoi c'est important : L'incident est un exemple poignant des menaces qui accompagnent l'accès non réglementé à l'intelligence artificielle, expanding l'accès à l'intelligence artificielle, ont déclaré des experts. Axios.

Faire l'actualité : Certaines adolescentes du lycée Westfield dans le New Jersey ont appris le mois dernier que de fausses images nues d'elles avaient été partagées entre d'autres étudiants, [le Wall Street Journal a rapporté](https://www.wsj.com/tech/fake -des-nus-de-vrais-étudiants-provoquent-un-tumulte-dans-un-lycée-du-new-jersey-df10f1bb?mod=wknd_pos1).

• Des inquiétudes ont été soulevées auprès des administrateurs le 20 octobre, mais les photos ont été partagées au cours de l'été, selon un e-mail envoyé aux parents par la directrice de Westfield High, Mary Asfendis.
• L'enquête et la réponse ont impliqué le service de police de Westfield, en plus du responsable des ressources, du service de conseil et de l'administration de l'école.

Zoom arrière : Westfield n'est qu'un exemple d'un problème auquel tous les districts scolaires sont aux prises, car l'omniprésence de la technologie - y compris l'intelligence artificielle - a un impact sur la vie des élèves, a déclaré le surintendant du district, Raymond González, dans un communiqué.

• De janvier à septembre de cette année, 54 % de vidéos pornographiques deepfakes en plus ont été mises en ligne sur des hébergeurs de sites Web par rapport à toute l'année 2022, [Wired a rapporté](https://www.wired.com/story/deepfake-porn-is-out -of-control/#:~:text=%E2%80%9CIl%20a%20été%20une croissance%20significative,l'Université%2C%20Australie%2C%20qui%20se concentre%20sur).
• Plus tôt cette année, des étudiants de l'État de New York ont utilisé l'IA pour générer une vidéo d'un directeur d'école intermédiaire faisant un discours raciste, [le Washington Post a rapporté](https://www.washingtonpost.com/nation/2023/03/14 /raciste-deepfakes-carmel-tiktok/).

Contexte : La création de deepfakes nécessitait auparavant des centaines de milliers d'images d'une personne, a déclaré Hany Farid, professeur à l'Université de Californie à Berkeley, qui a fait des recherches en criminalistique numérique et en analyse d'images.

• Une seule photo suffit désormais pour créer un deepfake, a déclaré Farid, et les outils permettant de créer ce type d'images sont également devenus plus largement accessibles.
• Certains d'entre eux sont utilisables sans même saisir les informations personnelles de l'utilisateur, comme un numéro de téléphone, a-t-il déclaré.
• "Ce qui est frustrant, c'est que les personnes qui développent ces technologies savent ou auraient dû savoir qu'elles seront utilisées de cette manière et n'en font pas assez pour empêcher les abus", a-t-il déclaré.
• Toute personne possédant une photo singulière d'elle-même sur Internet est susceptible d'être créée par un deepfake, a déclaré Farid.

État des lieux : Les images Deepfake ont nui à la réputation des gens et ont été utilisées à des fins d'extorsion, et les experts ont mis en garde sur les risques depuis des années.

• "Cela va encore empirer parce que les images deviennent plus réalistes", a déclaré Farid.

Et ensuite : une technologie qui détermine si une image est générée par l'IA est déjà existe, a déclaré Edward Delp, professeur de philosophie à l'Université Purdue. génie électrique et informatique.

• Une étape future consistera à ajouter des fonctionnalités capables de détecter les deepfakes sur les plateformes de médias sociaux et les sites Web largement utilisés afin d'empêcher leur téléchargement.
• "Ce qui est triste, c'est qu'une fois que cela sera rendu public, il y aura beaucoup de gens qui croiront que c'est réel", a déclaré Delp.

Oui, mais : lorsque de tels programmes ont été utilisés dans le passé, cependant, le matériel non sexuel tel que les guides sur l'allaitement maternel a été filtré, a-t-il déclaré.

À noter : les transgressions impliquant des deepfakes sont difficiles à poursuivre, malgré [passé](https://www.nysenate.gov/newsroom/press-releases/2023/michelle-hinchey/hinchey-bill-ban-non-consensual-deepfake- images#:~:text=KINGSTON%2C%20NY%20%E2%80%93%20Senator%20Michelle%20Hinchey,a%20person%20without%20their%20consent.) et [proposé](https://www.axios .com/2019/01/31/deepfake-laws) législation qui cible le partage d'images et de vidéos explicites truquées.

• À Westfield, les familles de quatre sujets ayant fait l'objet de deepfakes ont déposé des rapports de police, et un sénateur du New Jersey a demandé aux procureurs du comté d'enquêter sur l'incident du lycée, selon le WSJ.