Problème 3300

Le scandale de l'IA dans les lycées déclenche une enquête policière et des appels à une réforme juridique

POINTS SAILLANTS

• De faux nus générés par l'IA dans un lycée du New Jersey déclenchent une enquête policière et des poursuites judiciaires.

• Les étudiants et les professeurs de Westfield High plaident pour une utilisation responsable de l'IA à la suite d'un incident d'utilisation abusive inquiétant.

• Les législateurs du New Jersey envisagent une nouvelle législation pour criminaliser les abus d'IA à la suite du scandale des lycées.

Un scénario troublant s'est déroulé à la Westfield High School dans le New Jersey, rapporté par le [Wall Street Journal](https://www.wsj.com/tech/fake-nudes-of-real-students-cause-an-uproar-at -a-new-jersey-high-school-df10f1bb), car la technologie de l'IA a été détournée par des adolescents pour créer et distribuer de fausses images nues de leurs camarades de classe. Cette utilisation répréhensible de l’IA a donné lieu à une enquête policière, à une école en détresse et à un débat plus large sur la nécessité de cadres juridiques pour lutter contre de tels abus numériques.

L'incident qui a secoué Westfield High

Actualités connexes

Dans la paisible ville du New Jersey, des lycéens se sont retrouvés au centre d'une sinistre utilisation abusive de la technologie. Les garçons avaient exploité des générateurs d’images d’IA avancés, des outils conçus pour la créativité, pour créer et faire circuler de faux nus non consensuels de leurs camarades étudiantes. L’incident, qui n’a pas été détecté pendant des jours, a suscité de profondes inquiétudes quant à l’utilisation abusive de l’IA et au manque de mesures de dissuasion ou de protection juridique adéquates contre de tels actes.

Lacunes juridiques et quête de justice

Le paysage juridique s’efforce de rattraper le rythme de la technologie. En l’absence de loi fédérale interdisant explicitement la création de fausses images sexualisées, le chemin vers la justice pour les victimes reste trouble. Cependant, des États comme la Virginie et la Californie ont adopté des [lois](https://www.whitehouse.gov/briefing-room/presidential-actions/2023/10/30/executive-order-on-the-safe-secure-and -développement-et-utilisation-dignes de confiance-de-l'intelligence-artificielle/) contre de telles pratiques, et le New Jersey pourrait emboîter le pas, stimulé par les récents événements de Westfield High.

La réaction : application de la loi et éducation

• Le défi des forces de l'ordre : La police enquête actuellement sans accès aux images, ce qui complique sa capacité à retracer les origines.
• Réponse de l'école : Les communications de la directrice Mary Asfendis mettent en évidence les actions de l'école, depuis la suppression des images jusqu'à l'éducation du corps étudiant sur les conséquences d'une telle utilisation abusive de la technologie.
• Action législative : l'engagement du sénateur de l'État du New Jersey, Jon Bramnick, à rédiger de nouvelles lois, si nécessaire, pour criminaliser la création et le partage de faux nus générés par l'IA.

Implications pour les étudiants

L’impact psychologique sur les étudiantes ciblées est profond. Avec des sentiments d'inconfort et des craintes de répercussions à long terme, l'incident a modifié la façon dont ils perçoivent la sécurité et l'intimité dans les espaces éducatifs. Cela a également modifié leur approche des médias sociaux et de leur présence en ligne.

Vue d'ensemble : le dilemme éthique de l'IA

Le cas de Westfield High n’est pas isolé. Les générateurs d'images IA sont de plus en plus sophistiqués et, même si des entreprises comme OpenAI et Adobe mettent en œuvre des paramètres de modération, leur application reste un défi de taille. Les experts affirment qu’il est difficile, voire impossible, d’imposer des filtres plus puissants.

L'appel à une utilisation responsable de l'IA

L'incident a déclenché un mouvement parmi les étudiants et les professeurs de Westfield High pour plaider en faveur d'une utilisation responsable des technologies de l'IA. L'engagement du directeur Asfendis à sensibiliser l'opinion publique marque le début de ce qui pourrait être un effort éducatif généralisé pour prévenir de tels abus de la technologie.