Incident 799: Un lycéen d'Aledo aurait généré et distribué des photos de nus deepfake de sept camarades de classe.
Description: En octobre 2023, un élève anonyme du lycée Aledo, près de Fort Worth, au Texas, aurait généré et diffusé sur les réseaux sociaux des photos deepfakes de nu de son camarade Elliston Berry et de six autres élèves de son groupe d'amis. La mère de Berry, Anna McAdams, s'est entretenue avec les sénateurs Ted Cruz et Amy Klobuchar, qui ont ensuite rédigé la loi « Outils pour lutter contre l'exploitation connue en immobilisant les deepfakes technologiques sur les sites web et les réseaux » (ou « TAKE IT DOWN »).
Editor Notes: Note on the timeline: 10/15/2023 is an approximate date for the incident. According to reports, it occurred sometime in October 2023. Reporting on the incident did not emerge until mid-June 2024. Refer to Incident 597 for another case with similar timing and a shared focus on advancing advocacy against the misuse of deepfake technology for nonconsensual abuse.
Outils
Nouveau rapportNouvelle RéponseDécouvrirVoir l'historique
Le Moniteur des incidents et risques liés à l'IA de l'OCDE (AIM) collecte et classe automatiquement les incidents et risques liés à l'IA en temps réel à partir de sources d'information réputées dans le monde entier.
Entités
Voir toutes les entitésAlleged: Unknown deepfake technology developer developed an AI system deployed by Unnamed male student, which harmed Elliston Berry et Aledo High School students.
Système d'IA présumé impliqué: Unknown deepfake app
Statistiques d'incidents
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
4.3. Fraud, scams, and targeted manipulation
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- Malicious Actors & Misuse
Entity
Which, if any, entity is presented as the main cause of the risk
Human
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Intentional