Incidente 1351: Investigan supuesto uso de inteligencia artificial para crear imágenes deepfake sexualizadas de estudiantes de secundaria en el condado de Bucks, Pensilvania.
Descripción: Las autoridades del condado de Bucks, Pensilvania, informaron que un estudiante de secundaria presuntamente utilizó herramientas de inteligencia artificial para crear imágenes deepfake sexualizadas de sus compañeros. El incidente, que supuestamente ocurrió en marzo de 2025, involucró imágenes generadas sin consentimiento y está siendo investigado por la policía local y la fiscalía. La presunta conducta podría estar amparada por una nueva ley de Pensilvania que aborda las imágenes sexuales no consentidas generadas por inteligencia artificial, en particular las que involucran a menores.
Editor Notes: The incident date of 03/15/2025 is approximate. It reportedly occurred sometime in March 2025.
Entidades
Ver todas las entidadesAlleged: Image generator developers y Deepfake technology developers developed an AI system deployed by Unnamed middle school student in Pennsylvania y Students, which harmed Students , Unnamed middle school students in Pennsylvania , Minors , Epistemic integrity , Middle school students y Educational communities.
Sistemas de IA presuntamente implicados: Image generation technology y Deepfake technology
Estadísticas de incidentes
ID
1351
Cantidad de informes
1
Fecha del Incidente
2025-03-15
Editores
Daniel Atherton
Applied Taxonomies
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
4.3. Fraud, scams, and targeted manipulation
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- Malicious Actors & Misuse
Entity
Which, if any, entity is presented as the main cause of the risk
Human
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Intentional
Informes del Incidente
Cronología de Informes
Loading...
La policía del municipio de Newtown y la Fiscalía del Condado de Bucks investigan las acusaciones de que un estudiante de secundaria utilizó tecnología de inteligencia artificial para crear imágenes pornográficas de sus compañeros.
El incid…
Variantes
Una "Variante" es un incidente de IA similar a un caso conocido—tiene los mismos causantes, daños y sistema de IA. En lugar de enumerarlo por separado, lo agrupamos bajo el primer incidente informado. A diferencia de otros incidentes, las variantes no necesitan haber sido informadas fuera de la AIID. Obtenga más información del trabajo de investigación.
¿Has visto algo similar?
Incidentes Similares
Did our AI mess up? Flag the unrelated incidents
Loading...

Uber AV Killed Pedestrian in Arizona
· 25 informes
Incidentes Similares
Did our AI mess up? Flag the unrelated incidents
Loading...

Uber AV Killed Pedestrian in Arizona
· 25 informes
