Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Incident 610: Deepfake Technology Was Used to Generate Naked Pictures of Underage Girls in Spanish Town

Description: In Spain, an AI app was used to digitally alter photos of young girls, making them appear naked. This manipulation sparked an investigation after these images were circulated in Almendralejo, a town in the Extremadura region, raising serious concerns about digital privacy violations and the potential spread of these images on pornographic sites.

Outils

Nouveau rapportNouveau rapportNouvelle RéponseNouvelle RéponseDécouvrirDécouvrirVoir l'historiqueVoir l'historique

Entités

Voir toutes les entités
Alleged: unknown developed an AI system deployed by Unnamed perpetrators in Almendralejo, which harmed Unnamed victims in Almendralejo.

Statistiques d'incidents

ID
610
Nombre de rapports
11
Date de l'incident
2023-09-17
Editeurs
Daniel Atherton
Applied Taxonomies
MIT

Classifications de taxonomie MIT

Machine-Classified
Détails de la taxonomie

Risk Subdomain

A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
 

4.3. Fraud, scams, and targeted manipulation

Risk Domain

The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
 
  1. Malicious Actors & Misuse

Entity

Which, if any, entity is presented as the main cause of the risk
 

Human

Timing

The stage in the AI lifecycle at which the risk is presented as occurring
 

Post-deployment

Intent

Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
 

Intentional

Rapports d'incidents

Chronologie du rapport

+7
Tollé en Espagne alors que l'intelligence artificielle est utilisée pour créer de fausses images nues de filles mineures
Des applications mobiles alimentent les nus de jeunes filles générés par l'IA : la police espagnoleEspagne : des filles mineures sont victimes de deepfake porn et les nus générés par l'IA choquent la nationQuand les deepfakes de l’IA sont utilisés pour déshabiller les adolescentsDes enfants de 12 ans ciblés par des photos de nus deepfake
Tollé en Espagne alors que l'intelligence artificielle est utilisée pour créer de fausses images nues de filles mineures

Tollé en Espagne alors que l'intelligence artificielle est utilisée pour créer de fausses images nues de filles mineures

cnn.com

Les parents sont furieux après que des filles nues truquées circulent dans les écoles

Les parents sont furieux après que des filles nues truquées circulent dans les écoles

futurism.com

Des images d'enfants nus générées par l'IA choquent la ville espagnole d'Almendralejo

Des images d'enfants nus générées par l'IA choquent la ville espagnole d'Almendralejo

bbc.com

Une ville espagnole choquée par les nus d'adolescentes IA : mais est-ce un crime ?

Une ville espagnole choquée par les nus d'adolescentes IA : mais est-ce un crime ?

euronews.com

Les Deepfakes de jeunes filles laissent les habitants d'Almendralejo en Espagne sous le choc

Les Deepfakes de jeunes filles laissent les habitants d'Almendralejo en Espagne sous le choc

timesnownews.com

Le scandale Deepfake généré par l'IA secoue une ville espagnole alors que de jeunes filles sont victimes

Le scandale Deepfake généré par l'IA secoue une ville espagnole alors que de jeunes filles sont victimes

analyticsdrift.com

L'Espagne sous le choc alors que des écoliers créent de faux nus à l'aide de modèles génératifs

L'Espagne sous le choc alors que des écoliers créent de faux nus à l'aide de modèles génératifs

algorithmwatch.org

Des applications mobiles alimentent les nus de jeunes filles générés par l'IA : la police espagnole

Des applications mobiles alimentent les nus de jeunes filles générés par l'IA : la police espagnole

abcnews.go.com

Espagne : des filles mineures sont victimes de deepfake porn et les nus générés par l'IA choquent la nation

Espagne : des filles mineures sont victimes de deepfake porn et les nus générés par l'IA choquent la nation

wionews.com

Quand les deepfakes de l’IA sont utilisés pour déshabiller les adolescents

Quand les deepfakes de l’IA sont utilisés pour déshabiller les adolescents

euronews.com

Des enfants de 12 ans ciblés par des photos de nus deepfake

Des enfants de 12 ans ciblés par des photos de nus deepfake

timesofmalta.com

Tollé en Espagne alors que l'intelligence artificielle est utilisée pour créer de fausses images nues de filles mineures
cnn.com · 2023
Traduit par IA

La police espagnole a ouvert une enquête après que des images de jeunes filles, modifiées par l'intelligence artificielle pour retirer leurs vêtements, ont été envoyées dans une ville du sud du pays.

Un groupe de mères d'Almendralejo, dans …

Les parents sont furieux après que des filles nues truquées circulent dans les écoles
futurism.com · 2023
Traduit par IA

"J'ai vu une photo de toi nue."

Ce sont les mots effrayants qu'un garçon a prononcés à une fille de 14 ans après son arrivée le premier jour d'école de cette année en Espagne, selon le journal espagnol [El Pais rapporte](https://english.elp…

Des images d'enfants nus générées par l'IA choquent la ville espagnole d'Almendralejo
bbc.com · 2023
Traduit par IA

Une ville endormie du sud de l'Espagne est sous le choc après avoir appris que des images nues de jeunes filles locales, générées par l'IA, circulaient sur les réseaux sociaux à leur insu.

Les images ont été créées à partir de photos des fi…

Une ville espagnole choquée par les nus d'adolescentes IA : mais est-ce un crime ?
euronews.com · 2023
Traduit par IA

Plus de 20 filles en Espagne ont déclaré avoir reçu des images nues d’elles-mêmes générées par l’IA. Mais les deepfakes peuvent-ils être légalement punis ?

À leur retour à l'école après les vacances d'été, plus de vingt filles d'Almendralej…

Les Deepfakes de jeunes filles laissent les habitants d'Almendralejo en Espagne sous le choc
timesnownews.com · 2023
Traduit par IA

Barcelone : Une ville silencieuse de la province espagnole de Badajoz est devenue un sujet de discussion après que l'indignation se soit répandue face aux images transformées de filles mineures vivant là-bas qui ont fait surface sur Interne…

Le scandale Deepfake généré par l'IA secoue une ville espagnole alors que de jeunes filles sont victimes
analyticsdrift.com · 2023
Traduit par IA

Une petite ville du sud de l’Espagne a été secouée par un scandale impliquant la diffusion d’images de jeunes filles générées par l’IA dans plusieurs écoles locales. Ces images deepfake, provenant principalement des profils de réseaux socia…

L'Espagne sous le choc alors que des écoliers créent de faux nus à l'aide de modèles génératifs
algorithmwatch.org · 2023
Traduit par IA

Depuis leur création en 2017, les modèles génératifs ont été utilisés pour déshabiller artificiellement les femmes sur des photos et créer des vidéos pornographiques réalistes. Le problème est identifié depuis aussi longtemps. Mais au lieu …

Des applications mobiles alimentent les nus de jeunes filles générés par l'IA : la police espagnole
abcnews.go.com · 2023
Traduit par IA

Une ville d'Espagne a fait la une des journaux internationaux après qu'un certain nombre de jeunes écolières ont déclaré avoir reçu des images fabriquées d'elles-mêmes nues, créées à l'aide d'une « application de déshabillage » facilement a…

Espagne : des filles mineures sont victimes de deepfake porn et les nus générés par l'IA choquent la nation
wionews.com · 2023
Traduit par IA

En Espagne, les autorités enquêtent actuellement sur une affaire pénible qui a provoqué une onde de choc dans tout le pays. Plusieurs filles mineures ont été victimes d'un scandale de fausses images de nu.

Ces images créées à l'aide d'un ou…

Quand les deepfakes de l’IA sont utilisés pour déshabiller les adolescents
euronews.com · 2023
Traduit par IA

Almendralejo, dans le sud de l'Espagne, est devenue l'un des premiers exemples mondiaux de la façon dont le harcèlement sexuel peut être alarmant grâce à la technologie AI Deepfake.

C'était un dimanche calme lorsque la journaliste Marian Ro…

Des enfants de 12 ans ciblés par des photos de nus deepfake
timesofmalta.com · 2025
Traduit par IA

Des enfants de 12 ans seulement ont vu leurs visages superposés sur des corps de filles nues ou ont été « déshabillés » par des personnes utilisant des applications de création de deepfakes.

Ces applications utilisent l'IA pour générer des …

Variantes

Une "Variante" est un incident qui partage les mêmes facteurs de causalité, produit des dommages similaires et implique les mêmes systèmes intelligents qu'un incident d'IA connu. Plutôt que d'indexer les variantes comme des incidents entièrement distincts, nous listons les variations d'incidents sous le premier incident similaire soumis à la base de données. Contrairement aux autres types de soumission à la base de données des incidents, les variantes ne sont pas tenues d'avoir des rapports en preuve externes à la base de données des incidents. En savoir plus sur le document de recherche.

Incidents similaires

Selected by our editors

A 15-year-old’s prom picture was altered into AI-created nudes

Mar 2024 · 5 rapports
Incident précédentProchain incident

Incidents similaires

Selected by our editors

A 15-year-old’s prom picture was altered into AI-created nudes

Mar 2024 · 5 rapports

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • ecd56df