Incidents associés
"J'ai vu une photo de toi nue."
Ce sont les mots effrayants qu'un garçon a prononcés à une fille de 14 ans après son arrivée le premier jour d'école de cette année en Espagne, selon le journal espagnol [El Pais rapporte](https://english.elpais.com/international/2023 -09-18/en-espagne-des-douzaines-de-filles-signalent-des-photos-nues-générées-par-IA-d'elles-circulant-à-l'école-mon-cœur-a-a-pas-battu-un-battement.html ). Des faux nus d'elle et d'autres camarades de classe générés par l'IA circulaient en ligne dans quatre écoles, attisant le désespoir des victimes et de leurs parents. Il y a même eu un cas de chantage présumé.
"Maman, on dit qu'il y a une photo de moi nue qui circule", a dit la jeune fille à sa mère, citée par El Pais. "Qu'ils l'ont fait avec une application d'intelligence artificielle. J'ai peur. Certaines filles l'ont aussi reçu."
L'affaire a déclenché une vague d'indignation parentale dans la ville d'Almendralejo, et le bureau local du procureur pour mineurs mène désormais l'enquête, selon le rapport_,_ avec 20 victimes touchées jusqu'à présent et un groupe de coupables présumés derrière les deepfakes déjà identifiés.
L’application deepfake que les coupables auraient utilisée est gratuite et accessible à toute personne possédant un smartphone – une utilisation dystopique de la technologie de l’IA qui pourrait continuer à semer le chaos dans les écoles et ailleurs.
Deepfake
L'une des filles, selon El Pais, a été approchée sur Instagram par un garçon qui lui a demandé de l'argent. Lorsqu'elle a refusé, il lui a envoyé une fausse photo nue d'elle-même.
À mesure que la technologie devient plus accessible, nous devrions nous attendre à ce que ce genre de choses se produise de plus en plus. Pendant ce temps, aux États-Unis, le FBI a envoyé un avertissement plus tôt cette année concernant l’utilisation de deepfakes à des fins d’extorsion.
"Le FBI continue de recevoir des rapports de victimes, notamment d'enfants mineurs et d'adultes non consentants, dont les photos ou vidéos ont été transformées en contenu explicite", a indiqué l'agence dans son communiqué.
Pour endiguer cette marée, les procureurs généraux de chaque État des États-Unis ont envoyé une lettre au Congrès plus tôt ce mois-ci, appelant à une commission et à une action contre l'augmentation du matériel pédopornographique (CSAM) généré par l'IA.
Le Washington Post a rapporté en juin que les experts avaient remarqué une augmentation de la diffusion de Le CSAM généré par l’IA, qui entrave déjà les efforts visant à identifier les nombreuses victimes.
Il reste à voir si les réglementations à venir contribueront à prévenir la vague d'images deepfake profondément inquiétantes, en particulier compte tenu de la prolifération de [l'IA générative open source](https://techhq.com/2023/05/open-source-coders -have-generative-ai-now-and-it-could-change-everything/) et [combien de temps cela prend aux gouvernements](https://www.nbcnews.com/politics/congress/washington-struggling-catch- artificial-intelligence-rcna84489) pour convenir d’une solution.