Incidents associés
Les femmes au Congrès sont plus susceptibles d'être victimes de pornographie deepfake que leurs homologues masculins, selon une organisation nationale qui lutte contre la désinformation en ligne.
Les deepfakes, également connus sous le nom d'images intimes non consensuelles générées par l'IA, utilisent l'intelligence artificielle ou l'apprentissage automatique pour créer des images, des sons et des textes crédibles d'événements qui ne se sont jamais produits, selon le ministère de la Sécurité intérieure.
Les images sont également appelées pornographie deepfake, selon l'American Sunlight Project, ou ASP, l'organisation de Washington D.C. responsable de l'étude.
Lutter contre la désinformation :Comment éviter de tomber dans le piège des vidéos de fausses informations
Les deepfakes ciblaient principalement les femmes
Les chercheurs ont trouvé 35 239 mentions de législateurs américains sur 11 sites Web axés sur le contenu deepfake sexuel. Au cours de l'analyse, l'équipe a constaté que les femmes étaient 70 fois plus susceptibles d'être représentées dans des images deepfake que les hommes.
Les résultats ont été publiés dans The 19th, une salle de presse à but non lucratif basée au Texas.
« Le rapport souligne le besoin urgent d'une action législative pour faire face à la montée en puissance de la technologie d'IA malveillante », a écrit l'American Sunlight Project dans un communiqué de presse mercredi.
Des deepfakes ont été trouvés sur des sites Web bien connus
L'équipe de l'ASP a utilisé un moteur de recherche personnalisé pour collecter ses données en recherchant le prénom et le nom de chaque membre sur 11 sites Web deepfake bien connus.
L'équipe a trouvé les sites Web en recherchant sur Google des termes tels que « deepfake porn », « deepfake celebrities » et « deepfake congress ». À partir de là, ils ont enregistré le nombre de hits ou de mentions que chaque membre a reçu.
L'équipe de recherche de l'ASP a recherché le nom de chaque membre dans le moteur de recherche personnalisé, y compris leurs noms officiels, abréviations et surnoms.
Selon l'équipe, ils ont recherché des législateurs dans chaque région, notamment New York, Virginie, Ohio et Californie.
Qu'ont trouvé d'autre les chercheurs ?
L'American Sunlight Project a découvert que 26 membres du Congrès et sénateurs - 25 femmes et un homme - étaient actuellement ou avaient déjà été sur ces sites Web.
« Ce n'est pas une petite différence », a écrit l'ASP dans son rapport. « C'est une disparité énorme. »
Alors que les chercheurs ont suivi la fréquence à laquelle le nom de chaque fonctionnaire apparaissait sur des sites Web connus de deepfake, ils ont également examiné des facteurs tels que l'âge, le parti politique, la représentation de l'État et l'appartenance ethnique auto-identifiée.
Selon l'ASP, les membres plus âgés du Congrès sont légèrement moins susceptibles d'apparaître dans de telles images. L'équipe n'a trouvé aucun lien entre le parti ou les membres de l'État représentés.
Les femmes parlementaires ont vu leurs deepfakes supprimés dans les 48 heures
L'ASP a informé les membres du Congrès du contenu deepfake contenant leurs images, et moins de 48 heures plus tard, le contenu ciblant 14 membres avait été supprimé.
Néanmoins, les résultats ont montré qu'au moins neuf membres apparaissaient sur les pages de destination ou de résultats de recherche, ainsi que sur les liens indexés sur Google.
« Cela met en évidence une grande disparité de privilèges », a écrit l'ASP, ajoutant que toutes les femmes n'ont pas les ressources nécessaires pour faire supprimer le contenu aussi rapidement.
Le fait que des gens créent ces images de femmes au Congrès est le symptôme d'un problème plus vaste, a déclaré l'ASP, affirmant que la désinformation et le harcèlement sexistes comme celui-ci rendent la vie plus difficile pour les femmes partout dans le monde.
Les deepfakes sont-ils illégaux ?
Alors que le Congrès n'a pas encore adopté de projets de loi ciblant la pornographie deepfake, certains États comme la Californie, la Floride et la Géorgie ont adopté des lois rendant les images deepfake sexuelles punissables par la loi.
Les législateurs ont présenté de tels projets de loi au niveau fédéral.
La députée Yvette Clarke (D-New York) a présenté le DEEPFAKES Accountability Act à la Chambre des représentants en septembre 2023, demandant des sanctions civiles pouvant aller jusqu'à 150 000 $ pour les personnes reconnues coupables d'avoir créé des deepfakes pour harceler d'autres personnes.
Les représentantes américaines Madeleine Dean (D-Pennsylvanie) et María Elvira Salazar (R-Floride) ont également présenté cette année un projet de loi visant à « protéger au niveau fédéral les individus contre les deepfakes générés par l'IA », l'appelant le Nurture Originals, Foster Art, and Keep Entertainment Safe (NO FAKES) Act.
« À mesure que l'IA gagne en importance, la législation fédérale doit rattraper son retard », a déclaré Dean dans un communiqué de presse en septembre. « En accordant à chacun un droit fédéral clair de contrôler les répliques numériques de sa propre voix et de son image, la loi NO FAKES donnera du pouvoir aux victimes des deepfakes. »
Si elle était promulguée, la loi NO FAKES aurait créé « une solution nationale à un patchwork de lois et de réglementations étatiques d'ici le 2 janvier 2025. »
Les sénateurs américains Chris Coons (D-Delaware), Marsha Blackburn (R-Tennessee), Amy Klobuchar (D-Minnesota) et Thom Tillis (R-Caroline du Nord) ont également présenté des projets de loi au Sénat.
Dans leur rapport, les chercheurs de l'ASP ont déclaré que l'étude intervient à un moment où le Congrès examine des projets de loi visant à réglementer la création de pornographie deepfake, encourageant « les législateurs à agir rapidement pour adopter ces mesures avant la conclusion du 118e Congrès ».
Quelles sont les limites de l'étude ?
Selon les chercheurs de l'ASP, certaines des limites de l'étude ont un impact sur leur capacité à généraliser leurs conclusions.
Ils notent que les résultats ne représentent qu'un « instantané d'un moment dans le temps », soit début novembre 2024. Le nombre de contenus deepfake publiés changera à mesure que certains seront ajoutés et supprimés, a déclaré l'ASP.
Une autre limite est le fait que leurs données analysent la fréquence à laquelle le nom de chaque membre apparaît dans les vidéos sur les sites Web de deepfake, mais elles n'incluent pas de détails sur le contexte.
« Des facteurs tels que la fréquence du nom d'une personne dans la population générale pourraient également conduire à des décomptes gonflés ou à des associations incorrectes », ont écrit les chercheurs.
Pour limiter le nombre de résultats sans rapport, tels que les résultats avec des noms similaires, les chercheurs ont recherché des noms entre guillemets. L'utilisation de guillemets lors de la recherche réduit la probabilité de références partielles ou sans rapport, mais n'élimine pas complètement les faux positifs, a déclaré l'équipe.
Enfin, l'équipe a déclaré que ses méthodes statistiques les ont aidées à reconnaître les associations mais pas la causalité. Cela signifie qu'il n'est pas si facile de dire qu'un facteur cause, augmente ou diminue l'autre.
Les chercheurs ont réitéré que le fait de supprimer un contenu deepfake dans les 48 heures comme l'ont fait les responsables de leur étude est un privilège, et ce n'est pas un privilège que beaucoup de femmes ont eu.
« L'ASP exhorte le 118e Congrès à donner la priorité à l'adoption de projets de loi visant à protéger les victimes (deepfakes), qui incluent non seulement les membres du Congrès et d'autres femmes dans la vie publique, mais aussi les mineurs et les citoyens privés qui manquent de ressources du Congrès », a écrit l'organisation.