Incidents associés
Une plateforme promettant des « conversations érotiques avec une IA » a exposé publiquement près de deux millions d'images et de vidéos, dont beaucoup montrant des personnes privées, rapporte 404 Media.
Secret Desires, un chatbot érotique et générateur d'images par IA, a rendu vulnérables des serveurs de stockage cloud contenant des photos, des noms de femmes et d'autres informations personnelles telles que leurs lieux de travail et leurs établissements d'enseignement, selon 404 Media.
Cette fuite massive est le dernier cas en date d'utilisation d'outils d'IA générative pour transformer des photos innocentes en deepfakes explicites non consensuels.
Certaines des photos et vidéos provenaient d'influenceuses, de personnalités publiques et de femmes anonymes. Parmi ces dernières, on trouve des captures d'écran de Snapchat et au moins une photo d'annuaire scolaire. Parmi les contenus exposés figuraient des images générées par IA par les utilisateurs, notamment celles créées grâce à une fonctionnalité de « faceswap » désormais désactivée, que Secret Desires a retirée en début d'année.
À l'instar de Character.AI ou de Replika, Secret Desires permet aux utilisateurs de créer des avatars IA et de dialoguer avec eux. Bien que le contenu pornographique soit interdit sur Character.AI (et autorisé uniquement pour certains utilisateurs de Replika), Secret Desires affirme dans son Guide de démarrage rapide offrir une « intimité et une connexion sans limites ».
Comme l'a constaté 404 Media, les fichiers multimédias générés par l'IA et trouvés dans les conteneurs de stockage vulnérables étaient majoritairement explicites. Certains noms de fichiers contenaient des termes tels que « 17 ans ».
L'entreprise n'a pas répondu à la demande de commentaires de 404 Media, mais les fichiers sont devenus inaccessibles environ une heure après que la publication les a contactés.
Depuis des années, les femmes et les filles sont victimes de deepfakes explicites, des contenus générés par l'IA. Nombre d'entre eux consistent à incruster le visage de femmes dans des vidéos pornographiques. Cela concerne aussi bien des célébrités comme Taylor Swift que des femmes anonymes. Ce phénomène touche également les filles, contribuant à la création de contenus pédopornographiques en ligne.
Cette année, le Congrès américain a adopté la loi « Take It Down Act » afin de lutter contre les deepfakes. La loi s'est avérée controversée, car plusieurs groupes de défense de la liberté d'expression et de plaidoyer affirment qu'elle peut être utilisée comme une arme contre du matériel explicite consensuel ou des discours politiques.