Incidents associés
Cet article a été mis à jour avec de nouvelles informations.
Bree Smith, ancienne météorologue de NewsChannel 5, a livré un témoignage émouvant devant la sous-commission de la justice pénale de la Chambre des représentants mercredi, après avoir été victime de deepfakes (des vidéos sexuellement explicites générées par l'IA).
Smith a détaillé les difficultés qu'elle a rencontrées pour faire retirer les images, ainsi que le traumatisme qu'elle et sa famille ont subi, a rapporté The Tennessean la semaine dernière.
« Lorsque j'ai demandé de l'aide à mon employeur, on m'a répondu qu'il n'y avait rien à faire, que ce n'était pas illégal et que je n'avais aucun recours », a déclaré Bree lors de son témoignage. Je me suis sentie humiliée et effrayée. Je ne savais ni quoi faire ni comment lutter contre cela, et je ne savais pas comment protéger les téléspectateurs et les personnes qui me faisaient confiance en ligne contre ce type d'extorsion.
Selon Smith, les personnes à l'origine des fausses images et vidéos les utilisaient pour tenter de convaincre ses fans de leur envoyer de l'argent. Dans un cas, un téléspectateur a reçu plusieurs fausses vidéos où Smith « promettait de nombreux actes sexuels et demandait au téléspectateur de lui envoyer de l'argent pour réserver un séjour de deux nuits à l'hôtel Conrad ».
Smith a quitté NewsChannel 5 en janvier après neuf ans, suite à la fin de son contrat. Elle n'a pas précisé si la chaîne avait tenté de renouveler son contrat ou si des négociations étaient en cours.
Voici ce qu'il faut savoir sur les deepfakes et leur légalité dans le Tennessee.
Que sont les deepfakes ?
Un deepfake est une image, une vidéo ou un enregistrement audio généré par l'intelligence artificielle. Cette technologie permet de reproduire des visages et des voix, souvent en illustrant des scénarios faux ou trompeurs.
Selon le Government Accountability Office des États-Unis (GAO) (https://12ft.io/proxy?q=https%3A%2F%2Fwww.gao.gov%2Fassets%2Fgao-20-379sp.pdf), les deepfakes sont fréquemment utilisés à des fins d'exploitation. La plupart des contenus deepfakes en ligne étant pornographiques, cette technologie cible de manière disproportionnée les femmes, selon un rapport de l'entreprise Deeprace (https://12ft.io/proxy?q=https%3A%2F%2Fregmedia.co.uk%2F2019%2F10%2F08%2Fdeepfake_report.pdf).
Si certaines utilisations des deepfakes sont inoffensives, notamment dans le divertissement, le commerce électronique et la communication, elles peuvent également servir à diffuser de fausses informations, notamment pour influencer les élections. Lors de l'élection présidentielle de 2024, les partisans de Biden et de Trump ont utilisé cette technologie pour générer de fausses images et de faux extraits audio. (https://12ft.io/proxy?q=https%3A%2F%2Fwww.tennessean.com%2Fstory%2Fnews%2Fpolitics%2Felections%2F2024%2F03%2F10%2F2024-election-ai-deepfake-regulation-slow%2F72877766007%2F)
Comment fonctionnent les deepfakes ?
Les deepfakes s'appuient sur des réseaux de neurones artificiels, des systèmes informatiques vaguement calqués sur le cerveau humain qui reconnaissent des schémas dans les données, a déclaré l'Accountability Office. Développer une photo ou une vidéo deepfake implique généralement d'alimenter le réseau de neurones artificiels avec des centaines, voire des milliers d'images, afin de l'« entraîner » à identifier et à reconstituer des schémas – généralement des visages.
Toute personne disposant de compétences informatiques de base et d'un ordinateur personnel peut créer un deepfake, a déclaré le bureau de la responsabilité, grâce à des applications et des tutoriels en ligne facilement disponibles. Cependant, la création de deepfakes réalistes nécessite généralement des centaines, voire des milliers d'images d'entraînement, ce qui fait des célébrités et des dirigeants gouvernementaux des sujets fréquents.
Les deepfakes sont-ils légaux ? Ce qu'il faut savoir au Tennessee
Au Tennessee, la loi Ensuring Likeness, Voice and Image Security (ELVIS) Act interdit la création ou la diffusion de deepfakes imitant la voix ou l'apparence d'une personne sans son consentement.
Comme l'a déjà rapporté le Tennesseean (https://12ft.io/proxy?q=https%3A%2F%2Fwww.tennessean.com%2Fstory%2Fentertainment%2Fmusic%2F2024%2F03%2F21%2Felvis-act-tennessee-gov-lee-signs-act-musicians-ai%2F73019388007%2F), la loi ELVIS ajoute la voix des artistes à la loi actuelle de l'État sur la protection des droits de la personne et peut être appliquée pénalement par les procureurs de district comme un délit de classe A. Les artistes, et toute autre personne disposant de licences exclusives, comme les labels et les groupes de distribution, peuvent intenter une action civile en dommages et intérêts.
L'État volontaire est entré dans l'histoire en mars 2024 en devenant le premier État du pays à promulguer des mesures de protection des artistes contre l'utilisation abusive de l'intelligence artificielle.
Le Tennessee renforce encore sa protection contre les deepfakes avec la loi HB1299, connue sous le nom de loi sur la prévention des deepfakes.
Ce projet de loi, porté par le représentant démocrate Jason Powell (Nashville), érige en infraction pénale le fait de « divulguer, menacer de divulguer ou solliciter la divulgation d'une représentation numérique intime dans l'intention de harceler, d'importuner, de menacer, d'alarmer ou de porter gravement atteinte aux finances ou à la réputation de la personne représentée ».
Ce projet de loi permet également de poursuivre en justice et d'obtenir des dommages et intérêts les personnes qui publient des photos ou des vidéos de « représentations numériques intimes… sans le consentement de la personne » ou qui « ignorent imprudemment si la personne a consenti à une telle divulgation ».
La sous-commission a voté mercredi à 7 voix contre 0 pour faire avancer le projet de loi.