Incidents associés
Cet article a été mis à jour avec de nouvelles informations.
Bree Smith, ancienne météorologue de NewsChannel 5, a livré un témoignage émouvant mercredi devant la sous-commission de la justice pénale de la Chambre des représentants, après avoir été victime de deepfakes (des vidéos sexuellement explicites générées par l'IA).
Smith a détaillé les difficultés rencontrées pour faire retirer les images, ainsi que le traumatisme qu'elle et sa famille ont subi, a rapporté The Tennessean la semaine dernière.
« Lorsque j'ai demandé de l'aide à mon employeur, on m'a répondu que rien ne pouvait être fait, que ce n'était pas illégal et que je n'avais aucun recours », a déclaré Bree lors de son témoignage. « Je me suis sentie humiliée et effrayée. Je ne savais pas quoi faire ni comment lutter contre cela, et je ne savais pas comment protéger les spectateurs et les personnes qui me faisaient confiance en ligne contre ce type d'extorsion. »
Selon Smith, les personnes à l'origine des fausses images et vidéos les utilisaient pour tenter de convaincre ses fans de leur envoyer de l'argent. Dans un cas, un téléspectateur a reçu quelques fausses vidéos où Smith semblait « promettre de nombreux actes sexuels et demander au téléspectateur de lui envoyer de l'argent pour réserver un séjour de deux nuits à l'hôtel Conrad ».
Smith a quitté NewsChannel 5 en janvier après neuf ans, suite à la fin de son contrat. Elle n'a pas précisé si la chaîne avait tenté de renouveler son contrat ou si des négociations avaient eu lieu.
Voici ce qu'il faut savoir sur les deepfakes et leur légalité dans le Tennessee.
Que sont les deepfakes ?
Un deepfake est une image, une vidéo ou un enregistrement audio généré par l'intelligence artificielle. Cette technologie permet de reproduire des visages et des voix, souvent en illustrant des scénarios faux ou trompeurs.
Selon le United States Government Accountability Office, les deepfakes sont couramment utilisés à des fins d'exploitation. Comme une grande partie du contenu deepfake en ligne est pornographique, cette technologie cible de manière disproportionnée les femmes, selon un rapport de l'entreprise Deeptrace.
Si certaines utilisations des deepfakes sont inoffensives, notamment dans le divertissement, le commerce électronique et la communication, elles peuvent également servir à diffuser de fausses informations, notamment pour influencer les élections. Lors de l'élection présidentielle de 2024, les partisans de Biden et de Trump ont tous deux utilisé cette technologie pour générer de fausses images et de faux extraits audio.
Comment fonctionnent les deepfakes ? ----------------------
Les deepfakes s'appuient sur des réseaux de neurones artificiels, des systèmes informatiques vaguement calqués sur le cerveau humain, capables de reconnaître des schémas dans les données, a indiqué l'Accountability Office. Développer une photo ou une vidéo deepfake implique généralement d'alimenter le réseau de neurones artificiels avec des centaines, voire des milliers d'images, afin de l'entraîner à identifier et à reconstruire des schémas – généralement des visages.
Toute personne disposant de compétences informatiques de base et d'un ordinateur personnel peut créer un deepfake, a indiqué l'Accountability Office, à l'aide d'applications et de tutoriels facilement disponibles en ligne. Cependant, créer des deepfakes réalistes nécessite généralement des centaines, voire des milliers d'images d'entraînement, ce qui fait des célébrités et des dirigeants gouvernementaux des sujets fréquents.
Les deepfakes sont-ils légaux ? À savoir au Tennessee
Au Tennessee, la loi ELVIS (Ensuring Likeness, Voice and Image Security) (https://www.tennessean.com/story/entertainment/music/2024/04/12/tennessee-elvis-act-ai-regulations-luke-bryan/73262132007/) interdit la création ou la diffusion de deepfakes imitant la voix ou l'apparence d'une personne sans son consentement.
Comme l'a déjà rapporté le Tennesseean (https://www.tennessean.com/story/entertainment/music/2024/03/21/elvis-act-tennessee-gov-lee-signs-act-musicians-ai/73019388007/), la loi ELVIS ajoute la voix des artistes à la loi actuelle de l'État sur la protection des droits de la personne et peut être appliquée pénalement par les procureurs de district comme un délit de classe A. Les artistes, et toute autre personne disposant de licences exclusives, comme les labels et les groupes de distribution, peuvent intenter une action civile en dommages et intérêts.
L'État volontaire est entré dans l'histoire en mars 2024 en devenant le premier État du pays à promulguer des mesures de protection des artistes contre l'utilisation abusive de l'intelligence artificielle.
Le Tennessee renforce encore sa protection contre les deepfakes avec le projet de loi HB1299, connu sous le nom de loi sur la prévention des deepfakes.
Ce projet de loi, porté par le représentant démocrate de Nashville, Jason Powell, érige en infraction pénale le fait de « divulguer, menacer de divulguer ou solliciter la divulgation d'une représentation numérique intime dans l'intention de harceler, d'importuner, de menacer, d'alarmer ou de porter gravement atteinte aux finances ou à la réputation de la personne représentée ».
Le projet de loi permet également de poursuivre en justice et d'obtenir des dommages et intérêts les personnes qui publient des photos ou des vidéos de « représentations numériques intimes… sans le consentement de la personne » ou qui « ignorent imprudemment si la personne a consenti à une telle divulgation ».
La sous-commission a voté mercredi par 7 voix contre 0 pour faire avancer le projet de loi.