Incidents associés
En octobre 2023, alors qu'Elliston Berry, une lycéenne du Texas, avait 14 ans, un camarade de classe a utilisé l'intelligence artificielle pour transformer des photos innocentes d'elle et de ses amis en pornographie « deepfake ». Il a ensuite partagé les photos de nus d'apparence réaliste sur la plateforme de médias sociaux Snapchat.
« Ce matin-là, quand je me suis réveillé, c'était l'un des pires sentiments que j'aie jamais ressentis, je me sentais désespéré et j'avais l'impression que toute mon innocence m'avait été retirée », a déclaré Berry, originaire de la banlieue d'Aledo à Fort Worth, lors d'une conférence de presse mercredi au Capitole. « L'inconnu était si terrifiant que c'est ma réalité. »
Il a fallu huit mois pour que Snapchat supprime les photos, a déclaré Berry - et un appel à l'entreprise du sénateur américain Ted Cruz, républicain du Texas.
Cruz a déclaré mercredi que l'expérience de Berry, dont il a eu connaissance parce que sa mère a contacté son bureau, l'a conduit à rédiger une loi pour aider d'autres personnes confrontées à des situations similaires.
La loi « TAKE IT DOWN », que Cruz a présentée avec la sénatrice démocrate Amy Klobuchar du Minnesota, érige en infraction le fait de publier des images de dénudation ou sexuellement explicites sans le consentement d'une personne, y compris des photos et des vidéos générées par ordinateur qui représentent de vraies personnes. Elle exige également que les réseaux sociaux et autres sites Web suppriment ces images dans les 48 heures suivant la notification d'une victime.
« Il ne devrait pas être nécessaire qu'un sénateur américain en exercice ou un membre du Congrès passe un coup de fil pour faire tomber ces ordures », a déclaré Cruz.
Le Sénat a adopté à l'unanimité le projet de loi bipartisan le 4 décembre. Lors de la conférence de presse de mercredi, Cruz, Klobuchar et la représentante Maria Elvira Salazar, républicaine de Floride, qui a parrainé le projet de loi, ont exhorté la chambre basse à programmer un vote sur le projet de loi avant la fin de l'année.
Le représentant de l'État de Caroline du Sud Brandon Guffey, dont le fils Gavin s'est suicidé quelques minutes après qu'un escroc en ligne a menacé le jeune de 17 ans de « sextorsion », a également appelé à une adoption rapide.
« C'est la douleur, c'est la honte, car il n'y a pas d'issue », a déclaré Guffey à propos de la mort de son fils. « La menace de voir ces images devenir virales - on ne peut pas cacher la honte. »
Le projet de loi de Klobuchar et Cruz ferait de la publication d'images intimes non consensuelles, y compris les deepfakes, un crime fédéral.
Ce projet de loi fait partie des nombreuses solutions que les législateurs ont mises en avant ces dernières années pour lutter contre la prolifération d'images graphiques non consensuelles en ligne, notamment les deepfakes et la « vengeance pornographique ». Ce dernier fait référence aux images intimes publiées par des partenaires romantiques ou sexuels, en particulier d'anciens partenaires, sans le consentement de la personne.
Le FBI a constaté une « énorme augmentation » du nombre d'enfants et d'adolescents, en particulier de jeunes garçons, qui ont été menacés de sextorsion ces dernières années. Plus de 20 jeunes victimes se sont suicidées entre octobre 2021 et mars 2023, a souligné Klobuchar.
Presque tous les États américains ont des lois protégeant contre les images intimes non consensuelles, y compris les 29 États qui interdisent le « deepfake », ou la pornographie non consensuelle générée par ordinateur. Mais les sanctions varient, et même avec les lois des États, les victimes ont du mal à faire supprimer le contenu de sites Web qui pourraient être basés dans d'autres États.
Le Congrès a également créé, dans une loi de 2022, une cause d'action civile permettant aux victimes de poursuivre les auteurs. Cependant, intenter des poursuites peut être difficile, coûteux et prendre du temps.
Selon le bureau de Cruz, près de 90 organisations ont soutenu la loi TAKE IT DOWN, notamment des groupes de défense des victimes, des forces de l'ordre et des leaders du secteur technologique.
« Si ce projet de loi est présenté à la Chambre, il sera adopté », a déclaré Cruz. « Nous devons le faire maintenant. Nous ne pouvons pas nous en occuper plus tard, car cela signifierait que nous fermons les yeux sur les victimes. »