Incidents associés
DALLAS - L'intelligence artificielle a ouvert les vannes à la création de fausses images pornographiques réalisées sans consentement.
Une commission du Sénat américain a tenu une audience mercredi à Dallas pour aborder ce problème croissant.
Le sénateur Ted Cruz propose une législation bipartite appelée Take It Down Act.
Une lycéenne d'Aledo est l'une des victimes d'une adolescente utilisant l'IA pour créer une fausse image nue d'elle à partir d'une photo Instagram innocente. Elle a courageusement partagé son histoire.
"Le 2 octobre 2023, je me suis réveillée avec des messages d'une amie disant que des photos étaient sur les réseaux sociaux, et pas n'importe quelles photos", se souvient Elliston Berry.
Ce jour d'octobre a changé sa vie.
"J'avais seulement 14 ans quand j'ai senti que mon avenir était ruiné", a-t-elle déclaré.
La mère de Berry, Anna McAdams, a expliqué comment un garçon de 15 ans du lycée d'Aledo a exploité sexuellement sa fille et ses huit amis.
"Il a décidé de prendre de belles photos innocentes sur leurs plateformes de médias sociaux et de leur imposer des photos nues avec une application de Google", a-t-elle déclaré.
Et comme si ce jour n'était pas assez terrible, le cauchemar de Berry a continué pendant huit mois.
Les messages de McAdams sur Snapchat n'ont reçu aucune réponse.
"Les shérifs m'ont dit qu'ils ne s'attendaient pas à recevoir de réponse. Vous n'aurez probablement aucune réponse même si nous avons émis un mandat", a-t-elle déclaré.
En une heure, les images ont été supprimées.
"Il ne devrait pas être nécessaire qu'un sénateur en exercice prenne le téléphone pour les supprimer", a déclaré Cruz. "Si Elliston était Taylor Swift, ils seraient retirés et devraient l'être. Mais ils devraient également être retirés pour chaque adolescent au Texas. Vous devriez avoir le même droit. Et cela démontre que Snapchat sait exactement comment le retirer."
McAdams a accusé le district scolaire de sa fille de ne pas avoir géré la situation correctement.
"Même s'il a été attrapé, nous n'avons toujours pas été autorisés à connaître son identité", a-t-elle déclaré. "Le bureau du shérif et l'école ont dit qu'ils devaient protéger son identité en tant que mineur."
"Je ne me sentais pas protégée en marchant dans l'école", a déclaré Berry.
"Étant donné que beaucoup de ces crimes sont commis par des adolescents, cela va-t-il leur valoir une peine de prison ?", a demandé Lori Brown, journaliste de FOX 4, à Cruz.
Les grandes maisons de disques poursuivent les startups musicales AI Suno et Udio pour violation de droits d'auteur, alléguant qu'elles ont utilisé illégalement de la musique d'artistes comme Chuck Berry ou Mariah Carey sans licence appropriée.
"Cela pourrait potentiellement arriver s'ils commettent un crime fédéral et abusent de leurs camarades de classe, ils devraient en subir les conséquences", a-t-il déclaré.
« Est-ce que vous rencontrez des résistances de la part des grandes entreprises technologiques à ce sujet ? » a demandé Brown.
« Nous n'en avons pas encore rencontré », a déclaré Cruz. « Nous avons constaté que lorsque les victimes leur demandent de retirer ce contenu, elles traînent les pieds et ne s'exécutent pas. Mais elles doivent savoir que c'est la bonne chose à faire. »
Cruz dit qu'il espère également que ce projet de loi incitera les districts scolaires à mettre à jour leurs codes de conduite.
L'élève qui a agressé Berry n'a été suspendu que dans le cadre de son école.