Incidents associés
Des lycéens n'auraient enfreint aucune loi lorsqu'ils ont créé une vidéo deepfake artificiellement intelligente (IA) d'un directeur criant des insultes racistes et menaçant des étudiants noirs.
Vice News rapporte que trois lycéens du Carmel High School à New York ont utilisé la technologie deepfake pour créer une vidéo qui montre John Piscitella, le directeur du George Fisher Middle School voisin, menaçant de tuer des étudiants noirs.
Dans un clip très offensant de 30 secondes, qui a été visionné par PetaPixel, le directeur deepfake fait une série de remarques racistes et de menaces violentes.
"Je déteste les enfants noirs. Comme ces putains de stupides n***singes, les parents singes doivent arrêter de les envoyer ici. Faites-leur sortir le f \ * \ * k, tous », dit la voix générée par l'IA. «Comme les renvoyer en Afrique. Tout ce qu'ils font, c'est voler de la merde.
La voix continue: "J'espère que ces n***ers se feront tirer dessus parce qu'ils n'apprennent tout simplement pas. Je vais apporter ma mitrailleuse à l'école et Ronnie McNutt cette chienne.
Il y aurait également une deuxième vidéo réalisée par des élèves du lycée Carmel qui a été créée de la même manière. Le clip a une voix superposée disant : « Je vais te pendre comme le KKK. L'héritage du KKK reviendra.
"Aucune loi n'est enfreinte"
Selon Atlanta Black Star, les vidéos deepfakes, qui ont circulé sur TikTok le mois dernier, ont été supprimées après que le conseil scolaire du district scolaire central de Carmel a pris connaissance des clips.
Le 15 février, le Carmel Central School District Board of Education a publié une déclaration disant qu'il était "consterné" par "le racisme flagrant, la haine et le mépris de l'humanité affichés" dans les vidéos.
La déclaration mentionnait que les lycéens avaient utilisé l'IA pour créer les clips et que l'incident était traité conformément au code de conduite du district.
Cependant, le bureau du shérif du comté de Putnam a enquêté sur les vidéos racistes et a rapidement déterminé que les lycéens n'avaient enfreint aucune loi. L'incident a été jugé non criminel.
Le shérif du comté de Putnam, Kevin McConville, a déclaré que les messages impliquaient de se faire passer pour un individu et n'étaient pas récurrents.
Le manque de législation autour des deepfakes
Les parents sont en colère contre le Carmel Central School District Board of Education et le bureau du shérif du comté de Putnam qui n'ont pas pris au sérieux les menaces racistes et violentes dans les vidéos générées par l'IA.
De nombreux parents s'inquiètent de savoir pourquoi les élèves qui ont créé la vidéo raciste deepfake ne font pas l'objet d'accusations de crimes haineux. Ils demandent également pourquoi l'école n'a pas initialement partagé la vidéo avec les parents – qui n'ont appris le contenu complet des clips que plus tard.
Les parents envisagent maintenant de déposer une plainte contre les autorités du lycée pour cet incident.
"L'ensemble du système scolaire n'a pas informé les parents comme il se doit, en fait, ils n'ont pas averti les parents qu'il y avait une menace terroriste à l'école", a déclaré Arthur Schwartz, un avocat qui représente les parents, à VICE News.
L'incident met en évidence le manque de législation en place pour protéger les victimes contre les abus dans les deepfakes à mesure que la technologie de l'IA devient plus avancée et accessible.
Aux États-Unis, il n'existe actuellement aucune législation fédérale pour protéger contre l'utilisation des images des personnes sans leur consentement dans le deepfake porn ou avec toute technologie associée.