Incidentes Asociados
Los estudiantes de secundaria supuestamente no violaron ninguna ley cuando crearon un video falso con inteligencia artificial (IA) de un director que gritaba insultos racistas y amenazaba a los estudiantes negros.
Vice News informa que tres estudiantes de secundaria en Carmel High School en la ciudad de Nueva York usaron tecnología deepfake para crear un video que muestra a John Piscitella, el director de la cercana escuela secundaria George Fisher, amenazando con matar a los estudiantes negros.
En un clip altamente ofensivo de 30 segundos, que fue visto por PetaPixel, el director del deepfake hace una serie de comentarios racistas y amenazas violentas.
“Odio a los niños negros. Como estos estúpidos y malditos padres monos que tienen que dejar de enviarlos aquí. Sáquenlos a la mierda, a todos”, dice la voz generada por IA. “Como enviarlos de regreso a África. Todo lo que hacen es robar mierda”.
La voz continúa: “Espero que a esos n*** les disparen porque simplemente no aprenden. Voy a llevar mi ametralladora a la escuela y a Ronnie McNutt esta perra”.
Según los informes, también hay un segundo video realizado por estudiantes de Carmel High School que fue creado de la misma manera. El clip tiene una voz sobregrabada que dice: “Te colgaré como el KKK. El legado de KKK regresará”.
'No se rompen las leyes'
Según Atlanta Black Star, los videos falsos, que circularon en TikTok el mes pasado, fueron eliminados después de que la Junta de Educación del Distrito Escolar Central de Carmel se percatara de los clips.
El 15 de febrero, la Junta de Educación del Distrito Escolar Central de Carmel emitió un comunicado diciendo que estaba "horrorizado" por "el flagrante racismo, el odio y el desprecio por la humanidad que se muestran" en los videos.
La declaración mencionó que los estudiantes de secundaria usaron IA para crear los clips y que el incidente se estaba manejando de acuerdo con el código de conducta del distrito.
Sin embargo, la oficina del alguacil del condado de Putnam investigó los videos falsos racistas y rápidamente determinó que los estudiantes de secundaria no habían infringido ninguna ley. El incidente fue considerado no criminal.
El alguacil del condado de Putnam, Kevin McConville, dice que las publicaciones implicaban hacerse pasar por una persona y no eran recurrentes.
La falta de legislación en torno a los deepfakes
Los padres están enojados porque la Junta de Educación del Distrito Escolar Central de Carmel y la oficina del alguacil del condado de Putnam no tomaron en serio las amenazas racistas y violentas en los videos generados por IA.
A muchos padres les preocupa por qué los estudiantes que crearon el video ultrafalso racista no enfrentan cargos por delitos de odio. También preguntan por qué la escuela no compartió inicialmente el video con los padres, quienes solo se enteraron del contenido completo de los clips más tarde.
Los padres ahora planean presentar una demanda contra las autoridades de la escuela secundaria por el incidente.
“Todo el sistema escolar no avisó debidamente a los padres, de hecho, no avisaron a los padres de que había una amenaza terrorista en la escuela”, explica a _VICE News Arthur Schwartz, un abogado que representa a los padres.
El incidente destaca la falta de legislación vigente para proteger a las víctimas del abuso en deepfakes a medida que la tecnología de inteligencia artificial se vuelve más avanzada y accesible.
En los EE. UU., actualmente no existe una legislación federal que proteja contra el uso de imágenes de personas sin su consentimiento en pornografía falsa o con cualquier tecnología asociada.