Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Problema 3311

Incidentes Asociados

Incidente 59757 Reportes
Female Students at Westfield High School in New Jersey Reportedly Targeted with Deepfake Nudes

Loading...
Estudiantes de secundaria de Nueva Jersey difunden desnudos "deepfake" de estudiantes femeninas
wehavekids.com · 2023

Los funcionarios escolares de Westfield High School en Westfield, Nueva Jersey, están tratando de descubrir quién estaba detrás de las fotografías "deepfake" destinadas a parecerse a fotografías de estudiantes desnudas. Las imágenes generadas por IA fueron transmitidas por los niños de la escuela secundaria a partir del 16 de octubre. Y luego las propias niñas comenzaron a hacer preguntas.

La madre de una de las niñas que aparecía superpuesta en las imágenes dijo que su hija notó que los niños se comportaban "raro" ese día en la escuela.

El New York Post informa que a las estudiantes les tomó días llegar al fondo de todos los rumores. El 20 de octubre, un niño finalmente confesó lo que estaba pasando. Alguien había generado imágenes de IA falsas de estudiantes femeninas que parecían desnudas fotos. El estudiante, o estudiantes, luego compartió los desnudos con otros niños en chats grupales privados.

Una vez que los funcionarios de la escuela se enteraron de lo que estaba sucediendo, los miembros del personal dijeron a varias estudiantes que los niños las habían identificado en las imágenes. No está claro si los miembros del personal vieron las fotos ellos mismos o simplemente los estudiantes les contaron sobre ellas.

"Me aterroriza cómo y cuándo saldrá a la luz esto. Mi hija tiene un futuro brillante y nadie puede garantizar que esto no la afectará profesional, académica o socialmente", dijo la madre Dorota Mani, hablando de su hija de 14 años. la vieja hija Francesca, quien fue identificada en una de las imágenes.

La mamá dijo que no quiere que su hija vaya a la escuela con el responsable de las fotos. Otros padres dijeron que desde entonces presentaron policía informes después de enterarse de que sus hijas estaban en las fotografías. Aunque algunas de las chicas no habían visto las fotografías.

No está claro qué software se utilizó para crear las imágenes, ni cuántos estudiantes fueron responsables de hacerlas circular. Pero la directora de Westfield High School, Mary Asfendis, dijo que cree que las imágenes han sido eliminadas y ya no se transmiten.

Incluso la alcaldesa de Westfield, Shelley Brindle, intervino en el incidente.

"Es difícil presenciar una situación en la que ves chicas jóvenes traumatizadas en una etapa vulnerable de sus vidas", explicó, antes de añadir que, como primera alcaldesa, se considera una defensora de las niñas y las mujeres.

Hasta el momento no está claro si se han tomado medidas disciplinarias, en su caso.

Leer la Fuente

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd