Incidentes Asociados
WESTFIELD, Nueva Jersey -- Los padres y estudiantes de Westfield High School en Nueva Jersey dicen que los estudiantes usaron una aplicación o un sitio web para crear imágenes pornográficas de sus compañeros de clase generadas por IA.
Los padres recibieron recientemente un correo electrónico del director advirtiendo sobre los peligros de la inteligencia artificial y diciendo que las quejas de los estudiantes habían provocado una investigación. Algunos padres recurrieron al Departamento de Policía de Westfield.
Dorota Mani, propietaria de una guardería en la ciudad de Jersey, ya estaba preocupada por el impacto que la inteligencia artificial podría tener en los niños.
"Problema de IA. Yo lo llamaría 'pandemia de IA' en este momento", dijo.
Dice que está aún más preocupada ahora que su hija, una estudiante de Westfield High School, se ha convertido en una víctima.
"Mi hija me envió un mensaje de texto: 'Mamá, se están distribuyendo fotos mías desnuda'. Eso es todo. Nos dirigimos a la oficina del director", dijo Mani.
Posteriormente, los padres recibieron el siguiente correo electrónico del director:
"Le escribo para informarle sobre una situación que generó desinformación generalizada y generó preocupación e inquietud significativas entre el cuerpo estudiantil de Westfield High School. Hoy temprano, los estudiantes nos informaron que algunos de nuestros estudiantes habían usado dispositivos artificiales. Inteligencia para crear imágenes pornográficas a partir de fotos originales. Hubo una gran preocupación sobre quién tenía imágenes creadas de ellas y si se compartieron. En este momento, creemos que todas las imágenes creadas han sido eliminadas y no están circulando. Esto es un incidente muy grave. Continuamos investigando e informaremos a las personas y familias de los estudiantes involucrados una vez que se complete la investigación. Esto sucederá antes del fin de semana. Pusimos asesoramiento disponible para todos los estudiantes afectados y los alentamos a regresar a clase cuando sintieran poder hacerlo. Además, nuestro Oficial de Recursos Escolares y el Departamento de Policía de Westfield han sido informados de nuestra investigación. Si un padre/tutor cree que su hijo es víctima de un acto criminal en relación con este incidente, informe el asunto a la Policía de Westfield. .
"Quería informarles de la situación, ya que, además de dañar a los estudiantes involucrados e interrumpir la jornada escolar, es de vital importancia hablar con sus hijos sobre el uso que hacen de la tecnología y lo que publican, guardan y compartir en las redes sociales. Las nuevas tecnologías han hecho posible falsificar imágenes y los estudiantes necesitan saber el impacto y el daño que esas acciones pueden causar a los demás.
"Continuaremos educando a sus hijos sobre la importancia del uso responsable de la tecnología y esperamos que refuercen estos mensajes en casa."
Este tipo de imágenes alteradas se conocen en línea como "deepfakes".
"Ella comenzó a llorar, y luego caminaba por los pasillos y vio llorar a otras niñas de Westfield High School, algunas de ellas víctimas y otras simplemente amigas de las víctimas que simplemente sentían por ellas", dijo Mani.
Mani dice que presentó un informe policial.
La policía le dijo a CBS New York que no tienen comentarios.
"Es algo que tendremos que aprender y nuestros hijos tendrán que ser conscientes de ello", afirmó Mani.
El Congreso está considerando un proyecto de ley presentado por el representante Joe Morelle, de Nueva York, que haría ilegal compartir en línea imágenes "deepfake" no consensuadas.
Mani y su hija planean abogar por leyes que protejan a las personas de los deepfakes.
"Sus palabras: 'No queremos esperar a que ocurra una tragedia, debemos hacer algo de manera proactiva'", dijo Mani.
Un portavoz del distrito le dijo a CBS New York que el incidente ocurrió durante el verano, pero que se informó a los administradores escolares el 20 de octubre.
El Superintendente Escolar Dr. Raymond González emitió el siguiente comunicado:
"Todos los distritos escolares están lidiando con los desafíos y el impacto de la inteligencia artificial y otras tecnologías disponibles para los estudiantes en cualquier momento y en cualquier lugar. El Distrito Escolar Público de Westfield cuenta con medidas de seguridad para evitar que esto suceda en nuestra red y en los dispositivos proporcionados por la escuela. . Seguimos fortaleciendo nuestros esfuerzos educando a nuestros estudiantes y estableciendo pautas claras para garantizar que estas nuevas tecnologías se utilicen de manera responsable en nuestras escuelas y más allá."
El distrito también dice que no pueden comentar sobre cuántos estudiantes se ven afectados ni sobre las acciones disciplinarias.