Incidentes Asociados
(NewsNation) — Una [polémica por fotos de desnudos](https://www.newsnationnow.com/us-news/ap-us-news/ap-ai-generated -child-sexual-abuse-images-could-inundar-the-internet-a-watchdog-is-calling-for-action/) tiene una comunidad de Nueva Jersey exigiendo respuestas.
Los estudiantes de secundaria dicen que quedaron atónitos al saber que circulaban fotos inapropiadas de ellos entre sus compañeros de clase, y que las imágenes eran completamente falsas.
"Esto es ciberacoso y acoso al siguiente nivel", dijo Marva Bailer, asesora en inteligencia artificial y estratega empresarial.
Un grupo de chicos de Westfield High School en Nueva Jersey han sido acusados de utilizar [inteligencia artificial](https://www.newsnationnow.com/on- balance-with-leland-vittert/texas-private-school-swaps-teachers-ai/) (IA) para [generar imágenes pornográficas](https://www.newsnationnow.com/us-news/midwest/indiana-ai -child-porn-statute/) de alumnas de la escuela y luego compartirlas en chats grupales. La policía está investigando ahora, pero los expertos dicen que este tipo de problema es cada vez más frecuente.
“Estos niños piensan que se están divirtiendo y haciendo estas creaciones, y no es fotografía real, sino una imagen y semejanza real de estas niñas, y las pone en un escenario y una situación que les está causando daño y probablemente angustia mental. ”, dijo Bailer.
La hija de Dorota Mani fue una de las estudiantes objetivo de los desnudos falsos. Ella le dijo a NewsNation que está decepcionada por cómo la escuela manejó la situación.
“Estoy muy decepcionado como padre de Westfield High School. Creo que la forma en que se ha manejado es simplemente inaceptable en muchos niveles. Nadie ha sido suspendido”, dijo.
Un portavoz de la escuela dijo a NewsNation que la escuela no podía proporcionar detalles específicos sobre la investigación o los resultados. Según los informes, el incidente ocurrió durante el verano, pero no llamó la atención de la escuela hasta octubre.
“El Departamento de Consejería de WHS se reunió individualmente con los estudiantes que buscaban apoyo y el departamento de administración y consejería de WHS se reunió con todo el nivel de grado en grupos pequeños para discutir el incidente, brindar apoyo y detallar las políticas del distrito relacionadas con el uso inapropiado de la tecnología”, dice el comunicado.
Mani dijo que su hija se siente traicionada por la escuela y por cómo se manejó el incidente. Dijo que su hija se sintió incómoda en la escuela después de que circularon los desnudos falsos, pero la escuela le dijo a Mani que no se podía hacer nada más.
El superintendente de las Escuelas Públicas de Westfield emitió una declaración a los [medios locales] (https://www.fox5ny.com/news/westfield-high-school-new-jersey-artificial-intelligence-pornographic-images-incident):
“Todos los distritos escolares están lidiando con los desafíos y el impacto de la inteligencia artificial y otras tecnologías disponibles para los estudiantes en cualquier momento y en cualquier lugar. Seguimos fortaleciendo nuestros esfuerzos educando a nuestros estudiantes y estableciendo pautas claras para garantizar que estas nuevas tecnologías se utilicen de manera responsable en nuestras escuelas y más allá”.
Bailer dijo que no le sorprendió que la gente se aprovechara de la tecnología de inteligencia artificial para dañar a otros cuando pensaban que era una broma.
"No es una broma", dijo.
Según Sensity AI, que ofrece servicios de detección de deepfakes, el 90% de todos los deepfakes en Internet son pornografía. Los expertos dicen que la pornografía infantil en particular es un problema creciente, ya que las herramientas de inteligencia artificial en línea están cada vez más disponibles de forma gratuita con poco más que una búsqueda en Google.
“Ahora, en la era digital en la que vivimos, la información se mueve muy rápido y el factor confianza es el hecho de que la miras muy rápidamente. Confías en todo. Una vez que está ahí, está ahí, por lo que será muy, muy difícil para las fuerzas del orden encontrar a los malos actores”, dijo Bailer.
A principios de esta semana, el presidente Joe Biden firmó una orden ejecutiva sobre inteligencia artificial. Dijo: "Para hacer realidad la promesa de la IA y evitar el riesgo, debemos gobernar esta tecnología".