Incidentes Asociados
WESTFIELD, NJ --- Las instituciones gubernamentales, incluida la policía, no protegieron a las niñas de la escuela secundaria Westfield de ser "violadas y explotadas" por el uso de inteligencia artificial (IA) para hacer fotos falsas de desnudos, afirma una demanda presentada por una víctima.
La denuncia, presentada a principios de este mes en un tribunal federal, se relaciona con la creación y el intercambio de imágenes por parte de un niño de la escuela secundaria Westfield, creadas con IA, que muestran cómo se vería una compañera de escuela desnuda.
Tanto la demandante como el demandado se mantienen anónimos en la demanda debido a sus edades; la denuncia se refiere a la demandante como Jane Doe y al demandado como K.G.
Aunque la denuncia busca una compensación monetaria del niño y sus padres, critica el manejo del asunto por parte del Departamento de Policía de Westfield.
Afirma que la policía, el 24 de enero, le dijo a la víctima y a sus padres "que no se podían presentar cargos en ese momento porque los hechos recopilados por la escuela de Jane Doe no se podían usar para respaldar la investigación y porque el acusado y otros testigos potenciales no cooperaron, hablaron ni brindaron acceso a sus dispositivos electrónicos a las fuerzas del orden".
Este aspecto de la situación fue discutido hace tres meses por la alcaldesa de Westfield, Shelley Brindle, y el jefe de policía de Westfield, Christopher Battiloro. Aunque los funcionarios escolares llevaron a cabo una investigación del asunto, Brindle y Battiloro dijeron que las entrevistas de estudiantes por parte de los administradores escolares sin un padre o abogado presente no son admisibles en el tribunal.
"Para que cualquier investigación criminal dé resultado, siempre debemos contar con la cooperación y participación de los involucrados, desde las víctimas hasta los testigos", dijo Battiloro. "Las declaraciones de las víctimas y los testigos a menudo son necesarias y esenciales para la aprobación de la denuncia penal", ya que establecen una causa probable para los cargos penales.
La demanda critica ese enfoque.
"En consecuencia, además de que no se presentaron cargos, la policía nunca determinó el alcance de la difusión de las fotos de desnudos, nunca se aseguró de que no se produjera una mayor difusión y nunca se aseguró de que las fotos de desnudos se hubieran eliminado y ya no estuvieran accesibles", afirma.
Battiloro y el sargento de policía de Westfield Michael Walsh, el oficial de información pública del departamento, no pudieron ser contactados para hacer comentarios.
La denuncia fue presentada por los abogados de Florida Shane Vogt y David Hayes junto con los abogados de Clark Jon-Henry Barr y John Gulyas. Gulyas dijo que todos los comentarios vendrían de Vogt, quien no respondió a las solicitudes de entrevistas.
El demandante, de 15 años en el momento del incidente, permitió que K.G. para convertirse en su "amigo" de Instagram, dice la denuncia. Dice que el chico luego tomó capturas de pantalla o descargó fotos de la niña y otras y usó un software de inteligencia artificial, posiblemente uno llamado ClothesOff, para alterar las imágenes quitando artificialmente la ropa de las niñas.
El chico luego distribuyó las fotos a través de Snapchat, dice la denuncia, afirmando que esta acción equivalía a la distribución de pornografía infantil y la violación de una serie de leyes estatales y federales.
"Jane Doe y sus padres no se enteraron de la existencia de las fotos de desnudos hasta el 20 de octubre de 2023, cuando los padres de Jane Doe recibieron un correo electrónico de su escuela y la madre de Jane Doe recibió una llamada telefónica del subdirector de la escuela", dice la denuncia.
Alega que, el mismo día, el padre del acusado llamó a la madre de Jane Doe para discutir las acciones de su hijo.
"Jane Doe y sus padres cooperaron inmediatamente con una investigación iniciada por el Departamento de Policía de Westfield, creyendo que se tomarían algunas medidas para responsabilizar al acusado por su conducta, garantizar que las fotos de desnudos se eliminaran, determinar el alcance de su difusión y tratar de garantizar que no se produjera una mayor difusión", dice la demanda.
A pesar de expresar esa crítica, la demanda no incluye a ningún funcionario público o entidad como acusado.
Una de las víctimas conocidas de la manipulación de fotos con IA fue la estudiante de Westfield High School, Frencesca Mani. Ella y su madre, Dorota Mani, hicieron públicas quejas sobre el incidente el año pasado.
La madre y la hija están luchando enérgicamente por nuevas leyes, tanto a nivel estatal como federal, para abordar el problema. Pero Dorota Mani dijo que su hija no es la demandante en la demanda. Dijo que no cree que el litigio sea la mejor vía para llegar a una solución.
"La vía legal (de la demanda) nunca fue realmente lo mío", dijo. Sin embargo, Dorota Mani dijo que debería haber alguna forma de participación del sistema de justicia penal.
"Son adolescentes", dijo. "Cometerán errores... Esto está sucediendo y seguirá sucediendo en el futuro porque la IA es muy fácil de manipular y es mucho más emocionante que cualquier videojuego que estén jugando. Creo que los chicos deberían rendir cuentas, pero la responsabilidad que deban asumir depende de los fiscales y la policía".
Para ver la demanda, haga clic [aquí! pdf](https://tapinto-production.s3.amazonaws.com/documents/41542/doe-v-kg.pdf).
