Incidentes Asociados
Un adolescente fue arrestado y luego liberado después de que supuestamente circularan en las redes sociales imágenes falsas y explícitas, descritas como "mutiladas" e "increíblemente gráficas", en las que se utilizaban las imágenes de unas 50 alumnas de una escuela privada de la región de Victoria (https://www.theguardian.com/australia-news/victoria).
El director de Bacchus Marsh Grammar, Andrew Neal, dijo a la ABC que unas 50 niñas habían sido atacadas.
Las imágenes de desnudos parecían haber sido creadas utilizando inteligencia artificial y fotos de los rostros de las niñas tomadas de sitios de redes sociales, y luego circularon en línea.
"[Las niñas] deberían poder aprender y hacer sus cosas sin este tipo de tonterías", dijo Neal a la ABC.
Una mujer llamada Emily, madre de una estudiante de Bacchus Marsh Grammar y terapeuta de trauma, dijo que vio las fotos cuando recogió a su hija de 16 años de una fiesta de pijamas el sábado por la noche.
Emily tenía un balde en el auto para su hija que estaba "enferma del estómago" en el camino a casa, le dijo a ABC Radio Melbourne el miércoles.
"Estaba muy molesta y vomitaba. Fue increíblemente gráfico".
La reacción inmediata de Emily también fue "estar enferma".
"Quiero decir que son niñas... Las fotos estaban mutiladas y eran muy gráficas. Casi vomité cuando lo vi".
"Cincuenta chicas es mucho. Es realmente perturbador".
Las cuentas de Instagram de las víctimas eran privadas, dijo Emily. Aunque su hija no apareció en las imágenes falsas, "existe esa sensación de... ¿volverá a suceder esto? Es muy traumatizante".
"¿Cómo podemos asegurarles que una vez que se tomen medidas, no volverá a suceder?"
El director interino Kevin Richardson dijo en un comunicado: “Bacchus Marsh Grammar se está tomando este asunto muy en serio y se ha puesto en contacto con la policía de Victoria.
“El bienestar de los estudiantes de Bacchus Marsh Grammar y sus familias es de suma importancia para la escuela y se está abordando. Nuestro personal de bienestar está ofreciendo apoyo a todos los estudiantes afectados”.
Richardson dijo que la escuela no había sido contactada por la policía con respecto a nadie arrestado en relación con el asunto.
La policía de Victoria dijo que los oficiales fueron informados de que se enviaron varias imágenes a una persona en el área de Melton, que está a unos 15 minutos en auto de Bacchus Marsh, a través de una plataforma en línea el viernes 7 de junio.
La policía dijo que el adolescente fue arrestado en relación con el incidente, pero que había sido liberado en espera de más investigaciones.
“La investigación sigue en curso”, dijo la policía.
Esto se produce después de que un estudiante del Salesian College, una escuela católica para varones en Chadstone, Melbourne, fuera expulsado después de utilizar inteligencia artificial para producir imágenes explícitas de una profesora.
En junio, el gobierno federal presentó una legislación para prohibir la creación y el intercambio de pornografía deepfake como parte de las medidas para combatir la violencia contra las mujeres.
Pero el senador nacionalista Matt Canavan dijo que había un problema cultural más amplio que necesitaba ser abordado.
“Es un problema cultural en toda nuestra sociedad que, por la razón que sea, los estándares de comportamiento no se enseñan a los niños pequeños”, dijo a Nine el miércoles por la mañana.
“Desearía tener las respuestas –no las tengo–, pero no creo necesariamente que sea algo que un gobierno o una ley puedan cambiar.
“Todos debemos colaborar para intentar asegurarnos de que los niños comprendan lo que significa crecer y convertirse en un hombre y vivir según los estándares que la sociedad espera”.
La tecnología ha “potenciado” el mal comportamiento de los niños, dijo Canavan.
La ministra de salud de Victoria, Mary-Anne Thomas, dijo que estaba “profundamente angustiada” al leer sobre el incidente.
“Este tipo de comportamiento es absolutamente aborrecible. Las escuelas deberían ser lugares seguros para que los niños y los jóvenes aprendan”, dijo el miércoles.
Si bien Thomas dijo que no quería hacer comentarios específicos sobre el incidente, dijo que esperaba que fuera una “llamada de atención” sobre los peligros de las imágenes sexualmente explícitas generadas por IA y las redes sociales.
“Necesitamos tener conversaciones directas y reales con los jóvenes sobre el respeto”, dijo.
“Porque es bastante claro que los jóvenes están accediendo a material en Internet y a través de las redes sociales, lo que está influyendo en sus comportamientos de maneras que creo que todos estamos de acuerdo en que no están en sintonía con las expectativas de la comunidad, y de hecho van más allá de eso, [y están] realmente causando daño real a otros jóvenes”.
El abuso basado en imágenes, incluidas las deepfakes, se puede denunciar a eSafety, que afirma tener “una tasa de éxito del 90 % en la eliminación de este material angustiante”.