Incidentes Asociados
- En resumen: Un padre ha descrito como "repugnantes" las imágenes falsas explícitas de estudiantes de Bacchus Marsh Grammar que circulaban en Internet.
- Un adolescente ha sido arrestado y liberado en espera de más investigaciones después de que se presentaran quejas sobre las imágenes de IA.
- ¿Qué sigue? Los expertos en ciberseguridad quieren que se haga más en las escuelas para educar a los niños sobre la ciberseguridad.
Una mujer cuya hija asiste a Bacchus Marsh Grammar dijo que le repugnaban las imágenes falsas de desnudos de estudiantes que circulaban en Internet.
Un adolescente ha sido arrestado después de que se descubrieran una serie de imágenes explícitas generadas por IA de estudiantes en la escuela, al noroeste de Melbourne.
La policía de Victoria dijo que el niño ha sido liberado en espera de más investigaciones y que su investigación está en curso.
La directora de la escuela dijo que parecía que las imágenes de unas 50 niñas de la escuela habían sido tomadas de las redes sociales y manipuladas con inteligencia artificial para crear imágenes obscenas.
La primera ministra de Victoria, Jacinta Allan, dijo que sus pensamientos estaban con las jóvenes y sus familias y que "no había lugar para esta conducta vergonzosa y misógina en Victoria".
"Las mujeres y las niñas merecen respeto en clase, en línea y en todas partes de nuestra comunidad, por eso hemos promulgado leyes contra este comportamiento y estamos enseñando relaciones respetuosas en las escuelas para detener la violencia antes de que comience".
Emily, una madre, dijo que vio las imágenes durante el fin de semana y las describió como "increíblemente gráficas".
Ella le dijo a ABC Radio Melbourne que su hija estaba muy molesta y vomitaba en respuesta a las imágenes.
"Fue tan gráfico, casi vomité cuando lo vi. Fue realmente, realmente horrible", dijo.
"¿Qué clase de mente quiere hacer eso?"
Emily dijo que la policía estaba entrevistando a las niñas de la escuela después de que las imágenes salieran a la luz y que el incidente había tenido un impacto significativo en su hija.
"Es demasiado. Es demasiada intensidad con todas las imágenes y la IA se está saliendo de control y obviamente estamos viendo las implicaciones.
"Existe la sensación de que esto volverá a suceder, ¿volverá a suceder? Es muy traumático".
En una declaración del miércoles por la mañana, la escuela dijo que se estaba ofreciendo apoyo a los estudiantes afectados.
"En nombre de las personas y las familias afectadas, Bacchus Marsh Grammar se está tomando este asunto muy en serio y se ha puesto en contacto con la policía de Victoria.
"El bienestar de los estudiantes de Bacchus Marsh Grammar y sus familias es de suma importancia para la escuela y se está abordando".
Las imágenes de IA se están extendiendo
La experta en seguridad digital Susan McLean de Cyber Safety Solutions dijo que cada vez es más fácil manipular imágenes en línea utilizando tecnología de IA.
"Las personas que las hacen, los jóvenes, se están volviendo más descarados y es fácil: si vas a la tienda de aplicaciones, hay una serie de aplicaciones que puedes descargar que crean estas imágenes muy creíbles casi instantáneamente", dijo.
"Estas imágenes a menudo son imperceptibles a simple vista, son muy, muy buenas e incluso si, en un caso como este, hay mucha publicidad y todo el mundo sabe que son falsas, eso no repara el daño".
Algunos expertos digitales quieren más educación en las escuelas sobre seguridad cibernética. (Adam Berry/Getty Images)
Hizo un llamado a las escuelas para que intensifiquen los programas educativos sobre seguridad cibernética, pero también dijo que los padres deben estar atentos a lo que hacen sus hijos en línea.
"Quienquiera que haya hecho todas estas imágenes, yo sugeriría que lo hizo en casa bajo la supervisión de un padre", dijo.
Emily van der Nagel, que da conferencias sobre redes sociales en la Universidad de Monash, dijo que la tecnología en sí no era el área principal de preocupación.
"Creo que esto es solo una actualización de un comportamiento que hemos entendido durante mucho tiempo como parte de algunas relaciones de género realmente profundamente preocupantes que involucran a adultos y niños", dijo.
"Creo que la educación para abordar adecuadamente este tipo de problemas no tiene que ver necesariamente con la tecnología y el deepfake, sino con la forma en que los niños, las niñas, los hombres y las mujeres se relacionan entre sí".
Lo que está haciendo el gobierno estatal con respecto al porno deepfake
En 2022, el gobierno de Victoria aprobó nuevas leyes dirigidas a los delitos sexuales, incluidos los delitos sexuales basados en imágenes, para combatir el creciente problema del porno deepfake.
Ya es un delito crear una imagen íntima que sea contraria a los estándares de la comunidad, y un delito separado compartir o amenazar con compartir la imagen.
El gobierno ha dicho que todas las escuelas gubernamentales de Victoria están comprometidas con la iniciativa de Relaciones Respetuosas de $82 millones, que apoya a las escuelas para modelar el respeto, promover actitudes y comportamientos positivos y ayudar a los estudiantes a construir relaciones saludables, resiliencia y confianza.
También se está implementando una capacitación intensiva y apoyo para el personal en aproximadamente 1200 escuelas, y el gobierno planea invitar a todas las escuelas no gubernamentales restantes a unirse.