Incidentes Asociados
Un adolescente fue arrestado después de que se compartieran en las redes sociales imágenes falsas de 50 niñas desnudas en una escuela privada regional de Victoria.
Los rostros de las niñas, de 9.º a 12.º año en Bacchus Marsh Grammar, se usaron en imágenes de desnudos generadas por inteligencia artificial y se colocaron en Instagram, luego los estudiantes las compartieron en Snapchat, confirmó la escuela.
El director interino Kevin Richardson dijo que los padres habían informado a la escuela sobre la creación masiva de imágenes falsas de desnudos de sus hijas, y que los informes se habían transmitido a la policía.
La policía de Victoria confirmó que estaba investigando informes de imágenes explícitas que circulaban en línea y que se les había dicho a los oficiales que varias de estas imágenes fueron enviadas a una persona en el área de Melton a través de una plataforma en línea el 7 de junio.
En una declaración el martes por la noche, la policía dijo que un adolescente había sido arrestado por el incidente y liberado en espera de más investigaciones.
Richardson dijo que la escuela aún no sabía si las imágenes que mostraban los rostros de una "gran cantidad de estudiantes" en cuerpos generados por IA habían sido creadas por estudiantes de la escuela o si alguien más las había hecho.
"Bien podrían ser estudiantes", dijo, y agregó que los estudiantes atacados estaban experimentando "una gama de emociones".
La escuela se enteró el lunes de que las imágenes de las niñas habían sido extraídas de sus cuentas de redes sociales y que sus desnudos falsos estaban siendo compartidos.
La experta en seguridad cibernética y ex policía Susan McLean dijo que el ataque a las niñas era repugnante y podría causar daños a largo plazo.
Dijo que la policía debería considerar acusar a los responsables: "Una palmadita en la muñeca no es suficiente", dijo McLean.
"No pasa una semana sin que recibamos titulares como este. Siempre son mujeres las que están siendo atacadas de esta manera. El nivel de falta de respeto hacia las mujeres jóvenes es espantoso".
Un estudiante de 15 años de la escuela católica para niños Salesian College, en Chadstone, fue expulsado la semana pasada por producir imágenes falsas y explícitas de un maestro de la escuela, utilizando inteligencia artificial, informó el Herald Sun.
Un deepfake es una imagen o un vídeo en el que se ha alterado digitalmente el rostro o el cuerpo de una persona para que parezca que es otra persona o que está haciendo o diciendo algo que en realidad nunca ocurrió.
La creación de imágenes o vídeos de compañeros de estudios se considera una nueva forma de acoso escolar, y se observó por primera vez que se producía en Australia el año pasado. En octubre, la oficina nacional de seguridad electrónica advirtió a las escuelas que revisaran sus políticas de seguridad después de que el fenómeno llegara a las escuelas australianas desde Estados Unidos.
La comisionada de seguridad electrónica, Julie Inman-Grant, advirtió que los primeros casos denunciados eran solo la punta del iceberg.
En una declaración del martes, Bacchus Marsh Grammar dijo que se había producido y distribuido contenido de vídeo que incluía imágenes de estudiantes de la escuela, y que la escuela se estaba tomando el asunto muy en serio. "El bienestar de los estudiantes de Bacchus Marsh Grammar y sus familias es de suma importancia para la escuela y se está abordando".
Richardson dijo que la escuela estaba ofreciendo apoyo a las niñas y sus familias, y que si se descubriera que los estudiantes de Bacchus Marsh Grammar habían sido la fuente de las imágenes, se tomarían las medidas adecuadas.
McLean dijo que los padres de los jóvenes que crean imágenes deepfake explícitas tenían que hacerse responsables de las acciones de sus hijos.
"Tienes la responsabilidad de asegurarte de que tu hijo no esté haciendo daño a nadie más", dijo.
Compartir imágenes pornográficas deepfake alteradas digitalmente podría acarrear una pena de cárcel de hasta seis años, o siete años para quienes también las crearon, según las nuevas leyes anunciadas por el Fiscal General federal Mark Dreyfus este mes.
Dreyfus dijo en ese momento que el material sexualmente explícito creado y alterado digitalmente era una forma profundamente angustiosa de abuso, particularmente contra mujeres y niñas.
McLean dijo que se deberían considerar consecuencias tan graves para quienes crearon las imágenes falsas de desnudos de las niñas de Bacchus Marsh, y afirmó que "compartir imágenes de abuso infantil puede ser un delito que puede conllevar prisión".
Con Lachlan Abbott