Incidentes Asociados
Las denuncias de abusos basados en imágenes deepfake se han duplicado en el país en los últimos 18 meses, con al menos un incidente que surge en escuelas australianas cada semana.
Las cifras fueron reveladas el viernes por el Comisionado de Seguridad Electrónica de Australia y llegan después de que la ABC descubriera una investigación policial sobre estudiantes mujeres que estaban siendo atacadas en un instituto del norte de Sídney.
La comisionada Julie Inman Grant confirmó que sus investigadores estaban en conversaciones con la Policía de Nueva Gales del Sur y el Departamento de Educación de Nueva Gales del Sur sobre la circulación de imágenes explícitas alteradas digitalmente en grupos en línea.
"Hemos puesto a disposición de las escuelas una herramienta de gestión de incidentes de abuso basados en imágenes deepfake para que sepan cuándo acudir a la policía y cuándo recurrir a nosotros para que eliminemos el contenido", declaró la Sra. Inman Grant a la ABC. La ABC tiene conocimiento de que varias familias de la escuela acudieron a la comisaría de Eastwood el miércoles por la noche.
La Sra. Inman Grant afirmó que el número de incidentes escolares representaba solo una pequeña proporción del total de denuncias recibidas.
"Estamos observando incidentes de abuso basados en imágenes ultrafalsas al menos una vez a la semana en las escuelas australianas.
"Esto es motivo de verdadera preocupación". Esto realmente está aumentando los posibles daños en línea.
Advirtió que esto era solo la punta del iceberg tras el reciente lanzamiento de Sora de OpenAI.
"Es una aplicación de redes sociales generada por IA que permite extraer imágenes de otra persona y crear un video deepfake hiperrealista en cuestión de segundos", afirmó.
Impacto global del aumento de deepfakes en EE. UU.
Colm Gannon, director ejecutivo del Centro Internacional para Niños Desaparecidos y Explotados, afirmó que el problema estaba creciendo no solo en Australia, sino también en Estados Unidos y en todo el mundo.
Añadió que los informes de las plataformas de redes sociales revelaban una tendencia preocupante en EE. UU.
"Han observado un aumento del 1325 % en el material generado por IA y deepfakes que, de hecho, están afectando a niños de todo el mundo", afirmó.
"Esta escalada ha llegado a tal punto que el gobierno federal está aprobando leyes". El gobierno de Nueva Gales del Sur también tiene un proyecto de ley actualmente en el Parlamento de Nueva Gales del Sur, que está aprobando leyes, y otros estados y territorios están aprobando leyes para combatir los daños a los niños.
La Sra. Inman Grant consideró que Australia estaba liderando la respuesta a esta tendencia y que continuaba las conversaciones con sus homólogos internacionales sobre la implementación de restricciones.
Hoy estamos tomando medidas contra algunos servicios de 'desnudez' y, en este caso, contra una empresa que probablemente crea algunas de las aplicaciones de desnudez más populares, utilizadas por al menos 100.000 personas en Australia, afirmó.
En colaboración con su organismo regulador, Ofcom, en el Reino Unido, la Sra. Inman Grant afirmó que tienen una tasa de éxito del 98 % en la eliminación de imágenes deepfake de esta naturaleza de las plataformas.
Estudiantes "tienen miedo de que les pase a ellas"
La Comisionada de Seguridad de la Mujer de Nueva Gales del Sur, Hannah Tonkin, afirmó haber hablado con estudiantes de secundaria que estaban aterrorizadas de ser atacadas.
"Muchos ven que esto les sucede a sus amigos y tienen mucho miedo de que les suceda a ellos", dijo la Dra. Tonkin.
Añadió que las aplicaciones 'nudify' son una "tecnología repugnante" (https://www.abc.net.au/news/2025-09-02/child-safety-expert-warns-of-ai-generated-child-abuse/105724916) diseñadas para atacar, deshumanizar y degradar inherentemente a las mujeres.
"Este tipo de incidentes puede tener consecuencias devastadoras, especialmente en mujeres y niñas, quienes son las víctimas mayoritariamente".
La ministra interina de Educación de Nueva Gales del Sur, Courtney Houssos, afirmó que han mantenido conversaciones productivas sobre el tema.
"Necesitamos trabajar juntos para abordar esta lacra para nuestro alumnado y, lamentablemente, para algunos de nuestros docentes", declaró la Sra. Houssos.
Dijo que el Departamento de Educación de Nueva Gales del Sur ahora estaba trabajando con el Comisionado de Seguridad Electrónica para desarrollar educación en alfabetización digital para estudiantes a fin de prepararlos mejor sobre cómo usar Internet y la IA de manera adecuada.