Incidentes Asociados
La policía dice que no se han presentado cargos después de una investigación sobre fotos de niñas desnudas generadas por IA que circularon en una escuela de Winnipeg a fines del año pasado.
Las fotos manipuladas de estudiantes femeninas en Collège Béliveau, una escuela de inmersión francesa de grado 7 a 12 en el área de Windsor Park de la ciudad, fueron descubiertas por funcionarios escolares después de que los estudiantes se presentaran para informar que las imágenes se estaban compartiendo en línea en diciembre.
La escuela dijo en ese momento que las fotos originales parecían haber sido recopiladas de redes sociales de acceso público y luego alteradas explícitamente utilizando inteligencia artificial.
La policía de Winnipeg dijo esta semana que su investigación sobre el incidente concluyó y no se han presentado cargos.
La portavoz del Servicio de Policía de Winnipeg, Const. Dani McKinnon, dijo que, en términos generales, no se pueden presentar cargos por varias razones, incluidos posibles problemas de evidencia, el deseo de las víctimas de seguir adelante con el caso, la probabilidad de condena y los matices de los delitos relacionados con la IA y la ley.
"Al final del día, entendemos que todas las partes involucradas quedaron satisfechas con esta decisión final", dijo McKinnon en un correo electrónico.
La División de la Escuela Louis Riel, que incluye al Collège Béliveau, no dijo cuántas fotos se compartieron, cuántas niñas fueron victimizadas o si la persona o personas involucradas en la creación de las imágenes habían sido identificadas.
Suzie Dunn, profesora adjunta de derecho en la Facultad de Derecho Schulich de la Universidad de Dalhousie, dijo que el caso resalta una brecha en la ley canadiense cuando se trata de abordar las deepfakes sexualizadas, imágenes que han sido manipuladas utilizando inteligencia artificial.
"Muchas de las primeras leyes de imágenes íntimas se crearon antes de que las deepfakes estuvieran a la presencia pública, y muchas de ellas no incluían el término 'imágenes alteradas'", dijo Dunn, cuya investigación examina las leyes y políticas en torno a la violencia sexual facilitada por la tecnología.
Dunn dijo que se podría argumentar que las leyes actuales de Canadá contra el intercambio de imágenes íntimas sin consentimiento también deberían cubrir las falsificaciones profundas, pero que aún no ha visto a nadie intentarlo, en parte porque incidentes como el que ocurrió en el Collège Béliveau son muy raros.
El único caso similar que ha visto hasta ahora sucedió en Quebec el año pasado, cuando un hombre de 61 años fue sentenciado a más de tres años de prisión por usar inteligencia artificial para producir videos sintéticos de pornografía infantil.
Pero esas leyes no cubren del todo el incidente de Winnipeg, dijo.
La División Escolar Louis Riel no dijo cuántas fotos se compartieron, cuántas niñas fueron victimizadas o si la persona o personas involucradas en la creación de las imágenes habían sido identificadas. (Evan Mitsui/CBC)
Otros factores en la falta de cargos podrían incluir la posibilidad de que los responsables también fueran menores de edad, dijo Dunn, ya que la policía a menudo puede usar su discreción para decidir si acusar a los jóvenes de delitos, o la posibilidad de que la cooperación de la víctima fuera un desafío.
Sin embargo, esto último no sería necesariamente un factor decisivo en un caso con evidencia digital como fotos deepfake, dijo.
"Ojalá podamos aprender lecciones" de este caso: experto
La madre de una niña cuyas fotos alteradas estaban entre las que circularon dijo que estaba decepcionada al escuchar la actualización.
La madre, a quien CBC News no nombra porque eso podría identificar a su hija, dijo que espera ver un mayor enfoque en educar a los estudiantes sobre los efectos de compartir imágenes íntimas y alteradas para evitar casos similares en el futuro.
Kaitlynn Mendes, profesora asociada de sociología en la Universidad Western y titular de la Cátedra de Investigación de Canadá en desigualdad y género, dijo que Manitoba se encuentra entre muchas provincias cuyo plan de estudios no reconoce que la violencia sexual puede ocurrir en línea ni aborda las posibles consecuencias legales del comportamiento en línea.
"Es realmente desgarrador escuchar sobre lo que sucedió en Manitoba, pero esperamos que podamos aprender lecciones y usarlo como una oportunidad para comenzar a tener estas conversaciones y también comenzar a presionar por el cambio", dijo Mendes, quien recientemente fue coautora de un informe sobre el tema, junto con Dunn.
Dijo que eso significa que es muy probable que los estudiantes de la provincia "estén mal equipados" para responder a situaciones como la del Collège Béliveau.
Kaitlynn Mendes es profesora asociada de sociología en la Universidad Western y titular de la Cátedra de Investigación de Canadá en desigualdad y género. (Prasanjeet Choudhury/CBC)
"No entenderán qué derechos tienen. No entenderán dónde pueden ir en busca de ayuda o apoyo, si las cosas van mal", dijo Mendes.
"Lo que les diría a los maestros es que, aunque estos temas no estén en el plan de estudios oficial, aún puede haber grandes oportunidades para hablar con los jóvenes sobre lo que está sucediendo".
En una declaración enviada por correo electrónico, la División Escolar Louis Riel dijo que el incidente ha "subrayado la importancia del aprendizaje integral sobre relaciones y conductas seguras y saludables en línea".
La división dijo que planea brindar presentaciones en clase sobre el uso responsable de Internet y el consentimiento para los estudiantes, y espera organizar presentaciones para los padres en las próximas semanas.
Los funcionarios dijeron anteriormente que las imágenes explícitamente alteradas recibidas por la escuela se subirían al Proyecto Arachnid, una herramienta operada por el Centro Canadiense para la Protección Infantil con sede en Winnipeg, que puede ayudar a eliminarlas.