Incidentes Asociados
La policía de la ciudad está investigando informes sobre fotos de desnudos de estudiantes menores de edad generadas por IA que circulan en una escuela secundaria local.
Miembros del Servicio de Policía de Winnipeg asistieron al Collège Béliveau, una escuela secundaria de 7.º a 12.º grado en Windsor Park, el miércoles como parte de una investigación de pornografía infantil.
Hasta la fecha no se han presentado cargos penales.
"Es una investigación preliminar y la IA es complicada. Hay todo tipo de matices que recién se están desarrollando en la ley", dijo la agente Dani McKinnon de la oficina de información pública de WPS.
McKinnon se negó a proporcionar más comentarios el jueves, citando la naturaleza delicada de la situación y las preocupaciones sobre las víctimas involucradas.
Dani McKinnon, oficial de información pública del Servicio de Policía de Winnipeg.
Los administradores de la escuela secundaria escribieron una carta a las familias para alertarlas de que fueron los primeros en enterarse de las fotos manipuladas de estudiantes compartidas en línea el lunes por la noche.
“Las fotos originales parecen haber sido obtenidas de redes sociales de acceso público y alteradas explícitamente”, afirma un memorando firmado por la directora Andrea Kolody y la subdirectora Jennifer Oldfield.
En su declaración conjunta, Kolody y Oldfield dijeron que estaban agradecidos y orgullosos de los estudiantes que se manifestaron sobre el grave problema que viola las políticas de uso apropiado de Internet y comportamiento estudiantil de la División Escolar Louis Riel.
El equipo administrativo dijo que la investigación posterior involucró tanto a fuentes internas como externas.
Las primeras incluyen la oficina del superintendente, el departamento de sistemas de información y el personal de servicios clínicos. El segundo grupo abarca la unidad de explotación infantil en Internet de WPS y una línea nacional de denuncia dirigida por el Centro Canadiense para la Protección de la Infancia.
“Todas las imágenes recibidas por la escuela se cargarán de forma segura en Cybertip, a través del Proyecto Arachnid, que se especializa en la eliminación de este tipo de imágenes en línea”, escribieron los directores en la carta.
“Es una investigación preliminar y la IA es complicada. Hay todo tipo de matices que recién se están desarrollando en la ley” –Const. Dani McKinnon
“En muchos casos, no creo que (los perpetradores) comprendan la gravedad de lo que están haciendo. Las imágenes que están publicando son técnicamente material de abuso sexual infantil”, dijo Lloyd Richardson, director de tecnología de la información en la organización con sede en Winnipeg que dirige Cybertip y Project Arachnid.
Richardson señaló que las aplicaciones que crean las llamadas deep fakes (contenido alterado digitalmente creado generalmente con fines maliciosos, que incluyen, entre otros, la difusión de información falsa) se han vuelto cada vez más avanzadas y accesibles en los últimos dos años.
El auge de los generadores de imágenes con inteligencia artificial ha creado una “derivación” de la tradicional difusión no consentida de imágenes íntimas, ya sea motivada por la risa o con fines nefastos, y sus implicaciones no son menos dañinas para las víctimas, dijo.
“Realmente no importa si la imagen es real o no, sigues estando expuesto de la misma manera”, dijo Richardson, añadiendo que la tecnología ha avanzado hasta el punto en que a menudo es difícil distinguir una imagen real de una deep fake.
Será fundamental reforzar la educación pública sobre las ilegalidades de los desnudos generados por IA a medida que estas herramientas se siguen perfeccionando y se hacen más accesibles, añadió el director de TI.
Un grupo de estudiantes de décimo grado que presenciaron la llegada de agentes uniformados a su escuela secundaria el miércoles describió las consecuencias de la visita del mediodía como emotivas.
En los días de partido de los Winnipeg Jets, los escritores de hockey Mike McIntyre y Ken Wiebe envían noticias, notas y citas del patinaje matutino, así como actualizaciones de lesiones y decisiones de alineación. Llega unas horas antes de la caída del disco.
Los adolescentes informaron haber visto a compañeros de clase llorar en los pasillos, mientras que otros expresaron su enojo por los primeros informes, que dijeron que inicialmente fueron transmitidos a los miembros de la comunidad por profesores habladores y víctimas.
"Adondequiera que íbamos, cada persona con la que pasabas, estaba hablando de ello", dijo un estudiante.
Otro calificó la creación de imágenes falsificadas de compañeros menores de edad como "muy rara y desordenada".
Los estudiantes de secundaria indicaron que se cree que se crearon más de 300 fotos con docenas de rostros de adolescentes locales.
La División Escolar Louis Riel indicó el jueves que no podía confirmar cómo se alteraron las imágenes ni cuántas se publicaron en total.
Los líderes de Béliveau reconocieron la necesidad de educación adicional sobre ciudadanía digital en la escuela secundaria e indicaron que están en el proceso de organizar oportunidades de aprendizaje para complementar los planes de estudio existentes.
Si bien los directores dijeron que "los sentimientos de ira, tristeza y violación son normales", también advirtieron que no se tolerarán el vigilantismo y las amenazas de represalia con violencia.
"Nuestra responsabilidad como escuela es garantizar la seguridad de todos los estudiantes. La administración de la escuela, en consulta con los funcionarios de la división, está tomando las medidas necesarias para responder a las acciones de las personas identificadas que compartieron estas imágenes".
Se están enviando trabajadores sociales y otros profesionales de servicios estudiantiles para ayudar a los estudiantes afectados por la situación.