Incidentes Asociados
THIBODAUX, Luisiana (AP) --- Las burlas eran incesantes. Imágenes de una niña de 13 años desnuda y sus amigas, generadas mediante inteligencia artificial (https://apnews.com/hub/artificial-intelligence), circulaban en redes sociales y se habían convertido en el tema de conversación de una escuela secundaria de Luisiana.
Las niñas pidieron ayuda, primero a un orientador escolar y luego a un agente del sheriff asignado a su escuela. Pero las imágenes se compartieron en Snapchat, una aplicación que borra los mensajes segundos después de ser vistos, y los adultos no pudieron encontrarlas. El director dudaba incluso de su existencia.
Entre los niños, las fotos seguían difundiéndose. Cuando la niña de 13 años subió al autobús escolar de la parroquia de Lafourche al final del día, un compañero le estaba mostrando una a un amigo.
"Fue entonces cuando me enojé", recordó la estudiante de octavo grado en su audiencia disciplinaria.
Harta, atacó a un chico en el autobús e invitó a otros a unirse a ella. La expulsaron de la escuela secundaria Sixth Ward durante más de 10 semanas y la enviaron a una escuela alternativa. Declaró que el chico, del que ella y sus amigos sospechaban que había creado las imágenes, no fue enviado a esa escuela alternativa con ella. Los abogados de la niña de 13 años alegan que él evadió por completo la disciplina escolar.
Cuando el departamento del sheriff investigó el caso, tomaron medidas contrarias. Acusaron a dos de los chicos acusados de compartir imágenes explícitas, y no a la niña.
El episodio de Luisiana pone de relieve el potencial de pesadilla de las deepfakes de IA (https://apnews.com/article/one-tech-tip-spotting-deepfakes-ai-8f7403c7e5a738488d74cf2326382d8c). Pueden, y de hecho, trastocar la vida de los niños, tanto en la escuela como en casa. Y si bien las escuelas trabajan para abordar la inteligencia artificial (https://apnews.com/article/ai-school-surveillance-gaggle-goguardian-bark-8c531cde8f9aee0b1ef06cfce109724a) en la instrucción en el aula, a menudo han hecho poco para prepararse para lo que las nuevas tecnologías implican en términos de ciberacoso y acoso.
Una vez más, a medida que los niños usan cada vez más las nuevas tecnologías para lastimarse entre sí, los adultos se quedan atrás, afirmó Sergio Alexander, investigador asociado de la Universidad Cristiana de Texas especializado en tecnologías emergentes.
"Cuando ignoramos el daño digital, el único momento que se hace visible es cuando la víctima finalmente se derrumba", afirmó Alexander.
En la parroquia de Lafourche, el distrito escolar siguió todos sus protocolos para denunciar casos de mala conducta, declaró el superintendente Jarod Martin. Añadió que se había presentado una versión parcial del caso que no ilustra su complejidad.
La pesadilla de una niña comienza con rumores
Tras escuchar rumores sobre las imágenes de desnudos, la joven de 13 años contó que marchó con dos amigas —una de ellas casi llorando— a la consulta del consejero escolar alrededor de las 7:00 a. m. del 26 de agosto. Associated Press no la nombra porque es menor de edad y porque AP no suele identificar a víctimas de delitos sexuales.
Ella estaba allí para brindar apoyo moral, sin percatarse inicialmente de que también había imágenes de ella, según su testimonio en la audiencia disciplinaria escolar.
Finalmente, la investigación, que duró varias semanas, en la escuela de Thibodaux, a unos 72 kilómetros (45 millas) al suroeste de Nueva Orleans, reveló imágenes de desnudos generadas por inteligencia artificial de ocho alumnas de secundaria y dos adultos, según informaron el distrito y la oficina del sheriff en un comunicado conjunto.
"Desnudos completos con su cara", así las describió el padre de la niña, Joseph Daniels. Daniels ha hablado públicamente con varios medios de comunicación para llamar la atención sobre la gestión del caso.
Hasta hace poco, se requería cierta habilidad técnica para crear deepfakes realistas (https://apnews.com/article/artificial-intelligence-deepfake-trump-espionage-hack-scammers-da90ad1e5298a9ce50c997458d6aa610). Ahora, la tecnología facilita extraer una foto de las redes sociales, "desnudarla" y crear una pesadilla viral para un compañero de clase desprevenido.
La mayoría de las escuelas "simplemente se hacen los tontos, con la esperanza de que esto no suceda", afirmó Sameer Hinduja, codirector del Centro de Investigación sobre Ciberacoso y profesor de criminología en la Universidad Atlántica de Florida.
El Distrito Escolar de la Parroquia de Lafourche apenas comenzaba a desarrollar políticas sobre inteligencia artificial. Las directrices escolares sobre IA se dirigían principalmente al ámbito académico, según documentos proporcionados mediante una solicitud de registros. El distrito tampoco había actualizado su capacitación sobre ciberacoso para reflejar la amenaza de las imágenes sexualmente explícitas generadas por IA. El currículo que utilizaban sus escuelas databa de 2018.
Una investigación escolar se topa con obstáculos
Aunque las chicas de la Escuela Secundaria Sixth Ward no habían visto las imágenes en persona, se enteraron de ellas por los chicos de la escuela. Basándose en esas conversaciones, las chicas acusaron a una compañera de clase y a dos estudiantes de otras escuelas de crear y difundir los desnudos en Snapchat y posiblemente en TikTok.
La directora, Danielle Coriell, dijo que la investigación fracasó ese día porque ningún estudiante se hizo responsable. El agente asignado a la escuela buscó las imágenes en redes sociales sin éxito, según una grabación de la audiencia disciplinaria.
"Me hicieron creer que solo eran rumores", dijo el padre de la niña, al relatar una conversación que tuvo esa mañana con el consejero escolar.
Pero la niña se sentía abatida, y un informe policial del incidente mostró que más niñas también denunciaban ser víctimas. La joven de 13 años regresó con el consejero por la tarde, pidiendo llamar a su padre. Dijo que se le negó.
Su padre dice que le envió un mensaje de texto que decía "Papá", y nada más. No hablaron. Ante las burlas constantes, la niña le escribió a su hermana: "No se está gestionando".
Al final de la jornada escolar, el director se mostró escéptico. En la audiencia disciplinaria, el abogado de la niña preguntó por qué el agente del sheriff no revisó el teléfono del chico al que acusaban y por qué se le permitió subir al mismo autobús que ella. "Los niños mienten mucho", respondió Coriell, la directora. "Mienten sobre todo tipo de cosas. Exageran las cosas a diario. En 17 años, lo han hecho constantemente. Así que, que yo sepa, a las 2 en punto, cuando volví a comprobarlo, no había fotos".
Se desata una pelea en el autobús escolar
Cuando la niña subió al autobús 15 minutos después, el niño le estaba mostrando las imágenes generadas por IA a un amigo. En el teléfono del niño se veían imágenes falsas de sus amigos desnudos, dijo la niña, una afirmación respaldada por una foto tomada en el autobús. Un video del autobús escolar mostraba a al menos media docena de estudiantes circulando las imágenes, dijo Martin, el superintendente, en una reunión del consejo escolar.
"Pasé todo el día sufriendo acoso y burlas por mi cuerpo", dijo la niña en su audiencia. Cuando subió al autobús, dijo, la ira iba en aumento.
Tras ver al chico y su teléfono, lo abofeteó, según Coriell, el director. El chico ignoró la bofetada, como muestra un video.
Lo golpeó por segunda vez. Entonces, según el director, la chica preguntó en voz alta: "¿Por qué soy la única que hace esto?". Dos compañeros golpearon al chico, añadió el director, antes de que el chico de 13 años se subiera a un asiento y lo golpeara y pisoteara.
El video de la pelea se publicó en Facebook. "La indignación generalizada en redes sociales fue abrumadora y se exigió que los estudiantes involucrados en la pelea rindan cuentas", declararon el distrito y la oficina del sheriff en su declaración conjunta publicada en noviembre.
La niña no tenía problemas disciplinarios previos, pero fue asignada a una escuela alternativa cuando el distrito decidió expulsarla (https://apnews.com/article/ferguson-black-lives-matter-school-discipline-suspension-d099aab519ff743dc2be04c6b6132144) por un semestre completo: 89 días lectivos.
Semanas después, un niño es acusado.
El día de la audiencia disciplinaria de la niña, tres semanas después de la pelea, el primero de los niños fue acusado.
El estudiante fue acusado de 10 cargos de difusión ilegal de imágenes creadas por inteligencia artificial bajo una nueva ley estatal de Luisiana, parte de una ola de leyes similares en todo el país. Un segundo niño fue acusado en diciembre con cargos idénticos, según informó el departamento del sheriff. Ninguno de los dos fue identificado por las autoridades debido a su edad.
La niña no enfrentaría cargos debido a lo que la oficina del sheriff describió como la "totalidad de las circunstancias".
En la audiencia disciplinaria, el director se negó a responder preguntas de los abogados de la niña sobre el tipo de disciplina escolar que enfrentaría el niño.
El distrito declaró que las leyes federales de privacidad estudiantil le prohíben hablar sobre los expedientes disciplinarios de cada estudiante. Gregory Miller, abogado de la niña, afirmó no tener conocimiento de ninguna medida disciplinaria escolar contra el compañero de clase acusado de compartir las imágenes.
Finalmente, el panel expulsó a la niña de 13 años. Lloró, según su padre.
"Sintió que la habían abusado repetidamente: por las fotos, por que la escuela no le creyera, por haberla subido a un autobús y luego por haberla expulsado por sus acciones", declaró en una entrevista.
Las consecuencias desvían a una estudiante
Después de ser enviada a la escuela alternativa, la niña comenzó a saltarse comidas, según su padre. Incapaz de concentrarse, no completó ninguna de las tareas escolares en línea durante varios días antes de que su padre la enviara a terapia para la depresión y la ansiedad.
Al principio, nadie se dio cuenta de que dejó de hacer sus tareas, dijo su padre.
"Como que se quedó atrás", dijo.
Sus abogados apelaron ante la junta escolar y se programó otra audiencia para siete semanas después.
Para entonces, había pasado tanto tiempo que podría haber regresado a su antigua escuela en libertad condicional. Pero como había faltado a tareas antes de recibir tratamiento para la depresión, el distrito quería que permaneciera en la escuela alternativa otras 12 semanas.
Para los estudiantes suspendidos o expulsados, el impacto puede durar años. Tienen más probabilidades de ser suspendidos de nuevo. Se desconectan de sus compañeros y tienen más probabilidades de desvincularse de la escuela. Tienen más probabilidades de obtener calificaciones y tasas de graduación.
"Ya ha estado bastante tiempo sin ir a la escuela", declaró Matt Ory, uno de los abogados de la niña, a la junta el 5 de noviembre. "Es una víctima".
"Ella", repitió, "es una víctima".
Martin, el superintendente, replicó: "A veces en la vida podemos ser víctimas y agresores a la vez".
Pero la junta se dejó convencer. Un miembro, Henry Lafont, dijo: "Hay muchas cosas en ese video que no me gustan". Pero también intento poner en perspectiva lo que pasó todo el día. Le permitieron regresar al campus de inmediato. Su primer día de regreso a clases fue el 7 de noviembre, aunque permanecerá en libertad condicional hasta el 29 de enero.
Eso significa que no podrá asistir a bailes, deportes ni actividades extracurriculares. Ya se perdió las pruebas de baloncesto, lo que significa que no podrá jugar esta temporada, dijo su padre. La situación le desgarra.
"Esperaba que hiciera buenas amigas, que fueran juntas al instituto y, bueno, eso nos mantendría a todos alejados de los problemas y en el buen camino", dijo su padre. "Creo que lo arruinaron".