Problema 2436

Para Adam Jasinski, director de tecnología de un distrito escolar en las afueras de St Louis, Missouri, monitorear los correos electrónicos de los estudiantes solía ser un trabajo que requería mucho tiempo. Jasinski solía hacer búsquedas de palabras clave en las cuentas de correo electrónico escolares oficiales de los 2600 estudiantes del distrito, buscando palabras como "suicidio" o "marihuana". Luego tendría que leer todos los mensajes que incluían una de las palabras. El proceso detectaba ocasionalmente algún comportamiento preocupante, pero "era engorroso", recordó Jasinski. El año pasado, Jasinski escuchó acerca de una nueva opción: después del tiroteo en la escuela en Parkland, Florida, la compañía de tecnología Bark estaba ofreciendo a las escuelas vigilancia gratuita, automatizada y las 24 horas del día de lo que los estudiantes estaban escribiendo en sus correos electrónicos escolares, documentos compartidos y mensajes de chat y envío de alertas a los funcionarios escolares cada vez que la tecnología de monitoreo marcó frases relacionadas. Las alertas automáticas cambiaron las reglas del juego, dijo Jason Buck, director de la escuela secundaria del distrito de Missouri. Un viernes por la noche del otoño pasado, Buck estaba viendo la televisión en su casa cuando Bark lo alertó de que uno de sus estudiantes acababa de escribirle un correo electrónico a otro estudiante hablando sobre autolesiones. El director llamó de inmediato a la madre del primer estudiante: "¿Está el estudiante contigo?" preguntó. "¿Están a salvo?" Antes de que su escuela usara Bark, dijo el director, los funcionarios escolares no sabían sobre el acoso cibernético o si un estudiante hablaba de lastimarse a menos que uno de sus amigos decidiera contárselo a un adulto. Ahora, dijo, “Bark le ha quitado ese pedazo. El otro estudiante no tiene que sentir que está traicionando o chismeando o algo por el estilo”. Aunque los estudiantes de su escuela saben que están siendo monitoreados, al principio se sorprendieron de la rapidez con que los administradores de la escuela podían hacer un seguimiento de lo que habían escrito, dijo Buck. "No es, 'Oye, envié este correo electrónico hace dos días', [es] 'Acabas de enviar este correo electrónico hace tres minutos, hablemos'". Bark y compañías tecnológicas similares ahora están monitoreando los correos electrónicos y documentos de millones de estudiantes estadounidenses, en miles de distritos escolares, en busca de signos de pensamientos suicidas, intimidación o planes para un tiroteo en la escuela. La nueva tecnología de vigilancia escolar no se apaga cuando termina el día escolar: todo lo que los estudiantes escriben en las cuentas de correo electrónico, chats o documentos oficiales de la escuela se monitorea las 24 horas del día, ya sea que los estudiantes estén en sus aulas o en sus dormitorios. Las empresas tecnológicas también están trabajando con las escuelas para monitorear las búsquedas web y el uso de Internet de los estudiantes y, en algunos casos, para rastrear lo que están escribiendo en las cuentas públicas de las redes sociales. Los padres y los estudiantes aún desconocen en gran medida el alcance y la intensidad de la vigilancia escolar, dicen los expertos en privacidad, incluso cuando el mercado de estas tecnologías ha crecido rápidamente, impulsado por los temores de tiroteos en las escuelas, particularmente a raíz del tiroteo en Parkland en febrero de 2018. que dejó 17 muertos. La vigilancia digital es solo una parte de una floreciente industria de seguridad escolar de casi $ 3 mil millones al año en los Estados Unidos, donde los legisladores republicanos han bloqueado cualquier legislación sustancial de control de armas durante un cuarto de siglo. “Las escuelas sienten una gran presión para demostrar que están haciendo algo para mantener seguros a los niños. Esto es algo en lo que pueden gastar dinero, implementar y decirles a los padres, esto es lo que estamos haciendo”, dijo Chad Marlow, un experto en privacidad de la Unión Estadounidense de Libertades Civiles. A diferencia del control de armas, dijo Marlow, “la vigilancia es aceptable desde el punto de vista político, por lo que buscan la vigilancia como una forma de demostrar acción, a pesar de que no hay evidencia de que tendrá un impacto positivo en el problema”. Enorme crecimiento ----------- Todavía no existe una evaluación independiente de si este tipo de tecnología de vigilancia realmente funciona para reducir la violencia y las autolesiones. Los expertos en Privacidad dicen que el monitoreo generalizado puede dañar a los niños y puede ser particularmente peligroso para los estudiantes con discapacidades y los estudiantes de color. A pesar de la falta de evidencia de investigación, las empresas de tecnología están comercializando tecnologías de monitoreo escolar con afirmaciones audaces de cientos de vidas salvadas, principalmente a través de la prevención de intentos de suicidio de jóvenes. Gaggle, un proveedor líder de correo electrónico escolar y monitoreo de documentos compartidos, dice que su tecnología se usa actualmente para monitorear a 4.5 millones de estudiantes en 1400 distritos escolares. La compañía afirma que solo en el último año académico su tecnología "ayudó a los distritos a salvar la vida de más de 700 estudiantes que planeaban o intentaban suicidarse". Bark dice que trabaja con al menos 1.400 distritos escolares en todo el país y afirma que su tecnología ha ayudado a prevenir "16 tiroteos escolares creíbles" y ha detectado "veinte mil situaciones graves de autolesiones". Securly, otro proveedor líder, afirma que sus productos se utilizan para proteger a 10 millones de estudiantes en 10 000 escuelas individuales. El año pasado, Securly dijo que ayudó a los funcionarios escolares a intervenir en 400 situaciones que presentaban una “amenaza inminente”. Las estadísticas de las empresas sobre vidas salvadas se basan en sus propios datos anecdóticos y no se han evaluado de forma independiente. “Escuché de muchos distritos que en las semanas posteriores a Parkland, recibían constantemente solicitudes por correo electrónico de todo tipo de compañías nuevas o bastante nuevas que se especializaban en redes sociales, que decían: 'Podemos solucionar sus problemas' y muchos de ellos lo estaban adoptando”, dijo Amelia Vance, directora de privacidad educativa en el Future of Privacy Forum. “Algunas personas piensan que la tecnología es mágica, que la inteligencia artificial nos salvará”, dijo Vance. "Muchas de las preguntas y muchas de las preocupaciones sobre la privacidad no se han considerado, y mucho menos abordado". Cómo funciona ------------ En Florence, Carolina del Sur, los funcionarios escolares intervinieron después de que un estudiante de secundaria comenzara a escribir sobre el suicidio mientras trabajaba en una tarea de inglés en clase. Las frases que escribió en un documento de Google generaron una alerta de Gaggle, la empresa de vigilancia que trabaja con el distrito escolar. "En cuestión de minutos", el estudiante fue sacado de la clase para conversar con los funcionarios escolares, según el Dr. Richard O'Malley, superintendente del distrito. En Cincinnati, Ohio, el director de información del distrito escolar tuvo que llamar a la policía en medio de la noche para realizar un control de bienestar de un estudiante que había sido señalado por Gaggle por escribir sobre autolesiones. La situación era lo suficientemente grave como para que el estudiante fuera hospitalizado para recibir servicios de salud mental, dijo la directora de información, Sarah Trimble-Oliver. En el condado rural de Weld, Colorado, un funcionario escolar recibió una alerta de GoGuardian, una compañía que monitorea las búsquedas en Internet de los estudiantes, de que un estudiante estaba haciendo una búsqueda en Google de "cómo suicidarme" tarde una noche. El funcionario trabajó con un trabajador social para llamar a las fuerzas del orden público para realizar un control de seguridad en persona en la casa del estudiante, dijo la Dra. Teresa Hernández, directora de intervención y seguridad del distrito. Cuando la madre del estudiante abrió la puerta, estaba confundida y dijo que su hijo había estado durmiendo arriba desde las 9 p.m. “Teníamos el historial de búsqueda para mostrar, en realidad, no, eso no es lo que estaba pasando”, dijo Hernández. La ley federal requiere que las escuelas públicas estadounidenses bloqueen el acceso a sitios web dañinos y que "supervisen" las actividades en línea de los estudiantes. Lo que significa exactamente este "monitoreo" nunca se ha definido claramente: la Ley de Protección de Internet para Niños, aprobada hace casi 20 años, fue impulsada en parte por los temores de que los niños estadounidenses pudieran ver pornografía en las computadoras escolares financiadas con fondos federales. A medida que la tecnología ha avanzado y las escuelas han integrado computadoras portátiles y tecnología digital en cada parte del día escolar, los distritos escolares han definido en gran medida por sí mismos cómo monitorear de manera responsable a los estudiantes en los dispositivos proporcionados por la escuela, y qué tan agresivo creen que debería ser el monitoreo. Las escuelas se han enfrentado a demandas de padres de estudiantes que se han suicidado y de padres de niños que han sido acosados cibernéticamente, dijo Vance, el experto en privacidad de los estudiantes. “Las escuelas están casi en una maldita situación si lo haces, maldita sea si no lo haces. Si eligen ser más protectores de la privacidad, podrían ser demandados, pero por otro lado, podrían ser demandados por vigilancia excesiva”, dijo. La decisión de Bark después del tiroteo en Parkland de regalar correo electrónico, chat y monitoreo de documentos compartidos a cualquier distrito escolar que lo quisiera fue en parte altruista, un esfuerzo para responder a una crisis horrible, y en parte estratégica, con la esperanza de brindar un servicio gratuito para los distritos escolares la convertirían en una marca confiable para los padres, lo que ayudaría a las ventas de sus productos de vigilancia para padres con fines de lucro, que comercializa por $9 al mes, dijo Titania Jordan, la “directora de crianza” de la compañía. Otras compañías, algunas de las cuales ofrecen a las escuelas analistas humanos que ayudan a revisar las alertas automáticas, cobran a los distritos miles o decenas de miles de dólares. La cantidad que los distritos escolares públicos estadounidenses gastan en correo electrónico y servicios de monitoreo de documentos parece haber aumentado considerablemente desde 2013, el año posterior al tiroteo masivo en la escuela primaria Sandy Hook, hasta 2018, de casi $4 millones a más de $8 millones, según un análisis. de contratos de compra entre solo dos importantes empresas de monitoreo, Gaggle y Securly, y aproximadamente 250 distritos escolares. Estos números parecen ser un cálculo insuficiente del tamaño total del mercado, según el Centro Brennan para la Justicia, el grupo de defensa progresista que compiló y analizó los registros de compras. A partir de 2018, al menos 60 distritos escolares estadounidenses también habían gastado más de $ 1 millón en tecnología de monitoreo separada para rastrear lo que decían sus estudiantes en cuentas públicas de redes sociales, una cantidad que se disparó a raíz del tiroteo en la escuela de Parkland en 2018, según al Centro Brennan. Valores en juego --------------- Algunos defensores del monitoreo escolar dicen que la tecnología es parte de educar a los estudiantes de hoy sobre cómo ser buenos "ciudadanos digitales", y que el monitoreo en la escuela ayuda a capacitar a los estudiantes para una vigilancia constante después de graduarse. “Tomemos un adulto en la fuerza laboral. No puede escribir lo que quiera en su correo electrónico de trabajo: está siendo revisado”, dijo Bill McCullough, un portavoz de Gaggle. “Estamos preparando a los niños para que se conviertan en adultos exitosos”. La experiencia con el monitoreo escolar es un "campo de entrenamiento" que podría significar que los estudiantes "no perderán su trabajo por compartir contenido inapropiado", dijo Trimble-Oliver, directora de información del distrito escolar público de Cincinnati, que usa Gaggle. Los estudiantes “necesitan saber que las organizaciones pueden y probablemente están monitoreando su contenido”, dijo. Los expertos en privacidad calificaron estos argumentos como "preocupantes" y señalan que existen límites legales sobre cómo las empresas pueden monitorear los correos electrónicos de trabajo de los empleados. “La idea de que todo lo que los estudiantes buscan o todo lo que escriben será monitoreado por su escuela realmente puede inhibir el crecimiento y el autodescubrimiento”, dijo Natasha Duarte, analista de políticas del Centro para la Democracia y la Tecnología. . Para estudiantes negros y estudiantes con discapacidades, que ya enfrentan una [cantidad desproporcionada](https://www.washingtonpost.com/local/education/racial-disparities-in-school-discipline-are-growing-federal-data- shows/2018/04/24/67b5d2b8-47e4-11e8-827e-190efaf1f1ee_story.html) de duras medidas disciplinarias, la introducción de nuevos tipos de vigilancia puede ser especialmente dañina, dijeron expertos en privacidad. Tanto los algoritmos de aprendizaje automático como los analistas humanos corren el riesgo de malinterpretar lo que escriben los estudiantes, especialmente si los analistas humanos son mayores o tienen diferentes antecedentes culturales que los estudiantes que están monitoreando, dijeron los expertos. Si las empresas de vigilancia digital que escanean los correos electrónicos y los chats de los estudiantes malinterpretan sus bromas o sarcasmos como amenazas reales, eso "podría exponer a los estudiantes a las fuerzas del orden público de una manera en la que no lo han hecho en el pasado", dijo Elizabeth Laird, investigadora sénior de privacidad estudiantil en el Centro para la Democracia y la Tecnología. Las consecuencias de involucrar a las fuerzas del orden para responder a lo que los estudiantes están escribiendo en las computadoras de sus escuelas es una preocupación particular en un país donde más del 40% de las escuelas tienen oficiales de policía dentro de los edificios escolares que sirven como "oficiales de recursos escolares" dedicados, dijo Vance. En algunos casos, las empresas de vigilancia que monitorean a los estudiantes pueden comunicarse directamente con los funcionarios locales encargados de hacer cumplir la ley para tomar medidas si les preocupa que una amenaza sea grave y si los funcionarios escolares les han dado permiso para hacerlo. Los datos que las empresas de vigilancia recopilan sobre los estudiantes también pueden compartirse con las fuerzas del orden. Securly, una de las principales empresas de vigilancia educativa, hace posible que los analistas humanos que evalúan los mensajes de los estudiantes potencialmente problemáticos revisen el historial de navegación de Internet y las búsquedas web de un estudiante individual, lo que les permite conectar los puntos entre lo que los estudiantes son leer, escribir, buscar y, en algunos casos, publicar en las redes sociales. Securly compartirá información con las fuerzas del orden “si hay una orden judicial o citación”, dijo Mike Jolley, director de seguridad K-12 de la compañía. Los datos sobre estudiantes individuales se eliminan cuando los estudiantes se gradúan o cuando las escuelas lo solicitan, dijo Jolley. En el Reino Unido, la tecnología de vigilancia escolar ya ha sido probada para su uso en esfuerzos antiterroristas. Impero, una compañía británica de software educativo, probó su tecnología de monitoreo como una herramienta antiterrorista, señalando a los niños por usar frases como “novia yihadista”, “guerra contra el Islam” o “solo mueres una vez”, informó The Guardian en 2015. La empresa anunció esto como un “esfuerzo de desradicalización” que ayudaría a los maestros y otros funcionarios a identificar a los "niños vulnerables" o "niños que pueden estar en riesgo en el futuro". “Ciertamente es justo preguntar hasta qué punto nos sentimos cómodos con las tecnologías desarrolladas por primera vez para su uso en la guerra que se utilizan contra nuestros niños”, dijo Marlow, el experto de la ACLU. No está claro qué tipo de "efecto escalofriante" podría tener el monitoreo en la autoexploración de los estudiantes, sus conversaciones grupales y su libertad académica, dijo Marlow, el experto en privacidad de la ACLU. Si los estudiantes saben que sus escuelas están monitoreando el uso de sus computadoras, ¿los estudiantes LGBTQ en distritos escolares conservadores se sentirán cómodos investigando su sexualidad? ¿Qué pasa con los jóvenes partidarios de Trump en los distritos escolares liberales que quieren hacer una investigación política? "Las escuelas no publican en un tablón de anuncios fuera de la oficina del director, 'Aquí están las palabras que estamos buscando'", dijo Marlow. “Obliga a los estudiantes a tener cuidado. Es posible que no escriban sobre cosas o hablen sobre cosas que, de hecho, no están siendo monitoreadas”. Cambios en la cultura ----------------- Los funcionarios escolares dicen que su principal motivación para usar la tecnología de vigilancia es la oportunidad de salvar la vida de un estudiante. Pero las escuelas están monitoreando los documentos digitales de los estudiantes en tiempo real para una amplia gama de contenido que consideran problemático, desde malas palabras hasta imágenes de desnudos y pornografía, ciberacoso y evidencia de consumo de drogas y alcohol. En el condado de Weld, Colorado, una estudiante le envió un correo electrónico a una maestra que escuchó que dos niños iban a fumar hierba en un baño, dijo Hernández, directora de seguridad y servicios estudiantiles. Gaggle alertó de inmediato a los funcionarios escolares: “Cuatro minutos después de que ella envió este correo electrónico, las tropas se habían desplegado”, dijo. Gaggle también envía automáticamente a los estudiantes un correo electrónico de reprimenda cada vez que usan una blasfemia. Algunos distritos escolares han optado por no enviar a los estudiantes las advertencias de Gaggle sobre malas palabras, algunos porque les preocupa que si se les recuerda a los estudiantes que están siendo monitoreados, "los niños recurrirán a otras herramientas para comunicarse y se pierdan los problemas que amenazan la vida en los que podrían haber intervenido”, dijo McCullough, el portavoz de Gaggle. McCullough dijo que estos temores estaban fuera de lugar y que la compañía había visto poca evidencia de que los estudiantes que estaban siendo vigilados en los dispositivos escolares hubieran cambiado a otras formas de comunicación. “Los niños que nos han usado en sus distritos durante años y años todavía usan estas herramientas para comunicar sus pensamientos más íntimos, porque esperan que sus gritos de ayuda sean respondidos, y no se sienten cómodos comunicándose de la forma en que los adultos se comunican, cara a cara. cara a cara”, dijo McCullough. O'Malley, el superintendente de Carolina del Sur cuyo distrito usa Gaggle, tenía una impresión diferente de cómo habían reaccionado los niños de su distrito a la nueva vigilancia. “Una vez que los niños saben que están siendo Gaggled, están siendo observados las 24 horas del día, los 7 días de la semana, tienden a ser más proactivos al observar lo que hacen”, dijo O’Malley. Dijo que había escuchado a estudiantes en el distrito usar Gaggle, el nombre de la compañía de vigilancia, como verbo: “No podemos hacer eso. Estamos siendo amordazados. Marcando la línea ---------------- Si bien los padres a menudo están "agradecidos" por la información que proviene de una intervención, dijo Buck, el director de Missouri, los estudiantes pueden estar "un poco molesto a veces. Sienten que hay un poco de ese problema de privacidad. Pero con el transcurso del tiempo se dan cuenta de que realmente estamos tratando de ayudar, especialmente cuando hablamos del tema de las autolesiones”. Algunas empresas de vigilancia escolar defendieron sus productos como más sensibles a la privacidad de los estudiantes que sus competidores, o los propios padres de los estudiantes. “Algunos padres quieren tecnología que les brinde un registro exacto de cada mensaje de texto, cada correo electrónico”, dijo Jordan, director de crianza de Bark. Pero Bark no ofrece eso, dijo: “Solo alertamos a los padres y las escuelas cuando hay un problema real que necesitan saber”. Para Gaggle, dijo McCullough, la línea brillante ofrecía el monitoreo de solo los correos electrónicos y documentos escolares oficiales de los estudiantes. “No deberíamos estar mirando su correo electrónico privado. No deberíamos estar mirando sus publicaciones privadas en las redes sociales. Pero en la escuela, con las herramientas proporcionadas por la escuela, debemos protegerlos”, dijo McCullough. Securly, por el contrario, ofrece una aplicación gratuita para padres en los distritos que utilizan su tecnología que les permite ver exactamente qué sitios web han visitado sus hijos, qué búsquedas de Google han realizado y qué videos están viendo en YouTube, Jolley, Securly's director de seguridad, dijo Por el momento, la compañía no tiene protecciones de privacidad para los estudiantes LGBTQ que podrían necesitar buscar información sin que sus padres lo sepan, aunque Jolley dijo que esa era una preocupación que la compañía estaba discutiendo activamente. Mientras que las empresas de vigilancia escolar promocionan productos informados por "aprendizaje automático" e "inteligencia artificial", los funcionarios escolares dicen que la tecnología aún está lejos de ser perfecta y que han recibido muchas alertas falsas, como señales de alerta cuando los estudiantes se dicen unos a otros. sarcásticamente para “suicidarse”, hablar de la banda Suicide Boys, o tener que escribir una tarea escolar sobre la clásica novela estadounidense To Kill a Mockingbird. Una investigación sobre la vigilancia escolar por parte de la Semana de la Educación examinó casi [3000 alertas] (https://www.edweek .org/ew/articles/2019/05/30/schools-are-deploying-massive-digital-surveillance-systems.html) que Gaggle envió a un distrito escolar en Michigan. La mayoría de estas fueron "infracciones menores", incluida una docena de estudiantes que almacenaron o enviaron archivos que contenían la palabra "gay" y uno que usó la palabra "bastardo" en una tarea escolar sobre la Odisea. Después de haber recibido múltiples alertas de el mismo grupo de chicos de secundaria que se enviaban memes atrevidos entre sí, a veces hasta las 3 a. mensaje, que no alertaría constantemente a su director.