Problema 3521
El auge comercial en torno al uso de la inteligencia artificial en las aulas está creando una serie de riesgos para la privacidad y la seguridad mucho antes de que Washington se enfrente a esta tecnología que avanza rápidamente.
Docenas de distritos escolares de Arizona han estado investigando a los proveedores de tecnología para descartar productos que puedan utilizar datos de los estudiantes para publicidad. Las escuelas de Virginia Occidental y Montana han comenzado a aumentar su seguridad utilizando sistemas de reconocimiento facial a pesar de que existe una alta tasa de coincidencias falsas entre mujeres y niños y ya es una preocupación en todo Nueva York.
La prisa por crear herramientas de inteligencia artificial para la educación K-12 ha atraído a muchas empresas que no están familiarizadas con las leyes de privacidad más estrictas que rigen a los niños, lo que aumenta el riesgo de que su información termine en manos de proveedores descuidados, dicen los expertos. Esa brecha de conocimiento y el retraso en el apoyo federal están obligando a los líderes estatales y locales a navegar por sí solos las protecciones para los jóvenes, a medida que las escuelas también recurren a la tecnología para tutorías personalizadas y planificación de lecciones.
"No ha habido mucho por parte del gobierno federal", dijo en una entrevista Christine Dickinson, directora de tecnología del Distrito Escolar Unificado de Maricopa, al sur de Phoenix, Arizona. "Tenemos la esperanza de que haya alguna orientación, sin embargo, vamos a seguir adelante a toda máquina para asegurarnos de que tenemos todas las herramientas para que nuestros estudiantes tengan éxito y nuestros maestros para asegurarnos de que puedan mantener esa integridad académica en sus aulas".
Oregón proporciona una lista de verificación y otros materiales para las escuelas que buscan desarrollar políticas de IA generativa mientras California dirige las escuelas sobre cómo pueden integrar la IA en el aula de una manera que priorice la seguridad de los estudiantes. Mississippi espera publicar una guía sobre IA en las escuelas en enero, y Arizona está formando un comité a principios de 2024 para recomendar procedimientos políticos para implementar y monitorear la tecnología en las escuelas.
"Existe el equilibrio entre mitigar el riesgo que [la IA] probablemente plantea en términos de privacidad y sesgo de los datos y las implicaciones de equidad, versus las oportunidades que presenta", dijo Charlene Williams, directora del departamento de educación estatal de Oregón, quien señaló que el estado recibió alguna aportación federal sobre su orientación.
La pandemia de Covid-19 desató un auge en la tecnología educativa cuando estudiantes y educadores repentinamente se volvieron virtuales, un cambio rápido que también provocó una ofensiva federal contra la industria por prácticas de privacidad supuestamente laxas.
A principios de este año, la Comisión Federal de Comercio presentó una denuncia contra la ahora desaparecida empresa de tecnología educativa Edmodo, acusándola de violar COPPA, una ley federal que prohíbe el uso de la información personal de los estudiantes para publicidad sin el consentimiento de los padres, entre otras violaciones. La denuncia se produjo tras la advertencia de la FTC a la industria de la tecnología educativa el año pasado de que la comisión estaba supervisando el cumplimiento de la COPPA.
Ahora la FTC propone codificar esa guía de larga data que prohíbe a las escuelas autorizar la recopilación de datos sobre niños menores de 13 años con fines comerciales como publicidad.
La lucha por adoptar la tecnología durante el apogeo de la pandemia llevó al departamento de educación del estado de Arizona a reforzar las prácticas de seguridad y privacidad de los datos en 2022, según Dickinson. El distrito escolar de Maricopa, que alberga aproximadamente 8.000 estudiantes, y otros en todo el estado, ahora trabajan con 1EdTech, que les ayuda a mantener un panel de proveedores de tecnología educativa que han sido examinados para trabajar con niños. El proceso de autorización garantiza que las empresas hayan cumplido con el acuerdo de datos del distrito y con COPPA y FERPA, dos leyes federales de privacidad destinadas a proteger a los niños en línea y los registros educativos de los estudiantes, respectivamente.
Pero a medida que la pandemia disminuyó y los estudiantes regresaron a la instrucción presencial, la inteligencia artificial comenzó a acelerar las preocupaciones existentes con la tecnología educativa.
Además de hacer recomendaciones de políticas y procedimientos, el próximo comité de IA de Arizona planea publicar directrices sobre la IA en el aula que complementarían las recomendaciones hechas a nivel federal.
La amplia orden ejecutiva del presidente Joe Biden sobre IA le da al Departamento de Educación aproximadamente un año para desarrollar más recursos que aborden los usos no discriminatorios de la tecnología. Además, el departamento espera publicar un "kit de herramientas de IA" en la primavera para ayudar a las escuelas a implementar las recomendaciones de políticas de la agencia. El conjunto de herramientas incluiría instrucciones sobre "diseñar sistemas de inteligencia artificial para mejorar la confianza y la seguridad y alinearse con las leyes y regulaciones relacionadas con la privacidad".
Los padres también están preocupados por lo que se está haciendo con los datos de sus hijos. Alrededor del 57 por ciento dijo que la escuela o el distrito de su hijo no les ha pedido su opinión sobre cómo "utilizar de forma segura y responsable los datos y la tecnología de los estudiantes", según una encuesta del Centro para la Democracia y la Tecnología realizada entre junio y agosto de 2023.
Hannah Quay-de la Vallee, tecnóloga senior del centro, dijo que los estados pueden desempeñar un papel más importante en la investigación y aprobación de las prácticas de privacidad de los proveedores, lo que podría resultar beneficioso para los distritos más pequeños que no tienen la capacidad para hacerlo.
"Tanto la discriminación como las violaciones de la privacidad pueden resultar de la falta de información sobre el sistema, de la falta de auditabilidad del sistema", dijo Quay-de la Vallée, señalando que existe cierta superposición en la forma en que los líderes educativos abordan ambas cosas.
También hay una legislación en el Congreso que crearía una mayor supervisión federal y requeriría que algunas empresas informen cómo su tecnología podría afectar a los consumidores. Pero los legisladores, particularmente en el Senado, todavía están trazando el camino para la gobernanza de la IA.
La Ley de Responsabilidad Algorítmica, aunque no es un proyecto de ley específico para la educación, afectaría a las empresas de tecnología educativa y a los proveedores no específicos de la educación contratados por las escuelas. El proyecto de ley le daría a la FTC más control sobre algunas empresas de tecnología al exigirles que evalúen sus sistemas de inteligencia artificial en función de una variedad de factores como el sesgo y la efectividad.
Después de una recusación legal y moratoria posterior, Nueva York prohibió el uso del reconocimiento facial en las escuelas en septiembre después de que el estado descubriera que el uso de la tecnología con fines de seguridad "puede implicar leyes de derechos civiles", señalando que podría conducir a una "tasa potencialmente mayor de falsos positivos para personas de color". personas no binarias y transgénero, mujeres, ancianos y niños". Pero en Montana, el estado prohibió el uso continuo de la tecnología de reconocimiento facial por parte de los gobiernos estatales y locales, pero [eliminó a las escuelas de la prohibición](https://helenair.com/news/state-regional/facial-recognition-tech-technology -sigue-escuela-a pesar-de-la-prohibición-estatal-frt/article_81a35a96-5243-11ee-9112-4f306f94289c.html).
El senador Ron Wyden, demócrata de Oregón y uno de los principales copatrocinadores de la Ley de Responsabilidad Algorítmica, dijo a POLITICO que "en general se opone al reconocimiento facial", y señaló que "muchos de los sistemas tienen profundos defectos".
"El reconocimiento facial en las escuelas debería prohibirse hasta que haya evidencia clara de que es preciso, que realmente mejoraría la seguridad en las escuelas y no se utilizará para apuntar a estudiantes negros, hispanos y otros estudiantes de color", dijo Wyden en un seguimiento. declaración a POLITICO.
Bree Dusseault, directora y directora general del Centro para la Reinvención de la Educación Pública, que ha estado siguiendo la orientación estatal sobre la IA en el aula, subrayó la importancia de obtener recursos preliminares de IA ahora que las escuelas ya están viendo la tecnología utilizada en el aula.
"Aprendimos esto durante la pandemia, que algunos sistemas [escolares] toman decisiones para salir adelante y aun así poner banderas en la arena y tratar de difundir algunas ideas y orientación iniciales, y otros no", dijo Dusseault. "Y eso tiene diferentes implicaciones para los estudiantes y los educadores en esos sistemas".