Incidente 1213: Según se informa, el monitoreo de inteligencia artificial de Gaggle en la escuela secundaria de Lawrence, Kansas, marca incorrectamente el contenido de los estudiantes y bloquea los correos electrónicos.
Descripción: En Lawrence, Kansas, estudiantes alegan que la IA de Gestión de Seguridad de Gaggle marcó erróneamente trabajos escolares inofensivos, incluyendo fotos artísticas y mensajes casuales, como pornografía infantil o amenazas. Según informes, el sistema eliminó contenido, bloqueó una solicitud de registros de correo electrónico y dio lugar a interrogatorios de estudiantes. Los críticos citan efectos intimidatorios y riesgos para la privacidad. Una demanda presentada en agosto de 2025 impugna el uso de Gaggle por parte del distrito como vigilancia inconstitucional. Según informes, Gaggle niega haber comprometido la privacidad.
Editor Notes: The underlying reported events associated with this case occurred during the Lawrence Public Schools' deployment of the Gaggle Safety Management system between late 2023 and 2024. Specific reported harms include the misclassification and deletion of student art, the blocking of a records request, and questioning of students for flagged content. The federal lawsuit challenging the district's use of Gaggle was filed on 08/01/2025, which is taken here as the incident date of record. Subsequent coverage by The Washington Post on 09/24/2025 summarized the allegations and student accounts. This report was ingested into the AI Incident Database on 09/29/2025.
Entidades
Ver todas las entidadesAlleged: Gaggle developed an AI system deployed by Lawrence Public Schools (USD 497), which harmed Lawrence Public Schools (USD 497) students.
Sistema de IA presuntamente implicado: Gaggle
Estadísticas de incidentes
ID
1213
Cantidad de informes
1
Fecha del Incidente
2025-08-01
Editores
Daniel Atherton
Informes del Incidente
Cronología de Informes
Loading...
Los estudiantes de una preparatoria de Kansas a veces se preocupan al escribir presentaciones o correos electrónicos a sus profesores. Se detienen a reflexionar. Se preguntan: "¿Esto será detectado por Gaggle?".
Todo lo que los estudiantes …
Variantes
Una "Variante" es un incidente de IA similar a un caso conocido—tiene los mismos causantes, daños y sistema de IA. En lugar de enumerarlo por separado, lo agrupamos bajo el primer incidente informado. A diferencia de otros incidentes, las variantes no necesitan haber sido informadas fuera de la AIID. Obtenga más información del trabajo de investigación.
¿Has visto algo similar?