Incident 1213: Selon certaines informations, la surveillance par IA de Gaggle au lycée de Lawrence, au Kansas, signalerait mal le contenu des élèves et bloquerait les e-mails.
Description: À Lawrence, au Kansas, des élèves affirment que l'IA de gestion de la sécurité Gaggle a signalé à tort des travaux scolaires anodins, notamment des photos d'art et des messages informels, comme étant de la pornographie infantile ou des menaces. Le système aurait supprimé du contenu, bloqué une demande d'enregistrement d'e-mails et conduit à l'interrogatoire d'élèves. Les critiques évoquent des effets dissuasifs et des risques pour la vie privée. Une plainte déposée en août 2025 conteste l'utilisation de Gaggle par le district comme moyen de surveillance inconstitutionnel. Gaggle nie toute atteinte à la vie privée.
Editor Notes: The underlying reported events associated with this case occurred during the Lawrence Public Schools' deployment of the Gaggle Safety Management system between late 2023 and 2024. Specific reported harms include the misclassification and deletion of student art, the blocking of a records request, and questioning of students for flagged content. The federal lawsuit challenging the district's use of Gaggle was filed on 08/01/2025, which is taken here as the incident date of record. Subsequent coverage by The Washington Post on 09/24/2025 summarized the allegations and student accounts. This report was ingested into the AI Incident Database on 09/29/2025.
Entités
Voir toutes les entitésAlleged: Gaggle developed an AI system deployed by Lawrence Public Schools (USD 497), which harmed Lawrence Public Schools (USD 497) students.
Système d'IA présumé impliqué: Gaggle
Statistiques d'incidents
ID
1213
Nombre de rapports
1
Date de l'incident
2025-08-01
Editeurs
Daniel Atherton
Rapports d'incidents
Chronologie du rapport
Loading...
Les élèves d'un lycée du Kansas s'inquiètent parfois lorsqu'ils rédigent leurs présentations ou leurs e-mails à leurs professeurs. Ils prennent le temps de réfléchir à leurs mots. Ils se demandent : « Est-ce que ça va être « Gaggle » ? »
To…
Variantes
Une "Variante" est un incident de l'IA similaire à un cas connu—il a les mêmes causes, les mêmes dommages et le même système intelligent. Plutôt que de l'énumérer séparément, nous l'incluons sous le premier incident signalé. Contrairement aux autres incidents, les variantes n'ont pas besoin d'avoir été signalées en dehors de la base de données des incidents. En savoir plus sur le document de recherche.
Vous avez vu quelque chose de similaire ?