Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Traduit par IA

Incident 1213: Selon certaines informations, la surveillance par IA de Gaggle au lycée de Lawrence, au Kansas, signalerait mal le contenu des élèves et bloquerait les e-mails.

Traduit par IA
Description:
Traduit par IA
À Lawrence, au Kansas, des élèves affirment que l'IA de gestion de la sécurité Gaggle a signalé à tort des travaux scolaires anodins, notamment des photos d'art et des messages informels, comme étant de la pornographie infantile ou des menaces. Le système aurait supprimé du contenu, bloqué une demande d'enregistrement d'e-mails et conduit à l'interrogatoire d'élèves. Les critiques évoquent des effets dissuasifs et des risques pour la vie privée. Une plainte déposée en août 2025 conteste l'utilisation de Gaggle par le district comme moyen de surveillance inconstitutionnel. Gaggle nie toute atteinte à la vie privée.
Editor Notes: The underlying reported events associated with this case occurred during the Lawrence Public Schools' deployment of the Gaggle Safety Management system between late 2023 and 2024. Specific reported harms include the misclassification and deletion of student art, the blocking of a records request, and questioning of students for flagged content. The federal lawsuit challenging the district's use of Gaggle was filed on 08/01/2025, which is taken here as the incident date of record. Subsequent coverage by The Washington Post on 09/24/2025 summarized the allegations and student accounts. This report was ingested into the AI Incident Database on 09/29/2025.

Outils

Nouveau rapportNouveau rapportNouvelle RéponseNouvelle RéponseDécouvrirDécouvrirVoir l'historiqueVoir l'historique

Entités

Voir toutes les entités
Alleged: Gaggle developed an AI system deployed by Lawrence Public Schools (USD 497), which harmed Lawrence Public Schools (USD 497) students.
Système d'IA présumé impliqué: Gaggle

Statistiques d'incidents

ID
1213
Nombre de rapports
1
Date de l'incident
2025-08-01
Editeurs
Daniel Atherton

Rapports d'incidents

Chronologie du rapport

Incident OccurrenceUn outil de sécurité bas�é sur l'IA suscite la réaction des étudiants après avoir signalé une œuvre d'art comme étant pornographique et supprimé des e-mails.
Loading...
Un outil de sécurité basé sur l'IA suscite la réaction des étudiants après avoir signalé une œuvre d'art comme étant pornographique et supprimé des e-mails.

Un outil de sécurité basé sur l'IA suscite la réaction des étudiants après avoir signalé une œuvre d'art comme étant pornographique et supprimé des e-mails.

washingtonpost.com

Loading...
Un outil de sécurité basé sur l'IA suscite la réaction des étudiants après avoir signalé une œuvre d'art comme étant pornographique et supprimé des e-mails.
washingtonpost.com · 2025
Traduit par IA

Les élèves d'un lycée du Kansas s'inquiètent parfois lorsqu'ils rédigent leurs présentations ou leurs e-mails à leurs professeurs. Ils prennent le temps de réfléchir à leurs mots. Ils se demandent : « Est-ce que ça va être « Gaggle » ? »

To…

Variantes

Une "Variante" est un incident de l'IA similaire à un cas connu—il a les mêmes causes, les mêmes dommages et le même système intelligent. Plutôt que de l'énumérer séparément, nous l'incluons sous le premier incident signalé. Contrairement aux autres incidents, les variantes n'ont pas besoin d'avoir été signalées en dehors de la base de données des incidents. En savoir plus sur le document de recherche.
Vous avez vu quelque chose de similaire ?
Incident précédentProchain incident

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • 6f6c5a5