Incident 1177: Un logiciel de surveillance basé sur l'IA aurait signalé une menace de plaisanterie non envoyée, entraînant la suspension d'un étudiant en Arizona
Description: Un logiciel de surveillance par IA installé sur un ordinateur portable fourni par l'école aurait signalé un courriel de plaisanterie, prétendument non envoyé, d'un élève du lycée Marana (Arizona), contenant une menace violente. Le message aurait été tapé à la maison devant sa mère, n'aurait jamais été envoyé et aurait été jugé non crédible par le directeur. La politique de tolérance zéro du district a néanmoins entraîné une suspension de 45 jours, et la famille a intenté une action en justice, alléguant que cette sanction violait les droits de l'élève.
Entités
Voir toutes les entitésAlleged: Unknown AI monitoring software developer developed an AI system deployed by Marana Unified School District et Marana High School, which harmed Unnamed Marana High School student's family , Unnamed Marana High School student , Students of Marana Unified School District et Students of Marana High School.
Système d'IA présumé impliqué: Unknown AI monitoring software
Statistiques d'incidents
ID
1177
Nombre de rapports
1
Date de l'incident
2025-08-14
Editeurs
Daniel Atherton
Rapports d'incidents
Chronologie du rapport
Loading...
PHOENIX – Une menace est-elle réelle si elle n'est jamais proférée ?
C'est la question au cœur d'une plainte déposée par les parents d'un élève de l'Arizona, suspendu en vertu de la politique de son établissement en matière de menaces et d'…
Variantes
Une "Variante" est un incident de l'IA similaire à un cas connu—il a les mêmes causes, les mêmes dommages et le même système intelligent. Plutôt que de l'énumérer séparément, nous l'incluons sous le premier incident signalé. Contrairement aux autres incidents, les variantes n'ont pas besoin d'avoir été signalées en dehors de la base de données des incidents. En savoir plus sur le document de recherche.
Vous avez vu quelque chose de similaire ?
Incidents similaires
Did our AI mess up? Flag the unrelated incidents
Incidents similaires
Did our AI mess up? Flag the unrelated incidents