Incident 302: L'école de médecine Geisel de Dartmouth aurait utilisé les journaux d'activité de la plateforme Canvas pour accuser des étudiants de tricherie.
Description: L'école de médecine Geisel de Dartmouth aurait utilisé les journaux d'activité de la plateforme d'apprentissage Canvas et une procédure d'analyse interne pour enquêter sur des cas de tricherie lors d'examens à distance durant l'année universitaire 2020-2021. Dix-sept étudiants en médecine ont été inculpés après que l'école a supposé qu'ils avaient consulté des ressources pédagogiques pendant les examens. Cependant, des étudiants et des experts techniques externes ont indiqué que l'activité automatisée sur Canvas avait pu être interprétée à tort comme une fraude intentionnelle. Dartmouth a par la suite abandonné les poursuites.
Editor Notes: This record is retained as an incident because it describes a specific academic-misconduct investigation in which Geisel School of Medicine reportedly used Canvas learning-management activity logs and an internal analysis process to accuse students of cheating. The record is AIID-borderline because the implicated system appears to be a semi-opaque activity-log analysis rather than a conventional AI model; retention depends on treating the log-analysis process as an algorithmic decision-support system used in a high-stakes disciplinary context.
Entités
Voir toutes les entitésAlleged: Geisel School of Medicine's Technology staff et Canvas developed an AI system deployed by Geisel School of Medicine, which harmed Sirey Zhang , Geisel School of Medicine's students , Geisel School of Medicine's professors , Geisel School of Medicine's accused students , Students , Medical students , Epistemic integrity , Educational communities et University students.
Systèmes d'IA présumés impliqués: Canvas , Automated proctoring systems et Learning management system activity logs
Statistiques d'incidents
ID
302
Nombre de rapports
1
Date de l'incident
2021-03-15
Editeurs
Sean McGregor, Daniel Atherton
Applied Taxonomies
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
7.3. Lack of capability or robustness
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- AI system safety, failures, and limitations
Entity
Which, if any, entity is presented as the main cause of the risk
AI
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Unintentional
Rapports d'incidents
Chronologie du rapport
Loading...
HANOVER, N.H. - Sirey Zhang, étudiant de première année à la Geisel School of Medicine de Dartmouth, était en vacances de printemps en mars lorsqu'il a reçu un e-mail des administrateurs l'accusant de [tricherie] (https://www.nytimes.com/20…
Variantes
Une "Variante" est un incident de l'IA similaire à un cas connu—il a les mêmes causes, les mêmes dommages et le même système intelligent. Plutôt que de l'énumérer séparément, nous l'incluons sous le premier incident signalé. Contrairement aux autres incidents, les variantes n'ont pas besoin d'avoir été signalées en dehors de la base de données des incidents. En savoir plus sur le document de recherche.
Vous avez vu quelque chose de similaire ?