Journal des citations pour l'incident 849

Description: AI writing detection tools have reportedly continued to falsely flag genuine student work as AI-generated, disproportionately impacting ESL and neurodivergent students. Specific cases include Moira Olmsted, Ken Sahib, and Marley Stevens, who were penalized despite writing their work independently. Such tools reportedly exhibit biases, leading to academic penalties, probation, and strained teacher-student relationships.

Editor Notes: Reconstructing the timeline of events: (1) Sometime in 2023: Central Methodist University is reported to have used Turnitin to analyze assignments for AI usage. Moira Olmsted’s writing is flagged as AI-generated, leading to her receiving a zero and a warning. (2) Sometime in 2023: Ken Sahib, an ESL student at Berkeley College, is reported to have been penalized after AI detection tools flagged his assignment as AI-generated. (3) Sometime in late 2023 or early 2024: Marley Stevens is reported to have been placed on academic probation after Turnitin falsely identifies her work as AI-generated, though she purports to have only used Grammarly for minor edits. (4) October 18, 2024: Bloomberg publishes findings that leading AI detectors falsely flag 1%-2% of essays as AI-generated, with higher error rates for ESL students. (This date is set as the incident date for convenience.)

Outils

Nouveau rapport Nouvelle Réponse DécouvrirVoir l'historique

Entités

Voir toutes les entités

Présumé : un système d'IA développé par Turnitin , GPTZero and Copyleaks et mis en œuvre par Central Methodist University , Berkeley College , Universities and Colleges, endommagé students , Neurodivergent students , ESL students , Moira Olmsted , Ken Sahib and Marley Stevens.

Statistiques d'incidents

849

Nombre de rapports

Date de l'incident

2024-10-18

Editeurs

Daniel Atherton

Rapports d'incidents

Chronologie du rapport

Des détecteurs d’IA accusent à tort des étudiants de tricherie, avec de lourdes conséquences

bloomberg.com

bloomberg.com · 2024

Traduit par IA

Après avoir pris une pause de l'université au début de la pandémie pour fonder une famille, Moira Olmsted avait hâte de retourner à l'école. Pendant des mois, elle a jonglé entre un emploi à temps plein et un jeune enfant pour économiser af…

Variantes

Une "Variante" est un incident qui partage les mêmes facteurs de causalité, produit des dommages similaires et implique les mêmes systèmes intelligents qu'un incident d'IA connu. Plutôt que d'indexer les variantes comme des incidents entièrement distincts, nous listons les variations d'incidents sous le premier incident similaire soumis à la base de données. Contrairement aux autres types de soumission à la base de données des incidents, les variantes ne sont pas tenues d'avoir des rapports en preuve externes à la base de données des incidents. En savoir plus sur le document de recherche.