Description: Broward College’s use of remote proctoring system and reliance on its flagging algorithm allegedly led to a wrongful accusation of academic dishonesty in a biology exam of a Florida teenager.
Alleged: Honorlock developed an AI system deployed by Broward College, which harmed unnamed Florida teenager.
インシデントのステータス
CSETv1_Annotator-1 分類法のクラス
分類法の詳細Incident Number
The number of the incident in the AI Incident Database.
301
AI Tangible Harm Level Notes
Notes about the AI tangible harm level assessment
3.1 - The student received a 0 on the exam and a "warning on her record" as a result of being flagged as engaging in academically dishonest behavior.
インシデントレポート
レポートタイムライン
nytimes.com · 2022
- 情報源として元のレポートを表示
- インターネットアーカイブでレポートを表示
A Florida teenager taking a biology class at a community college got an upsetting note this year. A start-up called Honorlock had flagged her as acting suspiciously during an exam in February. She was, she said in an email to The New York T…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください