Incidente 135: El algoritmo GRADE de la Universidad de Texas en Austin supuestamente reforzó las desigualdades históricas
Descripción: El algoritmo de asistencia "GRADE" del Departamento de Ciencias de la Computación de la Universidad de Texas en Austin para evaluar a los postulantes a doctorado generó inquietud entre el personal docente sobre el empeoramiento de las desigualdades históricas para los candidatos marginados, lo que provocó su suspensión.
Entidades
Ver todas las entidadesAlleged: University of Texas at Austin researchers developed an AI system deployed by University of Texas at Austin's Department of Computer Science, which harmed University of Texas at Austin PhD applicants of marginalized groups.
Clasificaciones de la Taxonomía CSETv1
Detalles de la TaxonomíaIncident Number
The number of the incident in the AI Incident Database.
135
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
1.1. Unfair discrimination and misrepresentation
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- Discrimination and Toxicity
Entity
Which, if any, entity is presented as the main cause of the risk
Human
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Intentional
Informes del Incidente
Cronología de Informes
Una universidad anunció que había abandonado su herramienta de aprendizaje automático, utilizada para filtrar miles de solicitudes de doctorado, justo cuando los creadores del software daban una charla sobre el código y generaban críticas p…
La U de Texas en Austin ha dejado de usar un sistema de aprendizaje automático para evaluar a los solicitantes de su doctorado. en informática. Los críticos dicen que el sistema exacerba la desigualdad existente en el campo.
En 2013, el dep…
Variantes
Una "Variante" es un incidente de IA similar a un caso conocido—tiene los mismos causantes, daños y sistema de IA. En lugar de enumerarlo por separado, lo agrupamos bajo el primer incidente informado. A diferencia de otros incidentes, las variantes no necesitan haber sido informadas fuera de la AIID. Obtenga más información del trabajo de investigación.
¿Has visto algo similar?
Incidentes Similares
Did our AI mess up? Flag the unrelated incidents
TayBot
· 28 informes
Female Applicants Down-Ranked by Amazon Recruiting Tool
· 33 informes
Incidentes Similares
Did our AI mess up? Flag the unrelated incidents
TayBot
· 28 informes
Female Applicants Down-Ranked by Amazon Recruiting Tool
· 33 informes