Incidente 135: Según informes, el algoritmo GRADE de la Universidad de Texas en Austin redujo la revisión de los solicitantes de doctorado con puntuaciones más bajas en medio de preocupaciones por sesgos.
Descripción: Entre los ciclos de admisión de 2013 y 2019, el Departamento de Ciencias de la Computación de la Universidad de Texas en Austin utilizó GRADE, un sistema estadístico de aprendizaje automático entrenado con decisiones de admisión anteriores, para calificar y organizar las solicitudes de doctorado. Los críticos afirmaron que el sistema podía reproducir las desigualdades históricas en las admisiones y reducir la atención a los solicitantes con puntuaciones más bajas, mientras que la Universidad de Texas en Austin declaró que revisores humanos seguían evaluando cada expediente y posteriormente descontinuó la herramienta.
Entidades
Ver todas las entidadesAlleged: University of Texas at Austin researchers developed an AI system deployed by University of Texas at Austin's Department of Computer Science , Risto Miikkulainen y Austin Waters, which harmed University students , University of Texas at Austin PhD applicants of marginalized groups , University applicants , Students , PhD applicants from underrepresented groups , PhD applicants , Educational communities y Computer science PhD applicants.
Sistemas de IA presuntamente implicados: GRaduate ADmissions Evaluator (GRADE) y Automated admissions screening systems
Clasificaciones de la Taxonomía CSETv1
Detalles de la TaxonomíaIncident Number
The number of the incident in the AI Incident Database.
135
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
1.1. Unfair discrimination and misrepresentation
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- Discrimination and Toxicity
Entity
Which, if any, entity is presented as the main cause of the risk
AI
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Unintentional
Informes del Incidente
Cronología de Informes
Loading...
Una universidad anunció que había abandonado su herramienta de aprendizaje automático, utilizada para filtrar miles de solicitudes de doctorado, justo cuando los creadores del software daban una charla sobre el código y generaban críticas p…
Loading...
La U de Texas en Austin ha dejado de usar un sistema de aprendizaje automático para evaluar a los solicitantes de su doctorado. en informática. Los críticos dicen que el sistema exacerba la desigualdad existente en el campo.
En 2013, el dep…
Variantes
Una "Variante" es un incidente de IA similar a un caso conocido—tiene los mismos causantes, daños y sistema de IA. En lugar de enumerarlo por separado, lo agrupamos bajo el primer incidente informado. A diferencia de otros incidentes, las variantes no necesitan haber sido informadas fuera de la AIID. Obtenga más información del trabajo de investigación.
¿Has visto algo similar?
Incidentes Similares
Did our AI mess up? Flag the unrelated incidents
Incidentes Similares
Did our AI mess up? Flag the unrelated incidents