Description: An independent report found that the Vera-2R tool, designed to predict the risk of future terrorist activities, considered autism as a risk factor despite lacking empirical evidence to support this claim. The report called into question the tool's overall validity and reliability, stating it was "extremely poor" at accurately predicting risk. The inclusion of autism as a risk factor had potentially serious implications for the tool's use and credibility.
Entidades
Ver todas las entidadesPresunto: un sistema de IA desarrollado por Unspecified e implementado por New South Wales Government y Australian Federal Government, perjudicó a people with autism , lawyers and other experts who were not informed of the tool's limitations , Individuals assessed as high-risk based on the flawed criteria y General public.
Estadísticas de incidentes
ID
588
Cantidad de informes
1
Fecha del Incidente
2023-05-12
Editores
Daniel Atherton
Informes del Incidente
Cronología de Informes
theguardian.com · 2023
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
Una herramienta diseñada para predecir delitos futuros en delincuentes terroristas los consideraba en mayor riesgo de delinquir si eran autistas a pesar de no tener base empírica para hacerlo, según un informe independiente.
El informe sobr…
Variantes
Una "Variante" es un incidente que comparte los mismos factores causales, produce daños similares e involucra los mismos sistemas inteligentes que un incidente de IA conocido. En lugar de indexar las variantes como incidentes completamente separados, enumeramos las variaciones de los incidentes bajo el primer incidente similar enviado a la base de datos. A diferencia de otros tipos de envío a la base de datos de incidentes, no se requiere que las variantes tengan informes como evidencia externa a la base de datos de incidentes. Obtenga más información del trabajo de investigación.
Incidentes Similares
Did our AI mess up? Flag the unrelated incidents
Incidentes Similares
Did our AI mess up? Flag the unrelated incidents