Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Problema 3256

Incidentes Asociados

Incidente 5881 Reporte
Australian Terrorism Prediction Tool Disparately Impacts Persons with Autism

Loading...
La herramienta australiana de predicción del terrorismo consideró el autismo como un signo de criminalidad a pesar de la falta de pruebas
theguardian.com · 2023

Una herramienta diseñada para predecir delitos futuros en delincuentes terroristas los consideraba en mayor riesgo de delinquir si eran autistas a pesar de no tener base empírica para hacerlo, según un informe independiente.

El informe sobre la herramienta Vera-2R, que fue entregado a Guardian Australia y otros bajo las leyes de libertad de información, encontró que la falta de evidencia que respaldara el instrumento tenía “implicaciones potencialmente graves para [su] validez y confiabilidad” y encontró que era "extremadamente pobre" en la predicción del riesgo.

También encontró que los trastornos del espectro autista, así como el incumplimiento de las condiciones o la supervisión, se incluyeron como factores de riesgo en la herramienta, a pesar de la falta de evidencia empírica.

La revisión sistemática más completa que se ha realizado sobre los factores que impulsan la radicalización y el comportamiento terrorista y la violencia no encontró ni una sola pieza de evidencia empírica que respalde la inclusión de esos dos factores, según el informe.

La publicación del informe crítico se produjo después de una serie de artículos de Guardian Australia que exponían el uso continuo de la herramienta por parte del gobierno federal a pesar de las críticas. El gobierno federal no reveló el informe [a los abogados de los delincuentes condenados](https://www.theguardian.com/australia-news/2023/apr/28/lawyers-outragged-by-government-failure-to-disclose -terrorism-prediction-tools-serious-problems), sus propios expertos, o el gobierno de Nueva Gales del Sur, que utiliza la herramienta para justificar duras órdenes posteriores a la sentencia para los delincuentes, incluida la [detención en curso](https://www.theguardian.com /law/2023/apr/04/law-council-joins-calls-to-abolish-australias-powers-to-detain-terrorist-infractores-para-prevenir-futuros-crímenes).

El informe, titulado “Prueba de la confiabilidad, validez y equidad de los instrumentos de evaluación del riesgo de terrorismo”, fue completado por las académicas de la Universidad Nacional de Australia, Dra. Emily Corner y Dra. Helen Taylor, del Departamento del Interior, y tiene más de 270 páginas.

El gobierno recibió el informe, conocido como informe Corner, en mayo de 2020.

Fue publicado bajo FoI con redacciones mínimas, a pesar de que el gobierno federal afirmó anteriormente que no podía publicarse por razones de seguridad nacional.

"La falta de evidencia que respalde ambos instrumentos tiene implicaciones potencialmente graves para su validez y confiabilidad", encontró el informe.

“Sin una base teórica y empírica sólida para la inclusión de factores, no es razonable anticipar que los instrumentos sean capaces de predecir el riesgo especificado con algo más que el azar.

“Si los profesionales emplean un instrumento con una base de evidencia débil como instrumento predictivo, no es posible determinar si las personas que pasan por los procesos de evaluación alguna vez serían adecuadas para el plan de manejo según lo determinado por el resultado de la decisión de riesgo tomada en el instrumento. .”

Guardian Australia informó anteriormente que la herramienta fue [utilizada 14 veces por el gobierno federal] (https://www.theguardian.com/australia-news/2023/apr/08/coalition-warned-of-problems-with-tool- para predecir-futuros-terroristas-pero-continuaron-usándolo-con-los-delincuentes) después de recibir el informe, y el gobierno de Nueva Gales del Sur también continuó usándolo para evaluar a los delincuentes, incluidos algunos sin condenas por terrorismo.

Corner y Taylor también evaluaron la herramienta Radar, un instrumento clasificado que se usa con menos frecuencia para justificar órdenes posteriores a la sentencia que Vera-2R, y dijeron que su informe fue la primera investigación realizada con estos instrumentos.

El informe hizo cuatro recomendaciones, incluida la de realizar otra evaluación, que los autores de ambos instrumentos “realicen evaluaciones mucho más exhaustivas de la literatura teórica y empírica más amplia para ayudar a desarrollar factores de riesgo que reflejen con precisión las trayectorias de comportamiento hacia la radicalización y la violencia terrorista”, y que se debe perfeccionar la especificación de riesgo de cada instrumento.

Nuestro correo electrónico de actualización de la tarde en Australia desglosa las principales historias nacionales e internacionales del día y por qué son importantes.

Encontró que el instrumento correcto, implementado correctamente, podría permitir una evaluación de riesgos que garantizara que aquellos con mayor riesgo de delinquir recibieran las intervenciones más intensivas, mientras que aquellos que se presentaban como de menor riesgo estuvieran protegidos de demasiada intervención y, por lo tanto, evitaran "la alteración de las circunstancias que en primer lugar, los hacían de bajo riesgo”.

Pero encontró que había poca base para las afirmaciones hechas por los desarrolladores del Vera-2R sobre su gran confiabilidad y validez.

Dijo que era “preocupante” que casi el 60% de la base de evidencia citada para el desarrollo de factores de la herramienta no fuera empírica, y menos de la mitad de los trabajos citados en el Vera-2R reflejaran con precisión lo que había en los textos grabados.

La prueba solo puede ser utilizada por personas que completen la capacitación acreditada por el autor, y el informe señala que “no hay información en ninguna documentación sobre el tiempo o los costos de este programa de capacitación, pero se cree que es un programa de varios días. con costos sustanciales asociados”.

Tanto el gobierno federal como el de Nueva Gales del Sur dicen que están considerando las conclusiones del informe Corner, pero el presupuesto federal de esta semana muestra que el gobierno laborista está comprometido a continuar financiando su régimen de órdenes posteriores a la sentencia.

El presupuesto destinó 130,1 millones de dólares en dos años al plan de delincuentes terroristas de alto riesgo.

Un portavoz del Departamento de Justicia y de las comunidades de Nueva Gales del Sur dijo que la herramienta Vera-2R era solo una de varias herramientas utilizadas para evaluar el riesgo.

"El Departamento de Comunidades y Justicia está considerando actualmente el informe Corner en colaboración con otras partes interesadas", dijo el portavoz.

Leer la Fuente

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd