Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Problema 3162

Incidentes Asociados

Incidente 5463 Reportes
Algorithm to Distribute Social Welfare Reported for Oversimplifying Economic Vulnerability

Loading...
Negligencia automatizada
hrw.org · 2023

Resumen

Los gobiernos de todo el mundo están recurriendo a la automatización para ayudarlos a brindar servicios públicos esenciales, como alimentos, vivienda y asistencia en efectivo. Pero algunas formas de automatización excluyen a las personas de los servicios y las señalan para su investigación en función de errores, criterios discriminatorios o estereotipos sobre la pobreza. A pesar de estos daños, el atractivo de las soluciones basadas en tecnología para problemas sociales complejos está resultando difícil de resistir.

El Banco Mundial es uno de los actores de desarrollo más grandes que impulsan esta tendencia, particularmente en el Sur Global, haciendo grandes apuestas en tecnologías de uso intensivo de datos para ayudar a los gobiernos a brindar servicios. Esto incluye los principales programas de transferencia de efectivo que brindan apoyo financiero a ciertas personas o familias. Solo en el Medio Oriente y África del Norte, ocho de diez países prestatarios han recibido préstamos del Banco para mejorar estos programas.

El Banco ha promovido durante mucho tiempo programas de transferencia de efectivo que seleccionan a los beneficiarios tratando de estimar sus ingresos y bienestar. Este enfoque, conocido como focalización en la pobreza, ha atraído intensas críticas por socavar los derechos de seguridad social de las personas, particularmente a raíz de la crisis económica desencadenada por la pandemia de Covid-19. Los programas dirigidos a la pobreza son propensos a errores, mala gestión y corrupción, y habitualmente no logran llegar a muchas de las personas a las que pretenden cubrir. Si bien el Banco ha reconocido estos problemas, está financiando una variedad de tecnologías que, según afirma, harán que la focalización en la pobreza sea más precisa, confiable y eficiente.

Este informe documenta el impacto en los derechos humanos de uno de esos programas financiados por el Banco en Jordania, conocido como Programa Unificado de Transferencias en Efectivo, pero comúnmente conocido por su nombre original, Takaful. Después de seleccionar a las familias que no cumplen con los criterios básicos de elegibilidad, Takaful utiliza un algoritmo para identificar cuáles de las restantes deberían recibir transferencias de efectivo clasificando su nivel de vulnerabilidad económica. Basándose en entrevistas con solicitantes y beneficiarios, funcionarios gubernamentales, activistas comunitarios y un análisis de documentos del Banco Mundial, Human Rights Watch descubrió que este algoritmo está dando lugar a decisiones de transferencia de efectivo que privan a las personas de sus derechos a la seguridad social. El problema no es simplemente que el algoritmo se base en datos inexactos y poco confiables sobre las finanzas de las personas. Su fórmula también aplana la complejidad económica de la vida de las personas en una clasificación cruda que enfrenta a un hogar con otro, alimentando la tensión social y las percepciones de injusticia.

Los daños del algoritmo de focalización de Takaful resaltan la necesidad de programas de transferencia de efectivo basados en los principios de la protección social universal: brindar apoyo a todas las personas durante los períodos de sus vidas en los que sus derechos económicos y sociales están particularmente en riesgo, como cuando son niños, enfrentan una discapacidad, quedan desempleados o llegan a la vejez, e independientemente de sus ingresos o patrimonio. Sobre el papel, el Banco ha respaldado este enfoque como la “piedra angular de la política social inclusiva”. Pero continúa financiando programas enfocados en la pobreza en docenas de países, a pesar de la gran cantidad de opciones de políticas disponibles para financiar su transición a esquemas universales.

Esta brecha entre la retórica y la práctica tiene efectos devastadores sobre los derechos de las personas a la seguridad social y los derechos conexos a la alimentación, la salud, la vivienda y un nivel de vida adecuado. Aunque Takaful ha brindado asistencia regular en efectivo a 120 000 hogares en 2022, esta es solo una pequeña fracción de los hogares en Jordania que viven por debajo del umbral oficial de pobreza, que en sí mismo es una medida inadecuada de la cantidad de personas que no pueden realizar sus necesidades económicas, sociales, y los derechos culturales frente a la alta inflación y el desempleo.

Leer la Fuente

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd