Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Problema 1831

Incidentes Asociados

Incidente 2602 Reportes
US DHS’s Opaque Vetting Software Allegedly Relied on Poor-Quality Data and Discriminated against Immigrants

Loading...
El gobierno de los EE. UU. está utilizando un algoritmo para marcar a los ciudadanos estadounidenses para la desnaturalización: Informe
gizmodo.com · 2021

Los ciudadanos estadounidenses pueden ser expulsados del país según los hallazgos de un algoritmo secreto. El Departamento de Seguridad Nacional está utilizando un sistema alojado en Amazon llamado ATLAS que analiza millones de registros y puede usarse para marcar automáticamente a los estadounidenses naturalizados para la revocación de su ciudadanía, [informó Intercept] (https://theintercept.com/2021) /08/25/atlas-citizenship-denaturalization-homeland-security/) esta semana.

ATLAS es parte del Sistema de Detección de Fraudes y Datos de Seguridad Nacional (FDNS-DS) del Servicio de Inmigración y Aduanas de EE. UU. (UCIS) y se ejecuta en los servidores de Amazon Web Services. Su propósito oficial es comparar los registros de casos del sistema de inmigración con otras bases de datos federales, en busca de indicios de comportamiento criminal, deshonesto o peligroso, así como inconsistencias que las autoridades puedan ver como evidencia de fraude o uso de múltiples identidades. Los documentos obtenidos por Open Society Justice Initiative y Muslim Advocates a través de solicitudes de la Ley de Libertad de Información (FOIA) y compartidos con Intercept muestran que, en última instancia, el sistema está diseñado teniendo en cuenta el final de la deportación, y proporciona herramientas que podrían ayudar a las autoridades de inmigración a después de ciudadanos naturalizados basados en errores administrativos de décadas.

The Intercept escribió que la desnaturalización alguna vez fue muy rara, pero bajo la administración de George W. Bush, el DHS digitalizó datos de huellas dactilares e identificó a unas 1,029 personas a las que acusó de evadir las órdenes de deportación y convertirse en ciudadanos naturalizados de todos modos. La administración de Barack Obama, no ajena a [deportaciones masivas] devastadoras (https://www.nytimes.com/2021/01/23/opinion/sunday/immigration-reform-biden.html), instó posteriormente a los funcionarios solo a despojar a los ciudadanía de aquellos que representan un peligro claro, pero su sucesor abiertamente racista Donald Trump intensificó la maquinaria de la desnaturalización copia de seguridad de la máquina. El Departamento de Justicia anunció que tenía la intención de remitir a unos 1.600 ciudadanos naturalizados para su enjuiciamiento bajo su mandato en 2018, según The Intercept.

El Departamento de Justicia solicitó $207,6 millones en los presupuestos de 2019 y 2020 para buscar cientos de pistas adicionales, revisar 700.000 registros de inmigración bajo un programa similar y crear una oficina dedicada a despojar de la ciudadanía a los acusados de mentir durante el proceso. Los documentos de USCIS obtenidos por Open Society Initiative y compartidos con Intercept mostraron que hasta abril de 2020, USCIS había presentado documentos relacionados con la desnaturalización en al menos 2628 casos, de los cuales 745 estaban pendientes y 502 habían sido remitidos al Departamento de Justicia.

Según The Intercept, los documentos muestran que ATLAS analiza información que incluye datos biométricos como huellas dactilares, y también extrae información de bases de datos que incluyen la lista de vigilancia del terrorismo del FBI y el Centro Nacional de Información Criminal, que a menudo “han sido criticados por estar mal administrados”. En lo que un documento de privacidad de 2020 describe como "casos excepcionales", el sistema también puede tener en cuenta la raza y el origen étnico al tomar decisiones. Otra evaluación de privacidad de FDNS-DS de 2016 mostró que ATLAS también puede marcar a las personas en función de sus asociados conocidos, afirmando que tiene la capacidad de identificar "vínculos o relaciones entre las personas para ayudar a identificar relaciones no obvias... con un nexo potencial con actividades delictivas". o actividades terroristas”. Parte de la información es clasificada.

Es difícil no ver el uso de un algoritmo secreto como una mera forma de proteger el proceso del escrutinio externo, como si las fuentes de información notoriamente poco confiables como [las bases de datos de pandillas] (https://www.nilc.org/2018/01 /25/how-ice-uses-databases-and-information-sharing-to-deport-immigrants/) o [recolección de datos](https://www.nilc.org/2019/11/01/inaccurate-data -unregulated-collection-fuel-deportation-machine/) contratistas factor en las decisiones de ATLAS. The Intercept escribió que el DHS se niega a aclarar exactamente cómo funciona el sistema o qué puntos de datos utiliza para señalar a los inmigrantes para una posible revocación de la ciudadanía, pero los documentos indican que USCIS puede cotejar los registros de los inmigrantes con ATLAS en una amplia variedad de situaciones:

Los inmigrantes entran en contacto con ATLAS, según la evaluación de privacidad de 2020, cuando uno “se presenta” al USCIS por algún motivo, de los cuales hay muchos; cuando “nueva información despectiva está asociada con el individuo en uno o más sistemas del gobierno de los Estados Unidos”; o, según el documento de privacidad de 2016, siempre que “FDNS realice una investigación administrativa”. Aparentemente, esto puede suceder incluso después de que se haya tomado una decisión relacionada con la inmigración: entre los documentos de la FOIA compartidos con The Intercept hay un memorando del USCIS que señala que ATLAS se usa para detectar "patrones de fraude en las solicitudes de beneficios de inmigración... ya sea antes o después de la adjudicación, ” lo que sugiere que un inmigrante podría estar sujeto a un escrutinio algorítmico indefinidamente después de que se apruebe su presentación.

El documento de 2020 describe que ATLAS "contiene un motor de reglas que aplica algoritmos basados en patrones para buscar indicadores de fraude, seguridad pública y preocupaciones de seguridad nacional", que se describe como "predictivo". DHS no revela la forma en que funciona el algoritmo de ATLAS o qué puntos de datos se utilizan en última instancia para generar señales de alerta, aunque el documento de 2020 afirma que existen reglas que "limitan la consideración" de la conexión del individuo únicamente por nacimiento o ciudadanía a otro país a menos que haya una necesidad “basada en una evaluación de inteligencia y riesgo y en la que las alternativas no satisfacen las necesidades de seguridad”.

Según Intercept, una hoja de cálculo de USCIS de 2020 obtenida a través de FOIA muestra 12 categorías de alerta de ATLAS, incluidas notificaciones que parecen referirse a personas protegidas por el programa de Acción Diferida para los Llegados en la Infancia (DACA), el Departamento de Defensa, categorías de seguridad nacional, y “identidades múltiples”. Los documentos de privacidad de 2020 señalan que USCIS supone que todos los datos que se le envían son precisos y atribuye la responsabilidad de corregir los datos incorrectos a la persona que se examina.

En cambio, los documentos dicen que tales correcciones requieren que la persona bajo investigación se comunique con un administrador de la base de datos original, escribió Intercept. Por ejemplo, una persona que busca cambiar el resultado de una revisión de ATLAS que lo aceleró para la desnaturalización en base a una entrada errónea en las bases de datos criminales o de terrorismo del FBI primero tendría que determinar la naturaleza del error y luego apelar directamente al FBI. arreglarlo. Lo mismo se aplicaría a alguien que tuvo inconsistencias en el papeleo antiguo debido al trabajo de mala calidad de abogados o traductores, o que hizo todo correctamente pero las autoridades de inmigración arruinaron el manejo o el análisis de registros de huellas dactilares de décadas de antigüedad. Dada la asombrosa falta de transparencia dentro del sistema de inmigración de los EE. UU., la vulnerabilidad de las personas a las que afecta negativamente y la posibilidad de que la información de la fuente original pueda ser clasificada, la probabilidad de impugnar tales errores antes de que se conviertan en un proceso de deportación completo parece escasa. .

Cuando ATLAS toma una determinación negativa, escribió Intercept, envía una "Notificación generada por el sistema" que se "clasifica" y se envía a FDNS-DS si es potencialmente "accionable". Luego, se utiliza una revisión humana en el FDNS-DS para identificar si puede llevar a cabo una "remisión de posible desnaturalización criminal" y referir a la persona señalada como posible sospechoso criminal al Servicio de Inmigración y Control de Aduanas, que es bien conocido por dar prioridad a la aplicación agresiva de arriba realmente se molesta en asegurarse de que esté funcionando con información precisa. Según LA Times, ICE regularmente atrae a ciudadanos que no han hecho nada malo en su redada basada en en investigaciones de mala calidad y ha enfrentado docenas de demandas por encarcelamiento falso basadas en "búsquedas superficiales en la computadora", con agentes que a menudo nunca se molestan en recopilar o ignoran deliberadamente evidencia de lo contrario, como pasaportes, entrevistas y registros contradictorios. Solo en 2019, según The Intercept, ATLAS realizó 16,9 millones de evaluaciones y generó 120 000 banderas rojas sobre la base de sospechas de fraude o "amenazas a la seguridad nacional y la seguridad pública". Un diagrama de flujo de USCIS muestra que pueden estar involucrados tan solo cuatro pasos entre una bandera de ATLAS y la remisión a ICE.

Las personas desnaturalizadas no siempre son expulsadas del país. Pero The Intercept descubrió que numerosos [USCIS](https://www.documentcloud.org/documents /21048324-foia-release_hfe-settlement-process-memo) y ICE los documentos indicaron las preferencias de las agencias el resultado es la deportación, con un memorando de ICE de 2009 que instruye a los agentes a buscar la detención y remoción en casos de sospecha de fraude de identidad o beneficios, incluso cuando el Departamento de Justicia se ha negado a procesar penalmente. Una hoja de cálculo de USCIS mostró que en 2018 y 2019, las autoridades rechazaron 10 de 10 propuestas de acuerdos que incluían protecciones contra la deportación.

“El objetivo de ATLAS es filtrar e investigar para que el gobierno pueda denegar solicitudes o derivar para aplicación penal, civil o de inmigración”, dijo Deborah Choi de Muslim Advocates a The Intercept. “El propósito de las reglas secretas y los análisis y algoritmos predictivos es encontrar cosas para investigar”.

La Iniciativa de Justicia de la Sociedad Abierta ha [presentado otra FOIA] (https://www.documentcloud.org/documents/21048889-osji-foia-request-atlas-8252021-sig-redacted) con DHS y USCIS buscando obligarlos a revelar el algoritmo que impulsa ATLAS. La administración de Joe Biden [comenzó una revisión](https://www.whitehouse.gov/briefing-room/presidential-actions/2021/02/02/executive-order-restoring-faith-in-our-legal-immigration-systems -y-fortalecimiento-de-los-esfuerzos-de-integración-e-inclusión-para-los-nuevos-estadounidenses/) del programa de desnaturalización en febrero de 2021, pero ni siquiera lo ha reconocido públicamente desde que superó la fecha límite de mayo sin publicar ningún hallazgo.

Amazon, que se ha enfrentado a empleado y activista [alboroto](https://gizmodo.com/dozens-of-jeff-bezoses -protest-amazons-continued-relati-1830134112) por sus tratos con las autoridades de inmigración en los últimos años, figuraba como servidor web de ATLAS a partir de 2020, según el informe. La compañía no devolvió la solicitud de comentarios de Intercept.

Leer la Fuente

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd