Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Problema 2120

Incidentes Asociados

Incidente 3364 Reportes
UK Home Office's Sham Marriage Detection Algorithm Reportedly Flagged Certain Nationalities Disproportionately

Loading...
'Matrimonios falsos' y toma de decisiones algorítmicas en el Ministerio del Interior
publiclawproject.org.uk · 2021

El Ministerio del Interior está utilizando un algoritmo para determinar si un matrimonio debe investigarse como una "farsa", según los documentos obtenidos por el Proyecto de Derecho Público en virtud de la Ley de Libertad de Información.

Al PLP le preocupa que este algoritmo pueda ser defectuoso y discriminatorio porque algunas nacionalidades parecen ser más susceptibles de ser investigadas que otras.

Ponerse en contacto

Nuestro equipo de investigación está ansioso por escuchar a cualquiera que sienta que ha sido blanco injusto de una investigación de matrimonio falso y a cualquier organización que trabaje en esta área. Puede ponerse en contacto con Jack Maxwell, uno de nuestros investigadores, en j.maxwell@publiclawproject.org.uk.

Fondo

El Reino Unido tiene un marco legal detallado para atacar los "matrimonios falsos": donde las parejas se casan para evitar la ley de inmigración, en lugar de porque tienen una relación genuina. Como parte de este marco, los registradores deben remitir los matrimonios propuestos al Ministerio del Interior si una o ambas partes están sujetas a control de inmigración.

Desde al menos abril de 2019, el Ministerio del Interior ha utilizado un algoritmo para clasificar estas referencias. El algoritmo otorga a cada pareja una calificación de 'Rojo' o 'Verde'. 'Rojo' significa que el Ministerio del Interior debe investigar a la pareja 'para descartar o identificar actividades falsas', mientras que 'Verde' significa que no se justifica una investigación. [Los informes de los medios] (https://www.theguardian.com/uk-news/2019/apr/14/couples-sham-marriage-crackdown-hostile-environment) indican que las investigaciones de matrimonios falsos pueden ser muy invasivas.

Los elementos centrales del algoritmo del Ministerio del Interior se establecen a continuación:

Al PLP le preocupa que este algoritmo pueda ser defectuoso y discriminatorio. En particular, los documentos del Ministerio del Interior muestran que algunas nacionalidades, incluidos los búlgaros, griegos, rumanos y albaneses, tienen matrimonios calificados como "rojos" en una tasa mucho más alta que otras. El Ministerio del Interior, hasta ahora, se ha negado a revelar todos los "factores de riesgo" utilizados por el algoritmo para calificar un caso. Los riesgos de discriminación en la toma de decisiones algorítmicas son bien conocidos. En agosto del año pasado, el Ministerio del Interior desechó un algoritmo que usaba para ayudar a decidir las solicitudes de visa, ante las acusaciones de discriminación racial. .

El equipo de investigación de PLP continúa investigando este algoritmo, como parte de nuestro trabajo continuo sobre el seguimiento del gobierno automatizado.

Leer la Fuente

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd