Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Incidente 335: UK Visa Streamline Algorithm Allegedly Discriminated Based on Nationality

Descripción: UK Home Office's algorithm to assess visa application risks explicitly considered nationality, allegedly caused candidates to face more scrutiny and discrimination.

Herramientas

Nuevo InformeNuevo InformeNueva RespuestaNueva RespuestaDescubrirDescubrirVer HistorialVer Historial

Entidades

Ver todas las entidades
Alleged: UK Visas and Immigration y UK Home Office developed an AI system deployed by UK Visas and Immigration, which harmed UK visa applicants from some countries.

Estadísticas de incidentes

ID
335
Cantidad de informes
8
Fecha del Incidente
2015-03-01
Editores
Khoa Lam
Applied Taxonomies
MIT

Clasificaciones de la Taxonomía MIT

Machine-Classified
Detalles de la Taxonomía

Risk Subdomain

A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
 

1.1. Unfair discrimination and misrepresentation

Risk Domain

The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
 
  1. Discrimination and Toxicity

Entity

Which, if any, entity is presented as the main cause of the risk
 

AI

Timing

The stage in the AI lifecycle at which the risk is presented as occurring
 

Post-deployment

Intent

Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
 

Intentional

Informes del Incidente

Cronología de Informes

Incident OccurrenceAcciones legales para impugnar el uso del Ministerio del Interior de un algoritmo secreto para evaluar las solicitudes de visa+1
El sistema de inteligencia artificial para otorgar visas del Reino Unido está sesgado, afirman grupos de derechos humanos
+4
Actualización: documentos presentados para revisión judicial del algoritmo de visa del Ministerio del Interior
Acciones legales para impugnar el uso del Ministerio del Interior de un algoritmo secreto para evaluar las solicitudes de visa

Acciones legales para impugnar el uso del Ministerio del Interior de un algoritmo secreto para evaluar las solicitudes de visa

foxglove.org.uk

El sistema de inteligencia artificial para otorgar visas del Reino Unido está sesgado, afirman grupos de derechos humanos

El sistema de inteligencia artificial para otorgar visas del Reino Unido está sesgado, afirman grupos de derechos humanos

theguardian.com

El uso de la inteligencia artificial por parte del Ministerio del Interior para transmitir las solicitudes de visa

El uso de la inteligencia artificial por parte del Ministerio del Interior para transmitir las solicitudes de visa

kingsleynapley.co.uk

Actualización: documentos presentados para revisión judicial del algoritmo de visa del Ministerio del Interior

Actualización: documentos presentados para revisión judicial del algoritmo de visa del Ministerio del Interior

foxglove.org.uk

El Reino Unido se compromete a rediseñar el algoritmo de transmisión de visas después del desafío a la herramienta 'racista'

El Reino Unido se compromete a rediseñar el algoritmo de transmisión de visas después del desafío a la herramienta 'racista'

techcrunch.com

El Ministerio del Interior dice que abandonará su algoritmo de visa racista, después de que los demandamos

El Ministerio del Interior dice que abandonará su algoritmo de visa racista, después de que los demandamos

foxglove.org.uk

El Ministerio del Interior elimina el algoritmo 'racista' de las decisiones de visa

El Ministerio del Interior elimina el algoritmo 'racista' de las decisiones de visa

bbc.com

¡Ganamos! Ministerio del Interior dejará de usar algoritmo de visa racista

¡Ganamos! Ministerio del Interior dejará de usar algoritmo de visa racista

jcwi.org.uk

Acciones legales para impugnar el uso del Ministerio del Interior de un algoritmo secreto para evaluar las solicitudes de visa
foxglove.org.uk · 2017
Traducido por IA

Ha salido a la luz que el Ministerio del Interior está utilizando un algoritmo secreto, que describe como una "herramienta de transmisión" digital, para tamizar las solicitudes de visa. Hasta ahora se han negado a revelar mucha información …

El sistema de inteligencia artificial para otorgar visas del Reino Unido está sesgado, afirman grupos de derechos humanos
theguardian.com · 2019
Traducido por IA

Activistas por los derechos de los inmigrantes han iniciado un caso legal innovador para establecer cómo funciona realmente un algoritmo del Ministerio del Interior que filtra las solicitudes de visa del Reino Unido.

El desafío es el primer…

El uso de la inteligencia artificial por parte del Ministerio del Interior para transmitir las solicitudes de visa
kingsleynapley.co.uk · 2019
Traducido por IA

El crecimiento de la tecnología ha traído mucha eficiencia y seguridad a casi todas las organizaciones y negocios. Pero tal progreso puede haber tomado un giro ligeramente equivocado ya que la confianza en la inteligencia artificial por par…

Actualización: documentos presentados para revisión judicial del algoritmo de visa del Ministerio del Interior
foxglove.org.uk · 2020
Traducido por IA

Foxglove está apoyando al Consejo Conjunto para el Bienestar de los Inmigrantes (JCWI) para desafiar el uso por parte del Ministerio del Interior de un algoritmo secreto para tamizar las solicitudes de visa, que describe como una "herramien…

El Reino Unido se compromete a rediseñar el algoritmo de transmisión de visas después del desafío a la herramienta 'racista'
techcrunch.com · 2020
Traducido por IA

El gobierno del Reino Unido está suspendiendo el uso de un algoritmo utilizado para transmitir solicitudes de visa después de que surgieron preocupaciones de que la tecnología genera prejuicios inconscientes y racismo.

La herramienta había …

El Ministerio del Interior dice que abandonará su algoritmo de visa racista, después de que los demandamos
foxglove.org.uk · 2020
Traducido por IA

Los abogados del Ministerio del Interior nos escribieron ayer para responder al desafío legal en el que hemos estado trabajando con el [Consejo Conjunto para el Bienestar de los Inmigrantes (JCWI)] (https://www.jcwi.org.uk/).

Le pedíamos a …

El Ministerio del Interior elimina el algoritmo 'racista' de las decisiones de visa
bbc.com · 2020
Traducido por IA

El Ministerio del Interior acordó dejar de usar un algoritmo informático para ayudar a decidir las solicitudes de visa después de las acusaciones de que contenía "racismo arraigado".

El Consejo Conjunto para el Bienestar de los Inmigrantes …

¡Ganamos! Ministerio del Interior dejará de usar algoritmo de visa racista
jcwi.org.uk · 2020
Traducido por IA

Estamos encantados de anunciar que el Ministerio del Interior acordó eliminar su algoritmo de 'transmisión de visas', en respuesta a la acción legal que iniciamos con el grupo de justicia tecnológica Foxglove.

A partir del viernes 7 de agos…

Variantes

Una "Variante" es un incidente que comparte los mismos factores causales, produce daños similares e involucra los mismos sistemas inteligentes que un incidente de IA conocido. En lugar de indexar las variantes como incidentes completamente separados, enumeramos las variaciones de los incidentes bajo el primer incidente similar enviado a la base de datos. A diferencia de otros tipos de envío a la base de datos de incidentes, no se requiere que las variantes tengan informes como evidencia externa a la base de datos de incidentes. Obtenga más información del trabajo de investigación.

Incidentes Similares

Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

Opaque Fraud Detection Algorithm by the UK’s Department of Work and Pensions Allegedly Discriminated against People with Disabilities

DWP urged to reveal algorithm that ‘targets’ disabled for benefit fraud

Oct 2019 · 6 informes
Facial Recognition Trial Performed Poorly at Notting Hill Carnival

Don’t Believe the Algorithm

Aug 2017 · 4 informes
Tinder's Personalized Pricing Algorithm Found to Offer Higher Prices for Older Users

A Consumer Investigation into Personalised Pricing

Mar 2015 · 4 informes
Incidente AnteriorSiguiente Incidente

Incidentes Similares

Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

Opaque Fraud Detection Algorithm by the UK’s Department of Work and Pensions Allegedly Discriminated against People with Disabilities

DWP urged to reveal algorithm that ‘targets’ disabled for benefit fraud

Oct 2019 · 6 informes
Facial Recognition Trial Performed Poorly at Notting Hill Carnival

Don’t Believe the Algorithm

Aug 2017 · 4 informes
Tinder's Personalized Pricing Algorithm Found to Offer Higher Prices for Older Users

A Consumer Investigation into Personalised Pricing

Mar 2015 · 4 informes

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • ecd56df