Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Problema 2231

Incidentes Asociados

Incidente 3856 Reportes
Canadian Police's Release of Suspect's AI-Generated Facial Photo Reportedly Reinforced Racial Profiling

Loading...
La polémica empresa que utiliza ADN para dibujar rostros de delincuentes
nature.com · 2020

Fue en mayo de 2019 cuando Parabon Nanolabs se encontró con una gran controversia. En ese momento, era la compañía de genética forense más famosa del planeta. Desde su sede en Reston, Virginia, Parabon ayudaba a la policía a resolver casos de delitos en frío casi todas las semanas, como el asesinato de una pareja canadiense en 1987 y el caso de una joven que fue agredida sexualmente y asesinada en la década de 1960. La empresa se había hecho famosa comparando el ADN de los sospechosos con los perfiles de las bases de datos genealógicas y juntando árboles genealógicos para localizar a los presuntos delincuentes. Pero luego estalló la controversia sobre un caso que Parabon ayudó a resolver, en el que un adolescente había agredido violentamente a un septuagenario en un centro de reunión mormón en Utah. El caso de Utah generó una reacción negativa del público debido a las preocupaciones sobre la privacidad. Los genealogistas de Parabon habían estado generando pistas examinando una base de datos de pruebas de ADN llamada GEDMatch, un sitio web de uso gratuito que permite a los usuarios cargar los resultados de las pruebas con la esperanza de encontrar parientes perdidos hace mucho tiempo. En ese momento, GEDMatch permitía a las fuerzas del orden acceder a los perfiles para ayudar a resolver asesinatos y agresiones sexuales, a menos que los usuarios optaran específicamente por no participar. La policía, con la ayuda de Parabon y empresas similares, realizaba nuevos arrestos semanalmente. Pero el caso de Utah no fue un asesinato ni una agresión sexual, por lo que no está cubierto por el descargo de responsabilidad del sitio web. El agresor había dejado rastros de sangre en la escena, y el detective a cargo del caso, Mark Taggart, hizo un pedido personal al fundador de GEDMatch, Curtis Rogers, para acceder a la base de datos. Cuando se concedió, Parabon, que inicialmente había rechazado el caso, firmó. La compañía rastreó varias coincidencias parciales de ADN con personas que vivían en el área y se centró en un sospechoso, un adolescente que era pariente de uno de ellos. Taggart hizo un arresto. Eso provocó una reacción inmediata de genealogistas, expertos en privacidad y el público en general por la violación del acuerdo de GEDMatch con sus usuarios. En respuesta, Rogers requirió que los millones de usuarios del sitio optaran específicamente por el uso de las fuerzas del orden. De la noche a la mañana, Parabon perdió su principal fuente de datos de ADN. Eso resultó ser un desafío para la empresa y para la genealogía genética forense. En el año transcurrido desde entonces, las restricciones sobre los datos de GEDMatch han obligado a Parabon a seguir adelante mientras navega por nuevos controles que limitan el acceso a los datos genealógicos. También ha continuado trabajando en otra estrategia: intentar utilizar el ADN para reconstruir rostros. Al mismo tiempo, se enfrenta a la competencia de empresas de genealogía forense que intentan hacer valer sus derechos en el campo. Parabon reconoce que el cambio de reglas en GEDMatch restringió sustancialmente su principal fuente de datos de ADN, pero dice que esto fue un revés temporal. Añade que ha seguido resolviendo casos utilizando datos de personas que han optado por permitir su uso en causas penales. Así como ha crecido la prominencia de los perfiles genéticos forenses, también lo ha hecho su notoriedad. Los especialistas en ética han expresado su preocupación por el uso de perfiles genéticos en China para atacar a los uigures, una población minoritaria predominantemente musulmana en las provincias del noroeste del país. El año pasado, el gobierno de EE. UU. lanzó dos programas que comenzaron a tomar muestras de ADN de inmigrantes detenidos y algunos solicitantes de asilo. El Departamento de Justicia de los EE. UU. emitió pautas en noviembre pasado que intentaron establecer límites en el uso de la genealogía genética forense, pero las preocupaciones sobre la brutalidad policial y el racismo sistémico contra los afroamericanos han planteado dudas sobre si estas pautas brindan suficiente protección a las personas de color, que son detenidos de manera desproporcionada por la policía y sobrerrepresentados en las bases de datos criminales de ADN. Estas preocupaciones legales, éticas y sociales han dejado a los expertos de la industria preguntándose qué sigue para la genómica forense. “Debido a que el ADN es tan poderoso, tendemos a verlo como una bala de plata”, dice Yves Moreau, biólogo e ingeniero de la Universidad Católica de Lovaina en Bélgica. Pero los organismos encargados de hacer cumplir la ley están utilizando bases de datos y técnicas que no están diseñadas para resolver delitos o generar pistas, dice. “Es como un cuchillo: la gente subestima lo afilados que pueden ser”. Lazos familiares --------------- En diciembre de 2017, la genealogista genética Barbara Rae-Venter recibió la llamada que impulsaría el análisis forense de árboles genealógicos a la vista del público. Dirigía un negocio que usaba GEDMatch para encontrar a los familiares perdidos de los clientes cuando escuchó de un detective de California que había encontrado algunas pruebas de ADN antiguas y estaba tratando de reabrir el caso del Golden State Killer, un violador y asesino en serie que cometió una serie de crímenes en las décadas de 1970 y 1980. La combinación de muestras de ADN con árboles genealógicos es el núcleo de la genealogía genética forense. El proceso se basa en las simples reglas estadísticas de la genética. Un padre y un hijo, o dos hermanos, comparten el 50 % de su ADN. Abuelos y nietos comparten el 25%. Incluso los parientes lejanos comparten pequeñas porciones de ADN. Esto permite a las empresas de pruebas genéticas de consumidores como Ancestry en Lehi, Utah, y 23andMe en Sunnyvale, California, estimar las relaciones entre dos personas que han enviado muestras, hasta primos cuartos (que comparten un par de tatara-tatara-tatara abuelos). Cualquiera puede cargar los resultados de su propia prueba de ADN en bases de datos como GEDMatch. Rae-Venter encontró dos perfiles de GEDMatch que parecían ser primos lejanos del sospechoso y usó esa información para trabajar hacia atrás y encontrar a sus bisabuelos. Luego, avanzó en el tiempo para rastrear a sus descendientes, enfocándose en California durante el tiempo en que se cometieron los crímenes. Después de dos meses, Rae-Venter le entregó al detective los nombres de tres hermanos. El ADN de un cigarrillo desechado por un hermano coincidía con la muestra, y el 24 de abril de 2018, la policía arrestó a Joseph DeAngelo, en el primer caso penal que se resolvió utilizando la técnica. (DeAngelo se declaró culpable de múltiples cargos de violación y asesinato y fue sentenciado a cadena perpetua el mes pasado). Luego del arresto de DeAngelo, genealogistas genéticos forenses como Rae-Venter y CeCe Moore (quien se unió a Parabon en mayo de 2018) ayudaron a resolver violaciones similares. y casos de asesinato a un ritmo rápido. Aunque algunos especialistas en ética expresaron su preocupación por la privacidad, la cobertura mediática de los casos fue abrumadoramente positiva. “De hecho, me sorprendió que no hubiera más críticas”, dice la genetista Ellen McRae Greytak, jefa de bioinformática de Parabon. Y luego el caso de Utah llegó a los medios de comunicación y las críticas se precipitaron. Caso activo --------------- A última hora del sábado 17 de noviembre de 2018, Margaret, de 71 años Orlando marcó el 911 desde un centro de reunión mormón en Centerville, Utah. Alguien había arrojado una piedra a través de una ventana, trepó y la atacó mientras practicaba el órgano, estrangulándola hasta que se desmayó. Taggart fue llamado a la escena, donde encontró tres gotas de sangre, presumiblemente de que su atacante se cortó con el vidrio roto. El perfil de ADN no coincidía con nadie en las bases de datos estatales y federales, pero una conversación casual con un amigo genealogista le dio esperanza a Taggart: si la policía no podía identificar al sospechoso, tal vez podrían localizar a un pariente. Se acercó a GEDMatch y obtuvo permiso para usar el sitio. De la misma manera que Rae-Venter ayudó a identificar al Golden State Killer, Parabon le proporcionó a Taggart tres posibles nombres, uno de los cuales reconoció de inmediato. El hombre, que vivía cerca de la casa de reuniones, había tenido varios encontronazos con la policía, y Taggart descubrió que tenía un sobrino de 17 años viviendo con él, un sobrino que coincidía con la descripción que había dado el organista. La herramienta Instantánea de Parabon utiliza ADN para reconstruir rostros. Más tarde, este sospechoso fue condenado por un asesinato en 1987. Crédito: Oficina del Sheriff del condado de Snohomish/NYT/Redux/eyevine Al día siguiente, Taggart logró obtener una muestra de ADN de un cartón de leche que el sospechoso había tirado a la basura en la escuela. Coincidió. También lo hizo un hisopado de seguimiento. Taggart arrestó al sospechoso (cuyo nombre no se reveló porque era menor de edad) el 24 de abril de 2019, exactamente un año después del arresto del Golden State Killer. “Fue como un rompecabezas que se unía”, dice. Con el alivio, sin embargo, llegó la publicidad. “Nos sorprendió un poco lo positiva que fue la respuesta al Golden State Killer y lo negativa que fue la respuesta a esto”, dice Greytak. Ella señala un estudio en _PLoS Biology que encontró que el 90% de los estadounidenses apoyaba el uso policial de la genealogía genética forense, y dice que un grupo pequeño pero ruidoso lideró la protesta contra el caso de Utah. El especialista en ética Matthias Wienroth de la Universidad de Northumbria en Newcastle, Reino Unido, lo ve de manera diferente. Wienroth planteó preocupaciones de privacidad sobre este tipo de búsqueda casi tan pronto como se supo la noticia del arresto. Tienes derecho a renunciar a parte de tu propia privacidad cargando tu perfil de ADN en sitios como GEDMatch, dice Wienroth, pero estos sitios también reducen la privacidad de algunos de tus parientes lejanos. De hecho, la proliferación de pruebas de ADN en el hogar ha hecho que algunas bases de datos de genealogía genética sean tan grandes que un artículo de Science de 2018 estimó que los tesoros podrían identificar al 60% de los norteamericanos de ascendencia europea, incluso si nunca se hubieran hecho una de estas pruebas. Greytak y Armentrout dicen que han subido sus propios resultados a GEDMatch y no les preocupa la idea de que puedan incriminar a un pariente lejano. “Todavía nos preguntamos si estas técnicas son científicamente válidas. Nadie habla de fracasos; todo lo que escucho son los éxitos”, dice Wienroth. Señala el hecho de que la policía de California primero persiguió pistas de una rama diferente del árbol genealógico antes de darse cuenta de su error y enfocarse en DeAngelo. Pero Greytak no ve eso como un fracaso. Ella dice que la genealogía genética de investigación nunca tuvo la intención de servir como la respuesta final en un caso. En cambio, lo ve como una herramienta para ayudar a las fuerzas del orden público a generar clientes potenciales. Valor nominal -------------- Steven Armentrout inició Parabon en su sótano para brindar servicios de supercomputación. El primer gran avance de Parabon fue en 2011, cuando la incipiente empresa solicitó una subvención del Departamento de Defensa de EE. UU. (DoD) para tratar de reconstruir la apariencia de una persona a partir de su ADN, una técnica llamada fenotipado de ADN. El Departamento de Defensa quería desarrollar la tecnología para identificar a los fabricantes de artefactos explosivos improvisados a partir de las diminutas cantidades de ADN que quedaban en las bombas, pero también sabían que las fuerzas del orden estarían interesadas. La mayoría de los laboratorios que estudian el fenotipado del ADN buscan relaciones entre los cambios en las letras individuales del código genético de una persona, conocidos como polimorfismos de un solo nucleótido (SNP), y características físicas como el color de los ojos o el cabello. Pero Parabon enmarcó el desafío como un ejercicio de aprendizaje automático. Su plan era recolectar una gran cantidad de muestras de ADN y fotografías de rostros, y entrenar algoritmos para identificar relaciones. Parabon obtuvo la subvención. Su enfoque funcionó bien con grandes cantidades de ADN de alta calidad de muestras de sangre y frotis de mejillas. Pero las muestras forenses suelen ser pequeñas y degradadas. Cuando Armentrout contrató a Greytak en 2014, el primer objetivo de la empresa era ver si las matrices comerciales de genotipado podían obtener información de muestras forenses. Cuando Parabon envió su primera muestra, el gerente del laboratorio llamó por teléfono y dijo que nunca funcionaría. Los chips necesitaban 200 nanogramos de ADN. “En el mundo forense, 200 nanogramos es un camión”, dice Armentrout. Parabon había enviado una muestra con solo 1 nanogramo. Todos los involucrados, incluidos Armentrout y Greytak, se sorprendieron al descubrir que funcionó. Parabon dice que ahora puede secuenciar suficientes SNP para rastrear la historia familiar y construir una cara con menos de 1 nanogramo de ADN. Greytak dice que las secuencias que utilizan cantidades tan escasas de ADN a menudo dejan partes del código genético en blanco porque la muestra está demasiado degradada o demasiado diluida para leer. La respuesta de la empresa fue construir algoritmos patentados para anticipar esos espacios en blanco en sus modelos matemáticos. Greytak dice que el ADN de menor calidad a veces puede significar que las predicciones se hacen con menos confianza, pero los problemas son raros. El objetivo de Parabon era ambicioso: en lugar de simplemente decirle a la policía que un sospechoso tenía cabello rubio y ojos verdes, quería proporcionar un análisis completo de la ascendencia de alguien y un boceto facial compuesto de una muestra de ADN. El procedimiento, denominado Instantánea, se lanzó en diciembre de 2014. Parabon dice que desde 2018 la policía ha resuelto más de 120 casos con la ayuda de su genealogía genética y métodos de fenotipado (la empresa se negó a revelar la cantidad total de casos en los que fueron investigados). usado, citando investigaciones en curso). Otras compañías también han desarrollado estrategias de fenotipado de ADN, incluida la ahora desaparecida Identitas, que se especializó en predecir la apariencia física usando SNP, e Illumina, el gigante de la secuenciación de ADN en San Diego, California, que escindió su rama forense en una nueva compañía. , Verogen, también en San Diego, en 2017. Varios laboratorios académicos también están investigando el fenotipado de ADN. En el Centro Médico de la Universidad Erasmus en Róterdam, Países Bajos, Manfred Kayser (una vez asesor de Identitas) desarrolló IrisPlex en 2011 para predecir el color de los ojos a partir del ADN. Desde entonces, su equipo ha agregado más SNP para capturar más variación genética y agregar otras características identificables, como el color y la textura del cabello. La policía holandesa comenzó a utilizar las técnicas de Kayser una vez que fueron examinadas en la literatura científica. El ejemplo más famoso fue en 2012 cuando demostraron que la violación y asesinato de Marianne Vaatstra, de 16 años, probablemente no fue cometido por un miembro de un asentamiento de refugiados ubicado cerca de donde se descubrió su cuerpo. A diferencia de Parabon, Kayser no intenta entretejer diferentes características para tratar de recrear el rostro de una persona. En su lugar, utiliza los rasgos individuales (por ejemplo, cabello castaño rojizo y ojos color avellana) como pistas para hacer cumplir la ley. Encuentra que Snapshot es problemático porque la tecnología no ha sido evaluada en la literatura revisada por pares. “Es muy limitado lo que sabemos sobre la cara, y esta compañía en particular dice que puede predecirlo a partir del ADN. Es bastante malo que no publiquen cómo lo hacen y cómo lo validaron”, dice Kayser. Los científicos han publicado cientos de artículos sobre la relación entre variantes genéticas específicas y rasgos físicos, dice Kayser, pero los investigadores aún no saben cómo estos rasgos individuales se convierten en un rostro humano único. Mark Shriver, un genetista que investiga el fenotipado de ADN en la Universidad Estatal de Pensilvania (Penn State) en University Park, dice que debido a que los efectos de la ascendencia en la apariencia facial son tan fuertes, sospecha que los datos de Parabon están creando un conjunto de rostros genéricos promedio que Luego, la empresa realiza ajustes para completar los espacios en blanco. Sin ver los datos y los algoritmos que la empresa usa en su sistema de aprendizaje automático, Shriver dice que "no sabemos si su capacidad para estimar la apariencia de una cara es mejor que la casualidad o si es una aproximación basada en lo que sabemos sobre la ascendencia". ”. Armentrout dice que Parabon no necesita saber cómo contribuye cada gen a la apariencia para crear la imagen de una cara; él dice que las asociaciones entre los SNP y las caras en la base de datos de la compañía son lo suficientemente buenas para sus modelos matemáticos, y que la satisfacción del departamento de policía es toda la prueba que necesita. El hecho de que la empresa no publique no significa que su método sea defectuoso, dice Armentrout. “No estamos en el negocio para escribir artículos”, dice. "Los resultados hablan por si mismos." Pero Shriver dice que hacer un arresto no significa que Snapshot funcione como afirma Parabon. La policía tampoco tiene una forma rigurosa de demostrar que el perfil de Snapshot coincide con su sospechoso, dice. Futuro forense ------------------- Mientras Parabon agregaba el fenotipado de ADN a su cartera, otras empresas, incluidas Verogen y la empresa comercial de pruebas de ADN FamilyTreeDNA en Houston, Texas, comenzó a probar las aguas con la genealogía genética forense. En diciembre pasado, Verogen anunció que había comprado GEDMatch, que ahora tiene 280.000 de sus 1,45 millones de perfiles de ADN incluidos en las búsquedas policiales. El director ejecutivo Brett Williams dice que Verogen reconoció a GEDMatch como el eje de la genealogía genética forense y quería salvaguardar el acceso de la empresa. Queda por ver qué significa esto para Parabon y los millones de usuarios privados de GEDMatch, pero Williams dice que está comprometido a lograr un equilibrio entre privacidad y seguridad. “Tienes derecho a la privacidad. También tienes derecho a no ser asesinado o violado”, dice Williams. Sin embargo, este julio, GEDMatch fue pirateado y la configuración de exclusión voluntaria de los usuarios se anuló durante unas horas, lo que podría exponer sus datos a búsquedas de las fuerzas del orden sin su consentimiento. En un comunicado, Verogen dijo que había eliminado GEDMatch "hasta el momento en que pudiéramos estar absolutamente seguros de que los datos de los usuarios estaban protegidos contra posibles ataques". También ha habido intentos de obtener acceso a los perfiles de los usuarios a través de canales oficiales. Un detective en Orlando, Florida, anunció en octubre pasado que había obtenido una orden de registro para usar todos los perfiles de GEDMatch para tratar de encontrar familiares a partir del ADN dejado por un sospechoso. La compañía de genealogía Ancestry luchó con éxito contra una orden de allanamiento en Pensilvania este febrero. Williams dice que luchará contra cualquier orden judicial que reciba Verogen en el futuro. Mientras tanto, el Departamento de Justicia de EE. UU. ha emitido pautas provisionales para ayudar a la policía con el uso de la genealogía genética forense, permitiendo el uso de la tecnología solo para delitos violentos graves como violación y asesinato, y solo después de que se hayan agotado otras pistas. En particular, el documento especifica que los sospechosos no pueden ser arrestados solo por genealogía: se debe usar la genética forense convencional para proporcionar una coincidencia concluyente. La socióloga Helena Machado de la Universidad de Minho en Braga, Portugal, no está en contra del uso de genealogía genética o fenotipado de ADN por parte de las fuerzas del orden, pero dice que le preocupa que el trabajo que vincula la genealogía y el crimen pueda conducir a prejuicios contra ciertas familias o grupos étnicos. “Podría reforzar la idea de que existe una mayor prevalencia de delincuencia en ciertas familias”, dice ella. Un énfasis excesivo en los vínculos entre la genética y el crimen significa que es menos probable que los investigadores se centren en los factores sociales y económicos que conducen a la infracción de la ley. Tanto Armentrout como Kayser dicen que las tecnologías de ADN podrían ayudar a reducir el sesgo policial al proporcionar pruebas concretas para reforzar los relatos de los testigos presenciales, y que el fenotipado de ADN podría disminuir la elaboración de perfiles raciales al proporcionar más detalles sobre la apariencia de un posible sospechoso ante la policía. Pero el sociólogo Amade M'charek de la Universidad de Amsterdam dice que este pensamiento es ingenuo, especialmente dada la incidencia de la brutalidad policial contra personas de minorías raciales. “Si no conocemos al individuo, a menudo todo lo que vemos es la raza”, dice ella. Las preocupaciones de M'charek no son infundadas: estas tecnologías ya se están utilizando para atacar y discriminar a personas de grupos minoritarios, dice Moreau. El Departamento de Seguridad Nacional de EE. UU. anunció en enero que su división de Inmigración y Control de Aduanas (ICE, por sus siglas en inglés) había lanzado un programa piloto para recolectar ADN de inmigrantes detenidos y cargar las secuencias resultantes en la base de datos oficial de ADN forense de la Oficina Federal de Investigaciones, el [Combined DNA Sistema de índice (CODIS)] (https://www.nature.com/articles/d41586-019-02998-3). La iniciativa se unió al anuncio del año pasado de que la seguridad nacional usaría "tecnología de ADN rápido" para probar si las familias que solicitan asilo eran parientes. (ICE no respondió a las solicitudes de comentarios). En el noroeste de China, los funcionarios están utilizando la ascendencia genética para identificar a los miembros del grupo minoritario uigur. En julio de 2017, como parte del programa Físicos para Todos de China, el gobierno comenzó a recolectar escaneos de iris, huellas dactilares y ADN de todas las personas entre 12 y 65 años en la Región Autónoma Uigur de Xinjiang. El programa ha sido criticado por grupos de derechos humanos. Despachos desde Xinjiang de la organización no gubernamental Human Rights Watch en la ciudad de Nueva York informaron que hasta ahora más de un millón de uigures han sido colocados en campos de detención. “Cuando le das a cualquier autoridad información tan importante y una influencia tan fuerte contra las personas, comienzas a preocuparte muchísimo por la forma que tomará la sociedad”, dice Moreau. “Pones a las personas en una base de datos porque quieres controlarlas”. Algunos científicos chinos, dice Moreau, también están trabajando para convertir el ADN uigur en retratos faciales, tal como lo hace Snapshot. Parabon dice que no está involucrado en la investigación china. A pesar de la controversia sobre el caso de Utah, o quizás debido a ella, Rogers se muestra optimista sobre el futuro de las técnicas genéticas en la ciencia forense. “Creo que con el tiempo, y probablemente no mucho tiempo, la gente aceptará que el uso de la genealogía genética por parte de las fuerzas del orden está ahí y no debe ser temido”, dice. Por su parte, Taggart no se arrepiente de usar GEDMatch. El sospechoso que escogió se declaró culpable y aún está detenido, y Taggart confía en que su comunidad está más segura de esa manera. “Creo que Curtis Rogers hizo esto por nosotros y salvó una vida”.

Leer la Fuente

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd