Problema 1439

La tecnología de vigilancia facial de Amazon es objeto de una creciente oposición en todo el país y, en la actualidad, hay 28 motivos más de preocupación. En una prueba que la ACLU realizó recientemente de la herramienta de reconocimiento facial, llamada “Rekognition”, el software coincidió incorrectamente con 28 miembros del Congreso, identificándolos como otras personas que habían sido arrestadas por un delito.

Los miembros del Congreso que fueron emparejados falsamente con la base de datos de fichas policiales que usamos en la prueba incluyen republicanos y demócratas, hombres y mujeres, y legisladores de todas las edades, de todo el país.

Las coincidencias falsas fueron desproporcionadamente de personas de color, incluidos seis miembros del Caucus Negro del Congreso, entre ellos la leyenda de los derechos civiles, el representante John Lewis (D-Ga.). Estos resultados demuestran por qué el Congreso debería unirse a la ACLU para pedir una moratoria sobre el uso de la vigilancia facial por parte de las fuerzas del orden.

Para realizar nuestra prueba, usamos exactamente el mismo sistema de reconocimiento facial que Amazon ofrece al público, que cualquiera podría usar para buscar coincidencias entre imágenes de rostros. Y ejecutar la prueba completa nos costó $12.33, menos que una pizza grande.

Usando Rekognition, construimos una base de datos de rostros y una herramienta de búsqueda usando 25,000 fotos de arrestos disponibles públicamente. Luego buscamos en esa base de datos las fotos públicas de todos los miembros actuales de la Cámara y el Senado. Usamos la configuración de coincidencia predeterminada que Amazon establece para Rekognition.

En una carta reciente al CEO de Amazon, Jeff Bezos, el Caucus Negro del Congreso expresó su preocupación por las "profundas consecuencias negativas no deseadas" que la vigilancia podría tener para los negros, los inmigrantes indocumentados y los manifestantes. La investigación académica también ha demostrado que el reconocimiento facial es menos preciso para las mujeres y los rostros de piel más oscura. Nuestros resultados validan esta preocupación: casi el 40 por ciento de las coincidencias falsas de Rekognition en nuestra prueba fueron de personas de color, a pesar de que representan solo el 20 por ciento del Congreso.

Si las fuerzas del orden utilizan Amazon Rekognition, no es difícil imaginar que un oficial de policía obtenga una "coincidencia" que indique que una persona tiene un arresto previo por arma oculta, lo que sesga al oficial incluso antes de que comience un encuentro. O un individuo que recibe un golpe en la puerta de la policía y es interrogado o se registra su hogar, en base a una identificación falsa.

Una identificación, ya sea precisa o no, podría costarles a las personas su libertad o incluso sus vidas. Las personas de color ya se ven perjudicadas de manera desproporcionada por las prácticas policiales, y es fácil ver cómo Rekognition podría exacerbar eso. Un incidente reciente en San Francisco proporciona una ilustración inquietante de ese riesgo. La policía detuvo un automóvil, esposó a una anciana negra y la obligó a arrodillarse a punta de pistola, todo porque un lector automático de matrículas identificó incorrectamente su automóvil como un vehículo robado.

Comparar personas con fotos de arrestos no es un ejercicio hipotético. Amazon está comercializando agresivamente su tecnología de vigilancia facial a la policía, alardeando de que su servicio puede identificar hasta 100 rostros en una sola imagen, rastrear personas en tiempo real a través de cámaras de vigilancia y escanear imágenes de cámaras corporales. El departamento del alguacil en Oregón ya comenzó a usar Amazon Rekognition para comparar los rostros de las personas con una base de datos de fotografías policiales, sin ningún debate público.

La vigilancia facial también amenaza con congelar las actividades protegidas por la Primera Enmienda, como participar en protestas o practicar la religión, y puede usarse para someter a los inmigrantes a más abusos por parte del gobierno.

Estos peligros son la razón por la cual los empleados de Amazon, los accionistas, una coalición de casi 70 grupos de derechos civiles, más de 400 miembros de la comunidad académica y más de 150 000 miembros del público ya se han pronunciado para exigir que Amazon deje de brindar vigilancia al gobierno.

El Congreso debe tomar estas amenazas en serio, pisar el freno y promulgar una moratoria sobre el uso del reconocimiento facial por parte de las fuerzas del orden. Esta tecnología no debe usarse hasta que se consideren completamente los daños y se tomen todas las medidas necesarias para evitar que dañen a las comunidades vulnerables.

Lista de miembros del Congreso que coinciden falsamente con fotos de arrestos

Senado

John Isakson (R-Georgia)

Edward Markey (D-Massachusetts)

Pat Roberts (R-Kansas)

Casa

Sanford Bishop (D-Georgia)

George Butterfield (D-Carolina del Norte)

Lacy Clay (D-Missouri)

Mark DeSaulnier (D-California)

Adriano Espaillat (D-Nueva York)

Rubén Gallego (D-Arizona)

Thomas Garrett (R-Virginia)

Greg Gianforte (R-Montana)

Jimmy Gómez (D-California)

Raúl Grijalva (D-Arizona)

Luis Gutiérrez (D-Illinois)

Steve Knight (R-California)

Leonard Lance (R-Nueva Jersey)

John Lewis (D-Georgia)

Frank LoBiondo (R-Nueva Jersey)

David Loebsack (D-Iowa)

David McKinley (R-Virginia Occidental)

John Moolenaar (R-Michigan)

Tom Reed (R-Nueva York)

Bobby Rush (D-Illinois)

Norma Torres (D-California)

Marc Veasey (D-Texas)

Brad Wenstrup (R-Ohio)

Steve Womack (R-Arkansas)

Lee Zeldin (R-Nueva York)