Incidentes Asociados
Solíamos preocuparnos de que los robots de inteligencia artificial tipo Terminator dominaran a la raza humana, pero nos estamos moviendo hacia lo contrario: los humanos se están convirtiendo en autómatas con poca libertad para decidir lo que hacemos.
En todo el mundo, estamos viendo un aumento de los sistemas sensoriales que nos monitorean en masa y las 24 horas del día en espacios públicos y privados, ya sean lectores automáticos de matrículas, cámaras de reconocimiento facial, teléfonos celulares que rastrean datos de ubicación o asistentes de voz en nuestros hogares. Cada uno de estos sistemas "inteligentes" promete beneficios: menos tráfico, mejor seguridad, mejores mapas, mejores servicios.
Algunos de estos sistemas se utilizan en países con fuertes protecciones de los derechos humanos. En Suecia, por ejemplo, la ley de privacidad de la UE Protección general de datos[ Reglamento](https: //www.hrw.org/news/2018/06/06/eu-general-data-protection-regulation) proporciona algunas protecciones, aunque limitadas, sobre cómo se recopilan los datos personales. Estos países también gozan de libertad de expresión y de prensa, foros públicos donde se debaten libremente estos temas.
Sin embargo, la mayoría de las personas viven en países con menos protecciones de privacidad. Incluso EE. UU. carece de una legislación nacional sobre privacidad del consumidor, mientras que el gobierno ejerce una amplia vigilancia contra ciudadanos y extranjeros por igual. Pero EE. UU. también es una democracia en la que la creciente conciencia sobre la privacidad ha llevado a los estados y ciudades a promulgar leyes como la Ley de Privacidad del Consumidor de California.
Las desigualdades en las protecciones de los derechos humanos se replican en las protecciones de la privacidad, con gobiernos profundamente represivos, desde [Zimbabwe](https://www.vice.com/en_ca/article/59n753/zimbabwe-is-trying-to-build-a-china -style-surveillance-state) a China—buscando activamente nuevas tecnologías para profundizar su asalto a los derechos. En China, no solo no hay protecciones de privacidad efectivas, tampoco hay sociedad civil, prensa libre o elecciones. El Partido Comunista está por encima de la ley, mantiene un dominio absoluto en Internet y, bajo Xi Jinping, es cada vez más intolerante con la disidencia.
En el extremo de este espectro de privacidad se encuentra Xinjiang, una región en el noroeste de China con 13 millones de uigures y otras minorías musulmanas turcas. Bajo la “Campaña de Golpe Duro contra el 'Extremismo Violento'”, El gobierno chino ha utilizado tecnologías para reforzar su represión de las minorías musulmanas en Xinjiang rastreando prácticamente todos sus movimientos, sometiéndolos a detenciones arbitrarias masivas, adoctrinamiento político forzado, restricciones de movimiento y opresión religiosa. Estimaciones creíbles indican que un millón de personas están detenidas en los campamentos de “educación política” de la región.
El impulso de vigilancia de los gobiernos no es nuevo, pero el gobierno chino está presentando un nuevo modelo de control social que, si no actuamos ahora, puede convertirse en el futuro de gran parte de la humanidad.
¿Cómo se siente la vida de los musulmanes de Xinjiang? Yueming Zhou, una joven con educación universitaria es, como muchas personas que leen este artículo, cosmopolita y está acostumbrada a muchas libertades. Yueming Zhou nació en Xinjiang pero creció en un país occidental. Durante unas vacaciones de verano, regresó a Xinjiang para visitar a su familia. Había utilizado una red privada virtual que le permitió eludir el Gran Cortafuegos de China para acceder al sitio web de su escuela e inscribirse en clases.
Pronto llegó la policía y se llevó a Yueming Zhou a la comisaría local. No le dijeron de qué la acusaban, aunque luego supo que las autoridades habían detectado su uso de la red privada ya que “monitorizan todo en nuestros teléfonos”. Los agentes le quitaron el pasaporte, la esposaron, la metieron en un automóvil y condujeron durante horas a otra ciudad de Xinjiang. Allí, tomaron sus datos biométricos, incluidas muestras de ADN, imágenes faciales y huellas dactilares. Luego la llevaron al campamento local de “educación política”.
Yueming Zhou pronto se encontró en una madriguera de conejo. Los derechos que solía tener ya no existían: “Me empujaron a una habitación, donde hay seis camas en literas. Me revisaron todo y me pusieron ropa de detenido. Luego cerraron la puerta de hierro... Había una cámara que tenía una vista de 360 grados de la habitación, un altavoz. Estábamos monitoreados las 24 horas del día, los 7 días de la semana… Cuando susurrábamos, solo podíamos hablar en mandarín. No se nos permitía hacer nada religioso, ni decir nada que 'no fuera bueno' para el gobierno... Cuando íbamos de nuestra habitación al 'aula', teníamos que informar nuestro número..."
“Había cámaras en los pasillos y guardias con armas. En el salón de clases, entre el 'profesor' -que estaba de pie en el podio- y los 'alumnos', había una cerca y también estaban en el salón dos o tres policías. Para comer, el personal de cocina echa arroz por una ventanita; teníamos que sentarnos en taburetes y comer con la comida en el regazo”.
Durante meses, Yueming Zhou tuvo que “aprender” mandarín (ya hablaba con fluidez), cantar el himno nacional chino y aprender consignas patrióticas. No debía desafiar a sus captores. Cuantas más preguntas hiciera, más tiempo se quedaría”, dijo que le dijeron sus captores.
Yueming Zhou fue liberada después de cinco meses, pero su pesadilla continuó. No se le permitió salir de su ciudad natal. Cada semana, la policía la interrogaba, tenía que asistir a la ceremonia de izamiento de la bandera nacional los lunes e ir a la “escuela” nocturna los jueves.
Unos meses después de su "lanzamiento", Yueming Zhou encontró el coraje para aventurarse a ver una película. Había un control de seguridad. Cuando pasó su identificación, las máquinas emitieron un sonido para alertar a la policía, que vino y verificó su identidad. En las carreteras y los cruces, las cámaras escanearon los rostros de Yueming Zhou y otros peatones. En la estación de policía, vio pantallas de computadora que monitoreaban a quienes cruzaban las calles con pequeños cuadrados rojos en los rostros de las personas, muy probablemente señalando a las personas para una mayor investigación.
El sistema de macrodatos que se usa para monitorear en Xinjiang es [Plataforma de Operaciones Conjuntas Integradas (IJOP)](https://www.hrw.org/report/2019/05/01/chinas-algorithms-repression/reverse-engineering-xinjiang -policía-masa-vigilancia). Actúa como un sistema nervioso central para los sistemas de vigilancia masiva de la región, rastreando teléfonos, vehículos y tarjetas de identificación, y controlando el uso de electricidad y gasolineras. Trata muchas actividades ordinarias y legales, incluso usando “demasiada” electricidad, como indicadores de comportamiento sospechoso. Algunas personas son seleccionadas para más interrogatorios y, como Yueming Zhou, son detenidas o encarceladas.
El sistema también restringe la libertad de movimiento dependiendo del nivel de amenaza que las autoridades perciban que alguien representa. El IJOP está conectado a las "puertas de datos" instaladas en algunos de los puntos de control ubicuos de la región, que envían advertencias sobre personas "problemáticas" como Yueming Zhou. Juntos, los sistemas de vigilancia de alta tecnología forman cercas invisibles o virtuales. Este sistema innovador le permite al gobierno lograr un control social generalizado en una región de un tercio del tamaño de Europa occidental, al tiempo que permite la movilidad a aquellos que las autoridades consideran "seguros", asegurando la provisión de [mano de obra flexible] (https://www. nytimes.com/2019/12/30/world/asia/china-xinjiang-muslims-labor.html) para la economía de la región.
Después de estar detenida en Xinjiang durante dos años y medio sin cargos ni juicio, Yueming Zhou recuperó su pasaporte y abandonó la región.
Xinjiang, aunque extrema, ilustra cómo los derechos de privacidad son derechos de “puerta de entrada”. Cuando no tenemos privacidad, corremos el riesgo de perder todas las libertades. Las personas que entrevisté como Yueming Zhou me dijeron lo temerosos que eran y cómo tuvieron que censurar toda su existencia. Cada expresión facial, cada prenda de vestir y peinado, cada palabra que pronuncian, cada persona con la que hablan, todo lo que hacen, se pone bajo el microscopio de sus monitores humanos. Pero también, silenciosa y automáticamente, son vigilados por los sistemas sensoriales de la máquina en su entorno.
Las realidades de Xinjiang podrían estar más cerca de lo que pensamos. Incluso para las personas que viven en una sociedad con una legislación de privacidad estricta, las leyes no son infalibles. La protección de sus derechos depende del entorno sociopolítico más amplio del lugar. Como hemos visto, las sociedades, incluidas las occidentales, pueden sucumbir a los impulsos autoritarios, y uno o dos gobiernos sucesivos con tales impulsos pueden convertir una sociedad democrática en autoritaria.
Pero a diferencia de los estados autoritarios del pasado, los gobiernos represivos de hoy tienen a su disposición poderosos sistemas de vigilancia digital. Las empresas, incluidas las que ayudan a las autoridades chinas a mantener un control férreo sobre Xinjiang, venden estos productos en todo el mundo y a precios asequibles desde [Kirguistán](https://www.hrw.org/news/2019/11/15/ facial-recognition-deal-kyrgyzstan-poses-risks-rights) to Venezuela. Incluso en [EE. UU.](https://www.washingtonpost.com/technology/2019/08/28/doorbell-camera-firm-ring-has-partnered-with-police-forces-extending-surveillance-reach/? arc404=true), la tecnología de vigilancia del hogar de Amazon, Ring, se asocia con cientos de departamentos de policía.
Necesitamos con urgencia marcos regulatorios sólidos que restrinjan significativamente la recopilación, el uso y el almacenamiento de datos biométricos, tanto por parte de los gobiernos como de las empresas privadas.
Recopilación y análisis masivos de ADN, que podrían revelar no solo información confidencial sobre nosotros, sino también sobre las personas con las que nos relacionamos e [incluso cómo nos vemos] (https://www.nytimes.com/2019/12/03/business/china- dna-uighurs-xinjiang.html), es una de las herramientas del gobierno chino en Xinjiang. El gobierno chino ahora tiene la base de datos de ADN más grande del mundo, con más de 80 millones de muestras, muchas obtenidas sin consentimiento informado de personas ajenas a [crímenes] (https://www.hrw.org/news/2017/05/15/china- police-dna-database-threatens-privacy) en todo el país. En los EE. UU., el Departamento de Justicia propuso en octubre recolectar muestras de ADN de inmigrantes detenidos. Este tipo de recopilación masiva y retención indefinida de datos genéticos es una grave intrusión en la privacidad que debe detenerse.
Ha aumentado la alarma mundial sobre la ubicuidad de la tecnología de reconocimiento facial para el seguimiento y la identificación, dado que es difícil alterar u ocultar los rasgos faciales. Si bien la policía, y las empresas que los suministran, afirman que estos sistemas nos mantienen a salvo, la evidencia es mixta. Los proyectos que adoptan el enfoque de "aguja en el pajar" (escanear al público en general en busca de sospechosos) han tenido [decepción](https://www.abc.net.au/news/2019-05-06/australias-biggest-facial- reconocimiento-despliegue-apresurado/11077350) resultados; pero esos buscan específicamente desaparecidos o [traficados](https:/ /www.wired.com/story/how-facial-recognition-fighting-child-sex-trafficking/) niños en orfanatos y anuncios sexuales en línea han tenido cierto éxito. Human Rights Watch ha instado a los gobiernos a imponer una moratoria sobre el uso del reconocimiento facial hasta que haya suficiente información y debate para decidir si restringir o incluso prohibir su uso.
Cada vez más, las empresas que venden sistemas de vigilancia a los gobiernos están promocionando tecnologías de "autenticación de múltiples factores" para "mejorar la precisión", lo que significa que ya no se contentan con identificarnos solo por nuestras caras o voces, sino por una combinación de datos. En Xinjiang, las puertas de datos en algunos puntos de control no solo requieren que las personas pasen sus identificaciones inteligentes y escaneen sus rostros, sino que también recopilan de manera encubierta la información de identificación del teléfono de las personas.
Estos sistemas de identificación multimodal son particularmente peligrosos porque están diseñados para que sean imposibles de eludir y porque las medidas especialmente invasivas y coercitivas solo pueden justificarse en circunstancias excepcionales. También debería haber restricciones sobre cómo los gobiernos y las empresas pueden agregar diferentes fuentes de datos, lo que les permite sacar conclusiones sobre la vida de las personas y manipular su comportamiento.
Los gobiernos también deberían reevaluar los proyectos de "ciudades inteligentes", que pretenden hacer que los entornos urbanos sean más eficientes y sostenibles, pero divulgan información sobre las identidades, los movimientos y los hábitos de las personas a las empresas con fines de lucro o a las agencias que pueden usar los datos para fines bastante aparte de estos fines anunciados. Como [Cory Doctorow](https://amp.theguardian.com/cities/2020/jan/17/the-case-for-cities-where-youre-the-sensor-not-the-thing- being-sensed? CMP=share_btn_tw&__twitter_impression=true), son posibles modelos alternativos que coloquen los derechos humanos en el centro de su diseño y aseguren una supervisión adecuada sobre la recopilación y utilización de datos.
Las nuevas tecnologías a menudo se utilizan antes de que la sociedad tenga la oportunidad de comprender y deliberar sobre los costos y beneficios. A fines de la década de 1960, el gobierno de Londres comenzó a instalar cámaras de vigilancia de forma permanente, alegando que eran herramientas eficaces para combatir el crimen. Pero ahora vemos cómo esto ayudó a normalizar la vigilancia pública omnipresente, una puerta que una vez abierta condujo a los sistemas interconectados y mucho más potentes que están destruyendo las libertades humanas en Xinjiang unos 50 años después. Debemos detener su propagación antes de que sea demasiado tarde.