Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Problema 1792

Incidentes Asociados

Incidente 2492 Reportes
Government Deployed Extreme Surveillance Technologies to Monitor and Target Muslim Minorities in Xinjiang

Loading...
Los algoritmos de represión de China
hrw.org · 2019

Desde finales de 2016, el gobierno chino ha sometido a los 13 millones de uigures étnicos y otros musulmanes turcos en Xinjiang a detención arbitraria masiva, adoctrinamiento político forzado, restricciones de movimiento y opresión religiosa. Estimaciones creíbles indican que bajo esta represión intensificada, hasta un millón de personas están recluidas en campamentos de “educación política”. La “Campaña de Golpe Duro contra el Terrorismo Violento” del gobierno (Campaña de Golpe Duro, 严厉打击暴力恐怖活动专项行动) ha convertido a Xinjiang en uno de los principales centros de China para el uso de tecnologías innovadoras para el control social.

Este informe proporciona una descripción detallada y un análisis de una aplicación móvil que la policía y otros funcionarios utilizan para comunicarse con la Plataforma Integrada de Operaciones Conjuntas (IJOP, 一体化联合作战平台), uno de los principales sistemas que utilizan las autoridades chinas para la vigilancia masiva en Xinjiang. Human Rights Watch informó por primera vez sobre el IJOP en febrero de 2018, y señaló que el programa policial agrega datos sobre personas y señala a los funcionarios a quienes considera potencialmente amenazantes; algunos de los objetivos son detenidos y enviados a campamentos de educación política y otras instalaciones. Pero mediante la "ingeniería inversa" de esta aplicación móvil, ahora conocemos específicamente los tipos de comportamientos y personas a las que se dirige este sistema de vigilancia masiva.

Los hallazgos tienen un significado más amplio, ya que brindan una ventana sin precedentes sobre cómo funciona realmente la vigilancia masiva en Xinjiang, porque el sistema IJOP es fundamental para un ecosistema más grande de monitoreo y control social en la región. También arrojan luz sobre cómo funciona la vigilancia masiva en China. Si bien los sistemas de Xinjiang son particularmente intrusivos, sus diseños básicos son similares a los que la policía está planificando e implementando en toda China.

Muchas (quizás todas) de las prácticas de vigilancia masiva descritas en este informe parecen ser contrarias a la ley china. Violan los derechos garantizados internacionalmente a la privacidad, a la presunción de inocencia hasta que se pruebe su culpabilidad, ya la libertad de asociación y circulación. Su impacto en otros derechos, como la libertad de expresión y religión, es profundo.

Human Rights Watch descubre que los funcionarios utilizan la aplicación IJOP para cumplir con tres funciones amplias: recopilar información personal, informar sobre actividades o circunstancias consideradas sospechosas e impulsar investigaciones de personas que el sistema marca como problemáticas.

El análisis de la aplicación IJOP revela que las autoridades recopilan cantidades masivas de información personal, desde el color del automóvil de una persona hasta su altura y el centímetro preciso, y la introducen en el sistema central de IJOP, vinculando esos datos con la tarjeta de identificación nacional de la persona. número. Nuestro análisis también muestra que las autoridades de Xinjiang consideran sospechosas muchas formas de comportamiento legal, cotidiano y no violento, como “no socializar con los vecinos, a menudo evitando usar la puerta principal”. La aplicación también etiqueta el uso de 51 herramientas de red como sospechosas, incluidas muchas redes privadas virtuales (VPN) y herramientas de comunicación cifrada, como WhatsApp y Viber.

La aplicación IJOP demuestra que las autoridades chinas consideran sospechosas ciertas actividades religiosas pacíficas, como hacer donaciones a las mezquitas o predicar el Corán sin autorización. Pero la mayoría de los demás comportamientos que la aplicación considera problemáticos son neutrales desde el punto de vista étnico y religioso. Nuestros hallazgos sugieren que el sistema IJOP vigila y recopila datos sobre todos en Xinjiang. El sistema rastrea el movimiento de las personas al monitorear la “trayectoria” y los datos de ubicación de sus teléfonos, tarjetas de identificación y vehículos; también está monitoreando el uso de las estaciones de electricidad y gasolina de todos en la región. Esto es consistente con las declaraciones del gobierno local de Xinjiang que enfatizan que los funcionarios deben recopilar datos para el sistema IJOP de "manera integral" de "todos en cada hogar".

Cuando el sistema IJOP detecta irregularidades o desviaciones de lo que considera normal, como cuando las personas están usando un teléfono que no está registrado a su nombre, cuando usan más electricidad de lo “normal” o cuando abandonan el área en la que están registrados vivir sin el permiso de la policía, el sistema señala estas “micro-pistas” a las autoridades como sospechosas y solicita una investigación.

Otro elemento clave del sistema IJOP es el seguimiento de las relaciones personales. Las autoridades parecen considerar algunas de estas relaciones inherentemente sospechosas. Por ejemplo, la aplicación IJOP instruye a los oficiales para que investiguen a las personas que están relacionadas con personas que han obtenido un nuevo número de teléfono o que tienen vínculos con el exterior.

Las autoridades han tratado de justificar la vigilancia masiva en Xinjiang como un medio para combatir el terrorismo. Si bien la aplicación instruye a los funcionarios para que verifiquen el "terrorismo" y el "contenido audiovisual violento" al realizar controles de teléfonos y software, estos términos se definen ampliamente en las leyes chinas. También instruye a los funcionarios a tener cuidado con los "partidarios del wahabismo", un término que sugiere una forma ultraconservadora de creencia islámica, y "las familias de aquellos... que detonaron [dispositivos] y se suicidaron". Pero muchas, si no la mayoría, de las conductas a las que el sistema IJOP presta especial atención no tienen una relación clara con el terrorismo o el extremismo. Nuestro análisis del sistema IJOP sugiere que la recopilación de información para contrarrestar el terrorismo genuino o la violencia extremista no es un objetivo central del sistema.

La aplicación también califica a los funcionarios gubernamentales por su desempeño en el cumplimiento de las tareas y es una herramienta para que los supervisores de alto nivel asignen tareas y controlen el desempeño de los funcionarios de nivel inferior. La aplicación IJOP, en parte, tiene como objetivo controlar a los funcionarios del gobierno para garantizar que estén cumpliendo de manera eficiente las órdenes represivas del gobierno.

Al crear el sistema IJOP, el gobierno chino se ha beneficiado de las empresas chinas que les proporcionan tecnologías. Si bien el gobierno chino tiene la responsabilidad principal por las violaciones de los derechos humanos que tienen lugar en Xinjiang, estas empresas también tienen la responsabilidad, según el derecho internacional, de respetar los derechos humanos, evitar la complicidad en los abusos y repararlos adecuadamente cuando ocurran.

Como se detalla a continuación, el sistema IJOP y algunos de los puntos de control de la región trabajan juntos para formar una serie de vallas invisibles o virtuales. Las autoridades los describen como una serie de “filtros” o “tamices” en toda la región, tamizando elementos indeseables. Dependiendo del nivel de amenaza que perciban las autoridades, determinado por factores programados en el sistema IJOP, la libertad de movimiento de las personas se restringe en diferentes grados. Algunos están cautivos en las prisiones y campos de educación política de Xinjiang; otros están sujetos a arresto domiciliario, no se les permite salir de sus lugares registrados, no se les permite ingresar a lugares públicos o no se les permite salir de China.

El control del gobierno sobre el movimiento en Xinjiang hoy tiene similitudes con la era de Mao Zedong (1949-1976), cuando las personas estaban restringidas a donde estaban registradas para vivir y la policía podía detener a cualquiera por aventurarse fuera de sus lugares. Después de que se lanzó la liberalización económica en 1979, la mayoría de estos controles se habían vuelto obsoletos. Sin embargo, el estado policial moderno de Xinjiang, que utiliza una combinación de sistemas tecnológicos y controles administrativos, faculta a las autoridades para volver a imponer un grado de control de la era de Mao, pero de una manera gradual que también satisface las demandas de la economía de libre circulación laboral.

La recopilación intrusiva y masiva de información personal a través de la aplicación IJOP ayuda a explicar los informes de los musulmanes turcos en Xinjiang de que los funcionarios del gobierno les han hecho a ellos o a sus familiares una serie desconcertante de preguntas personales. Cuando los agentes del gobierno realizan visitas intrusivas a los hogares y oficinas de los musulmanes, por ejemplo, generalmente preguntan si los residentes poseen equipos de ejercicio y cómo se comunican con las familias que viven en el extranjero; parece que dichos funcionarios están cumpliendo con los requisitos que se les envían a través de aplicaciones como la aplicación IJOP. La aplicación IJOP no requiere que los funcionarios del gobierno informen a las personas cuyas vidas diarias se analizan y registran el propósito de tal recopilación de datos intrusivos o cómo se usa o almacena su información, y mucho menos obtener el consentimiento para dicha recopilación de datos.

La Campaña Strike Hard ha mostrado un total desprecio por los derechos de los musulmanes túrquicos a ser considerados inocentes hasta que se pruebe su culpabilidad. En Xinjiang, las autoridades han creado un sistema que considera a las personas sospechosas basándose en criterios amplios y dudosos, y luego genera listas de personas para que los funcionarios las evalúen para su detención. Los documentos oficiales establecen que las personas “que deberían ser capturadas, deben ser capturadas”, lo que sugiere que el objetivo es maximizar la cantidad de personas que consideran “no confiables” en detención. Esas personas luego son sometidas a interrogatorios policiales sin las protecciones procesales básicas. No tienen derecho a asistencia letrada y algunos son sometidos a torturas y malos tratos, por los que no tienen una reparación efectiva, como hemos documentado en nuestro informe de septiembre de 2018. El resultado es que las autoridades chinas, reforzadas por la tecnología, detienen arbitraria e indefinidamente a musulmanes túrquicos en Xinjiang en masa por acciones y comportamientos que no son delitos según la ley china.

Y, sin embargo, las autoridades chinas continúan haciendo afirmaciones tremendamente inexactas de que sus sistemas "sofisticados" mantienen a salvo a Xinjiang al "atacar" a los terroristas "con precisión". En China, la falta de un poder judicial independiente y de prensa libre, junto con la feroz hostilidad del gobierno hacia las organizaciones independientes de la sociedad civil, significa que no hay forma de responsabilizar al gobierno o a las empresas participantes por sus acciones, incluidas las devastadoras consecuencias que estos sistemas infligen en la vida de la gente.

El gobierno chino debería cerrar inmediatamente el IJOP y eliminar todos los datos que ha recopilado de personas en Xinjiang. Debería poner fin a la campaña Strike Hard, incluidos todos los programas obligatorios destinados a vigilar y controlar a los musulmanes túrquicos. Todas las personas recluidas en campamentos de educación política deben ser liberadas incondicionalmente y los campamentos cerrados. El gobierno también debe investigar al secretario del partido, Chen Quanguo, y a otros altos funcionarios implicados en abusos contra los derechos humanos, incluida la violación de los derechos de privacidad, y permitir el acceso a Xinjiang, tal como lo solicitaron la Oficina del Alto Comisionado de las Naciones Unidas para los Derechos Humanos y los expertos en derechos humanos de la ONU.

Los gobiernos extranjeros interesados deberían imponer sanciones específicas, como la Ley Global Magnitsky de EE. UU., incluidas la prohibición de visas y la congelación de activos, contra el secretario del partido, Chen, y otros altos funcionarios vinculados a los abusos en la campaña Strike Hard. También deberían imponer mecanismos de control de exportaciones apropiados para evitar que el gobierno chino obtenga tecnologías utilizadas para violar los derechos básicos.

El resto del informe está disponible en https://www.hrw.org/report/2019/05/01/chinas-algorithms-repression/reverse-engineering-xinjiang-police-mass

Leer la Fuente

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd