Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Problema 2739

Loading...
China en la era de la vigilancia
quillette.com · 2022

_Podía sentir los ojos brillantes del Estado mirándolo a la cara. _ ~Vasily Grossman, Life and Fate El 3 de abril de 2011, el artista chino y El disidente abierto Ai Weiwei fue detenido por una gran multitud de policías en un aeropuerto de Beijing. No se supo nada de él durante los siguientes tres meses. Todavía recuerdo mi propio miedo en ese momento: sabía detalles, desafortunadamente, de las diversas y bárbaras torturas infligidas previamente a disidentes como Gao Zhisheng. Pero cuando el artista resurgió en junio, dijo que no había sido maltratado físicamente. En cambio, lo habían mantenido en una pequeña habitación bajo luces brillantes las 24 horas, siempre acompañado por dos policías silenciosos. Se paraban y observaban a Ai mientras dormía, se duchaba y usaba el baño. Cada 12 horas terminaba el turno y dos nuevos policías ocupaban sus puestos. Esta peculiar forma de tortura psicológica se prolongó durante 81 largos días. El propósito, debemos suponer, era inculcar en la mente del artista la sensación de estar permanentemente vigilado. Por el resto de su vida, cada vez que comience a planear una obra de arte o una actividad disidente, será incapaz de quitarse la sensación de que los ojos de las autoridades le están taladrando el cráneo. El éxito del experimento fue cuestionable: después de su liberación, Ai instaló cuatro cámaras de vigilancia afuera de su casa en Beijing aparentemente como una burla. También creó la instalación “S.A.C.R.E.D.” (“Cena, Acusadores, Limpieza, Ritual, Entropía, Duda”). que consta de modelos realistas de Ai y sus captores colocados en una variedad de escenas dentro de seis réplicas a la altura de los hombros de su celda de detención. Ai Weiwei abandonó definitivamente el país en 2015, pero siete años después, sus trabajos sobre vigilancia son más apropiados que nunca. La experiencia de Ai en detención fue realmente un presagio para el pueblo chino; un microcosmos del futuro de la nación. Hoy, Xi Jinping está creando el estado más vigilado de la historia. Ahora hay aproximadamente 540 millones cámaras CCTV en China. Las cámaras observan a los ciudadanos mientras compran y cenan. Las cámaras miran a los residentes cuando salen de casa por la mañana y regresan por la noche. En la oficina, las cámaras espían a los trabajadores dentro de [cubículos de baño] (https://mobile.twitter.com/rachel_cheung1/status/1569903577623330818). Y si usted, el ciudadano chino, es particularmente desafortunado, puede llegar a casa un día y descubrir que se ha instalado una cámara [dentro de su propiedad] (https://edition.cnn.com/2020/04/27/asia/ cámaras-cctv-china-hnk-intl/index.html). Supuestamente una medida de cuarentena, se agazapa allí en la pared del gabinete como una criatura hostil que de alguna manera ha logrado entrar, observándote mientras comes, observándote mientras ves la televisión; un invitado silencioso e indeseable. Las cámaras también acechan en los hogares de los [enfermos mentales] (https://www.nytimes.com/2022/06/25/technology/china-surveillance-police.html). El estado los considera demasiado volátiles para vivir sin control, pero aparentemente no se ha pensado en el tormento especial producido por un ojo siempre presente durante los períodos de angustia psicológica. > Una empresa china en Xiamen instaló cámaras de vigilancia dentro de los cubículos de los baños para monitorear a su personal. Una imagen viral en Weibo mostró fotos que tomó como evidencia y el personal sorprendido fumando fue despedido como castigo. pic.twitter.com/RD9xtSuGYj > > — Rachel Cheung (@rachel_cheung1) [14 de septiembre de 2022](https://twitter.com/rachel_cheung1/status/ 1569903577623330818?ref_src=twsrc%5Etfw ) China alberga ocho de las 10 ciudades más vigiladas del mundo (los desafortunados ocupantes de Chongqing viven en el número uno). Y la cámara de vigilancia de 2022 es un animal muy diferente al que recordamos de nuestra infancia. Ha desarrollado un conjunto completamente nuevo de funciones: reconocimiento facial, reconocimiento de la forma de caminar, escaneo corporal, seguimiento geográfico. La policía de la ciudad de Zhongshan ahora está usando cámaras que pueden grabar audio dentro de un radio de 300 pies. Su plan es analizar el audio usando un software de reconocimiento de voz y luego combinar los resultados con los datos de reconocimiento facial de esa misma cámara, identificando objetivos rápidamente. Los escolares de la nación son monitoreados durante todo el día. Los medios de comunicación del partido [informan] (http://en.people.cn/n3/2018/0519/c90000-9461918.html) que las cámaras graban las expresiones faciales de los estudiantes y registran "si se ven felices, molestos, enojados, temerosos o disgustado." Algunos aprenderán, por supuesto, a enmascarar sus sentimientos de forma permanente. Pero otros no podrán preservar ese espacio privado. Interiorizarán el ojo vigilante de las autoridades, como un grotesco superyó freudiano, y sus pensamientos nunca serán realmente suyos. Las escuelas de las regiones del sur de Guizhou y Guangxi han dado un paso más hacia la distopía. Si alguno de sus alumnos logra escabullirse de la mirada de las cámaras, se activará una alarma: los uniformes ahora vienen con microchips en los hombros. . Los ojos del Partido cuelgan por encima y por todos lados mientras caminas por la ciudad, pero también se asoman desde tu chaqueta, tus jeans, tu bolso. Los teléfonos inteligentes se han vuelto casi indispensables en China. La mayoría de las personas usa Alipay y WeChat para todo, desde boletos de avión hasta compras familiares, desde su café de la mañana hasta sus facturas mensuales, y el PCCh está aprovechando al máximo esta oportunidad para recopilar datos y monitorear el comportamiento en línea. COVID-19 ha demostrado ser una bendición para Beijing: las aplicaciones de código de salud ayudan a las autoridades a acechar los movimientos de una persona. En Xinjiang, donde el estado de vigilancia ha gobernado por más tiempo, los uigures [recurrieron] hace mucho tiempo (https://www.theatlantic.com/magazine/archive/2020/09/china-ai-surveillance/614197/) a enterrar sus teléfonos en el jardín trasero y congelando las tarjetas de datos dentro de las albóndigas. Ese teléfono inteligente en su bolsillo es como un faro brillante que destella para los ubicuos dispositivos de rastreo de teléfonos del Partido, que se esconden dentro de las cámaras o cerca, parecidos a los enrutadores WiFi. Los rastreadores buscan señales de alerta específicas, como las aplicaciones de diccionario de uigur a mandarín, que identificarían al propietario del teléfono como miembro del grupo étnico uigur oprimido. Pero también buscan en tu móvil detalles personales como nombres de usuario de redes sociales, independientemente de tu origen étnico. Algunos de los rastreadores se denominan "rastreadores WiFi" y se esconden en las redes WiFi públicas para espiar la actividad del teléfono. Otros se llaman "receptores de IMSI". Se hacen pasar por torres móviles, atrayendo a su teléfono para que establezca una conexión. Una vez conectado, su material personal puede ser allanado, sus conversaciones interceptadas, etc. El PCCh siempre ha sufrido de falta de legitimidad (el Partido tomó el poder, en lugar de ganar una elección) y, como consecuencia, se basa en contratos sociales implícitos. . Durante las últimas tres o cuatro décadas, el contrato ha involucrado a un gran número de personas que se enriquecen a un ritmo sin precedentes en la historia. Pero esos días han terminado. La economía de China ahora enfrenta dificultades insuperables, por lo que el contrato se ha reescrito. En lugar de riquezas, el Partido promete seguridad, la seguridad más estricta y dura del mundo. Los funcionarios pregonan los éxitos de la vigilancia impulsada por IA, la mayoría de los cuales podríamos describir caritativamente como modestos. Una disminución en la venta ambulante sin licencia; menos basura en las calles; Aparcamiento más responsable de bicicletas eléctricas. Muy de vez en cuando habrá un verdadero éxito: las cámaras localizarán a un niño desaparecido. Tales casos son muy publicitados, junto con informes de un aumento en el número de detenciones, dudosamente equiparado con un aumento en la seguridad general. Todos estos éxitos distraen la atención del problema principal: la vigilancia invasiva se está convirtiendo rápidamente en una característica de la vida de los ciudadanos chinos. En Wuhan, los padres llevan a sus hijos a los puntos de recopilación de datos para [escaneos de iris] (http://www.chinadaily.com.cn/china/2016-11/17/content_27401355.htm). En Xinjiang, los viajeros que solicitan pasaportes deben proporcionar [muestras de voz] (https://time.com/4992849/china-voice-database-surveillance/). En Zhengzhou, los residentes hacen fila afuera de los bloques de apartamentos, esperando que les escaneen la cara (https://www.nytimes.com/2019/12/17/technology/china-surveillance.html) para poder ingresar a sus propios hogares. En todas partes, las masas entregan sus marcadores biométricos. Y arriba, drones disfrazados de palomas flotan en el smog, [viendo](https://www.scmp.com/news/china/society/article/2152027/china-takes-surveillance-new-heights-flock-robotic -palomas-hacen-ellos). El Partido está inyectando decenas de miles de millones de dólares en la creación de lo que llama “ciudades seguras”. Estarán a salvo porque las autoridades disfrutarán de una "cobertura del 100 por ciento", agrupando la información de enjambres de cámaras inteligentes y rastreadores de teléfonos con 63 tipos diferentes de datos policiales y más [115 variedades de datos] (https://www.amazon. com/Every-Breath-You-Take-Tyranny-ebook/dp/B08Q34VYP5/) de otros departamentos gubernamentales: historial médico, relaciones familiares, afiliaciones religiosas, registros de vuelos, registros de hoteles, etc. Los sistemas acumularán datos de lectores de códigos QR; máquinas de punto de venta; monitores de calidad del aire. La policía de China también ha estado aprovechando todas las oportunidades para recolectar ADN del cromosoma Y masculino. Su razonamiento es el siguiente: el cromosoma Y recoge relativamente pocas mutaciones de una generación a la siguiente, por lo que el perfil de un hombre es efectivamente el perfil de varios hombres a lo largo de la misma línea paterna. Los extensos registros de ADN del cromosoma Y deberían ayudar a las autoridades a capturar una imagen amplia de la historia familiar y la ascendencia geográfica de cualquier hombre sospechoso. Y así las escalofriantes instrucciones a la policía en la provincia de Gansu: “No se pierda ni una sola familia en cada pueblo. No falte un solo hombre en cada familia”. A juicio del Partido, tal como lo expresó un exministro de Seguridad Pública, todo este big data permitirá literalmente “[identificar la identidad de una persona](https://www.hrw.org/news/2017/11 /19/china-police-big-data-systems-violate-privacy-target-dissent)”. Pronto, las plataformas impulsadas por IA administrarán ciudades, controlarán todo, desde la planificación urbana hasta el consumo de electricidad y extinción de incendios Por supuesto, estas “ciudades seguras” solo garantizarán que pocas personas estén a salvo de las autoridades y los ojos brillantes e insomnes del Estado. Hangzhou ofrece una instantánea del futuro. Los gigantes tecnológicos de China prácticamente dirigen la ciudad, pero están obligados a compartir sus datos con el gobierno para que puedan ser analizados en busca de "amenazas a la seguridad nacional". A los ojos de un régimen fanático, paranoico e ilegítimo, casi cualquier comportamiento podría caer en esta amplia categoría elástica. Y otros peligros aguardan al ciudadano chino de hoy. Extrañamente yuxtapuesto con toda esa eficiencia, encontramos la torpeza y corrupción que siempre ha seguido al PCCh. Esas grandes bóvedas de datos generalmente se almacenan en servidores desprotegidos. Por un precio, los detalles a veces se entregarán a estafadores o cónyuges sospechosos. A principios de este año, los piratas informáticos pudieron robar los datos personales de casi mil millones de ciudadanos chinos de una base de datos de la policía de Shanghái, quizás el robo de datos personales más grande de la historia. El tablero para acceder a la información se había configurado en una dirección web pública y se había dejado abierto sin contraseña. Un estado de vigilancia dirigido por incompetentes sigue siendo inmensamente peligroso. Y el alcance tecno-totalitario de Xi se extiende mucho más allá de las “ciudades seguras” de China y las fronteras del país. La llamada Ruta de la Seda Digital se despliega por el mapa en todas las direcciones. Las cámaras mejoradas con IA se venden a Malasia en el sur y Mongolia en el norte. Se envían a través del Océano Índico a Sri Lanka. Más al oeste, están llegando a las costas africanas: Egipto, Kenia, Mauricio, Uganda, Zambia, Zimbabue. Al otro lado del mundo, con la ayuda de préstamos chinos, ahora están llegando a Ecuador y Bolivia. Las ciudades seguras incluso están llegando a Europa, donde la combinación de cámaras de inteligencia artificial de Serbia con patrullas conjuntas de la policía serbia y china ha sido diseñada específicamente para hacer que los turistas chinos se sientan seguros; sentir que todavía están en China, sentir que los ojos nunca han dejado de mirarlos. De hecho, la misma tecnología de vigilancia ayuda a las fuerzas policiales en todos los continentes excepto Australia y la Antártida. Esto no es solo un buen negocio; el Partido Comunista controla las redes y sus datos. En exposiciones en Shenzhen y Beijing, empresas como Huawei, Hikvision, SenseTime y YITU exhiben la última tecnología de vigilancia, con la esperanza de atraer compradores tanto nacionales como internacionales. Los directores ejecutivos entusiasman a sus audiencias sobre el estado distópico que están ayudando a construir (y Occidente también ha ayudado con este proyecto, no lo olvidemos: la industria de la ciudad segura de China tiene muchos vínculos comerciales y de cadena de suministro con empresas estadounidenses). “Durante los próximos veinte o treinta años, la sociedad humana entrará en una era inteligente con detección omnipresente, conectividad total y pan-inteligencia”, dijo el director ejecutivo de Huawei, Wang Tao [entusiasmado] (https://www.scmp.com/tech/ article/3035563/chinas-surveillance-industry-downplays-us-blacklist-annual-expo-designed) en la Expo de Seguridad Pública de China en 2019. La próxima frontera será la tecnología de microexpresión y reconocimiento de emociones. El conglomerado de servicios financieros Ping An ha comenzado a evaluar las solicitudes de préstamo con detectores de mentiras futuristas. Ping An se jacta de que ahora se pueden identificar 54 pequeños movimientos faciales involuntarios en fracciones de segundo antes de que el cerebro asuma por completo control, permitiendo un análisis detallado de si el solicitante es o no veraz. Mientras tanto, las cámaras rostros sondeadores en la aduana buscan señales de estrés o nerviosismo. La dirección es clara: Beijing está intentando transformar en realidad ese viejo tropo distópico del crimen mental. Al filtrar las montañas de datos recopilados sobre cada ciudadano, el software policial puede comenzar a determinar patrones de comportamiento e intervenir en delitos que el perpetrador aún no ha planeado. Pero la verdad es que ninguna de las tecnologías llamativas hace lo que el Partido cree que hace. No existe tal cosa como una máquina confiable para leer la mente. Las intrincadas motivaciones y el mundo interior de un ser humano nunca podrían reducirse a movimientos oculares, contracciones faciales y señales de estrés, todo registrado y categorizado por una inteligencia artificial ciega e inconsciente. (Lo único que puede leer una mente humana es otra mente humana: instintivamente, en el momento, con poca o ninguna comprensión del proceso). Estamos siendo testigos de un intento de definir a las personas en términos puramente racionales, una variación del mismo miope. error que los partidos comunistas han cometido constantemente, en todo el mundo, durante cien años. Siempre han fracasado, y ahora este Partido volverá a fracasar, porque los seres humanos no somos máquinas. Con tal fracaso viene el daño colateral. Si los manierismos son signos de culpa, entonces las detenciones nunca terminarán. La paranoica fuerza policial del PCCh ya arresta a ciudadanos por tal depravación como “entrada frecuente a un complejo residencial con diferentes compañeros.” Y la mayoría de los arrestos ya conducen a una sentencia de prisión, por la sencilla razón de que la tortura suele usarse para arrancar confesiones a los detenidos. Ahora está llegando la nueva tecnología, una tecnología cuyo éxito se mide en el número de sospechosos identificados y detenidos. Las prisiones de China siempre han estado repletas de personas inocentes; tendrán que construir muchos más. En nombre del orden, el Partido está provocando el caos. Pero a pesar de todos los errores, el estado de vigilancia de Xi todavía amenaza con una aproximación más cercana al verdadero totalitarismo, lo que significa una negación más completa de la libertad humana, que [cualquier régimen anterior] (https://www.the-american-interest.com/2020/ 18/05/qué-tipo-de-régimen-tiene-china/) ha logrado. Ni Stalin ni Mao podían mirar directamente los movimientos, las palabras y las transacciones diarias de sus súbditos como puede hacerlo Xi. Esos líderes tenían agitprop, campos de reeducación, la Guardia Roja, el Gulag; Xi tiene inteligencia artificial y big data. No hay competencia. Es posible que el intruso en jefe de China no pueda ver literalmente en la mente de las personas, pero puede hacer que sus vidas sean una miseria en el intento. El estado de vigilancia observa a todos. Sin embargo, existe una lista negra que consiste en aquellos que requieren una atención especial, y es larga. Se extiende desde fugitivos y presuntos terroristas hasta trabajadores migrantes, enfermos mentales y extranjeros. (También hay una lista roja: funcionarios del gobierno, policía secreta, agentes de inteligencia, las personas cuyo comportamiento nunca debe denunciarse, por poco ortodoxo que sea). Pero el estado está más interesado en las voces disidentes del país. China rara vez ha estado sin sus disidentes: esos hombres y mujeres que se elevan por encima de la manada y se niegan obstinadamente a guardar silencio y aceptar su destino. Los Ai Weiwei; los Chen Guangcheng; los Zhang Zhan. Absorben la misma propaganda infantil que todos los demás, pero para el eterno desconcierto de las autoridades, no resultan ser iguales a los demás. Zhang Yuqiao ha vivido durante el tiempo que ha gobernado el Partido, y él es una de esas excepciones. Durante décadas, Zhang ha estado solicitando al gobierno, primero buscando reparación por la tortura de sus padres durante la Gran Revolución Cultural Proletaria, y luego protestando por el acoso policial a su familia. Hasta hace muy poco, cuando viajaba de Shandong a Beijing para presentar sus quejas, solo necesitaba mantenerse alejado de las carreteras principales para evitar la interceptación policial. Ahora su tarea se ha vuelto más complicada. Antes de dirigirse a Beijing, Zhang apaga su teléfono, compra varios boletos de tren a los destinos equivocados y contrata a conductores privados para que lo lleven alrededor de los numerosos puntos de control policial que surgen hoy como crecimientos malignos en todas las carreteras de China. No tendría ninguna posibilidad de atravesar uno de esos puntos de control, no con la nueva tecnología instalada. Pero esta es otra grieta en la fachada del estado de vigilancia: el ingenio humano simple y obstinado, como lo muestra Zhang Yuqiao. Siempre habrá algunos que se las arreglen para eludir las restricciones. E incluso en la distópica Xinjiang, se pueden encontrar espacios de privacidad. Automóviles personales, mercados densamente concurridos, tramos remotos de desierto: hay lugares más allá de los ojos y oídos del Partido; lugares donde se puede compartir información y hacer planes. Xi Jinping quiere omnisciencia, pero no la encontrará.

Leer la Fuente

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd