Incidentes Asociados
Los organismos encargados de hacer cumplir la ley y las organizaciones gubernamentales de 24 países fuera de los Estados Unidos utilizaron una controvertida tecnología de reconocimiento facial llamada Clearview AI, según datos internos de la empresa revisados por BuzzFeed News. Esos datos, que se extienden hasta febrero de 2020, muestran que los departamentos de policía, las fiscalías, las universidades y los ministerios del interior de todo el mundo realizaron casi 14 000 búsquedas con el software Clearview AI. En muchos organismos encargados de hacer cumplir la ley, desde Canadá hasta Finlandia, los agentes utilizaron el software sin el conocimiento o permiso de sus superiores. Después de recibir preguntas de BuzzFeed News, algunas organizaciones admitieron que la tecnología se había utilizado sin supervisión de liderazgo. En marzo, una [investigación de BuzzFeed News basada en los propios datos internos de Clearview AI] (https://www.buzzfeednews.com/article/ryanmac/clearview-ai-local-police-facial-recognition) mostró cómo el startup distribuyó su herramienta de reconocimiento facial, mediante la comercialización de pruebas gratuitas para su aplicación móvil o software de escritorio, a miles de funcionarios y empleados en más de 1800 entidades financiadas por los contribuyentes de EE. UU. Clearview afirma que su software es más preciso que otras tecnologías de reconocimiento facial porque está entrenado en una base de datos de más de 3 mil millones de imágenes extraídas de sitios web y plataformas de redes sociales, incluidos Facebook, Instagram, LinkedIn y Twitter. Los funcionarios encargados de hacer cumplir la ley que usan Clearview pueden tomar una foto de un sospechoso o una persona de interés, pasarla por el software y recibir posibles coincidencias para esa persona [en segundos] (https://www.buzzfeednews.com/article/ryanmac/clearview -ai-nypd-reconocimiento-facial). Clearview ha afirmado que su aplicación es [100% precisa en los documentos] (https://www.buzzfeednews.com/article/carolinehaskins1/clearview-ai-facial-recognition-accurate-aclu-absurd) proporcionada a los funcionarios encargados de hacer cumplir la ley, pero [BuzzFeed News ha visto que el software identifica erróneamente a las personas] (https://www.buzzfeednews.com/article/ryanmac/clearview-ai-local-police-facial-recognition), lo que destaca una preocupación mayor con las tecnologías de reconocimiento facial. Con base en nuevos informes y datos revisados por BuzzFeed News, Clearview AI llevó su controvertido libro de estrategias de marketing de EE. UU. por todo el mundo, ofreciendo pruebas gratuitas a los empleados de las fuerzas del orden en países como Australia, Brasil y el Reino Unido. Para acompañar esta historia, BuzzFeed News ha creado una tabla de búsqueda de 88 agencias y organizaciones internacionales afiliadas al gobierno y financiadas por los contribuyentes que figuran en los datos de Clearview con empleados que usaron o probaron el servicio de reconocimiento facial de la empresa antes de febrero de 2020, según los datos de Clearview. Algunas de esas entidades se encontraban en países donde el uso de Clearview desde entonces se ha considerado "ilegal". Luego de una investigación, el comisionado de privacidad de datos de Canadá dictaminó en febrero de 2021 que Clearview había "[violado las leyes de privacidad federales y provinciales] (https://www.priv.gc.ca/en/opc-news/news-and-announcements/2021 /nr-c_210203/)"; recomendó a la empresa dejar de ofrecer sus servicios a clientes canadienses, dejar de recopilar imágenes de canadienses y eliminar todas las imágenes y datos biométricos recopilados previamente de personas en el país. En la Unión Europea, las autoridades están evaluando si el uso de Clearview violó el Reglamento General de Protección de Datos (RGPD), un conjunto de amplias leyes de privacidad en línea que exige que las empresas que procesan datos personales obtengan el consentimiento informado de las personas. La Autoridad de Protección de Datos holandesa le dijo a BuzzFeed News que es "poco probable" que el uso de Clearview por parte de las agencias policiales fuera legal, mientras que la Comisión Nacional de Informática y Libertades de Francia dijo que ha recibido "varias quejas" sobre Clearview que "actualmente están siendo investigadas". Un regulador en Hamburgo ya consideró que las prácticas de la compañía son ilegales según el RGPD y le pidió que elimine la información sobre un ciudadano alemán. A pesar de que Clearview se utiliza en al menos dos docenas de otros países, el director general Hoan Ton-That insiste en que el mercado clave de la empresa es Estados Unidos. "Si bien ha habido una gran demanda de nuestro servicio en todo el mundo, Clearview AI se centra principalmente en brindar nuestro servicio a las agencias gubernamentales y de aplicación de la ley en los Estados Unidos", dijo en un comunicado a BuzzFeed News. "Otros países han expresado una gran necesidad de nuestra tecnología porque saben que puede ayudar a investigar delitos, como el lavado de dinero, el fraude financiero, las estafas románticas, la trata de personas y los delitos contra los niños, que no conocen fronteras". En la misma declaración, Ton-That alegó que hay "inexactitudes contenidas en las afirmaciones de BuzzFeed". Se negó a explicar cuáles podrían ser y no respondió una lista detallada de preguntas basadas en los informes de esta historia. Según un documento interno de 2019 informado por primera vez por BuzzFeed News, Clearview había planeado buscar una "expansión internacional rápida" en [al menos 22 países] (https://www.buzzfeednews.com/article/carolinehaskins1/clearview-ai-facial- reconocimiento-regímenes-autoritarios-22). Pero en febrero de 2020, la estrategia de la empresa parecía haber cambiado. "Clearview se enfoca en hacer negocios en los EE. UU. y Canadá", dijo Ton-That a BuzzFeed News en ese momento. Dos semanas después, en una entrevista en PBS, aclaró que Clearview nunca vendería su tecnología a países que "son muy adversos a Estados Unidos", antes de nombrar a China, Rusia, Irán y Corea del Norte. Desde entonces, Clearview se ha convertido en objeto de escrutinio de los medios y de múltiples investigaciones gubernamentales. En julio, tras un informe anterior de BuzzFeed News que mostraba que empresas privadas y organizaciones públicas habían realizado búsquedas de Clearview en Gran Bretaña y Australia , los comisionados de privacidad en esos países abrieron una investigación conjunta en la empresa por su uso de datos personales. La investigación está en curso, según la Oficina del Comisionado de Información del Reino Unido, que le dijo a BuzzFeed News que "no se harán más comentarios hasta que concluya". Las autoridades canadienses también tomaron medidas para regular Clearview después de que el Toronto Star, en asociación con BuzzFeed News, informara sobre el [uso generalizado del software de la empresa en el país] (https://www.thestar.com/news/canada/2020/02 /27/facial-recognition-app-clearview-ai-has-been-used-mucho-más-ampliamente-en-Canadá-de-lo-conocido-previamente.html). En febrero de 2020, los comisionados de privacidad federales y locales de Canadá iniciaron una investigación sobre Clearview y concluyeron que representaba una "clara violación de los derechos de privacidad de los canadienses". A principios de este año, esos organismos oficialmente [declararon ilegales las prácticas de Clearview en el país] (https://www.priv.gc.ca/en/opc-news/news-and-announcements/2021/nr-c_210203/) y recomendaron que la empresa deje de ofrecer su tecnología a clientes canadienses. Clearview no estuvo de acuerdo con los hallazgos de la investigación y no demostró voluntad de seguir las otras recomendaciones, según la Oficina del Comisionado de Privacidad de Canadá. Antes de esa declaración, los empleados de al menos 41 entidades dentro del gobierno canadiense, la mayoría de cualquier país fuera de los EE. UU., figuraban en los datos internos como usuarios de Clearview. Esas agencias iban desde departamentos de policía en ciudades medianas como Timmins, una ciudad de 41,000 habitantes donde los oficiales realizaron más de 120 búsquedas, hasta las principales agencias policiales metropolitanas como el Servicio de Policía de Toronto, que figura en los datos con más de 3,400 búsquedas. a partir de febrero de 2020. Un portavoz del Servicio de Policía de Timmins reconoció que el departamento había utilizado Clearview, pero dijo que nunca se realizaron arrestos sobre la base de una búsqueda con la tecnología. El Servicio de Policía de Toronto no respondió a múltiples solicitudes de comentarios. Los datos de Clearview muestran que el uso no se limitó a los departamentos de policía. La fiscalía pública del Ministerio de Justicia de Saskatchewan realizó más de 70 búsquedas con el software. Un portavoz dijo inicialmente que los empleados no habían usado Clearview, pero cambió su respuesta después de una serie de preguntas de seguimiento. "Después de la revisión, hemos identificado casos independientes en los que el personal del ministerio utilizó una versión de prueba de este software", dijo Margherita Vittorelli, portavoz del ministerio. "La Corona no ha utilizado Clearview AI para respaldar un enjuiciamiento. Dadas las preocupaciones sobre el uso de esta tecnología, se ha instruido al personal del ministerio que no use el software de Clearview AI en este momento". Algunas agencias policiales canadienses suspendieron o descontinuaron el uso de Clearview AI poco después del período de prueba inicial o dejaron de usarlo en respuesta a la investigación del gobierno. Un detective de la Unidad de Delitos Tecnológicos del Servicio de Policía Regional de Niágara realizó más de 650 búsquedas en una versión de prueba gratuita del software, según los datos. "Una vez que surgieron las preocupaciones con el Comisionado de Privacidad, se canceló el uso del software", dijo a BuzzFeed News la portavoz del departamento, Stephanie Sabourin. Ella dijo que el detective usó el software en el curso de una investigación no revelada sin el conocimiento de los oficiales superiores o del jefe de policía. La Real Policía Montada de Canadá se encontraba entre las pocas agencias internacionales que habían contratado a Clearview y pagado por usar su software. La agencia, que realizó más de 450 búsquedas, dijo en febrero de 2020 que usó el software en 15 casos relacionados con la explotación sexual infantil en línea, lo que resultó en el rescate de dos niños. Sin embargo, en junio, la [Oficina del Comisionado de Privacidad en Canadá] (https://www.priv.gc.ca/en/opc-news/news-and-announcements/2021/nr-c_210610/) encontró que RCMP el uso de Clearview violó las leyes de privacidad del país. La oficina también descubrió que Clearview había "violado la ley federal de privacidad del sector privado de Canadá al crear un banco de datos de más de tres mil millones de imágenes extraídas de sitios web de Internet sin el consentimiento de los usuarios". La RCMP cuestionó esa conclusión. La Asociación Canadiense de Libertades Civiles, un grupo sin fines de lucro, dijo que Clearview había facilitado la "experimentación policial irresponsable" dentro de Canadá. "El modelo comercial de Clearview AI, que recoge fotos de miles de millones de personas comunes de Internet y las coloca en una fila perpetua de la policía, es una forma de vigilancia masiva que es ilegal e inaceptable en nuestra nación democrática y respetuosa de los derechos", Brenda McPhail, director del programa de privacidad, tecnología y vigilancia de CCLA, a BuzzFeed News. Al igual que una serie de agencias estadounidenses encargadas de hacer cumplir la ley, algunas agencias internacionales le dijeron a BuzzFeed News que no podían hablar sobre el uso de Clearview. Por ejemplo, el Ministerio Público de Pernambuco de Brasil, que figura en la lista de haber realizado más de 100 búsquedas, dijo que "no proporciona información sobre cuestiones de seguridad institucional". Pero los datos revisados por BuzzFeed News muestran que las personas en nueve agencias de aplicación de la ley brasileñas, incluida la policía federal del país, figuran como que usaron Clearview, acumulando más de 1250 búsquedas hasta febrero de 2020. Todos se negaron a comentar o no respondieron a las solicitudes. para comentarios. La Agencia Nacional contra el Crimen del Reino Unido, que realizó más de 500 búsquedas, según los datos, se negó a comentar sobre sus técnicas de investigación; un portavoz le dijo a BuzzFeed News a principios de 2020 que la organización "despliega numerosas capacidades especializadas para rastrear a los delincuentes en línea que causan daños graves a los miembros del público". Los empleados del Servicio de Policía Metropolitana del país realizaron más de 150 búsquedas en Clearview, según datos internos. Cuando se le preguntó sobre el uso del servicio por parte del departamento, la fuerza policial se negó a comentar. Los documentos revisados por BuzzFeed News también muestran que Clearview tenía una presencia incipiente en países del Medio Oriente conocidos por gobiernos represivos y preocupaciones por los derechos humanos. En Arabia Saudita, las personas del Centro de Inteligencia Artificial de Estudios Avanzados (también conocido como Thakaa) realizaron al menos 10 búsquedas con Clearview. En los Emiratos Árabes Unidos, las personas asociadas con Mubadala Investment Company, un fondo soberano de riqueza en la capital de Abu Dhabi, realizaron más de 100 búsquedas, según datos internos. Thakaa no respondió a múltiples solicitudes de comentarios. Un portavoz de Mubadala le dijo a BuzzFeed News que la empresa no usa el software en ninguna de sus instalaciones. Los datos revelaron que personas de cuatro agencias australianas diferentes probaron o usaron activamente Clearview, incluida la Policía Federal Australiana (más de 100 búsquedas) y la Policía de Victoria (más de 10 búsquedas), donde un portavoz le dijo a BuzzFeed News que la tecnología "se consideró inadecuada". después de una exploración inicial. "Entre el 2 de diciembre de 2019 y el 22 de enero de 2020, los miembros del Centro Australiano para Contrarrestar la Explotación Infantil (ACCCE) liderado por AFP se registraron para una prueba gratuita de la herramienta de reconocimiento facial Clearview AI y realizaron una prueba piloto limitada del sistema para determinar su idoneidad para combatir la explotación y el abuso infantil", dijo Katie Casling, portavoz de AFP, en un comunicado. El Servicio de Policía de Queensland y su unidad de investigaciones de homicidios realizaron más de 1000 búsquedas hasta febrero de 2020, según los datos revisados por BuzzFeed News. El departamento no respondió a las solicitudes de comentarios. Clearview comercializó su sistema de reconocimiento facial en toda Europa ofreciendo pruebas gratuitas en conferencias policiales, donde a menudo se presentaba como una herramienta para ayudar a encontrar depredadores y víctimas de abuso sexual infantil. En octubre de 2019, agentes encargados de hacer cumplir la ley de [21 países diferentes](https://www.europol.europa.eu/newsroom/news/international-collaboration-europol-leads-to-identification-of-4-victims-of- abuso infantil) e Interpol se reunieron en el Centro Europeo de Delitos Cibernéticos de Europol en La Haya (Países Bajos) para revisar millones de archivos de imágenes y videos de víctimas interceptadas en sus países de origen como parte de un grupo de trabajo de identificación de víctimas de abuso infantil. En la reunión, los participantes externos que no eran miembros del personal de Europol presentaron Clearview AI como una herramienta que podría ayudar en sus investigaciones. Después de la conferencia de dos semanas, que incluyó a especialistas de Bélgica, Francia y España, algunos oficiales parecen haberse llevado a casa lo que habían aprendido y comenzaron a usar Clearview. Un portavoz de Europol le dijo a BuzzFeed News que no respaldaba el uso de Clearview, pero confirmó que "participantes externos presentaron la herramienta durante un evento organizado por Europol". El portavoz se negó a identificar a los participantes. "Clearview AI fue utilizado durante un breve período de prueba por algunos empleados de la Autoridad Policial, incluso en relación con un curso organizado por Europol. La autoridad policial no sabía y no había aprobado el uso", dijo un portavoz de la Autoridad Policial Sueca. le dijo a BuzzFeed News en un comunicado. En febrero de 2021, la autoridad sueca de protección de datos concluyó una investigación sobre el uso de Clearview y lo multó con $ 290,000 por violar la Ley de datos criminales de Suecia. Los líderes de la Oficina Nacional de Investigación de Finlandia solo se enteraron del uso de Clearview por parte de los empleados después de que BuzzFeed News los contactara para esta historia. Después de negar inicialmente cualquier uso del software de reconocimiento facial, un portavoz cambió de rumbo unas semanas más tarde y confirmó que los oficiales habían usado el software para realizar casi 120 búsquedas. "La unidad probó un servicio estadounidense llamado Clearview AI para la identificación de posibles víctimas de abuso sexual para controlar el aumento de la carga de trabajo de la unidad por medio de inteligencia artificial y automatización", dijo Mikko Rauhamaa, superintendente de detectives senior de la Oficina Nacional de Investigación de Finlandia. dijo en un comunicado. Las preguntas de BuzzFeed News llevaron al NBI a informar al Defensor del Pueblo de Protección de Datos de Finlandia sobre una posible violación de datos, lo que provocó una mayor investigación. En una declaración al defensor del pueblo, el NBI dijo que sus empleados se enteraron de Clearview en un evento de Europol de 2019, donde se recomendó su uso en casos de explotación sexual infantil. Desde entonces, el NBI ha dejado de usar Clearview. Los datos revisados por BuzzFeed News muestran que, a principios de 2020, Clearview se había abierto camino en toda Europa. La policía estatal de Italia, Polizia di Stato, realizó más de 130 búsquedas, según los datos, aunque la agencia no respondió a una solicitud de comentarios. Un portavoz del Ministerio del Interior de Francia le dijo a BuzzFeed News que no tenían información sobre Clearview, a pesar de que los datos internos enumeran a los empleados asociados con la oficina que realizaron más de 400 búsquedas. "La unidad de Crímenes contra los Niños de INTERPOL utiliza una variedad de tecnologías en su trabajo para identificar a las víctimas de abuso sexual infantil en línea", dijo a BuzzFeed News un portavoz de la fuerza policial internacional con sede en Lyon, Francia, cuando se le preguntó sobre las más de 300 búsquedas de la agencia. "Un pequeño número de agentes ha utilizado una cuenta de prueba gratuita de 30 días para probar el software Clearview. No existe una relación formal entre INTERPOL y Clearview, e INTERPOL no utiliza este software en su trabajo diario". El abuso sexual infantil generalmente justifica el uso de herramientas poderosas para salvar a las víctimas o rastrear a los perpetradores. Pero Jake Wiener, miembro del derecho en el Centro de Información de Privacidad Electrónica, dijo que ya existen muchas herramientas para combatir este tipo de delitos y, a diferencia de Clearview, no implican una recopilación masiva no autorizada de las fotos que miles de millones de personas publicar en plataformas como Instagram y Facebook. "Si la policía simplemente quiere identificar a las víctimas del tráfico de niños, ya existen bases de datos y métodos sólidos", dijo. "No necesitan Clearview AI para hacer esto". Desde principios de 2020, los reguladores de Canadá, Francia, Suecia, Australia, el Reino Unido y Finlandia han abierto investigaciones sobre el uso de Clearview por parte de sus agencias gubernamentales. Algunos expertos en privacidad creen que Clearview violó las leyes de privacidad de datos de la UE, conocidas como GDPR. Sin duda, el RGPD incluye algunas exenciones para la aplicación de la ley. Señala explícitamente que pueden llevarse a cabo "investigaciones encubiertas o videovigilancia" "a los efectos de la prevención, investigación, detección o enjuiciamiento de infracciones penales o la ejecución de sanciones penales, incluida la salvaguardia y la prevención de amenazas a la vida pública". seguridad..." Pero en junio de 2020, el Consejo Europeo de Protección de Datos, el organismo independiente que supervisa la aplicación del RGPD, emitió [orientación](https://edpb.europa.eu/news/news/2020/thirty- first-plenary-session-establishment-taskforce-tiktok-response-meps-use_en) que "el uso de un servicio como Clearview AI por parte de las autoridades policiales en la Unión Europea, tal como está, probablemente no sea consistente con la UE régimen de protección de datos.” Este enero, el Comisionado de Protección de Datos y Libertad de Información de Hamburgo en Alemania, un país donde las agencias habían sin uso conocido de Clearview a partir de febrero de 2020, según los datos: fue un paso más allá; consideró que Clearview violaba el RGPD y ordenó a la empresa que eliminara la información biométrica asociada con una persona que había presentado una queja anterior. En su respuesta a las preguntas de BuzzFeed News, Ton-That dijo que Clearview ha "procesado voluntariamente" solicitudes de personas dentro de la Unión Europea para que se elimine su información personal de las bases de datos de la compañía. También señaló que Clearview no tiene contratos con ningún cliente de la UE "y actualmente no está disponible en la UE". Se negó a especificar cuándo Clearview dejó de estar disponible en la UE. Christoph Schmon, director de política internacional de Electronic Frontier Foundation, le dijo a BuzzFeed News que el RGPD agrega un nuevo nivel de complejidad para los agentes de policía europeos que habían usado Clearview. Según el RGPD, la policía no puede usar datos personales o biométricos a menos que hacerlo sea "necesario para proteger los intereses vitales" de una persona. Pero si los organismos encargados de hacer cumplir la ley no saben que tienen agentes que usan Clearview, es imposible hacer tales evaluaciones. "Si las autoridades básicamente no sabían que su personal probó Clearview, eso me parece bastante sorprendente e increíble, para ser honesto", dijo. “Es el trabajo de las autoridades encargadas de hacer cumplir la ley conocer las circunstancias en las que pueden producir datos de ciudadanos y una responsabilidad aún mayor de rendir cuentas por cualquier uso indebido de los datos de ciudadanos”. Muchos expertos y grupos de derechos civiles han argumentado que debería prohibirse el uso gubernamental del reconocimiento facial. Independientemente de si un software de reconocimiento facial es preciso, grupos como la [Liga de la Justicia Algorítmica argumentan que] (https://www.buzzfeednews.com/article/ryanmac/clearview-ai-local-police-facial-recognition) sin regulación y una supervisión adecuada puede causar exceso de vigilancia o arrestos falsos. "Nuestra postura general es que la tecnología de reconocimiento facial es problemática, por lo que los gobiernos nunca deberían usarla", dijo Schmon. No solo existe una alta probabilidad de que los agentes de policía hagan un mal uso del reconocimiento facial, dijo, sino que la tecnología tiende a identificar erróneamente a las personas de color en tasas más altas que a las personas blancas. Schmon también señaló que las herramientas de reconocimiento facial no brindan datos. Proporcionan una probabilidad de que una persona coincida con una imagen. "Incluso si las probabilidades se diseñaron correctamente, aún pueden reflejar sesgos", dijo. "No son neutrales". Clearview no respondió preguntas sobre sus afirmaciones de precisión. En una [declaración] de marzo (https://www.buzzfeednews.com/article/ryanmac/clearview-ai-local-police-facial-recognition) a BuzzFeed News, Ton-That dijo: "Como persona de raza mixta, asegurarme de que Clearview AI sea imparcial es de gran importancia para mí". Agregó: "Basado en pruebas independientes y en el hecho de que no se han reportado arrestos injustos relacionados con el uso de Clearview AI, estamos cumpliendo con ese estándar". A pesar de haber sido investigado y, en algunos casos, prohibido en todo el mundo, los ejecutivos de Clearview parecen haber comenzado a sentar las bases para una mayor expansión. La empresa recaudó recientemente 30 millones de dólares, según el New York Times, y ha realizado una serie de [contrataciones] nuevas (https://www.businesswire.com/news/home/20210518005625/en/Three-New-Faces-Join-Clearview-AI). En agosto pasado, los cofundadores Ton-That y Richard Schwartz, junto con otros ejecutivos de Clearview, aparecieron en documentos de registro para empresas llamadas Standard International Technologies en [Panamá] (https://opencorporates.com/companies/pa/155695480) y [Singapur] (https://recordowl.com/company/standard-international-technologies-pte-ltd). En una declaración para una demanda en curso en los EE. UU. este año, el ejecutivo de Clearview, Thomas Mulcaire, arrojó algo de luz sobre el propósito de esas empresas. Si bien las empresas subsidiarias aún no tienen clientes, dijo, la entidad panameña se creó para "potencialmente realizar transacciones con agencias policiales en América Latina y el Caribe que quisieran usar el software Clearview". Mulcaire también dijo que la compañía de Singapur recién formada podría hacer negocios con las agencias de aplicación de la ley asiáticas. En un comunicado, Ton-That no llegó a confirmar esas intenciones, pero no proporcionó ninguna otra explicación para la medida. "Clearview AI ha establecido dos entidades internacionales que no han realizado ningún negocio", dijo.