Problème 5097

*Cet article a été publié en partenariat avec The Intercept. * Rita Murad, une citoyenne palestinienne israélienne de 21 ans, étudiante à l'Institut de technologie Technion d'Israël, a été arrêtée par les autorités israéliennes en novembre 2023 après avoir partagé trois stories Instagram le matin du 7 octobre. Les images comprenaient une photo d'un bulldozer défonçant la barrière frontalière à Gaza et une citation : « Soutenez-vous la décolonisation en tant que théorie académique abstraite ? Ou en tant qu'événement tangible ? » Elle a été suspendue de l'université et encourt jusqu'à cinq ans de prison. Ces dernières années, les responsables de la sécurité israélienne se sont vantés d'avoir un arsenal « de type ChatGPT » utilisé pour surveiller les utilisateurs des réseaux sociaux qui soutiennent ou incitent au terrorisme. Elle a été diffusée en force après l'attaque sanglante du Hamas le 7 octobre. Des militants et des responsables politiques d'extrême droite ont ordonné aux forces de police d'arrêter des centaines de Palestiniens en Israël et à Jérusalem-Est pour des infractions liées aux réseaux sociaux. Nombre d'entre eux avaient tenu des propos politiques relativement mineurs, comme la publication de versets du Coran sur WhatsApp ou le partage d'images de Gaza sur leurs stories Instagram. Lorsque le New York Times a couvert l'affaire Murad l'année dernière, le journaliste Jesse Baron a écrit qu'aux États-Unis, « il est absolument impossible d'inculper des personnes pour leur réaction à une attaque terroriste. En Israël, la situation est complètement différente. » Bientôt, ce ne sera peut-être plus le cas. Cette année, des centaines d'étudiants, aux statuts juridiques divers, ont été menacés d'expulsion aux États-Unis pour des motifs similaires. De récentes affaires très médiatisées ont visé des personnes associées à la dissidence étudiante contre la politique de l'armée israélienne à Gaza. Il y a Mahmoud Khalil, un détenteur de carte verte marié à une citoyenne américaine, qui a été enlevé de sa résidence de l'Université de Columbia et envoyé dans un centre de détention en Louisiane. Il y a Rümeysa Öztürk, une doctorante turque de Tufts, disparue dans les rues de Somerville, dans le Massachusetts, par des policiers en civil, prétendument pour avoir co-écrit un éditorial appelant les administrateurs de l'université à tenir compte des demandes des étudiants manifestants. Et il y a Mohsen Mahdawi, un étudiant en philosophie de Columbia arrêté par des agents de l'ICE devant le bureau des services de citoyenneté et d'immigration des États-Unis où il devait passer son entretien de naturalisation. Dans certains cas, le Département d'État s'est appuyé sur des informateurs, des listes noires et une technologie aussi simple qu'une capture d'écran. Mais les États-Unis sont en train d'activer une série d'outils de surveillance algorithmique que les autorités israéliennes ont également utilisés pour surveiller et criminaliser les discours en ligne. En mars, le secrétaire d'État Marco Rubio a annoncé que le Département d'État lançait une initiative « Catch and Revoke » alimentée par l'IA visant à accélérer l'annulation des visas étudiants. Des algorithmes collecteraient des données provenant de profils de réseaux sociaux, de médias et de sites de doxing afin de faire appliquer le décret du 20 janvier [https://www.whitehouse.gov/presidential-actions/2025/01/protecting-the-united-states-from-foreign-terrorists-and-othernational-security-and-public-safety-threats/] visant les ressortissants étrangers qui menacent de « renverser ou de remplacer la culture sur laquelle repose notre République constitutionnelle ». Cet arsenal a été élaboré en collaboration avec des entreprises technologiques américaines au cours des deux dernières décennies et est déjà déployé, en partie, au sein du système d'immigration américain. L'initiative « Catch and Revoke » de Rubio est le fruit de collaborations de longue date entre des entreprises technologiques et des gouvernements de plus en plus à droite, avides de leurs produits. Le modèle économique de l'industrie de l'IA repose sur un accès illimité à des trésors de données, ce qui fait des contextes peu démocratiques, où la surveillance étatique n'est soumise à aucun contrôle judiciaire, législatif ou public, des terrains d'essai particulièrement lucratifs pour de nouveaux produits. Les effets de ces technologies ont été particulièrement punitifs aux frontières des États-Unis ou de l'Union européenne, comme dans les centres de détention pour migrants au Texas ou en Grèce. Mais aujourd'hui, l'inévitable se produit : elles deviennent des outils de police nationale populaires. Israël a été l'un des premiers sites d'essai. Alors que les autorités israéliennes étendaient leurs pouvoirs de surveillance pour réprimer la montée du terrorisme palestinien au début des années 2010, les entreprises technologiques américaines ont afflué dans la région. En échange de systèmes de surveillance d'abord numériques, puis automatisés, l'appareil de sécurité israélien a offert aux PDG des trésors de la ressource la plus prisée de l'économie de l'information : les données. IBM et Microsoft ont fourni des logiciels utilisés pour surveiller les passages frontaliers de Cisjordanie. Palantir a proposé des algorithmes de police prédictive aux forces de sécurité israéliennes. Amazon et Google ont signé un accord de cession d'infrastructures de cloud computing et de systèmes d'IA. Il en est résulté un réseau de surveillance et de maintien de l'ordre capable d'impliquer des innocents et des personnes constituant des menaces crédibles pour la sécurité. De plus en plus, les coalitions de droite au pouvoir lui ont permis d'agir avec de moins en moins de retenue. Avec le temps et en partenariat avec nombre de ces mêmes entreprises, l'État sécuritaire américain a développé ses propres capacités de surveillance à grande échelle. * * * * * Il n'y a pas si longtemps, la Silicon Valley prônait la mondialisation et l'intégration. C'était contraire au programme nationaliste de l'extrême droite, mais c'était bénéfique pour les affaires dans une économie qui dépendait de la main-d'œuvre étrangère, qualifiée et non qualifiée. Ainsi, lorsque Trump a signé un décret interdisant l'immigration en provenance de cinq pays musulmans et soumettant les personnes détenant un visa à un contrôle supplémentaire en janvier 2017, les dirigeants du secteur technologique et leurs employés ont exprimé leur désaccord. Sergey Brin, cofondateur de Google et immigré d'Union soviétique, a participé aux manifestations à l'aéroport de San Francisco pour protester contre l'interdiction de voyager décrétée par Trump. Mark Zuckerberg a cité ses grands-parents, réfugiés juifs de Pologne, comme motif de son opposition à cette mesure. Sam Altman a également appelé les dirigeants du secteur à prendre position. « L'invalidation de visas et de cartes vertes déjà délivrés devrait être extrêmement préoccupante pour les immigrants de tous les pays », a-t-il écrit sur son blog personnel. « Nous devons nous opposer, sinon notre inaction enverra le message que l'administration peut continuer à nous priver de nos droits. » De nombreux travailleurs du secteur technologique ont passé la première présidence Trump à protester contre ces implications plus sinistres encore d'une économie axée sur les données. L'année suivante, des employés de Microsoft, Google et Amazon ont organisé des débrayages et fait circuler des pétitions exigeant la fin des contrats avec l'État de sécurité nationale. La pression a donné lieu à des campagnes de restauration d'image. Google a abandonné une offre pour un contrat de 10 millions de dollars du ministère de la Défense. Microsoft avait promis que ses logiciels et services ne seraient pas utilisés pour séparer les familles à la frontière. Mais la soi-disant résistance technologique a dissimulé une vérité dérangeante : les entreprises de la Silicon Valley ont fourni les logiciels et l'infrastructure informatique qui ont permis la mise en œuvre des politiques de Trump. Des entreprises comme Babel et Palantir ont conclu des contrats avec l'ICE en 2015, devenant ainsi le pain et le beurre de la [surveillance capacités en exploitant des données personnelles provenant de milliers de sources pour les autorités gouvernementales, en les convertissant en bases de données consultables et en cartographiant les connexions entre les individus et les organisations. En 2017, des conglomérats comme Amazon, Microsoft et Google sont également devenus essentiels, confiant l'hébergement de montagnes d'informations personnelles de citoyens et de résidents à des services cloud. Même si certaines entreprises se sont engagées à éviter tout contrat avec l'État sécuritaire américain, elles ont continué à travailler à l'étranger, notamment en Israël et en Palestine. Les reportages d'investigation de l'année dernière ont mis en lumière des échanges plus récents. Les accords entre les entreprises américaines et l'armée israélienne se sont intensifiés après le 7 octobre, selon des documents divulgués par Google et Microsoft. Les agences de renseignement s'appuyaient sur Microsoft Azure et Amazon Web Services pour héberger leurs données de surveillance et utilisaient Gemini de Google et ChatGPT d'OpenAI pour en extraire et en exploiter une grande partie, jouant souvent un rôle direct dans des opérations – des perquisitions aux frappes aériennes – menées dans la région. Ces contrats ont permis aux conglomérats technologiques américains de perfectionner leurs systèmes militaires et de sécurité intérieure à l'étranger, jusqu'à ce que la réélection de Trump leur permette de le faire sans trop de résistance aux États-Unis. OpenAI a modifié ses conditions d'utilisation l'an dernier pour permettre aux armées et aux forces de sécurité de déployer leurs systèmes à des « fins de sécurité nationale ». Google a fait de même en février, en supprimant de sa politique d'éthique publique la clause stipulant qu'il n'utiliserait pas son IA pour les armes et la surveillance. Meta a également annoncé que des sous-traitants américains pourraient utiliser ses modèles d'IA à des fins de sécurité nationale. Les entreprises technologiques s'engagent à produire rapidement des produits à haut risque. C'est pourquoi les experts en protection de la vie privée affirment que leurs produits peuvent dynamiser l'État de surveillance américain à un moment où les protections constitutionnelles s'érodent. « Cela va donner au gouvernement l'impression que certaines formes de surveillance valent désormais la peine d'être déployées, alors qu'elles auraient auparavant nécessité trop de ressources », a déclaré Ben Wizner, directeur du projet Discours, vie privée et technologie de l'ACLU, lors d'une conversation téléphonique la semaine dernière. « Maintenant que nous disposons de vastes modèles linguistiques, le gouvernement pourrait se demander pourquoi ne pas stocker des milliers d'heures de conversations simplement pour les analyser avec un outil d'IA et décider qui il ne veut pas dans son pays. » Tout est en place. Selon des rapports récents, Palantir développe pour l'ICE un système d'exploitation d'immigration capable de générer des rapports sur les immigrants et les titulaires de visas – notamment leur apparence, leur lieu de résidence et leurs destinations – et de surveiller leur localisation en temps réel. L'ICE utilisera la base de données combinée à un ensemble d'autres outils d'IA pour surveiller les comptes de médias sociaux des immigrants, et pour traquer et détenir les « antisémites » et les « terroristes », selon une annonce récente du Département d'État. « Nous devons mieux traiter ce système comme une entreprise », a déclaré Todd Lyons, directeur par intérim de l'ICE, dans un discours lors de la Border Security Expo 2025 à Phoenix au début du mois, « comme Amazon Prime, mais avec des êtres humains. » Il est important de rappeler que nombre des technologies propriétaires proposées par des entreprises privées à l'État de surveillance américain sont défectueuses. Les algorithmes de modération de contenu déployés par Meta signalent souvent des contenus inoffensifs, notamment les publications en arabe, comme incendiaires. Les modèles linguistiques d'OpenAI sont connus pour générer des déclarations hallucinatoires et traduire des phrases de langues étrangères en anglais. Les récits d'erreurs abondent lors des récentes perquisitions et arrestations : des agents de l'ICE ont pris Mahmoud Khalil pour un titulaire de visa étudiant, tandis que des citoyens, des résidents légaux et des touristes sans casier judiciaire ont été arrêtés et expulsés vers le Salvador. Mais là où l'IA échoue techniquement, elle est efficace idéologiquement. On le constate en Israël et en Palestine, ainsi que dans d'autres contextes marqués par une surveillance gouvernementale relativement peu contrôlée. Les algorithmes adoptés par les forces de sécurité israéliennes restent rudimentaires. Mais les autorités les ont utilisés pour justifier des politiques de plus en plus draconiennes. L'organisation de défense des droits humains Adalah, basée à Haïfa, affirme que des centaines de Palestiniens sans casier judiciaire ni affiliation à des groupes militants sont détenus derrière les barreaux parce que des militants et des responsables politiques d'extrême droite ont demandé aux forces de police de fouiller leurs téléphones et leurs pages de réseaux sociaux et de qualifier ce qu'ils disaient, partageaient ou aimaient en ligne d'« incitation au terrorisme » ou de « soutien au terrorisme ». On entend aujourd'hui des histoires similaires dans les villes américaines, où les protections du Premier Amendement et les procédures régulières se désintègrent. Les effets ont été parfaitement résumés par Ranjani Srinivasan, une doctorante indienne à Columbia qui s'est auto-expulsée après que des agents de l'ICE se sont présentés à sa porte et ont annulé son statut légal. Réfugiée au Canada, elle a confié au New York Times qu'elle craignait l'arsenal algorithmique américain élargi. « Je crains que même le plus petit discours politique, ou simplement ce que nous faisons tous – crier dans l'abîme des réseaux sociaux – puisse se transformer en cauchemar dystopique », a déclaré Srinivasan (https://www.nytimes.com/2025/03/15/nyregion/columbia-student-kristi-noem-video.html), « où quelqu'un vous traite de sympathisant terroriste et vous fait craindre pour votre vie et votre sécurité. » Il est effrayant de penser que tout cela s'est produit au cours des 100 premiers jours de mandat de Trump. Pourtant, les PDG d'entreprises collaborent depuis des années avec les armées et les agences de sécurité pour stabiliser ce statu quo. Le coût humain visible de ces échanges pourrait engendrer l'opposition nécessaire pour éviter une répression accrue. Mais pour l'instant, les bases sont posées pour que l'État de surveillance américain puisse enfin opérer à grande échelle.