Problème 6831
SAN FRANCISCO – Google a enfreint ses propres règles interdisant l'utilisation de l'intelligence artificielle à des fins d'armement ou de surveillance en 2024 en aidant un sous-traitant militaire israélien à analyser des images vidéo de drones, selon les allégations d'un ancien employé de Google dans une plainte confidentielle déposée auprès des autorités fédérales et consultée par le Washington Post.
La technologie d'IA Gemini de Google était utilisée par l'appareil de défense israélien au moment même où l'entreprise prenait publiquement ses distances avec l'armée du pays suite à des manifestations d'employés liées à un contrat avec le gouvernement israélien, d'après des documents internes joints à la plainte.
En juillet 2024, la division cloud de Google a reçu une demande d'assistance client provenant d'une personne utilisant une adresse électronique des Forces de défense israéliennes, selon les documents inclus dans la plainte, déposée auprès de la Securities and Exchange Commission (SEC) en août. Le nom figurant sur la demande d'assistance client correspond à celui d'un employé de CloudEx, une entreprise technologique israélienne dont les coordonnées sont publiques. Or, selon la plainte déposée auprès de la SEC, CloudEx serait un sous-traitant de Tsahal.
La demande, provenant de l'adresse électronique de Tsahal, sollicitait une aide pour améliorer la fiabilité du système Gemini de Google dans l'identification d'objets tels que des drones, des véhicules blindés et des soldats sur des séquences vidéo aériennes, d'après les documents internes joints à la plainte. Le personnel de l'unité cloud de Google a répondu en formulant des suggestions et en effectuant des tests internes, précisent les documents.
À l'époque, les « principes d'IA » publics de Google stipulaient que l'entreprise ne déploierait pas de technologie d'IA en lien avec les armes ou la surveillance « en violation des normes internationalement reconnues ». La plainte du lanceur d'alerte allègue que l'utilisation faite par le sous-traitant de Tsahal contredisait ces deux politiques.
La plainte déposée auprès de la SEC allègue que Google a enfreint la législation boursière car, en contredisant ses propres politiques publiques, également incluses dans les documents déposés auprès des autorités fédérales, l'entreprise a induit en erreur les investisseurs et les régulateurs.
« Nombre de mes projets chez Google ont été soumis à leur processus interne d'examen éthique de l'IA », a déclaré l'ancien employé ayant déposé la plainte dans un communiqué au Washington Post, sous couvert d'anonymat par crainte de représailles de la part de l'entreprise. « Ce processus est rigoureux et, en tant qu'employés, on nous rappelle régulièrement l'importance des principes d'IA de l'entreprise. Mais concernant Israël et Gaza, c'était tout le contraire… J'ai saisi la SEC car j'estimais que l'entreprise devait être tenue responsable de ce traitement différencié. »
Un porte-parole de Google a contesté les allégations du lanceur d'alerte et a affirmé que l'entreprise n'avait pas enfreint ses principes d'IA car l'utilisation des services d'IA par le compte était trop faible pour être « significative ».
« Nous avons répondu à une question d'utilisation générale, comme nous le ferions pour n'importe quel client, avec les informations standard du service d'assistance, et nous n'avons fourni aucune assistance technique supplémentaire », a déclaré le porte-parole. « La demande provenait d'un compte dont les dépenses mensuelles en produits d'IA étaient inférieures à quelques centaines de dollars, ce qui rend toute utilisation significative de l'IA impossible. »
La documentation de Google (https://cloud.google.com/video-intelligence/pricing) relative à son service « cloud video intelligence » indique que le suivi d'objets dans une vidéo est gratuit pendant les 1 000 premières minutes, puis coûte 15 centimes par minute.
Un porte-parole de la SEC a refusé de commenter. Toute personne peut déposer une plainte auprès de l'agence, qui ne les rend pas publiques. Les plaintes n'entraînent pas automatiquement l'ouverture d'une enquête.
Les représentants de Tsahal et de CloudEx n'ont pas répondu aux demandes de commentaires.
En 2024, CloudEx figurait parmi les sponsors d'une conférence technologique organisée au sud de Tel Aviv, intitulée « IT for IDF ». Des responsables militaires israéliens y ont vanté l'importance du cloud computing pour les opérations menées par l'armée à Gaza, selon le site web de l'événement.
La plainte déposée auprès de la SEC affirme que l'utilisation de Gemini, décrite dans les documents internes de Google, était liée aux opérations israéliennes à Gaza, sans toutefois fournir de preuves concrètes. Google a précédemment déclaré que sa collaboration avec le gouvernement israélien n'était « pas axée sur des tâches hautement sensibles, classifiées ou militaires liées aux armes ou aux services de renseignement ».
Google, qui avait pour devise « Ne soyez pas malveillants » lors de son introduction en bourse en 2004, s'est depuis sa création concentrée sur les services aux consommateurs et aux entreprises. Plus récemment, ses dirigeants ont également cherché à obtenir des contrats de défense, ce qui a suscité des protestations de la part de certains employés.
L'entreprise a introduit en 2018 des règles interdisant l'utilisation de l'IA dans le domaine des armes ou de la surveillance, suite aux protestations de ses employés qui l'ont conduite à refuser de renouveler un contrat avec le Pentagone portant sur l'analyse d'images de drones.
En 2021, Google et Amazon ont remporté un contrat de 1,2 milliard de dollars avec le gouvernement israélien pour la fourniture de services cloud, connu sous le nom de Projet Nimbus. Microsoft fournit également des services de cloud computing au gouvernement israélien. Le fondateur d'Amazon, Jeff Bezos, est propriétaire du Washington Post.
Des employés de Google, d'Amazon et de Microsoft ont protesté contre la collaboration de leurs entreprises avec Israël. Google a licencié plus de 50 employés en avril 2024, selon un groupe représentant ces travailleurs, après que certains d'entre eux ont organisé des sit-in dans les bureaux de l'entreprise et exigé la cessation de toute collaboration avec le gouvernement israélien. Microsoft a également licencié des employés après des manifestations sur son campus près de Seattle.
En février de l'année dernière, Google a mis à jour ses politiques d'IA pour supprimer ses engagements ne pas appliquer cette technologie aux armes ou à la surveillance, affirmant qu'elle devait évoluer pour aider les gouvernements démocratiquement élus à rester compétitifs dans la course mondiale à la domination de l'IA.
Lorsqu'un employé de CloudEx a déposé une demande d'assistance auprès de Google en 2024, il a décrit un bug empêchant le logiciel d'IA Gemini d'analyser correctement les images aériennes de manière ponctuelle. Un employé de Google a été mis en copie de la demande initiale, selon les documents joints à la plainte déposée auprès de la SEC. La plainte allègue que cet employé travaille sur le compte Google Cloud de Tsahal.
Après plusieurs échanges de messages avec un technicien du support Google, l'employé de CloudEx a déclaré que le problème s'était résolu de lui-même, d'après les documents.
En décembre, le Pentagone a annoncé que Gemini de Google était la première solution d'intelligence artificielle proposée aux employés du département de la Défense sur sa nouvelle plateforme GenAI.mil, dans le cadre d'une initiative visant à accroître l'utilisation militaire de cette technologie.
Le rapport du lanceur d'alerte vient étayer les accusations selon lesquelles de grandes entreprises technologiques américaines auraient été entraînées dans l'aide apportée à Israël dans sa guerre à Gaza, alors même que l'opposition publique à cette guerre aux États-Unis s'accroît.
Israël a déclaré que 1 200 personnes, majoritairement des civils, ont péri lors des attaques du Hamas du 7 octobre 2023, qui ont déclenché le conflit. Le ministère de la Santé de Gaza, qui ne fait pas de distinction entre civils et combattants, affirme que plus de 71 000 Palestiniens ont été tués dans la guerre israélo-palestinienne.
Des articles du Washington Post et d'autres médias ont montré que Google et d'autres entreprises américaines ont utilisé des technologies de l'information et de la communication (TIC) pour lutter contre le terrorisme. Les géants de la tech ont collaboré à des projets militaires pour Israël.
En janvier 2025, le Washington Post a révélé que des employés de Google s'étaient empressés de fournir à l'armée israélienne un accès accru aux outils d'intelligence artificielle dans les semaines qui ont suivi l'attaque du 7 octobre. Un document interne a montré qu'un employé de Google avait averti ses collègues que si les demandes du ministère israélien de la Défense concernant une augmentation des capacités d'IA n'étaient pas approuvées, le pays pourrait se tourner vers Amazon.
En août, Microsoft, qui a également des contrats avec le gouvernement israélien, a annoncé avoir ouvert une enquête interne après la publication d'un article du Guardian indiquant que ses services cloud étaient utilisés pour stocker des données d'appels téléphoniques obtenues grâce à la surveillance à grande échelle de civils à Gaza et en Cisjordanie.
En septembre, Microsoft a déclaré que l'enquête l'avait amené à fermer une unité au sein du ministère israélien de la Défense de l'accès à certains services cloud, conformément à ses conditions d'utilisation interdisant la surveillance de masse des civils.