Problème 2811

Le Commandement des opérations spéciales des États-Unis, responsable de certaines des entreprises militaires les plus secrètes du pays, se prépare à mener des campagnes de propagande et de tromperie sur Internet en ligne à l'aide de vidéos deepfake, selon des documents contractuels fédéraux examinés par The Intercept.

Les plans, qui décrivent également le piratage d'appareils connectés à Internet pour écouter afin d'évaluer la sensibilité des populations étrangères à la propagande, surviennent à un moment d'intense [monde](https://www.un.org/en/chronicle/article/ comment-le-multilatéralisme-survivre-à-l'ère-de-l'intelligence-artificielle) débat sur les campagnes de « désinformation » technologiquement sophistiquées, leur efficacité et l'éthique de leur utilisation.

Alors que le gouvernement américain met régulièrement en garde contre le risque de deepfakes et travaille ouvertement à la création d'outils pour les contrer, le document du Commandement des opérations spéciales, ou SOCOM, représente un exemple presque sans précédent du gouvernement américain - ou de tout gouvernement - signalant ouvertement son désir d'utiliser la technologie très controversée de manière offensive.

Les aspirations de propagande de nouvelle génération de SOCOM sont décrites dans un [document d'approvisionnement] (https://www.documentcloud.org/documents/23696654-us-socom-procurement-document-announcing-desire-to-utilize-deepfakes) qui répertorie les capacités dont il dispose à la recherche d'un avenir proche et à la sollicitation d'emplacements auprès de tiers qui croient pouvoir les construire.

"En matière de désinformation, le Pentagone ne devrait pas combattre le feu par le feu", a déclaré à The Intercept Chris Meserole, responsable de l'initiative sur l'intelligence artificielle et les technologies émergentes de la Brookings Institution. « À une époque où la propagande numérique est en hausse dans le monde, les États-Unis devraient faire tout ce qui est en leur pouvoir pour renforcer la démocratie en renforçant le soutien aux notions partagées de vérité et de réalité. Les deepfakes font le contraire. En jetant le doute sur la crédibilité de tous les contenus et informations, qu'ils soient réels ou synthétiques, ils finissent par éroder le fondement même de la démocratie.

"En matière de désinformation, le Pentagone ne devrait pas combattre le feu par le feu."

Meserole a ajouté: "Si les deepfakes doivent être exploités pour des opérations militaires et de renseignement ciblées, leur utilisation doit être soumise à un examen et à une surveillance."

Le document de présentation, publié pour la première fois par la Direction de la science et de la technologie de SOCOM en 2020, a établi une liste de souhaits de jouets de nouvelle génération pour le commando des forces spéciales du 21e siècle, une litanie de gadgets et d'outils futuristes qui aideront plus efficacement les soldats les plus élitistes du pays. chasser et tuer leurs cibles à l'aide de lasers, de robots, d'holographes et d'autres matériels sophistiqués.

En octobre dernier, SOCOM a discrètement publié une version mise à jour de sa liste de souhaits avec une nouvelle section : « Technologies avancées à utiliser dans les opérations de soutien de l'information militaire (MISO) », un euphémisme du Pentagone pour ses efforts mondiaux de propagande et de tromperie.

Le paragraphe ajouté énonce le désir de SOCOM d'obtenir des moyens nouveaux et améliorés pour mener "des opérations d'influence, des tromperies numériques, des perturbations de la communication et des campagnes de désinformation aux niveaux tactique et opérationnel". SOCOM recherche "une capacité de nouvelle génération pour collecter des données disparates via des flux d'informations publics et open source tels que les médias sociaux, les médias locaux, etc. pour permettre à MISO d'élaborer et de diriger des opérations d'influence".

SOCOM se bat généralement dans l'ombre, mais sa réputation publique et son empreinte mondiale occupent une place importante. Composé d'unités d'élite de l'armée, du corps des marines, de la marine et de l'armée de l'air, le SOCOM dirige les opérations militaires les plus sensibles de la nation la plus meurtrière au monde.

Alors que les forces spéciales américaines sont largement connues pour leurs exploits éclatants comme le meurtre d'Oussama ben Laden par les Navy SEALs, leur histoire est faite de missions secrètes, de subterfuges, de sabotages et de campagnes de perturbation. Les ambitions de désinformation de la "nouvelle génération" de SOCOM ne sont qu'une partie d'une longue et vaste histoire d'efforts de tromperie de la part des appareils militaires et de renseignement américains.

Le Commandement des opérations spéciales, qui accepte les propositions sur ces capacités jusqu'en 2025, n'a pas répondu à une demande de commentaire.

Bien que le Commandement des opérations spéciales coordonne depuis des années les «opérations d'influence» étrangères, ces campagnes de tromperie ont fait l'objet d'un [examen renouvelé] (https://www.washingtonpost.com/national-security/2022/09/19/pentagon-psychological-operations -Facebook Twitter/). En décembre, The Intercept a rapporté que SOCOM avait convaincu Twitter, en violation de ses politiques internes, d'autoriser un réseau de comptes fictifs qui diffusent de fausses nouvelles d'une exactitude douteuse, y compris une affirmation selon laquelle le gouvernement iranien vole les organes de civils afghans. Bien que l'offensive de propagande basée sur Twitter n'ait pas utilisé de deepfakes, les chercheurs ont découvert que les sous-traitants du Pentagone utilisaient des avatars générés par l'apprentissage automatique pour conférer aux faux comptes un certain réalisme.

De manière provocante, le document de capacité mis à jour révèle que SOCOM souhaite renforcer ces efforts de tromperie sur Internet grâce à l'utilisation de vidéos deepfake de « nouvelle génération », une méthode de plus en plus efficace pour générer des contrefaçons de vidéos numériques réalistes à l'aide de l'apprentissage automatique. Les forces spéciales utiliseraient ces images truquées pour "générer des messages et influencer les opérations via des canaux non traditionnels", ajoute le document.

Alors que les deepfakes sont restés en grande partie du fourrage pour le divertissement et la pornographie, le potentiel d'applications plus désastreuses est réel. Au début de l'invasion de l'Ukraine par la Russie, un deepfake de mauvaise qualité du président ukrainien Volodymyr Zelensky ordonnant aux troupes de se rendre a commencé à circuler sur les réseaux sociaux. Considérations éthiques mises à part, la légalité des deepfakes militarisés dans un conflit, qui reste une [question] ouverte(https://lieber .westpoint.edu/deepfakes/), n'est pas abordé dans le document SOCOM.

Comme pour les campagnes de «désinformation» gouvernementales étrangères, les États-Unis ont passé ces dernières années warning contre le puissant menace pour la sécurité nationale représentée par des deepfakes. L'utilisation de deepfakes pour tromper délibérément, les autorités gouvernementales avertissent régulièrement, pourrait avoir un effet profondément déstabilisateur sur les populations civiles qui y sont exposées.

Au niveau fédéral, cependant, la conversation a tourné exclusivement autour de la menace foreign-made deepfakes pourrait poser aux États-Unis ., et non l'inverse. Rapporté précédemment les documents contractuels montrent que SOCOM a cherché des technologies pour détecter les campagnes Internet enrichies de deepfake, une tactique qu'il veut maintenant lancer par lui-même.

Peut-être aussi provocante que la mention des deepfakes est la section qui suit, qui note que SOCOM souhaite affiner sa propagande offensive apparemment en espionnant le public visé via leurs appareils connectés à Internet.

Décrit comme une "capacité de nouvelle génération pour" prendre le contrôle "des appareils de l'Internet des objets (LoT) pour collecter [sic] des données et des informations auprès des populations locales afin de permettre la répartition des messages qui pourraient être populaires et acceptés en passant au crible les données une fois reçues " le document indique que la capacité d'écouter les cibles de propagande "permettrait à MISO de concevoir et de promouvoir des messages qui pourraient être plus facilement reçus par la population locale". En 2017, WikiLeaks a publié des fichiers volés de la CIA qui ont révélé une capacité à peu près similaire pour détourner des appareils domestiques.

La technologie derrière les vidéos deepfake est arrivée pour la première fois en 2017, stimulée par une combinaison de matériel informatique puissant et bon marché et de percées dans la recherche en apprentissage automatique. Les vidéos Deepfake sont généralement réalisées en fournissant des images d'un individu à un ordinateur et en utilisant l'analyse informatisée qui en résulte pour coller essentiellement un simulacre très réaliste de ce visage sur un autre.

"La capacité de nuire à la société est certainement là."

Une fois que le logiciel a été suffisamment formé, son utilisateur peut créer des séquences fabriquées réalistes d'une cible disant ou faisant pratiquement n'importe quoi. La facilité d'utilisation et la précision croissante de la technologie ont fait craindre une époque où le public mondial ne peut plus croire ce qu'il voit de ses propres yeux.

Bien que les principales plateformes sociales comme Facebook aient des règles contre les deepfakes, compte tenu de la nature intrinsèquement fluide et interconnectée d'Internet, le Pentagone- les deepfakes diffusés pourraient également risquer de refluer vers la patrie américaine.

"S'il s'agit d'un environnement médiatique non traditionnel, je peux imaginer que la forme de manipulation va assez loin avant d'être arrêtée ou réprimandée par une sorte d'autorité locale", Max Rizzuto, chercheur en deepfakes au sein du Digital Forensic Research Lab de l'Atlantic Council, a déclaré à The Intercept. "La capacité de nuire à la société est certainement là."

L'intérêt de SOCOM pour le déploiement de campagnes de désinformation profondes fait suite à l'anxiété internationale des dernières années concernant les vidéos falsifiées et la tromperie numérique des adversaires internationaux. Bien qu'il y ait [peu de preuves] (https://theintercept.com/2023/01/10/russia-twitter-bots-trump-election/) les efforts de la Russie pour influencer numériquement les élections de 2016 ont eu un effet significatif, le Pentagone a exprimé un intérêt à redoubler ses capacités de propagande numérique, de peur qu'il ne prenne du retard, [avec SOCOM prenant un rôle crucial](https://www.militarytimes.com/news/your-military/2019/02/06/socom-needs-to -intensifie-son-jeu-de-propagande-pentagon-député-dit/).

Lors d'une audition en avril 2018 du Comité sénatorial des forces armées, le général Kenneth Tovo du Commandement des opérations spéciales de l'armée a assuré aux sénateurs réunis que les forces spéciales américaines s'efforçaient de combler le fossé de la propagande.

"Nous avons investi assez lourdement dans nos opérateurs psy-op", a-t-il déclaré, "développant de nouvelles capacités, en particulier pour traiter dans l'espace numérique, l'analyse des médias sociaux et une variété d'outils différents qui ont été mis en service par SOCOM qui nous permettent d'évaluer l'espace des médias sociaux, évaluer le cyberdomaine, voir l'analyse des tendances, où l'opinion évolue, puis comment influencer potentiellement cet environnement avec nos propres produits.

Alors que la propagande militaire est aussi ancienne que la guerre elle-même, les deepfakes ont souvent été discutés comme un danger technologique sui generis, dont l'existence constitue une menace civilisationnelle.

Lors d'une audience du Comité sénatorial du renseignement de 2018 sur la nomination de William Evanina à la tête du Centre national de contre-espionnage et de sécurité, le sénateur Marco Rubio, R-Fla., a déclaré à propos des deepfakes : démocraties ». Evanina, en réponse, a rassuré Rubio sur le fait que la communauté du renseignement américain travaillait pour contrer la menace des deepfakes.

Le Pentagone serait également à pied d'œuvre pour contrer la menace étrangère de deepfake. Selon un [reportage] de 2018(https://www.cbc.ca/news/science/fighting-fake-images-military-1.4905775), la Defense Advanced Research Projects Agency, la division de recherche technologique de l'armée, a dépensé des dizaines de millions de dollars pour développer des méthodes de détection d'images falsifiées. Des efforts similaires sont en cours dans tout le ministère de la Défense.

En 2019, Rubio et le sénateur Mark Warner, D-Va., ont écrit à 11 sociétés Internet américaines [les exhortant à rédiger des politiques] (https://www.warner.senate.gov/public/index.cfm/2019/10/ warner-rubio-exprimez votre inquiétude face à la menace croissante posée par les deepfakes) pour détecter et supprimer les vidéos deepfake. "Si le public ne peut plus faire confiance aux événements ou aux images enregistrés", lit-on dans la lettre, "cela aura un impact corrosif sur notre démocratie".

Niché dans la loi sur l'autorisation de la défense nationale pour l'exercice 2021, il y avait une directive ordonnant au Pentagone de réaliser une "évaluation du renseignement sur la menace posée par des gouvernements étrangers et des acteurs non étatiques créant ou utilisant des médias manipulés par machine (communément appelés" deep fakes ') », y compris « comment ces médias ont été utilisés ou pourraient être utilisés pour mener une guerre de l'information ».

Quelques années plus tard, les forces spéciales américaines semblent se préparer à mener la même chose.

"C'est une technologie dangereuse", a déclaré Rizzuto, chercheur à l'Atlantic Council.

"Vous ne pouvez pas modérer cette technologie de la même manière que nous abordons d'autres types de contenu sur Internet", a-t-il déclaré. "Les deepfakes en tant que technologie ont plus en commun avec les conversations sur la non-prolifération nucléaire."