Incidents associés
Les guerres du 21e siècle sont souvent décrites comme étant de haute technologie et de plus en plus dépendantes de l'intelligence artificielle (IA) : occupation américaine de l'Afghanistan, invasion russe de l'Ukraine - bien que la dernière attaque du Hamas contre Israël montre également que la fiabilité excessive des drones, les données et les outils numériques peuvent créer des failles de sécurité dévastatrices.
Pour comprendre comment l'IA façonne une guerre asymétrique en Ukraine contre un agresseur russe beaucoup plus important, Global Voices s'est entretenu avec Anton Tarasyuk, un expert en données et en IA, qui est également co-fondateur et responsable de l'expertise de [Mantis Analytics](https:// mantisanalytics.com/), une société basée à Kiev. Il est également journaliste et écrit des commentaires sur l'actualité.
L'entretien a eu lieu par courrier électronique après une réunion en personne à Kiev et a été édité pour des raisons de style et de concision.
Filip Noubel (FN) Comment l'IA est-elle utilisée dans la guerre de désinformation par les acteurs ukrainiens ? Qui l'utilise ? Est-ce uniquement le gouvernement ou d'autres acteurs ?
Anton Tarasyuk (AT) : Commençons par reconnaître que la guerre russo-ukrainienne est le conflit le plus numérisé et le plus dépendant de l'IA de l'histoire. L’IA joue un rôle important tant sur le champ de bataille que dans le domaine de l’information. En fait, la guerre à grande échelle a commencé non pas par une guerre cinétique, mais par une guerre de l’information. Avant le 24 février 2022, la Russie lançait activement des cyberattaques et des campagnes d’information hostiles pour tenter de semer la confusion, la peur et la méfiance parmi les citoyens ukrainiens.
Ont-ils réussi ? Stratégiquement, le déroulement de la guerre indique que ce n’est pas le cas. Cependant, surtout au début, ils ont obtenu des succès tactiques. Prenez, par exemple, la campagne des « graffitis », qui prétendait faussement que de supposés agents russes laissaient des graffitis spécifiques dans les rues pour guider l’artillerie et les frappes aériennes russes. Cela peut paraître absurde, mais les gens recherchaient effectivement ces marques, et les individus pourraient avoir des ennuis s'ils étaient associés par erreur à ces « marques » imaginaires. Il est depuis devenu évident qu’il s’agissait d’une campagne de désinformation, vraisemblablement d’origine russe, destinée à semer le chaos et la panique.
Le rôle de l'IA dans de telles campagnes de désinformation est important. Grâce aux technologies génératives, le coût de production de contenu textuel et visuel a été réduit à presque rien, ne nécessitant qu’une culture numérique de base. Dans un tel contexte, seule l’IA peut lutter efficacement contre l’IA. Aucun esprit humain ne peut fonctionner à la vitesse requise. Il n’y a donc pas d’autre choix que d’utiliser ces technologies.
Concernant les utilisateurs de notre technologie, nous nous sommes d'abord concentrés sur le secteur gouvernemental, en particulier le Conseil national de sécurité et de défense de l'Ukraine. Cependant, notre objectif premier ne se limite pas au gouvernement ou aux institutions de sécurité. La guerre de l’information s’étend rapidement au secteur des entreprises. Des milliards de dollars sont perdus chaque année en raison de campagnes de désinformation, de fraudes reposant sur des contrefaçons profondes et d’activités similaires, toutes alimentées par l’IA. L’ensemble de l’infrastructure informationnelle qui garantit notre prise de décision éclairée dans les domaines de la défense, de la politique et des affaires est menacée. C'est pourquoi nous élargissons activement notre portée au secteur des entreprises.
FN : Comment la Russie l'utilise-t-elle pour imposer ses discours non seulement en Ukraine, mais ailleurs, y compris dans les pays du Sud ?
AT : De nombreux pays du Sud sont, avec toutes les réserves qui s'imposent, des démocraties électorales. Cela signifie que l’opinion publique compte. Cela signifie qu’il est crucial d’influencer l’opinion publique. Cela souligne à son tour l’importance des campagnes d’information. Lorsque l’on combine tous ces facteurs avec le scepticisme historique à l’égard du soi-disant « Occident », cela crée le terrain idéal pour que les Russes diffusent leur message.
D'après notre évaluation, les campagnes d'information de la Russie visent généralement à susciter un sentiment anti-occidental, présentant souvent la Russie comme le leader d'une « coalition anti-occidentale » insaisissable. Vous souvenez-vous de l’émergence soudaine de Poutine avec sa rhétorique « anticoloniale » ? Il s’agit d’un récit adapté aux pays du Sud.
Pour promouvoir ce message, la Russie utilise diverses tactiques, recourant non seulement à la désinformation (informations à la fois vraies et nuisibles), mais également à la désinformation à grande échelle (informations à la fois fausses et nuisibles). Concernant l’Ukraine, le contenu qu’ils y diffusent est tout simplement scandaleux.
L’IA est sur le point de jouer un rôle de plus en plus central dans cette diffusion, d’autant plus que l’infrastructure médiatique traditionnelle continue de s’éroder. L’Occident est-il prêt ? Il vaudrait mieux que ce soit le cas, avant qu'il ne soit trop tard. Quelques pistes de solutions se trouvent ici, en Ukraine, puisque nous avons été les premiers à relever le défi de l’agression russe.
**FN : Qu'en est-il de la reconnaissance faciale ? Dans quel contexte est-il utilisé et voyez-vous des zones de danger possibles dans son utilisation ? **
AT : Pour être honnête, dans le paysage actuel, si vous recherchez des renseignements approfondis, vous pouvez découvrir une multitude d'informations en surveillant attentivement ce dont les gens discutent, où ils le font et de quelle manière. C’est précisément ce dans quoi nous sommes spécialisés.
L'analyse du contenu visuel soulèvera des questions difficiles, celles que vous pouvez catégoriser comme des « zones de danger ». L'économiste russe exilé basé à Paris Sergei Guriev qualifie à juste titre certains pays d'« autocraties informationnelles » ou de « dictatures d'opinion », ce qui a été le modèle russe pour manipuler le système informationnel. paysage.
La question pour nous est : à quoi sert de s'opposer à ces autocraties informationnelles si nous construisons simultanément un État de surveillance ? D’où notre attachement aux valeurs démocratiques. Nous prenons effectivement cette question très au sérieux.
Néanmoins, et voici ma prédiction futuriste, certaines de nos convictions fondamentales en matière de transparence devront être réinventées dans un avenir proche. Non pas à cause de la volonté d'une entreprise ou d'une institution, mais à cause de ce que le philosophe allemand Jürgen Habermas appelle « La transformation structurelle de la sphère publique », provoquée par de nouveaux les technologies. Les sociétés devraient se préparer à ce changement.
FN : Existe-t-il une législation à jour en Ukraine concernant l'utilisation et le contrôle de l'IA ?
AT : Pendant une période considérable, l'Ukraine a fonctionné comme une frontière de réglementation minimale en matière d'IA. Actuellement, ce sujet suscite de plus en plus d’attention et de débats. Le ministère de la Transformation numérique a récemment dévoilé une feuille de route pour la réglementation de l'IA.
Étant donné que de nombreuses technologies émergentes, notamment dans le domaine des technologies de défense, dépendent fortement de l’IA, la nécessité d’aligner nos cadres réglementaires sur ceux de l’UE et des États-Unis devient de plus en plus urgente. Ces considérations sont loin d’être abstraites, car même des aspects commerciaux fondamentaux tels que l’obtention de capital-risque peuvent dépendre de cet alignement.
Ce qui est clair, c'est que nous devons tracer une voie qui favorise l'innovation en matière d'IA sans l'étouffer par une réglementation excessive, qui, selon certains experts, caractérise le marché européen. Même si le mantra de la Silicon Valley « agir vite et casser les choses » peut être trop périlleux pour notre contexte, car toute perturbation en période de conflit peut avoir des conséquences potentiellement mortelles, nous reconnaissons également le risque que représente l'IA centralisée et descendante de la Chine et de la Russie. règlements.
Trouver la voie à suivre pour l’Ukraine constitue un défi. Allons-nous nous lever pour y faire face ? Je suis convaincu que nous le ferons, car nous n’avons pas d’autre choix.