Problème 2460

Un « drone suicide » russe doté de la capacité d'identifier des cibles à l'aide de [l'intelligence artificielle] (https://www.wired.com/tag/artificial-intelligence/) a été repéré sur des images de l'invasion en cours de l'Ukraine.

Photographies montrant ce qui semble être le KUB-BLA, un type de drone mortel connu sous le nom de "munition vagabonde" vendu par ZALA Aero, une filiale de l'armement russe société Kalachnikov, sont apparus sur Telegram et Twitter ces derniers jours. Les images montrent des drones endommagés qui semblent s'être écrasés ou avoir été abattus.

Avec une envergure de 1,2 mètre, l'élégant drone blanc ressemble à un petit avion de chasse sans pilote. Il est tiré à partir d'un lanceur portatif, peut parcourir jusqu'à 130 kilomètres à l'heure pendant 30 minutes et s'écrase délibérément sur une cible, faisant exploser un explosif de 3 kilos.

ZALA Aero, qui a présenté pour la première fois le KUB-BLA lors d'un spectacle aérien russe en 2019, affirme dans du matériel promotionnel qu'il comporte « une détection et une reconnaissance intelligentes d'objets par classez et tapez en temps réel.

Le drone lui-même ne fera peut-être pas grand-chose pour modifier le cours de la guerre en Ukraine, car rien ne prouve que la Russie les utilise largement jusqu'à présent. Mais son apparition a suscité des inquiétudes quant au potentiel de l'IA à jouer un rôle plus important dans la prise de décisions mortelles.

"La notion d'un robot tueur - où vous avez une intelligence artificielle fusionnée avec des armes - que la technologie est là et qu'elle est utilisée", déclare Zachary Kallenborn, un chercheur affilié à le Consortium national pour l'étude du terrorisme et des réponses au terrorisme (START).

Les progrès de l'IA ont facilité l'intégration de l'autonomie dans les systèmes d'armes et ont laissé entrevoir la possibilité que des systèmes plus performants puissent éventuellement décider eux-mêmes qui tuer. Un rapport de l'ONU publié l'année dernière a conclu qu'un drone mortel doté de cette capacité aurait pu être utilisé pendant la [guerre civile libyenne](https://en.wikipedia .org/wiki/Second_Libyan_Civil_War).

On ne sait pas si le drone a pu être utilisé de cette manière en Ukraine. L'un des défis avec les armes autonomes peut s'avérer être la difficulté de déterminer quand l'autonomie complète est utilisée dans un contexte mortel, dit Kallenborn.

Les images KUB-BLA n'ont pas encore été vérifiées par des sources officielles, mais le drone est connu pour être une partie relativement nouvelle de l'arsenal militaire russe. Son utilisation serait également cohérente avec la stratégie changeante de la Russie face à la résistance ukrainienne étonnamment forte, déclare Samuel Bendett, un expert de l'armée russe au sein de la réflexion sur la défense réservoir CNA.

Bendett dit que la Russie a développé ses capacités de drones ces dernières années, les utilisant en Syrie et en acquérant davantage après que les forces azerbaïdjanaises [ont démontré leur efficacité](https://www.csis.org/analysis/air-and-missile-war-nagorno -karabakh-leçons-future-frappe-et-défense) contre l'armée terrestre arménienne dans la guerre du Haut-Karabakh de 2020. "Ils sont une alternative extraordinairement bon marché aux missions habitées volantes", dit-il. "Ils sont très efficaces à la fois militairement et bien sûr psychologiquement."

Le fait que la Russie semble avoir utilisé peu de drones en Ukraine au début peut être dû à une mauvaise appréciation du résistance ou à cause de contre-mesures ukrainiennes efficaces.

Mais les drones ont également mis en évidence une vulnérabilité clé dans l'invasion russe, qui entre maintenant dans sa troisième semaine. Les forces ukrainiennes ont utilisé un drone de fabrication turque télécommandé appelé TB2 avec grand effet contre les forces russes, tirant des missiles guidés sur des lanceurs de missiles et des véhicules russes. Le drone de la taille d'un parapente, qui repose sur un petit équipage au sol, est lent et ne peut pas se défendre, mais il s'est avéré efficace contre une campagne aérienne russe étonnamment faible.

Cette semaine, l'administration Biden a également [dit qu'elle approvisionnerait l'Ukraine](https://www.nbcnews.com/politics/national-security/ukraine-asks-biden-admin-armed-drones-jamming-gear-surface-air -missile-rcna20197) avec une petite munition de vagabondage fabriquée aux États-Unis appelée Switchblade. Ce drone à usage unique, qui est équipé d'explosifs, de caméras et de systèmes guidés, a des capacités autonomes mais dépend d'une personne pour prendre des décisions sur les cibles à engager.

Mais Bendett se demande si la Russie lancerait un drone propulsé par l'IA avec une autonomie avancée dans un environnement aussi chaotique, en particulier compte tenu de la mauvaise coordination de la stratégie aérienne globale du pays. « L'armée russe et ses capacités sont maintenant mises à rude épreuve en Ukraine », dit-il. "Si les forces terrestres [humaines] avec toutes leurs collectes d'informations sophistiquées ne peuvent pas vraiment donner un sens à ce qui se passe sur le terrain, alors comment un drone pourrait-il le faire ?"

Plusieurs autres experts militaires remettent en question les prétendues capacités du KUB-BLA.

"Les entreprises qui produisent ces drones errants parlent de leurs caractéristiques autonomes, mais souvent l'autonomie implique des corrections de vol et des manœuvres pour atteindre une cible identifiée par un opérateur humain, et non l'autonomie de la manière dont la communauté internationale définirait une arme autonome", déclare [ Michael Horowitz] (https://www.polisci.upenn.edu/people/standing-faculty/michael-c-horowitz), professeur à l'Université de Pennsylvanie, qui suit la technologie militaire.

Malgré ces incertitudes, la question de l'IA dans les systèmes d'armes est devenue controversée ces derniers temps car la technologie trouve rapidement sa place dans de nombreux systèmes militaires, par exemple pour aider à interpréter les entrées des capteurs. L'armée américaine soutient qu'une personne devrait toujours prendre des décisions mortelles, mais les États-Unis s'opposent également à l'interdiction du développement de tels systèmes.

Pour certains, l'apparition du KUB-BLA montre que nous sommes sur une pente glissante vers une utilisation croissante de l'IA dans les armes qui finiront par éliminer les humains de l'équation.

"Nous verrons encore plus de prolifération de ces armes autonomes meurtrières à moins que davantage de pays occidentaux ne commencent à soutenir leur interdiction", déclare Max Tegmark, professeur à MIT et cofondateur du Future of Life Institute, une organisation qui milite contre ces armes.

D'autres, cependant, pensent que la situation qui se déroule en Ukraine montre à quel point il sera vraiment difficile d'utiliser l'IA avancée et l'autonomie.

William Alberque, directeur de la stratégie, de la technologie et du contrôle des armements à l'Institut international d'études stratégiques, déclare que compte tenu du succès rencontré par l'Ukraine avec le TB2, les Russes ne sont pas prêts à déployer une technologie plus sophistiquée. "Nous voyons des crétins russes devenir la propriété d'un système auquel ils ne devraient pas être vulnérables."