Incidents associés
Il a été révélé qu'un drone militaire alimenté par l'intelligence artificielle était capable d'identifier et d'attaquer des cibles humaines en Libye. Le drone, Kargu-2, est fabriqué par une société turque (STM) et équipé d'une charge utile qui explose une fois qu'il a un impact ou qu'il se trouve à proximité de sa cible identifiée par l'IA.
Il n'est pas clair si les attaques ont fait des morts.
Les révélations ont été faites dans un rapport publié en mars 2021 par le Groupe d'experts des Nations unies (ONU) sur la Libye qui a déclaré que le drone était une "arme létale autonome" qui avait "pourchassé et engagé à distance" des soldats soupçonnés d'avoir fidèle au général libyen Khalifa Haftar.
"Les convois logistiques et les HAF en retraite ont ensuite été pourchassés et engagés à distance par les véhicules aériens de combat sans pilote ou les systèmes d'armes autonomes meurtriers tels que le STM Kargu-2 (voir annexe 30) et d'autres munitions en errance. Les systèmes d'armes autonomes meurtriers ont été programmés pour attaquer des cibles sans nécessiter de connectivité de données entre l'opérateur et la munition : en effet, une véritable capacité « tire, oublie et trouve ». Les véhicules aériens de combat sans pilote et la capacité de renseignement, de surveillance et de reconnaissance des petits drones de la HAF ont été neutralisés par le brouillage électronique de le système de guerre électronique Koral. La puissance de feu concentrée et la connaissance de la situation que ces nouvelles technologies de champ de bataille ont fournies étaient un multiplicateur de force important pour les unités terrestres du GNA-AF, qui a lentement dégradé la capacité opérationnelle du HAF ", lit une partie de la page 17 de la lettre datée 8 mars 2021 du Groupe d'experts de l'ONU sur la Libye envoyé au Conseil de sécurité de l'ONU.
Armes autonomes létales
Les drones militaires ne sont pas un nouveau concept, ils existent depuis plus d'une décennie et ont été utilisés par divers pays dans des attaques militaires contre des ennemis. Cependant, ce qui s'est passé en Libye est un nouveau développement étant donné que le drone n'était piloté par aucun humain lorsqu'il a exécuté l'attaque, il s'est appuyé sur l'IA pour identifier et frapper ses cibles.
Cette frappe par une « arme létale autonome », comme l'a formulé l'ONU, amène la conversation sur l'éthique de l'utilisation de drones dans des attaques militaires à un nouveau niveau, mais introduit également un autre élément : la fiabilité de l'IA derrière les drones STM Kargu-2. ?
Nous avons déjà observé et couvert en détail à quel point certains algorithmes et systèmes basés sur l'IA peuvent être biaisés, en particulier envers les Africains. Dans ce scénario militaire, la crainte est qu'un tel parti pris puisse être fatal et entraîner ainsi la mort ou des dommages permanents et irréversibles.
Mort par machine
Pour contrer cela d'une manière ou d'une autre, STM répertorie parmi les capacités et les compétences du drone Kargu-2 sa capacité à effectuer "un coup autonome et précis avec un minimum de dommages collatéraux". Malheureusement, dans de telles situations, il suffit d'une attaque qui a mal tourné pour que l'IA utilisée sur les drones militaires soit remise en question.
Comme le rapport de l'ONU y fait également allusion, l'introduction d'une telle technologie dans les conflits militaires nous introduit dans une nouvelle ère de "robots tueurs" comme cela n'avait été imaginé auparavant que dans la science-fiction.
"L'introduction par la Turquie d'une technologie militaire avancée dans le conflit a été un élément décisif dans la guerre d'usure souvent invisible, et certainement inégale, qui a abouti à la défaite de la HAF dans l'ouest de la Libye en 2020. La technologie aérienne à distance, combinée à une fusion efficace les capacités de renseignement et de renseignement, de surveillance et de reconnaissance, ont renversé la vapeur pour la GNA-AF dans ce qui était auparavant un conflit de faible intensité et de faible technologie dans lequel l'évitement des pertes et la protection des forces étaient une priorité pour les deux parties au conflit.