Incidents associés
Le spectre qui hante l'Europe - et le reste du monde, d'ailleurs - n'est plus le communisme, comme l'ont si bien écrit Karl Marx et Friedrich Engels dans leur manifeste de 1848. C'est quelque chose de beaucoup plus insidieux, et quelque chose que Marx et Engels auraient difficilement pu imaginer : l'automatisation, c'est-à-dire l'IA et les robots dans toutes leurs différentes itérations.
Cette lente introduction de l'intelligence artificielle dans les économies humaines est au centre du dernier documentaire du réalisateur Maxim Pozdorovkin, La vérité sur les robots tueurs, qui sera présenté en première ce lundi 26 novembre sur HBO. Pozdorovkin jette un regard sans faille sur la façon dont les voitures automatisées, les robots de puissance industrielle et les dispositifs autonomes de détection de bombes ont infiltré la vie humaine – et les effets, bons ou mauvais, qui les ont accompagnés.
Le documentaire est raconté par un "hôte" robotique nommé Kodomoroid. Kodomoroïde est d'une ressemblance humaine déconcertante, bien que ses mouvements raides et sa voix hésitante la trahissent très rapidement en tant que robot. La décision d'avoir un automate pour raconter un documentaire sur les robots tueurs semble un peu trop sur le nez, et donne parfois au projet un futurisme distrayant, mais non moins engageant, Westworld-esque.
Kodomoroid expose le cadre du documentaire et présente une anecdote impliquant un ouvrier décédé dans une usine Volkswagen en Allemagne, apparemment le résultat d'un robot « défectueux ». Les détails sont assez horrifiants : après être entré dans une "cage" avec un collègue où les robots sont autorisés à se déplacer indépendamment, un bras de robot s'est retourné et a épinglé le travailleur de 21 ans contre un mur de métal, lui écrasant la poitrine et le tuant. Volkswagen était, sans surprise, méfiant à propos de l'incident, et une enquête officielle sur la mort du travailleur est restée ouverte pendant plusieurs années après les faits, malgré le témoignage de son collègue impliquant le robot.
L'accident de l'usine Volkswagen introduit la question centrale à laquelle le documentaire tente de répondre, sans succès : les robots peuvent-ils être coupables de tuer des humains, aussi involontaire que soit la mort ? Et comment pouvons-nous les tenir responsables si c'est le cas ? Une grande partie de la documentation est consacrée à parler à des experts, à la fois juridiques et philosophiques, des implications de l'interférence des robots dans la vie humaine - et aucune réponse claire n'est obtenue.
Le documentaire est plus engageant lorsqu'il examine les effets des robots et du travail automatisé sur la main-d'œuvre et les économies mondiales. L'introduction d'automates dans les emplois d'usine a entraîné le déplacement de centaines de travailleurs et a forcé les travailleurs survivants à travailler plus dur, plus longtemps et plus complexes. Christoph Walter, ingénieur en robotique à Fribourg, en Allemagne, ne considère cependant pas le travail automatisé comme un problème. Interrogé dans le documentaire, il explique : « Nous ne voulons pas remplacer un travailleur [par un robot]. Nous voulons soutenir les travailleurs.
C'est un sentiment agréable qui amènerait probablement Marx à se retourner dans sa tombe, mais quelles que soient les intentions, l'introduction du travail automatisé est vouée à changer le paysage de l'industrie d'une manière ou d'une autre. Dans un cas, un cadre technologique chinois a fait appel à des robots face à une pénurie de main-d'œuvre, réduisant son nombre total d'employés et modifiant complètement la façon dont le travail automatisé peut être utilisé. Bien que dans cette situation il y ait simplement une pénurie de travailleurs disponibles, qu'est-ce qui empêcherait les supérieurs de remplacer les travailleurs d'usine qui, par exemple, se sont mis en grève, par des robots ? Les ramifications, comme le documentaire a raison de le laisser entendre, sont énormes.
Killer Robots explore également la manière dont les automates peuvent affecter d'autres secteurs, notamment les sphères des services et de l'application de la loi. Les voitures autonomes, fabriquées par des sociétés comme Tesla, semblent être les véhicules du futur ; comme l'explique le documentaire, cependant, ils ne sont pas sans défauts. Un accident particulièrement macabre impliquant un homme dans une Tesla autonome sert de récit édifiant à ceux qui pensent que les véhicules automatisés sont invincibles : la Tesla, avec l'homme à l'intérieur, a heurté de plein fouet un semi-remorque alors qu'elle roulait à 120 km/h. Sa voiture a foncé sous le camion, a traversé deux clôtures et s'est finalement arrêtée lorsqu'elle a heurté un poteau. Le conducteur est décédé des suites d'un "traumatisme contondant cranio-cérébral massif avec lacérations du visage et du cuir chevelu" et d'une "avulsion du cerveau et du tronc cérébral supérieur".
La question centrale qui hante le documentaire, et bon nombre de nos conceptions des automates et de l'IA (pensez : Westworld) est, bien sûr, liée à la moralité des robots. Isaac Asimov, le célèbre auteur et biochimiste, a établi Les Trois lois de la robotique en 1942. Premièrement, a-t-il dit, les robots ne devraient en aucun cas être autorisés à nuire aux humains. Deuxièmement, les robots doivent être programmés pour obéir aux commandes des humains, à moins qu'ils ne soient directement en conflit avec la première règle. Et troisièmement, un robot doit être autorisé à se protéger, en supposant que cela n'entre pas en conflit avec la première ou la deuxième règle.
Asimov, bien sûr, n'aurait pas pu imaginer l'étendue de l'intelligence artificielle et du travail automatisé qui existe aujourd'hui. Ses questions, aussi moralistes soient-elles, méritent d'être examinées, comme semble le suggérer Killer Robots.