Incidents associés
Si vous avez grandi aux États-Unis, vous avez probablement vu au moins un épisode de The Jetsons, un dessin animé des années 1960 représentant une société futuriste du XXIe siècle avec des repas à bouton-poussoir, des villes flottantes et un robot nommé Rosie.
Dans l'épisode intitulé Rip-Off Rosie, George Jetson répare les puces mémoire frites d'un robot appelé Robotto et gagne une augmentation et un jour de congé. Il ramène la pièce défectueuse à la maison pour la montrer à sa famille, et sa femme de chambre robot Rosie la mange accidentellement, la prenant pour des bonbons. La partie défectueuse rend Rosie folle. Son attitude devient menaçante, ses yeux s'écarquillent et elle détruit tout dans la maison de manière incontrôlable.
Cette scène a peut-être été conçue par les créateurs d'un dessin animé pour enfants, mais aujourd'hui, les robots destructeurs ne sont pas un scénario inventé. Non seulement les robots prennent en charge nos emplois, mais ils pourraient bientôt dominer notre force en tant qu'espèce.
Les robots prennent parfois des vies humaines
Tout le monde aime une bonne bataille de robots dans un environnement virtuel, mais mettez un robot contre un humain et c'est un combat injuste.
Comme Rosie le robot, il suffit d'un pépin ou d'un oubli pour qu'un robot devienne mortel. Bien qu'ils soient programmés à l'aide du meilleur de la technologie de l'IA, il est impossible de programmer l'empathie dans un robot. Comme les données de Star Trek, un robot peut apprendre, mais il ne peut pas sentir.
Peut-être que si les robots étaient isolés, le danger serait moindre. Cependant, ces robots travaillent souvent aux côtés des humains dans les usines, et ils ont causé de nombreux blessés et morts.
En 1981, un ouvrier d'usine de motos nommé Kenji Urada a été tué par un robot IA travaillant à proximité. Pour une raison quelconque, le robot l'a identifié comme une menace et l'a poussé dans une machine. Le robot a utilisé son bras hydraulique pour écraser le travailleur qui l'a tué instantanément, et est revenu pour effectuer ses tâches.
En 2015, un homme de 22 ans travaillant dans une usine Volkswagen en Allemagne a été tué par le robot qu'il assemblait. Il était en train d'assembler le robot qui saisit et assemble diverses pièces automobiles lorsque le robot l'a attrapé et l'a projeté contre une plaque de métal. L'homme est décédé des suites de ses blessures.
Toujours en 2015, Ramji Lal a été tué à l'usine Manesar de Haryana en Inde lorsqu'il s'est approché d'un robot par derrière. Il a ajusté une pièce de tôle portée par le robot, et a été transpercé par des baguettes de soudure fixées à son bras. Ses collègues affirment que son erreur s'est approchée par derrière au lieu de l'avant, mais le fait que cela se soit produit est préoccupant.
Qui est responsable quand les robots tuent ?
Quand un robot tue, qui peut être tenu pour responsable ? Est-ce considéré comme un meurtre ? Est-ce un homicide imprudent ? Selon l'expert en droit pénal Rowdy Williams, le meurtre est défini comme "le meurtre sciemment ou intentionnellement d'un autre être humain ou d'un enfant à naître" et l'homicide par imprudence "cause imprudemment la mort d'un autre".
Si les conséquences d'un meurtre incluent la prison à vie, des amendes et même la peine de mort, comment peuvent-elles être appliquées à un robot ? Si un humain est reconnu responsable des actions du robot, est-il juste d'appliquer ces conséquences à quelqu'un qui n'a pas réellement commis de meurtre ?
Que se passe-t-il si quelqu'un décide d'utiliser la technologie de l'IA pour programmer des robots à tuer ? Que se passe-t-il lorsqu'une voiture sans conducteur tombe en panne et fauche des innocents sur le trottoir ?
Dans son livre When Robots Kill, le professeur de droit Gabriel Hallevy discute de la responsabilité pénale de l'utilisation d'entités d'IA dans les sphères commerciales, industrielles, militaires, médicales et personnelles. Il explore bon nombre des préoccupations mentionnées ci-dessus.
Hallevy expose son objectif dans la préface du livre : « L'objectif de ce livre est de développer une théorie complète, générale et juridiquement sophistiquée de la responsabilité pénale pour l'intelligence artificielle et la robotique. En plus de l'entité IA elle-même, la théorie couvre le fabricant, le programmeur, l'utilisateur et toutes les autres entités impliquées. En identifiant et en sélectionnant des analogies à partir des principes existants du droit pénal, la théorie propose des façons spécifiques de penser la responsabilité pénale pour un large éventail de technologies autonomes dans un ensemble diversifié de circonstances raisonnables.
Les questions les plus importantes qu'explore Hallevy sont de savoir si la responsabilité pénale et les sanctions pénales sont applicables aux machines. Son livre se concentre uniquement sur la responsabilité pénale des entités d'IA et ne plonge pas dans l'éthique.
Peut-être que le travail de Hallevy créera les bases d'une autre conversation pour examiner l'éthique impliquée dans les entités d'IA, sur la base du cadre qu'il a fourni. C'est une question complexe et il n'y a pas encore de réponse claire, mais peut-être trouverons-nous une réponse avant le prochain incident mortel.
Larry Alton est un écrivain collaborateur de VentureBeat couvrant l'intelligence artificielle.