Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Problème 1542

Incidents associés

Incident 425 Rapports
Uber AV Killed Pedestrian in Arizona

Loading...
"Je suis l'opérateur": les conséquences d'une tragédie de conduite autonome
wired.com · 2022
RAFAELA VASQUEZ AIMAIT travailler la nuit, seule, à l'abri d'un monde dont elle avait des raisons de se méfier. Un dimanche soir de mars 2018, Uber lui a assigné la boucle de Scottsdale. Elle a conduit un SUV Volvo gris, équipé de caméras et de capteurs lidar, à travers le garage de l'entreprise, devant les rangées de voitures identiques, devant une affiche représentant un conducteur regardant fixement un téléphone portable qui avertissait : "Ça peut attendre". L'horloge a dépassé 9h15 et Vasquez a atteint le point d'entrée de l'itinéraire. Elle a basculé la Volvo en mode autonome, et la voiture s'est déplacée dans un flou de la banlieue de l'Arizona, devant des concessionnaires automobiles et le magasin pour adultes de Zorba, le lieu d'encaissement des chèques et McDonald's. Ensuite, il a déchiqueté un court passage à travers Tempe pour redémarrer le circuit. C'était une route que Vasquez avait parcourue en autonomie environ 70 fois auparavant. Alors qu'elle terminait sa deuxième boucle, la Volvo a traversé un pont tendu de lumières de bistrot au-dessus du lac Tempe Town. Des enseignes au néon sur des immeubles de bureaux en verre se reflétaient dans l'eau, affichant les ambitions du centre technologique de la région - Zenefits, NortonLifeLock, Silicon Valley Bank. Au-delà du pont, la voiture a navigué dans un virage doux dans l'ombre sous un viaduc d'autoroute. À 21 h 58, il a glissé vers un tronçon de route abandonné entre un terre-plein paysager et une parcelle de désert. Quatre panneaux dans la médiane avertissaient les gens de ne pas s'y promener, les dirigeant vers un passage pour piétons à 380 pieds. Le système de conduite Uber, qui contrôlait totalement la voiture depuis 19 minutes à ce moment-là, a enregistré un véhicule devant lui à 5,6 secondes, mais il n'a envoyé aucune alerte à Vasquez. Ensuite, l'ordinateur a annulé son évaluation initiale ; il ne savait pas quel était l'objet. Ensuite, il a ramené la classification à un véhicule, puis a oscillé entre véhicule et «autre». À 2,6 secondes de l'objet, le système l'a identifié comme "vélo". À 1,5 seconde, il est revenu à le considérer comme "autre". Puis revenez à "vélo" à nouveau. Le système a généré un plan pour essayer de contourner quoi que ce soit, mais a décidé qu'il ne pouvait pas. Puis, à 0,2 seconde de l'impact, la voiture a émis un son pour alerter Vasquez que le véhicule allait ralentir. À deux centièmes de seconde avant l'impact, roulant à 39 mph, Vasquez a saisi le volant, ce qui a arraché la voiture de l'autonomie et en mode manuel. C'était trop tard. Le vélo brisé a gratté un sillage de 25 pieds sur le trottoir. Une personne gisait recroquevillée sur la route. Vasquez a fait ce qu'Uber avait enseigné à ses employés dans le cadre du programme de test à faire en cas d'urgence : elle a arrêté le véhicule et appelé le 911. "Un cycliste, euh, j'ai, euh, heurté un cycliste qui était sur la route", a-t-elle déclaré. le répartiteur, la voix tendue. "Ils ont tiré dans la rue... Ils sont blessés, ils ont besoin d'aide, d'ambulanciers." "Je sais que c'est assez effrayant", a déclaré le répartiteur d'une voix apaisante. Elle a dit à Vasquez de respirer. Dans les six minutes qui ont suivi l'accident, les flics ont commencé à arriver. Les ambulanciers aussi. Un flic a balayé une lampe de poche au-dessus de la personne au sol. Un ambulancier s'est agenouillé et a pompé la poitrine de la victime. Quelques minutes plus tard, un officier s'est approché de la Volvo, où Vasquez était assis derrière le volant. Il a demandé si elle allait bien. "Ouais, je suis juste secoué", a déclaré Vasquez. « Est-ce que la personne va bien ? Sont-ils gravement blessés ? De retour près de la silhouette allongée sur le sol, une femme se mit à gémir. Vasquez a demandé à l'officier: "Est-ce la personne qui crie?" Il a répondu: "Non non, c'est probablement des gens qu'ils connaissent." Pendant les deux heures suivantes, Vasquez a attendu, faisant ce que la police lui demandait. Les représentants d'Uber sont arrivés. Dans les premières minutes qui ont suivi l'accident, l'un d'eux a couru jusqu'à la voiture de Vasquez et un officier lui a demandé de laisser les flics lui parler en premier. Finalement, Vasquez a déménagé pour s'asseoir dans la voiture d'un superviseur. Elle a demandé des mises à jour sur la victime. Et elle a appris que la personne avec le vélo était décédée. Après minuit, l'officier Kyle Loehr s'est approché de Vasquez et lui a demandé si elle était la conductrice de l'accident. "Je suis l'opérateur", a-t-elle déclaré. Il lui a demandé de sortir de la voiture et, caméra corporelle en marche, lui a expliqué qu'il allait lui faire passer des tests de sobriété : "Cela vous protège, protège la ville, protège l'entreprise", a-t-il déclaré. "C'est littéralement une case que nous devons vérifier." Vasquez a suivi la lampe de poche verte de Loehr avec ses yeux, puis son doigt, puis a levé les yeux vers le ciel et lui a dit quand elle pensait que 30 secondes s'étaient écoulées. Sobre. Environ 10 minutes plus tard, Loehr est revenu avec d'autres questions. Sa voix était sympathique et pétillante. "J'essaie juste d'alléger un peu l'ambiance", a-t-il dit à un moment donné, "parce que je sais que c'est stressant et que c'est merdique." Il lui a dit qu'il devait lui lire ses droits Miranda. C'est ce qui arrive, a-t-il ajouté, quand quelqu'un n'est plus autorisé à quitter une scène. Doucement, il a poursuivi: "Laissez-moi vous expliquer ce qui se passe avec l'un de ces cas lorsqu'il y a un décès." "Oh mon Dieu," murmura Vasquez. "Ce mot." Multiples blessures contondantes. C'est ce que le médecin légiste considérerait comme la cause du décès d'Elaine Herzberg. Mode de décès : accident. Herzberg avait vécu en Arizona toute sa vie et avait eu recours au camping dans les rues près de Tempe. L'homme de 49 ans portait souvent une radio diffusant la station de rock locale; elle collectionnait des souvenirs de grenouilles et les coloriait pour se détendre. Elle avait lutté contre la dépendance. Cette nuit de mars, elle est devenue la première piétonne au monde tuée par une voiture autonome. La mort de Herzberg est le genre de tragédie que l'industrie de la conduite autonome prétend pouvoir prévenir. Aux États-Unis, les accidents de voiture tuent plus de 38 000 personnes par an, dont plus de 90 % au moins en partie à cause d'une erreur humaine. En supprimant la somnolence, l'inattention, l'ivresse et la rage de l'équation et en les remplaçant par une technologie vigilante et précise, les voitures autonomes promettent de rendre les routes considérablement plus sûres. Mais pour atteindre ce prétendu avenir, nous devons d'abord surmonter l'ère dans laquelle nous nous trouvons actuellement : lorsque la technologie est un étudiant conducteur. Cela signifie des flottes dégingandées de voitures équipées de capteurs aspirant des données sur des millions de kilomètres de routes publiques, apprenant à réagir à nos manières imparfaites et improvisées. Et inévitablement, comme les experts l'ont toujours averti, cela signifie des accidents. Les questions de faute lorsque les choses tournent mal ont été réglées depuis plus d'un siècle pour la conduite humaine. Mais il s'agit encore en grande partie d'expériences de pensée pour les cyborgs qui errent maintenant dans nos rues : des véhicules contrôlés par un cerveau de machine, programmés par des ingénieurs humains et généralement supervisés sur la route par une autre personne au volant. Pendant des années, les chercheurs et les défenseurs de la conduite autonome avaient prédit avec anxiété comment le public et le système judiciaire réagiraient au premier décès de piéton causé par une voiture autonome. L'accident de Tempe a transformé ces réflexions en réalité, forçant la police, les procureurs, Uber et Vasquez à jouer des rôles à la fois indésirables et sans précédent en quelques secondes. Sur les lieux cette nuit-là, Vasquez se tenait au centre d'une tragédie et d'une énigme. Elle ne pouvait pas encore comprendre le rôle qu'elle était sur le point de jouer pour déterminer où se terminent les fonctions des entreprises, des États et des ingénieurs, et où commence le mandat de la personne à l'intérieur de la voiture. "Je suis malade de ce qui s'est passé", a confié Vasquez à la police alors que son esprit tournait dans les heures qui ont suivi l'accident. Elle a dit qu'elle se sentait mal pour la famille de la victime. Elle a également pleuré l'événement d'une manière différente, en tant que fantassin fidèle de la révolution de la conduite autonome. "Oh mon Dieu, cela va être un revers pour toute l'industrie", a déclaré Vasquez à Loehr. "Ce qui n'est pas ce que je veux." À l'époque, Vasquez était un défenseur d'Uber. Elle avait parcouru un long chemin vers ce travail. Au cours des dernières années, elle avait acquis un palmarès vertigineux de travail caché pour des entreprises très visibles – modérant des publications macabres sur Facebook, dit-elle; tweeter à propos de Dancing With the Stars sur le Twitter d'ABC; surveiller les médias sociaux pour Wingstop et Walmart. Mais sa position au sein du groupe des technologies avancées d'Uber lui avait offert une nouvelle stabilité, et après des années de troubles en tant que femme transgenre naviguant dans une société hostile, elle a pris soin de ne pas la mettre en péril. Vasquez avait même enlevé les tresses de boîte de fils colorés qui avaient défini son look depuis qu'elle était jeune. Dans un nouveau travail, elle en était venue à penser que "moins je m'accorde d'attention, mieux c'est". Au cours de ses neuf mois de travail en tant qu'opératrice, l'étau de tout ce qu'elle avait enduré enfant, adolescent et adulte s'était un peu relâché. Alors qu'elle avançait péniblement vers la quarantaine, Vasquez avait senti sa vie, enfin, se détendre dans une sorte d'équilibre. Maintenant, alors qu'elle et Loehr étaient assis dans une camionnette des services aux victimes près du pont Tempe après minuit, aux prises avec la mort de Herzberg, l'étau se resserrait à nouveau. Elle s'est retrouvée à demander: "Ai-je besoin d'un avocat?" L'ARIZONA A ACCUEILLI LE programme d'auto-conduite d'UBER à Tempe avec un panache fougueux et très médiatisé, après une longue parade nuptiale. Doug Ducey, gouverneur stimulant les affaires et ancien PDG de Cold Stone Creamery, a pris ses fonctions en 2015, promettant de sortir l'État de son marasme post-récession. Il voulait attirer les entreprises de la Silicon Valley au-delà de la frontière de l'Arizona, présentant son État comme l'anti-Californie avec une flamboyance de troll. Il a levé les restrictions sur les tests sanguins Theranos, accueilli un centre de données Apple, mis fin aux interdictions locales d'Airbnb et fait pression sur les responsables pour qu'ils laissent Ubers et Lyfts rouler jusqu'au plus grand aéroport de Phoenix. En cours de route, le bureau de Ducey et Uber sont entrés dans une étreinte mutuelle. À un moment donné, un membre du personnel de Ducey a envoyé un e-mail à Uber et a fait référence à une loi de l'Arizona de 2015 qui réglementait le covoiturage comme "votre facture". Parfois, Uber a suggéré des tweets pour le compte du bureau du gouverneur et des points de discussion pour les événements de presse. En juin 2015, Uber a ouvert un centre de service client et s'est engagé à embaucher 300 Arizonans. Et en août, Ducey a signé un décret exécutif exubérant permettant aux entreprises de tester des véhicules autonomes sur la voie publique. Tout cela était bon pour Uber. À l'époque, son PDG, Travis Kalanick, voyait dans le développement des robotaxis une bataille existentielle, notamment avec Google. L'entreprise devait au moins être à égalité pour la première place dans la course à l'autonomie, sinon, a-t-il déclaré dans une interview, "Uber n'est plus une chose". Les conducteurs humains ne pourraient jamais rivaliser sur les coûts. Mais au début de 2015, l'entreprise de Kalanick était loin derrière. Uber a donc recruté 40 experts du département de robotique de Carnegie Mellon pour créer un groupe appelé Uber Advanced Technologies Group et l'a chargé de transformer l'entreprise en une force autonome. Uber a injecté des centaines de millions de dollars dans l'unité autonome, qui, au cours des trois prochaines années, passera à plus de 1 000 employés dans cinq villes. En 2016, alors que Waymo de Google et Cruise de GM pilotaient déjà des prototypes de voitures autonomes dans la région de Phoenix, Ducey a repéré une autre façon de refaire de son état la capitale nationale des tests de conduite autonome. En décembre, la Californie a révoqué les immatriculations des voitures d'essai d'Uber après que l'entreprise ait refusé d'obtenir un permis d'essai. En quelques heures, Ducey a tweeté : « La Californie ne voudra peut-être pas de vous ; mais AZ oui !" Le lendemain, les Volvo d'Uber ont été chargées sur des semi-remorques à destination de l'Arizona. À l'époque, les régulateurs fédéraux étaient en retrait, suggérant que les entreprises signalent volontairement leurs pratiques de sécurité et recommandant aux États de faire de même. Dans une industrie secrète, les kilomètres parcourus en mode autonome étaient un signal clé de la vitalité d'un programme. Ainsi, tout au long de 2017, alors que l'Arizona est devenu le plus grand site de test d'Uber, les employés se souviennent des dirigeants de l'entreprise exigeant que les opérateurs "écrasent des kilomètres" - des centaines de milliers, puis des millions d'entre eux. "C'étaient des objectifs assez délibérément scandaleux", explique Jonathan Barentine, un ancien employé qui a formé les opérateurs de secours humains. "Nous essayions d'accélérer très rapidement, ce qui à l'époque était ce qu'Uber était bon ou capable de faire." Fin 2017, Uber se vantait d'accumuler 84 000 miles par semaine. Bientôt, Uber faisait rouler 40 voitures sur des milliers de kilomètres en Arizona jusqu'à huit quarts de travail par jour, des pilotes humains sauvant les robots naissants lorsqu'ils tournaient mal et les régulateurs surveillant à peine. Lorsque l'Arizona a accueilli le programme audacieux d'Uber, Bryant Walker Smith, un éminent spécialiste de la politique de conduite autonome, a déclaré au San Jose Mercury News que Ducey « posséderait » symboliquement l'avenir de la conduite autonome de l'entreprise, qu'il s'agisse d'un succès ou d'un accident très médiatisé. . En Californie, Smith avait recommandé aux responsables de l'État de révoquer l'enregistrement d'Uber ; quant à l'adhésion rapide de l'Arizona au même programme, il a averti: "Il y a des risques à ce niveau de permissivité." AU COURS de 2017, le groupe des technologies avancées a fait appel à des centaines d'opérateurs de test en Arizona. Jonathan Barentine, un responsable de programme amical et précoce qui n'avait que quelques années d'études en arts libéraux à Cornell, a été affecté à Tempe pour superviser la formation des nouvelles recrues. Il se souvient que Vasquez, embauchée cet été-là, a pris la formation si au sérieux qu'elle est apparue stressée. "Cela a semblé être une grande pause pour elle", dit-il. "Elle tenait vraiment à s'assurer qu'elle pouvait faire son travail." Pour de nombreux nouveaux opérateurs, qui venaient de travailler dans des équipes de nettoyage ou en tant que chauffeurs-livreurs ou chauffeurs réguliers d'Uber, entrer dans le siège social de Tempe du groupe Advanced Technologies était comme entrer dans un Shangri-la de la Silicon Valley. L'installation est venue avec un surnom séduisant - Ghost Town - de l'époque où peu d'employés se présentaient au vaste immeuble de bureaux. Le nom était resté alors même que des rangs explosifs de travailleurs se rendaient pour des affectations de voiture, des repas gratuits et une salle de repos remplie de Red Bull et de collations. Les opérateurs touchaient des avantages sociaux complets et environ 20 à 24 dollars de l'heure, des salaires solides de la classe moyenne de la région. Les collègues de Vasquez achetaient des maisons et réservaient des vacances. Les travailleurs se sont émerveillés de la latitude et de la confiance dans la culture de l'entreprise : tout le monde a donné son avis lors de débriefings réguliers, et les responsables ont laissé les travailleurs prendre des pauses au besoin pour rester attentifs sur la route. Certains sont restés après les heures pour jouer à des jeux vidéo. Et ils travaillaient à l'avant-garde de la technologie. Flavio Beltran, un opérateur du programme Tempe, déclare : « J'avais l'impression, wow, je fais partie de l'histoire. J'ai ressenti un immense sentiment de fierté. » Vasquez, pour sa part, était assez modérée. Elle dit que le mélange de travail solitaire avec quelques interactions lui convenait. Alors qu'elle a commencé à compter quelques collègues comme amis, elle semblait principalement engagée dans le travail. Un superviseur dit que Vasquez se rendrait au bureau de son directeur pour signaler une nouvelle friandise sur les voitures ou faire des suggestions. Elle a obtenu une prime pour ses performances fin 2017. Au cours des premiers mois d'essais sur les routes, deux personnes travaillaient ensemble dans la voiture. Idéalement, la personne assise sur le siège de gauche (côté conducteur) annonce des éléments tels que des obstacles et des panneaux de signalisation : Voyons-nous le cycliste devant nous ? Le piéton de gauche ? Ce panneau stop ? La personne occupant le siège de droite confirmerait sur un ordinateur portable si le système l'a détecté : Vérifiez. Vérifier. Vérifier. S'il y avait un hoquet, la personne assise au siège du conducteur pouvait prendre le contrôle de la voiture. L'autre personne rédigeait le problème pour que l'entreprise l'examine. À l'automne 2017, quelques mois seulement après l'éviction de Kalanick en tant que PDG, Uber a annoncé qu'il modifiait le plan. Désormais, il n'y aurait qu'un seul opérateur dans chaque voiture. Certains ont entendu dire que c'était parce que la technologie s'améliorait. Mais avec l'unité autonome grignotant des centaines de millions de dollars par an, d'autres membres du groupe Advanced Technologies ont entendu qu'Uber voulait étendre les coûts de main-d'œuvre sur plus de kilomètres. (Uber dit que le coût n'a pas été un facteur dans sa décision.) Barentine a hésité à recycler les travailleurs pour qu'ils gèrent seuls les voitures. En règle générale, dit-il, un conducteur solo ne serait utilisé que pour tester des versions plus matures du logiciel, en partie pour minimiser le nombre de fois que l'humain devait prendre le relais du véhicule. Désormais, les commentaires sur les performances du véhicule en cours de route devaient être saisis via certains boutons sur une tablette montée sur le tableau de bord. Quelques opérateurs m'ont dit qu'ils devaient s'habituer à manipuler la voiture seuls, pendant des heures, sans interlocuteur pour pimenter les boucles répétitives. Combiné au nombre de milles qu'ils accumulaient, le changement inquiétait également Barentine. « Tous mes collègues du développement de l'apprentissage étaient très inquiets », dit-il. Sans une deuxième paire d'yeux dans la voiture pendant de longues périodes en mode autonome, les travailleurs ont également eu plus de mal à résister à l'attrait interdit d'utiliser leur téléphone. Le tout premier jour où il était seul dans la voiture, Adam Caplinger, un opérateur à Pittsburgh, où Uber testait également des véhicules autonomes, a pris une photo à un feu rouge. Il a lui-même rapporté la transgression. Les managers lui ont ensuite montré une vidéo de la dashcam de la voiture. Alors que la voiture continuait de rouler, il avait continué à taper sur son téléphone, un moment dont Caplinger ne se souvenait même pas. "J'avais mal au ventre", raconte-t-il. "Mes yeux sont allés beaucoup plus sur mon téléphone que je ne le pensais." La direction lui a dit qu'ils devaient montrer l'exemple et l'a renvoyé. Même le gars qui a conçu cette affiche "Ça peut attendre" - celle qui pendait autour de Ghost Town rappelant aux opérateurs de ne pas décrocher leur téléphone - a enfreint la règle. Début 2018, après avoir parcouru des milliers de kilomètres en autonomie, Flavio Beltran a repéré la traînée d'un avion et a pris une photo, juste au moment où un opérateur dans une autre voiture passait en le regardant. "J'étais comme, 'Oh mec, putain'", dit Beltran. La direction a exhorté les opérateurs à signaler les collègues qui ont enfreint les règles. ("Quatre-vingt-dix-neuf pour cent de l'équipe souhaitaient que le programme se poursuive et essayaient de le préserver", explique un superviseur.) Les responsables de Tempe ont également effectué des vérifications ponctuelles rétroactives occasionnelles, en extrayant les images de la caméra de tableau de bord de véhicules sélectionnés au hasard. Mais avec des horaires chargés et l'augmentation spectaculaire des kilomètres, les contrôles étaient peu fréquents. (De plus, dit Barentine, il semblait que les vérifications régulières, les déplacements et les plans d'amélioration de la direction de Tempe pour les personnes peu performantes avaient échoué.) Le superviseur de Vasquez a déclaré plus tard aux enquêteurs qu'il n'avait jamais visionné de vidéos d'elle au travail. L'entreprise n'a pas non plus contrôlé les chauffeurs en temps réel, explique un autre superviseur : "Nous ne voulions pas que les opérateurs pensent que nous ne faisions que les espionner pendant qu'ils essayaient de travailler". Surtout, a-t-il ajouté, ils faisaient confiance aux opérateurs pour se surveiller eux-mêmes. Mais quiconque fait le maintien de l'ordre, qu'il soit superviseur ou opérateur, fait face à une bataille de Sisyphe contre un phénomène bien documenté : ce qu'on appelle la complaisance en matière d'automatisation. Lorsque vous automatisez une partie d'une tâche, le surveillant humain commence à croire que la machine s'en occupe et cesse d'y prêter attention. De nombreuses industries ont eu du mal à trouver des moyens de garder les travailleurs attentifs face à ce fait. En 2013, Google a lancé son propre programme pilote d'auto-conduite, utilisant des employés pour tester des voitures sur leur trajet. Dites de surveiller la route et d'être prêts à prendre le relais en cas d'urgence, les Googleurs ont plutôt tapé sur leur téléphone, recourbé leurs cils et dormi en dévalant l'autoroute. Google a mis fin à l'expérience en quelques semaines, décidant qu'elle devait sortir complètement les humains de la boucle - seule une automatisation complète ferait l'affaire. Plus récemment, des conducteurs de Tesla utilisant la fonction de pilote automatique de leur véhicule ont été aperçus en train de dormir alors qu'ils roulaient sur des autoroutes et ont été impliqués dans un certain nombre d'accidents mortels, dont un dans lequel un conducteur californien avait un jeu de stratégie actif sur son téléphone. Chez Uber, les opérateurs disent qu'il était plus facile de rester concentré sur le travail au début, comme l'a dit un travailleur de Pittsburgh, lorsque les bouffonneries des voitures étaient fréquentes et dramatiques. Mais avec une seule personne dans la voiture et les machines s'améliorant à la navigation, il était plus facile de s'éloigner. Entre avril 2017 et février 2018, selon les dossiers qu'Uber a donnés plus tard aux enquêteurs, la société a surpris 18 opérateurs en infraction avec la politique téléphonique. Uber a donné à neuf d'entre eux une formation supplémentaire et a licencié les neuf autres, dont Beltran. « J'ai compris pourquoi. C'était notre seule règle majeure », dit Beltran. "J'étais dévasté. C'était l'un des meilleurs emplois que j'aie jamais eus. » Mais lui et Caplinger m'ont dit que leurs dérapages étaient en partie dus à la politique de l'entreprise : ils n'auraient jamais pris ces fichues photos, disent-ils, s'il y avait encore une deuxième personne dans la voiture. Le 13 mars 2018, cinq jours avant l'accident, Robbie Miller, directeur des opérations de la division des camions autonomes d'Uber, a envoyé un e-mail aux dirigeants et aux avocats de l'entreprise. Dans le message, publié plus tard par The Information, Miller se plaignait que certains conducteurs de la division automobile semblaient mal formés, endommageant des voitures presque tous les deux jours en février. Il a exhorté l'entreprise à remettre un deuxième opérateur dans chaque voiture. Il a également écrit que réduire considérablement la taille de la flotte "réduirait considérablement la probabilité qu'ATG soit impliqué dans un accident". Cinq jours après l'envoi de Miller, Vasquez s'est retirée du garage de Ghost Town pour parcourir la boucle de Scottsdale pour ses 72e et 73e - et dernière - fois. Au cours de ses 39 minutes sur la route cette nuit-là, la voiture lui a demandé de prendre le relais une seule fois, pendant quelques secondes. Un ancien employé d'Uber de Pittsburgh - qui travaillait comme analyste de triage, examinant les incidents signalés par les opérateurs sur la route - dit qu'il a été déconcerté par le nombre de boucles que l'entreprise a accumulées à l'époque des «milles écrasés». Lorsque l'accident s'est produit, dit-il, un ami du travail lui a envoyé un texto sinistre. Il s'en souvient en lisant: «C'est finalement arrivé. Nous avons finalement tué quelqu'un. "JE NE PEUX PAS DONNER des conseils juridiques", a déclaré l'officier Loehr à Vasquez, assis dans la camionnette des services aux victimes après avoir demandé si elle pourrait avoir besoin d'un avocat. Les autorités reconstitueraient l'accident, a-t-il expliqué, et cela déterminerait si Vasquez avait été du tout négligent. "Il y a une possibilité hypothétique que cela devienne criminel", lui a-t-il dit. "Je ne prévois pas que cela se passera ainsi." Même après que Vasquez ait écouté le clip de Loehr à travers ses droits Miranda, l'ait entendu dire que tout ce qu'elle disait pouvait être utilisé contre elle devant le tribunal, elle a continué à parler : de son travail et du bon fonctionnement de la voiture, du fait qu'elle n'avait vu que Herzberg "juste à l'impact." Elle parlait comme si elle était réconfortée que quelqu'un soit gentil et veuille écouter. Il l'a exhortée à appeler un numéro d'intervention d'urgence pour les services de santé mentale. « Ne vous en faites pas pour ça. Ce que vous avez traversé est la définition du traumatisme. Alors qu'il terminait l'interview, Loehr a déclaré: «Vous devriez respirer. Tu vas bien. Des collisions se produisent. Mais les flics de Tempe savaient que ce n'était pas juste une autre collision. Et Uber aussi : Immédiatement après l'accident, l'entreprise a immobilisé sa flotte de voitures autonomes sur tous ses sites de test. "Vous savez aussi bien que moi, cela va être une histoire internationale", a déclaré un officier à un groupe de représentants d'Uber sur les lieux. Les caméras corporelles de la police tournaient, a-t-il dit, et tout se ferait « à découvert ». La voiture et tous ses enregistrements étaient maintenant des preuves ; toute tentative de les modifier, a-t-il averti, serait un crime. Sur une note plus collégiale, l'officier a ajouté qu'il avait besoin d'Uber pour être un partenaire de détective. "Nous allons travailler ensemble tout au long de ce processus à partir de maintenant, probablement pendant des mois." Aux petites heures du matin, Vasquez s'est retiré au siège d'Uber pour se calmer et a finalement conduit chez lui. La Volvo a été remorquée jusqu'à un poste de police et les flics ont obtenu des mandats pour les données de la voiture. Avant l'aube, ils avaient pris la garde de la carte mémoire SanDisk de la caméra montée sous le rétroviseur, celle qui enregistrait à la fois le pilote humain de la voiture et une vue de la route devant. Les employés d'Uber ont aidé les flics à trouver les bonnes images, qui allaient jouer un rôle clé dans l'enquête : vidéo de Vasquez dans le siège du conducteur pendant que la voiture naviguait sur l'itinéraire ; puis de Vasquez regardant vers son genou droit, vers la console inférieure. Ses regards vers le bas ont duré en moyenne 2,56 secondes, mais lors d'une première boucle, sur le même tronçon de route où l'accident aurait lieu, elle a baissé les yeux pendant plus de 26 secondes. Parfois, les enquêteurs pensaient qu'elle avait l'air de sourire. Dans les secondes qui ont précédé la collision de la voiture avec Herzberg, Vasquez a baissé les yeux pendant environ cinq secondes. Juste avant l'impact, elle leva les yeux et haleta. Les médias sont tombés sur l'histoire le lendemain. Tout de suite, des experts ont été cités pour fustiger l'environnement réglementaire laxiste de l'Arizona, appelant à un moratoire national sur les tests et affirmant que des décès sont inévitables lors du développement d'une telle technologie. Au début, dit Vasquez, elle a été rassurée par la position publique de la police. La chef de la police de Tempe, Sylvia Moir, a déclaré au San Francisco Chronicle : « Il est très clair qu'il aurait été difficile d'éviter cette collision dans n'importe quel mode (autonome ou motorisé) en fonction de la façon dont elle est venue de l'ombre jusque dans la chaussée. ” Uber, a-t-elle dit, "ne serait probablement pas en faute", bien qu'elle n'exclue pas des frais pour le pilote humain. Après cette interview, m'a dit Moir, des e-mails animés d'une "rage atroce" ont inondé sa boîte de réception, accusant Moir de complicité dans les expériences de conduite autonome de Tempe et de blâmer Herzberg pour sa propre mort. Les gens étaient en colère et voulaient des comptes. Au fil des heures, les journalistes ont commencé à déterrer autant de détails que possible sur Vasquez, y compris des informations sur un crime de 18 ans pour lequel elle avait purgé un peu moins de quatre ans de prison. À la fin de la journée, un mandat de perquisition avait été émis pour tout téléphone portable que Vasquez avait avec elle dans la Volvo "afin de déterminer si Rafaela était distraite". Peut-être que cela montrerait ce qui l'intéressait tant à côté de son genou. Le mandat énumérait également le crime faisant actuellement l'objet d'une enquête : l'homicide involontaire coupable au volant d'un véhicule. DEUX NUITS APRÈS l'accident, un trio de policiers s'est rassemblé devant la chambre 227 d'un Motel 6 à Tucson. Vasquez s'était enregistrée parce que, dit-elle, les journalistes se pressaient dans son appartement. Les premiers jours l'avaient mise sous le choc. «Je savais que tout s'était passé; Je ne pouvais tout simplement pas croire que cela se produisait. J'étais choqué." Maintenant, alors qu'elle saluait les flics, elle semblait calme mais légèrement nerveuse ; son avocat ne voulait pas qu'elle réponde à des questions, leur a-t-elle dit. Ils étaient là pour mettre ses téléphones en preuve. Elle a d'abord dit aux agents qu'elle n'avait eu que son téléphone professionnel avec elle dans la voiture lors de l'accident, mais a finalement remis deux téléphones LG - celui qu'elle utilisait pour le travail, avec un étui noir, leur a-t-elle expliqué, et son personnel, dans un étui métallique. Le lendemain matin, les données extraites par la police n'ont montré aucun appel passé ni SMS envoyé dans les minutes précédant l'accident. Ensuite, selon les rapports de police, les flics se sont dirigés vers les applications. Des vidéos étaient-elles diffusées au moment du crash ? Les mandats de perquisition sont allés à Netflix, Hulu et YouTube. La police de Tempe réfléchissait également à l'opportunité de rendre publiques les images de la caméra de tableau de bord de Volvo des moments qui ont précédé l'accident. L'avocat du comté de Maricopa, Bill Montgomery, leur a dit que la diffusion de la vidéo, qui était alors en garde à vue, pourrait compromettre le droit de leur suspect à une procédure judiciaire équitable. Mais Moir dit que la police subissait une pression «considérable» de la part du public pour le faire, et ils voulaient montrer qu'il n'y avait rien à cacher; alors la police a tweeté les images. Soudain, le monde pouvait voir à la fois Vasquez et Herzberg dans les secondes précédant l'impact. Joe Guy, un opérateur à Tempe, s'est réuni avec d'autres qui étaient venus dans Ghost Town, et ils ont regardé la vidéo de Vasquez. "La plupart d'entre nous," dit-il, "nous nous sommes dit:" Qu'est-ce qu'elle regardait, putain? Au garage de la police, les flics sont restés là pendant que l'entreprise téléchargeait les données de la voiture mise en fourrière afin qu'elle puisse analyser ce que le système avait fait cette nuit-là. Trois jours après l'accident, les dirigeants d'Uber en visite se sont réunis à Ghost Town avec la police de Tempe et des enquêteurs fédéraux de la National Highway Traffic Safety Administration et du National Transportation Safety Board, le premier organisme fédéral d'enquête sur les accidents. Parce que le logiciel était propriétaire, m'a expliqué l'ancien président du NTSB, Robert Sumwalt, tout le monde avait besoin d'Uber pour partager ses découvertes. Selon un rapport de police de la réunion, les représentants d'Uber ont expliqué au groupe que l'entreprise avait annulé la fonction de freinage automatique intégrée de Volvo. Uber dira plus tard aux enquêteurs que c'était parce qu'il interférait avec les propres systèmes de l'entreprise. Les représentants ont également présenté leurs conclusions préliminaires : bien que le propre système de conduite d'Uber ait reconnu Herzberg, il n'a rien fait pour éviter de la heurter. C'était le travail de Vasquez, ont-ils dit. Elle n'avait sorti la voiture de son autonomie que juste avant le moment de l'impact. Vasquez n'était pas là pour entendre l'affirmation d'Uber, mais assez rapidement, dit-elle, les interactions de ses superviseurs avec elle sont passées de consolantes à énervantes. Un jour, dit Vasquez, on lui a dit de ne pas se présenter à la soirée cinéma de la société. "C'est à ce moment-là que j'ai vraiment commencé à devenir nerveuse", dit-elle. Vasquez avait demandé à son employeur de payer un avocat de la défense pénale, et Uber avait accepté. Maintenant, ses contacts avec ses collègues de travail et ses amis de travail se sont interrompus. Ajoutant à l'incertitude, une semaine après l'accident, le gouverneur Ducey a écrit au PDG d'Uber, Dara Khosrowshahi, avec un nouveau ton sévère : "Ma priorité absolue est la sécurité publique", a-t-il déclaré. Il a trouvé que les images de la caméra de tableau de bord "étaient dérangeantes et alarmantes". Il était, a-t-il écrit, suspendu la capacité d'Uber à tester ses voitures dans l'État. DIX JOURS APRÈS l'accident, Uber a accepté de verser un règlement au mari d'Elaine Herzberg et à sa fille Christine Wood, qui affirme qu'il s'agissait de quelques millions. Wood n'avait pas non plus de maison et avait campé près du site de l'accident. Wood dit que Herzberg, qui avait purgé des peines dans la prison du comté pour des accusations de drogue, avait tenté de protéger ses enfants de ses luttes avec des substances contrôlées. "Elle n'en était pas fière et elle a fait ce qu'elle pouvait pour s'assurer que mon frère et moi restions à l'écart", a déclaré Wood. Elle dit qu'elle et sa mère se sont souvent promenées là où l'accident s'est produit, parfois pour recharger leurs téléphones à une prise électrique dans la médiane. (La ville a depuis rempli les sentiers de la médiane et ajouté plus de panneaux d'interdiction de passage dans la zone.) À sa mort, Herzberg avait de la méthamphétamine dans le sang. Avec l'argent du règlement, le mari de Wood et Herzberg a acheté une maison de ranch à Mesa. "Cela m'a fait sortir de la rue, ce qu'elle aurait voulu que je fasse", dit-elle. Des mois plus tard, Uber s'est également installé avec les parents et le fils de Herzberg, explique la mère de Herzberg, Sharon Daly. "Je ne voulais pas encaisser ce putain de chèque parce que ça le rendrait définitif", m'a dit Daly au téléphone, commençant à pleurer. "Et je voulais qu'elle revienne." Alors qu'Uber a éteint sa responsabilité civile, les enquêteurs ont continué à faire pression pour obtenir de nouveaux détails. À la mi-avril, Vasquez était assise pendant trois heures - avec son avocat payé par Uber et le propre avocat d'Uber - à parler aux enquêteurs du National Transportation Safety Board. Selon le compte rendu de l'entretien de l'agence, elle leur a dit qu'au travail ce soir-là, elle avait rangé son téléphone personnel dans son sac à main derrière elle. Son téléphone professionnel était sur le siège passager. Elle a dit qu'elle avait surveillé la tablette Uber qui était montée sur la console centrale, puis a levé les yeux et a vu Herzberg. Ensuite, la police de Tempe a commencé à recevoir des informations des mandats vers les applications de streaming. YouTube et Netflix n'ont trouvé aucune activité dans les heures entourant la collision. Mais fin mai, l'équipe juridique de Hulu a rapporté qu'après 21h16, le téléphone personnel de Vasquez a commencé à diffuser l'émission de talents The Voice. L'épisode s'est arrêté à 9h59. L'accident s'est produit à 9h58. Environ un mois plus tard, la police a publié des centaines de pages de documents d'enquête à la presse, y compris le rapport apparemment accablant de Hulu. L'analyse de la police a révélé que, si elle avait regardé la route, Vasquez aurait pu s'arrêter à plus de 42 pieds devant Herzberg. Ils ont jugé l'accident "entièrement évitable". Et comme ça, l'attention des médias s'est déplacée d'Uber vers Vasquez, parfois en termes caricaturaux méchants. (Un titre du Daily Mail : "Une criminelle condamnée au volant d'une voiture autonome Uber diffusait la voix sur son téléphone et riait avant l'accident qui a tué un piéton en Arizona.") Vasquez a défini une alerte Google sur son nom, puis n'a pas pu N'arrêtez pas de lire tous les commentaires, y compris les insultes à propos de son apparence et d'être trans. "J'ai fait une spirale", se souvient-elle. "Maintenant, j'entends des choses que je n'ai pas entendues depuis le lycée." Offensée et blessée, elle s'est demandée ce que son identité de genre avait à voir avec l'accident, et elle a fermé ses comptes sur les réseaux sociaux. Pendant des mois, Vasquez a attendu de voir ce que ferait le procureur du comté de Maricopa. Une accusation d'homicide involontaire coupable en voiture pourrait signifier des années de prison et le retour d'un schéma familier dans sa vie, un schéma d'élan se retournant contre elle. RAFAELA VASQUEZ EST née dans la banlieue du Maryland. Sa mère est morte d'une crise cardiaque alors qu'elle n'avait que 3 ans, elle a donc été élevée par son père. Il est né à Porto Rico mais a déménagé à New York au début de son adolescence. Il a été embauché chez IBM et a gravi les échelons pour devenir manager. La famille a suivi son travail, se déplaçant à travers la Géorgie, le Maryland, l'Arizona et la Virginie. Dans les années 1980, alors qu'elle était à l'école primaire et au collège, son père a ramené à la maison les premiers PC de son entreprise, semant son amour des gadgets alors qu'elle passait des heures absorbée par Pong. Mais son père était un catholique strict et un ancien sergent de marine qui a servi au Vietnam, et il s'est hérissé de la féminité de son enfant. Il a essayé un certain nombre d'interventions, dit Vasquez, "pour prier les homosexuels et les militaires pour éloigner les homosexuels" - une école primaire catholique, une équipe de football, une école militaire de cinquième année appelée Linton Hall School. Elle a été harcelée tout du long. "Je ne savais tout simplement pas ce que j'étais, je n'avais personne à qui parler", dit-elle. Elle a trouvé du réconfort en rendant visite à sa tante Janice, de la famille des baptistes noirs du Sud de sa mère. "Même si je sais qu'elle ne m'approuvait pas, elle ne m'a jamais traité différemment et m'aimait toujours." Vasquez dit qu'elle a été abusée sexuellement dans son enfance par deux prêtres, un entraîneur et un thérapeute. "Je pensais que c'était moi et qu'il y avait quelque chose qui n'allait pas avec moi, parce que chaque fois que nous déménagions, je pensais:" OK, ça n'arrivera pas. "Mais c'est arrivé; J'étais toujours très seul. Je n'ai jamais eu d'amis… Je ressemblais au genre de personne qui garde un secret. Vasquez dit qu'elle a tenté de se suicider pour la première fois en troisième année. Quand elle était au collège, la famille a déménagé à Tucson et, dit-elle, les abus sexuels ont finalement cessé. Mais elle n'avait toujours pas de mot pour décrire ce qu'elle ressentait; elle avait vu les "transsexuels" à la télévision tabloïd, érotisés d'une manière à laquelle Vasquez ne s'identifiait pas. Gay ne semblait pas le décrire non plus. Elle s'est réfugiée dans les salons de discussion d'AOL, où elle pouvait parler à des personnes qui ne la connaissaient pas dans la vraie vie. Puis elle a trouvé un club de danse électronique en ville appelé Fineline, où elle a rencontré pour la première fois des amis transgenres. Au lycée, Vasquez a travaillé jusqu'à un visage plein de maquillage gothique, ce qui l'a également aidée à dissimuler les ecchymoses d'avoir été battue par des garçons. Ses cheveux étaient courts à cette époque, mais Vasquez a cessé de corriger les gens quand ils l'appelaient "elle". Elle a également commencé à prendre des pilules d'œstrogène Premarin qu'elle a achetées à ses amis trans pour 2 $ la pop. "Je ne savais pas que cela s'appelait la transition. Tout ce que je savais, c'est que je me sentais mieux. Après avoir obtenu son diplôme, Vasquez a traversé une série d'emplois, des cours dans des collèges communautaires, des cours à l'Université de l'Arizona. Au milieu de la vingtaine, elle a rencontré un gars dans une rave à Phoenix. Josh, qu'elle considérait comme son premier petit ami, était de six ans son cadet. À la mi-2000, il était également en probation pour avoir volé une voiture, et Vasquez était en probation pour avoir falsifié une demande de chômage. À l'époque, elle gérait un magasin de vidéos Blockbuster à Scottsdale. Un matin, elle et un collègue se sont rendus à la banque pour déposer 2 783 $ de la caisse enregistreuse du magasin sur le compte d'entreprise de Blockbuster. Le petit ami de Vasquez s'est précipité vers la voiture, pointant une arme de poing sur eux, selon un rapport de police, et elle a remis l'argent. Pourtant, un mois plus tard, la police a arrêté Vasquez. Des informateurs avaient dit à la police qu'elle avait participé au braquage. Lors d'un interrogatoire, son petit ami a dit la même chose. Alors que Vasquez a catégoriquement nié toute implication dans la police, sa caution a été fixée à 70 800 $. Elle ne pouvait pas se le permettre, alors elle est restée dans la prison du comté de Maricopa pendant cinq mois, logée avec des détenus de sexe masculin. Vasquez dit qu'elle a été agressée sexuellement par des détenus et des gardiens, mais à part en parler à sa tante, elle n'a pas officiellement signalé l'abus. "Je n'avais jamais eu à subir de suture anale auparavant, mais je l'ai fait en prison." Elle a plaidé coupable de tentative de vol à main armée et le juge l'a condamnée à cinq ans de prison. Son ex-petit ami, qui avait tenu l'arme pendant le braquage et a plaidé coupable de vol à main armée - un crime plus grave - a été condamné à quatre ans. En prison, Vasquez était hébergée avec des hommes, n'était pas autorisée à prendre des hormones et dit qu'elle a de nouveau été régulièrement agressée sexuellement. Là-bas, elle a écrit une lettre à son père - "62 pages recto-verso" - expliquant que son identité de genre ne partait pas. La lettre a aidé à commencer à réparer leur relation effilochée, et il est venu lui rendre visite régulièrement et a essayé de commencer à l'appeler par son nom préféré. Au cours de la dernière année de sa peine, elle a été transférée dans une cour de prison à faible sécurité où elle a pu socialiser avec d'autres détenus transgenres. Ils lui ont appris à mélanger des produits de consommation avec de la vaseline ou de la graisse capillaire pour le maquillage : Atomic Fireballs pour le brillant à lèvres, un crayon de golf pour l'eye-liner, Kool-Aid pour le fard à paupières. Elle dit que les détenues l'ont chargée de fabriquer de la drogue de contrebande - de l'eau, des sachets de sucre, du pain, des oranges et des bonbons Jolly Ranchers. De retour dans la région de Phoenix en 2004, alors qu'elle avait 30 ans, Vasquez a rapidement emménagé avec un ami, a tiré des chèques d'invalidité pour sa santé mentale langoureuse et a plongé dans la thérapie. "La prison m'a vraiment gâchée", dit-elle. "Et j'ai mis du temps à m'en remettre." Elle a finalement cherché des emplois qui lui permettaient de travailler à domicile, prenant des appels d'assistance technique pour Cricket Wireless et Dell. Par l'intermédiaire d'entrepreneurs, elle a été embauchée pour une série d'emplois à distance en tweetant des commentaires en direct pour The Bachelorette et Dancing With the Stars et en modérant le contenu signalé sur Facebook. Elle s'est inscrite en tant que bêta-testeur bénévole, échangeant des commentaires passionnés contre des casques et des iPad Plantronics gratuits. « Les gens craignent que les robots ne prennent le contrôle du monde et de nos emplois ? Je voulais qu'ils le fassent », dit-elle. "J'aime les robots." Pour un travail, elle portait une chemise avec une caméra intégrée dans un bouton et se faisait passer pour une locataire potentielle pour surveiller les travailleurs des bureaux de location. Quand elle travaillait régulièrement, elle rapportait plus de 40 000 $ par an, assez pour louer une maison et soutenir ses pit-bulls de sauvetage, Sweetie et Romeo, et plus tard Tyson. Elle a trouvé Tyson dans une benne à ordures, quand il était un chiot, enfermé dans un sac en plastique. Elle était liée aux pit-bulls. «Ils sont tellement incompris», dit-elle. Elle savait ce que c'était que d'être jugée sur les apparences, d'avoir des gens intimidés par elle. «Je pense que j'ai un RBF: visage de chienne au repos», dit-elle. "On me demande:" Es-tu fou? "Non." Les chiens sont devenus ses principaux compagnons, se recroquevillant avec elle à la maison alors que sa solitude virait à l'agoraphobie. Lorsque sa tante Janice est décédée, son état émotionnel a encore plongé. Parfois, elle ne quittait la maison que pour des courses d'épicerie de fin de soirée pour des promenades de croquettes ou de chiens au clair de lune. "Si je n'avais pas eu de chiens", dit-elle, "je me serais laissé dépérir." En 2015, Vasquez a décidé qu'elle devait se forcer parmi les gens. Elle s'est donc inscrite pour conduire pour Lyft et Uber. Elle a répondu honnêtement lors de l'intégration d'Uber : aucun crime au cours des sept dernières années. Et elle se sentait bien de ramasser des étrangers quelques nuits par semaine. C'était sa voiture, après tout, et elle pouvait arrêter de travailler si elle devenait trop anxieuse, ou elle pouvait appeler les flics si un ivrogne ne partait pas. Son agoraphobie a commencé à s'atténuer alors qu'elle discutait avec les étrangers qui se glissaient sur le siège arrière. Après quelques années, Vasquez a repéré une publicité pour l'unité de conduite autonome d'Uber. "J'ai réussi le test", dit-elle. À l'été 2017, elle s'est envolée pour Pittsburgh pour un camp d'entraînement d'une semaine. Les Volvo autonomes ont été installées sur une piste d'entraînement, et Vasquez a appris à passer ses mains autour du volant et son pied sur le frein pendant que la voiture se conduisait toute seule. Toucher l'un ou l'autre prendrait le contrôle, ce qu'elle devait faire rapidement, car les entraîneurs programmaient la voiture pour faire des erreurs. Les recrues qui se sont trompées ont été éliminées au cours de la semaine; Vasquez a fait la coupe et est retourné à Tempe pour plus de mentorat, travaillant jusqu'à tester les voitures sur les routes publiques. "C'était rafraîchissant pour moi", dit-elle. "J'avais l'impression de recommencer" DANS LES SEMAINES qui ont suivi la mort d'Herzberg, le groupe des technologies avancées d'Uber a tenu un certain nombre de réunions générales. L'analyste du triage se souvient que le PDG Eric Meyhofer avait les yeux gonflés - "comme s'il ne dormait pas et pleurait". Meyhofer et d'autres dirigeants ont déclaré qu'ils coopéraient avec la police et les enquêteurs fédéraux. Ils ont dit au personnel qu'ils n'allaient pas laisser l'enquête interne se transformer en un jeu de blâme et ne feraient aucune hypothèse sur Vasquez. La direction a dit aux employés qu'ils pouvaient prendre des congés ou consulter des conseillers en deuil sur place. Avec les voitures hors de la route, l'entreprise a également plongé dans sa propre introspection technique - en faisant une auto-évaluation de l'accident et des pratiques de sécurité d'Uber et en créant un panel de conseillers en sécurité, dont un ancien administrateur de la NHTSA. La fouille des faits n'était pas flatteuse : Uber a déclaré au NTSB que sa technologie n'avait jamais identifié Herzberg en tant que personne. Presque chaque fois que le système changeait ce qu'il pensait être Herzberg - une voiture, un vélo, autre - il repartait de zéro pour calculer où l'objet pouvait se diriger, c'est-à-dire traverser la route dans la voie de la Volvo. Uber avait programmé la voiture pour retarder le freinage brusque d'une seconde afin de permettre au système de vérifier l'urgence - et d'éviter les fausses alarmes - et à l'humain de prendre le relais. Le système ne freinerait fort que s'il pouvait entièrement éviter l'accident, sinon il ralentirait progressivement et avertirait l'opérateur. En d'autres termes, au moment où elle a jugé qu'elle ne pouvait pas entièrement éviter Herzberg cette nuit-là, la voiture n'a pas claqué sur les freins, ce qui aurait pu rendre l'impact moins violent. Volvo a effectué ses propres tests après l'accident, a-t-il déclaré au NTSB, et a constaté que son système de freinage automatique, celui qu'Uber a remplacé pour son propre système, aurait empêché l'accident dans 17 scénarios sur 20 et aurait réduit la vitesse d'impact. dans les trois autres. "Avant cet accident, je pense qu'il y avait beaucoup de reconnaissance dans l'industrie que 'Là, mais pour la grâce de Dieu, je vais. Nous essayons d'être responsables, mais quelque chose pourrait arriver'", déclare Bryant Walker Smith, l'auto-entrepreneur. -conduite scolaire. "Lorsque l'accident s'est produit, il est passé de ce" Oh, mon Dieu, cela pourrait arriver à n'importe qui "à" Eh bien, oui, bien sûr, c'était Uber "." les dirigeants de l'entreprise. "Les gens ont dit franchement qu'il s'agissait d'une énorme connerie, et qu'il y avait une culpabilité morale, et que l'entreprise devait changer", dit Barentine. L'analyste du triage s'est demandé s'il était «implicitement impliqué là-dedans. Est-ce que ce sang est sur mes mains ? "Ce sont des gens qui sont venus travailler ici à cause de la promesse de l'auto-conduite et de cet avenir utopique", m'a dit un responsable basé à Pittsburgh. "C'était un coup assez gros pour le corps, qu'ils avaient l'impression d'avoir contribué à quelque chose d'aussi grave." La société a abandonné son projet de mise en service d'un taxi sans conducteur d'ici la fin de 2018 ; le nouvel objectif était 2022. "Tout a été défini par cet événement", dit le manager à propos de l'accident. "Cela nous a donné une vision très nette de ce que la voiture était réellement capable de faire. C'était loin d'être ce que la perception du public était. Un matin de fin mai, les quelque 300 employés de Tempe en poste ont été invités à se présenter à Ghost Town. Lorsque le superviseur est arrivé pour la réunion, il a vu que des cadres supérieurs étaient arrivés par avion. "J'étais comme, 'Oooooohh merde'." le groupe : Arizona avait rejeté leurs propositions de rester. Tout le monde a été licencié. Les employés ont reçu deux mois de salaire en vertu de la loi de l'État, et encore deux mois dans le cadre d'un programme de séparation Uber avec un accord de non-divulgation. (Uber dit que Vasquez a également reçu une indemnité de départ en 2018, mais ne dirait pas combien.) Après l'annonce, les gens ont rencontré des représentants des ressources humaines sur place et ont fait leurs adieux sous le choc. Le superviseur se souvient d'un opérateur de chant d'opéra beuglant des souches d'"Ave Maria" dans les rangs décroissants comme une coda. Maintenant, certains des collègues opérateurs de Vasquez l'ont carrément pointée du doigt. Bon nombre des neuf opérateurs qui m'ont parlé ont accepté – et en étaient fiers – leur rôle dans la prévention des accidents. J'ai demandé à Beltran, qui avait été licencié pour avoir regardé son téléphone : son propre manquement n'était-il pas à un degré ou deux éloigné de Vasquez qui regardait son téléphone pendant plusieurs secondes à la fois ? "Non, non, non, non, non", m'a-t-il dit. "C'est comme aller au-delà de ne pas faire son travail." Cet été-là, le groupe Advanced Technologies Group a également licencié 100 opérateurs à Pittsburgh et à San Francisco et a mis fin à son programme de camions autonomes. Les centaines d'employés restants se concentreraient sur les voitures dans une nouvelle ère hyper axée sur l'amélioration de la sécurité. À un moment donné, selon des documents judiciaires, un responsable technique du programme a téléphoné au détective de police Thomas Haubold, qui dirigeait l'enquête Tempe. Dans une conversation enregistrée de 48 minutes, l'appelant a déclaré qu'il craignait que Vasquez ne soit trop blâmé et qu'un problème plus important soit obscurci : que dans sa quête pour mettre autant de voitures sur la route le plus rapidement possible, Uber avait ignoré les risques. Il a dit à Haubold de ne pas faire confiance à Uber pour être totalement ouvert. L'entreprise, a déclaré l'initié, était "très intelligente en matière de responsabilité au lieu d'être intelligente en matière de responsabilité". L'appel semblait avoir peu d'impact. Un an après l'accident, un procureur de l'Arizona a annoncé que l'État n'inculperait pas Uber dans le cadre du décès. Le mois suivant, le groupe Advanced Technologies a reçu un investissement de 1 milliard de dollars de SoftBank, Denso et Toyota, valorisant la division à 7,25 milliards de dollars, trois semaines avant l'introduction en bourse d'Uber. Tout au long, certains employés ont été surpris qu'aucun dirigeant n'ait été licencié à cause de la mort de Herzberg ou dans le désarroi qui a suivi. Maintenant, avec des accusations criminelles contre Uber, Vasquez était seul dans le purgatoire légal. FAIT LA LIGNE à Chipotle un jour, Vasquez se souvient avoir entendu une voix : Est-ce la personne qui a tué cette dame ? Vasquez se précipita vers la porte. Après que des photos de son visage et la vidéo d'elle dans la Volvo aient circulé dans les médias, Vasquez a tenté de se rendre invisible. Elle a gardé ses cheveux raides pour éviter d'attirer l'attention avec les tresses de fils multicolores qu'elle aimait porter. Quand elle devait aller à l'épicerie, elle se calmait les nerfs dans le parking, puis se précipitait ou ramassait simplement des choses sur le trottoir. Lorsque Covid a frappé, elle s'est sentie complètement soulagée de mettre un masque. Licenciée aux côtés des autres membres du personnel de Tempe, Vasquez a tenté d'étirer ses économies - ainsi que, éventuellement, les prestations d'invalidité pour sa santé mentale - du mieux qu'elle pouvait. À un moment donné, Vasquez a postulé pour un emploi chez Taco Bell pour tester ses perspectives. Réessayez une fois vos problèmes juridiques réglés, dit-elle, on lui a dit. C'est de la mauvaise publicité. Loin des médias et de quiconque pourrait la reconnaître, elle dit avoir vécu pendant des mois avec ses chiens dans une chaîne de Motel 6. Vasquez a finalement déménagé à Tucson, où elle s'est occupée de son père, qui était traité pour un cancer. Avec de l'argent en baisse et un espace limité, elle a dû abandonner ses chiens, un autre coup dur alors que l'isolement s'installait. "Avant, je choisissais d'être seule", dit-elle. "Cette fois, je me sentais comme si j'étais seul parce que personne ne voulait être autour de moi." Le plus pénible, c'est qu'elle a arrêté la thérapie qui l'avait aidée pendant des années, voulant éviter tout risque que son thérapeute soit assigné à comparaître. Lorsque des amis lui ont demandé ce qu'ils avaient lu sur l'affaire, Vasquez leur a dit: "Ce n'est pas vrai." Mais elle ne pouvait pas élaborer. En novembre 2019, un an et demi après le crash, le NTSB a publié son rapport final. Le document de 78 pages n'avait pas de poids légal; il visait à prévenir de futurs accidents. Mais il a appelé ce qu'il a dit être la cause probable de l'accident : Vasquez a été distraite par son "téléphone portable personnel". Le rapport a également qualifié sa distraction d'"effet typique de la complaisance en matière d'automatisation" et a déclaré que Vasquez était loin d'être le seul contributeur à l'accident. Les conclusions du conseil visaient également les réglementations laxistes des agences fédérales et étatiques et, au centre d'une grande partie du rapport, la "culture de sécurité inadéquate" d'Uber. Lors d'une réunion du conseil d'administration du NTSB, le vice-président Bruce Landsberg a déclaré: "Il y a suffisamment de responsabilités pour circuler ici de tous les côtés." Le président du NTSB, Robert Sumwalt, s'est concentré sur Uber : "La collision était le dernier maillon d'une longue chaîne d'actions et de décisions prises par une organisation qui, malheureusement, n'a pas fait de la sécurité la priorité absolue." Pourtant, l'enquêteur du NTSB, David Pereira, a salué la coopération d'Uber et ses changements de sécurité après l'accident pour éviter de nouveaux incidents. Peu de temps après, l'État de l'Arizona, luttant contre un procès pour négligence de la fille de Herzberg devant un tribunal civil, a également partiellement blâmé Uber, alléguant que l'entreprise était "responsable du fait d'autrui" pour son employé. (L'affaire a été classée.) En ce qui concerne les accusations criminelles, près d'un an après ce rapport, en août 2020, les procureurs du comté de Maricopa ont présenté leurs preuves contre Vasquez devant un grand jury. Et c'est ainsi que Rafaela Vasquez - et seulement Rafaela Vasquez - a été inculpée pour avoir prétendument causé la mort du premier piéton par une voiture autonome. L'ACCUSATION ÉTAIT homicide par négligence avec un instrument dangereux. Elle risque quatre à huit ans de prison si elle est reconnue coupable. Quand elle a appris la nouvelle, Vasquez s'est recroquevillée en position fœtale sur le sol de la chambre de son père, luttant pour respirer alors qu'il tentait de la calmer. "C'était un cauchemar", dit-elle. "J'étais juste dévasté, au-delà dévasté par ça."...
Lire la source

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd