Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Problème 1796

Incidents associés

Incident 2534 Rapports
Cruise's Self-Driving Cars Allegedly Lost Connection to Their Server, Causing Traffic Blockages in San Francisco

Loading...
GM Cruise Robotaxis a bloqué les rues de SF plus fréquemment que nous ne le savions, une nuit "près de 60" voitures arrêtées
sfist.com · 2022

GM Cruise snafus a bloqué les rues de SF avec des voitures autonomes soudainement immobilisées au moins trois fois au cours des deux derniers mois, avec un incident où près de 60 véhicules se sont arrêtés et un autre où Cruise "a perdu le contact avec l'ensemble de sa flotte".

Nous avons écrit la semaine dernière à propos d'un étrange cyber-snafu avec des robotaxis autonomes de GM Cruise, où au moins huit des voitures sans conducteur se sont liguées et [ont bloqué Gough Street "pendant quelques heures"] (https://sfist.com /2022/07/01/flock-of-gm-cruise-self-driving-cars-just-plain-stop-working-block-gough-street-for-a-couple-of-hours/) et ne bougerait pas jusqu'à ce que les employés de GM se présentent et déplacent les voitures manuellement.

Il s'avère que ce n'était pas le seul incident de ce type où des voitures robots autonomes bloquaient la rue et n'autorisaient pas le trafic. En fait, ce n'était même pas le seul incident de ce genre cette nuit.

Wired a un nouveau rapport détaillant de nombreux incidents de véhicules GM Cruise gelant soudainement et arrêtant la circulation à San Francisco. Il s'agit notamment de l'incident de cette nuit-là, mais aussi d'un incident jusque-là non signalé la même nuit "près du Golden Gate Park de San Francisco", où deux voitures normales conduites par des humains "et un bus de transport adapté ont été piégés dans un sandwich robotaxi".

De manière terrifiante, Wired ajoute que ce soir-là, "les messages internes vus par WIRED montrent que près de 60 véhicules ont été désactivés à travers la ville sur une période de 90 minutes après avoir perdu le contact avec un serveur Cruise".

"Perte de contact avec un serveur de croisière." Ça va super !

Un samedi soir très San Francisco. Un groupe de 3 voitures sans conducteur @Cruise s'est embrouillé et s'est arrêté et a bloqué deux voies de Masonic. Les robots gagneront juste en bloquant le trafic. pic.twitter.com/63Xi8RG21I

— Scott Gatz (@sgatz) 22 mai 2022

Cela s'était également produit lors d'incidents non signalés auparavant. Dans la nuit du 18 mai, selon des documents internes acquis par Wired, "l'entreprise a perdu le contact avec l'ensemble de sa flotte pendant 20 minutes alors que ses voitures étaient arrêtées dans la rue". (Ceci est documenté par un passant dans le tweet ci-dessus.) Wired ajoute que lors de cet incident, "le personnel de l'entreprise n'a pas pu voir où se trouvaient les véhicules ni communiquer avec les passagers à l'intérieur. Pire encore, l'entreprise n'a pas pu accéder à son système de secours, qui permet aux opérateurs à distance de diriger en toute sécurité les véhicules arrêtés sur le bord de la route. »

@Cruise passant devant #GoldenGatePark heureusement la nuit n'est pas l'heure la plus chargée, sinon cela aurait été un accident plus grave. C'est pourquoi ils ont besoin d'un chauffeur dans la voiture en cas de problème ! Par exemple, si quelqu'un l'avait frappé, comment obtiendrait-il les informations sur l'assurance ? pic.twitter.com/bfQAWkzTme

— Soyez maladroit😎 c'est OK ! (@WonderG78) 24 juin 2022

Pour faire bonne mesure, cela semble s'être reproduit le 24 juin, comme on le voit ci-dessus, où ce n'était apparemment qu'un seul véhicule GM Cruse qui a gelé, et d'autres conducteurs ont pu manœuvrer autour de lui.

Le porte-parole de Cruise, Tiffany Testo, a déclaré dans une déclaration à Wired que "Nous travaillons pour minimiser la fréquence à laquelle cela se produit, mais c'est et restera un aspect de nos opérations de sécurité globales", Cela n'explique pas vraiment pourquoi cela continue à se produire, ni cela inspire-t-il beaucoup de confiance que cela ne se reproduira pas encore et encore, et cela ne montre aucune préoccupation pour les conséquences potentiellement mortelles.

Le rapport de Wired a tiré certaines de ses informations d'une "lettre envoyée anonymement par un employé de Cruise à la California Public Utilities Commission" sonnant l'alarme. Donc, apparemment, quelqu'un à l'intérieur de Cruise pense que c'est un problème époustouflant. Et la seule raison pour laquelle nous savons tout cela est via cette lettre anonyme, ou des gens ordinaires qui viennent de tomber sur ces snafus et publient leur expérience sur les réseaux sociaux.

Cruise ne semble pas désireux de faire connaître la fréquence de ces incidents, et la California Public Utilities Commission qui réglemente ces machines connaît clairement le problème et semble contente de le laisser continuer.

Cela peut signifier qu'il n'y aura pas de contrecoup réglementaire ou de changements opérationnels jusqu'à ce qu'un véhicule d'urgence soit bloqué et/ou qu'un événement tragique se produise. Donc, pour les piétons, les résidents et les conducteurs de la ville et du comté de San Francisco, nous ne pouvons qu'espérer que la boule de roulette de cette tragédie, ou de ces tragédies, ne nous tombe pas dessus.

Lire la source

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd