Incident 427: Cruise Taxis' Sudden Braking Allegedly Put People at Risk

Description: Cruise's autonomous taxis slowed suddenly, braked, and were hit from behind, allegedly becoming unexpected roadway obstacles and potentially putting passengers and other people at risk.

Outils

Nouveau rapportNouveau rapportNouvelle RéponseNouvelle RéponseDécouvrirDécouvrirVoir l'historiqueVoir l'historique

Entités

Voir toutes les entités
Présumé : Un système d'IA développé et mis en œuvre par Cruise, a endommagé Cruise , traffic participants , emergency vehicles et Cruise passengers.

Statistiques d'incidents

ID
427
Nombre de rapports
3
Date de l'incident
2022-03-15
Editeurs
Khoa Lam
Applied Taxonomies
MIT

Classifications de taxonomie MIT

Machine-Classified
Détails de la taxonomie

Risk Subdomain

7.3. Lack of capability or robustness

Risk Domain

  1. AI system safety, failures, and limitations

Entity

AI

Timing

Post-deployment

Intent

Unintentional

CV ODI
static.nhtsa.gov · 2022
Traduit par IA

La National Highway Traffic Safety Administration (NHTSA) a reçu des avis d'incidents dans lesquels des véhicules équipés d'un système de conduite automatisée (ADS) exploités par Cruise LLC (Cruise) peuvent freiner de manière inappropriée o…

G. M. Les taxis autonomes de l'unité font l'objet d'une enquête de sécurité américaine
nytimes.com · 2022
Traduit par IA

La principale agence fédérale de sécurité automobile a révélé vendredi qu'elle avait ouvert une enquête préliminaire sur des voitures qu'une division de General Motors testait en tant que taxis sans conducteur à San Francisco.

L'agence, la …

Les AV de Cruise vérifient-ils les freins des autres conducteurs ? Les fédéraux enquêtent
arstechnica.com · 2022
Traduit par IA

Mise à jour, 13 h 37 HE : Cruise a contacté Ars avec la déclaration suivante : "Le bilan de sécurité de Cruise est rendu public et comprend le fait d'avoir parcouru près de 700 000 miles entièrement autonomes dans un environnement urbain ex…

Variantes

Une "Variante" est un incident qui partage les mêmes facteurs de causalité, produit des dommages similaires et implique les mêmes systèmes intelligents qu'un incident d'IA connu. Plutôt que d'indexer les variantes comme des incidents entièrement distincts, nous listons les variations d'incidents sous le premier incident similaire soumis à la base de données. Contrairement aux autres types de soumission à la base de données des incidents, les variantes ne sont pas tenues d'avoir des rapports en preuve externes à la base de données des incidents. En savoir plus sur le document de recherche.
Incident précédentProchain incident