Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Problema 1796

Incidentes Asociados

Incidente 2534 Reportes
Cruise's Self-Driving Cars Allegedly Lost Connection to Their Server, Causing Traffic Blockages in San Francisco

Loading...
GM Cruise Robotaxis bloqueó las calles de San Francisco con más frecuencia de lo que creíamos, una noche 'casi 60' autos se detuvieron
sfist.com · 2022

Los problemas de GM Cruise han bloqueado las calles de San Francisco con automóviles autónomos inmovilizados repentinamente al menos tres veces en los últimos dos meses, con un incidente en el que se detuvieron casi 60 vehículos y otro en el que Cruise "perdió el contacto con toda su flota".

Escribimos la semana pasada sobre un espeluznante problema cibernético con los robotaxis autónomos de GM Cruise, donde al menos ocho de los autos sin conductor se juntaron y [bloquearon Gough Street "durante un par de horas"] (https://sfist.com) /2022/07/01/flock-of-gm-cruise-self-driver-cars-simplemente-dejar-de-trabajar-block-gough-street-por-un-par-de-horas/) y no se movió hasta que aparecieron los empleados de GM y movieron los autos manualmente.

Resulta que ese no fue el único incidente de este tipo de autos robot autónomos que bloquearon la calle y no permitieron el paso del tráfico. De hecho, ni siquiera fue el único incidente de esa noche.

Wired tiene un nuevo informe que detalla [numerosos incidentes de vehículos GM Cruise que se congelan repentinamente] (https://www.wired.com/story/cruises-robot-car-outages/) y detiene el tráfico en San Francisco. Estos incluyen el incidente de esa noche, pero también un incidente no informado anteriormente esa misma noche "cerca del Golden Gate Park de San Francisco", donde dos automóviles normales conducidos por humanos "y un autobús de paratránsito quedaron atrapados en un sándwich robotaxi".

De manera aterradora, Wired agrega que esa noche en particular, "los mensajes internos vistos por WIRED muestran que casi 60 vehículos se desactivaron en toda la ciudad durante un período de 90 minutos después de que perdieron el contacto con un servidor de Cruise".

“Perdí el contacto con un servidor de cruceros”. ¡Va genial!

Una noche de sábado muy San Francisco. Un paquete de 3 autos sin conductor @Cruise se confundió, se detuvo y bloqueó dos carriles de Masonic. Los robots ganarán simplemente bloqueando el tráfico. pic.twitter.com/63Xi8RG21I

— Scott Gatz (@sgatz) 22 de mayo de 2022

Esto también había sucedido en incidentes no informados anteriormente. En la noche del 18 de mayo, según documentos internos adquiridos por Wired, “la empresa perdió el contacto con toda su flota durante 20 minutos mientras sus autos estaban detenidos en la calle”. (Esto está documentado por un transeúnte en el tweet anterior). Wired agrega que en ese incidente, “el personal de la compañía no pudo ver dónde estaban ubicados los vehículos ni comunicarse con los pasajeros en el interior. Lo peor de todo es que la empresa no pudo acceder a su sistema alternativo, que permite a los operadores remotos dirigir de forma segura los vehículos detenidos al costado de la carretera”.

@Cruise pasando por #GoldenGatePark afortunadamente la noche no es la hora más ocupada o esto habría sido un accidente mayor. ¡Es por eso que necesitan un conductor en el automóvil en caso de que algo salga mal! Como si alguien hubiera golpeado eso, ¿cómo van a obtener la información del seguro? pic.twitter.com/bfQAWkzTme

— Sé incómodo 😎 ¡está bien! (@WonderG78) 24 de junio de 2022

En buena medida, esto parece haber sucedido nuevamente el 24 de junio, como se ve arriba, donde aparentemente solo un vehículo GM Cruse se congeló y otros conductores pudieron maniobrar a su alrededor.

La portavoz de Cruise, Tiffany Testo, dijo en un comunicado a Wired que "estamos trabajando para minimizar la frecuencia con la que esto sucede, pero es y seguirá siendo un aspecto de nuestras operaciones generales de seguridad". Eso realmente no explica por qué esto sigue sucediendo, ni ¿Inspira mucha confianza en que no sucederá una y otra vez, ni muestra ninguna preocupación por las consecuencias potencialmente mortales?

El informe de Wired obtuvo parte de su información de "Una carta enviada de forma anónima por un empleado de Cruise a la Comisión de Servicios Públicos de California" que hizo sonar la alarma. Entonces, aparentemente, alguien dentro de Cruise siente que este es un problema espectacular. Y la única razón por la que sabemos algo de esto es a través de esa carta anónima, o de personas normales que simplemente se encuentran con estos errores y publican su experiencia en las redes sociales.

Cruise no parece interesado en publicar la frecuencia de estos incidentes, y la Comisión de Servicios Públicos de California que regula estas máquinas claramente conoce el problema y parece contentarse con permitir que continúe.

Eso puede significar que no habrá retroceso regulatorio o cambios operativos, hasta que un vehículo de emergencia se bloquee y/o suceda algo trágico. Entonces, para los peatones, residentes y conductores de la ciudad y el condado de San Francisco, solo podemos esperar que la bola de la ruleta de esa tragedia, o esas tragedias, no caiga sobre nosotros.

Leer la Fuente

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd