Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Problema 1182

Incidentes Asociados

Incidente 6723 Reportes
Sleeping Driver on Tesla AutoPilot

Loading...
Un conductor de Tesla dormido destaca el mayor defecto del piloto automático
wired.com · 2018

A medida que avanza la tecnología, también debe hacerlo la policía. La semana pasada, cuando un par de agentes de la Patrulla de Carreteras de California vieron a un hombre aparentemente durmiendo en el asiento del conductor de un Tesla Model S que iba a 70 mph por la autopista 101 en Palo Alto alrededor de las 3:30 a. m., se colocaron detrás del automóvil y encendieron la sirena. y luces Cuando el conductor no respondió, los policías fueron más allá de su libro de jugadas estándar. Suponiendo que el Tesla podría estar usando el piloto automático, pidieron refuerzos para reducir la velocidad del tráfico detrás de ellos, luego se detuvieron frente al automóvil y comenzaron a frenar gradualmente. Y así, el Tesla también redujo la velocidad, hasta que se detuvo en su carril.

“El pensamiento rápido de nuestros oficiales hizo que el vehículo se detuviera”, dice Art Montiel, oficial de información pública de CHP. Los oficiales arrestaron al conductor, identificado en un informe policial como Alexander Joseph Samek, de 45 años, de Los Altos, por conducir bajo la influencia del alcohol.

Ni la policía ni Tesla han confirmado si el Model S tenía el piloto automático activado en ese momento. Sin embargo, parece probable que lo fuera, ya que el vehículo permanecía en su carril y respondía a los vehículos que lo rodeaban, a pesar de que su conductor no se despertó hasta que los policías llamaron a su ventana.

MÁS INFORMACIÓN La guía WIRED para vehículos autónomos

Tesla les dice claramente a sus clientes que pagan los $ 5,000 adicionales por Autopilot que siempre son responsables de la conducción del automóvil y que deben permanecer atentos en todo momento. Conducir ebrio es ilegal. Y la tecnología de conducción autónoma del vehículo puede haber evitado un accidente. Pero si Autopilot permitió que un conductor dormido y supuestamente ebrio acelerara por la carretera, surge otra pregunta: ¿la compañía de automóviles de Elon Musk está haciendo lo suficiente para evitar el abuso humano de su tecnología?

Es una crítica de larga data pero aún relevante. El año pasado, una investigación de la Junta Nacional de Seguridad en el Transporte sobre la muerte en 2016 de un hombre de Ohio cuyo Tesla golpeó un camión mientras el piloto automático estaba activado concluyó que Tesla tenía parte de la culpa. Cuando el camión que se aproximaba se cruzó en el camino del Tesla, el sedán no redujo la velocidad hasta el impacto. “Los efectos combinados del error humano y la falta de suficientes controles del sistema dieron como resultado una colisión fatal que no debería haber ocurrido”, dijo en ese momento el presidente de la NTSB, Robert Sumwalt.

Desde entonces, Tesla ha restringido cuánto tiempo puede pasar un conductor sin tocar el volante antes de recibir un pitido de advertencia. Si no responden, el sistema finalmente indicará al automóvil que se detenga y encenderá las luces de emergencia. Eso hace que este incidente sea un poco confuso, como señaló Musk en un tweet:

Sin embargo, los sensores en el volante que registran el toque humano son fáciles de engañar, como lo demuestran los videos de YouTube. Una botella de naranja o de agua bien encajada puede hacer el truco. Los carteles en los foros en línea dicen que han atado pesas a sus ruedas y experimentado con bolsas Ziplock y "pesas pequeñas". Durante un tiempo, los conductores incluso podían comprar un "dispositivo de reducción de molestias" Autopilot Buddy, hasta que los federales enviaron a la compañía una carta de cese y desistimiento este verano.

Todo lo cual hace que el diseño de sistemas similares ofrecidos por Cadillac y Audi parezca bastante más adecuado para la tarea de mantener los ojos humanos en la carretera, incluso cuando el automóvil acciona el volante, el acelerador y los frenos. El Super Cruise de Cadillac incluye una cámara infrarroja del tamaño de una gota de goma en la columna de dirección que monitorea la posición de la cabeza del conductor: mira hacia otro lado o hacia abajo durante demasiado tiempo y el sistema emite un pitido agudo. Traffic Jam Pilot de Audi hace lo mismo con una cámara interior de seguimiento de la mirada.

Los humanos, siendo humanos, presumiblemente encontrarán formas de engañar a esos sistemas (quizás inspirándose en Homer Simpson), pero está claro que un sistema que monitorea hacia dónde mira un conductor es más robusto para este propósito que uno que puede ser engañado por cítricos.

Es posible que Tesla le dé una oportunidad. El Model 3 viene con una cámara interior montada cerca del espejo retrovisor, y aunque el fabricante de automóviles no ha confirmado para qué sirve, no se sorprenda si una actualización de software inalámbrica de repente le da a esos autos la capacidad de moverse sigilosamente. señores humanos.

Y si eso no funciona, bueno, siempre está el Tratamiento Ludovico. O un automóvil que hace toda la conducción, sin necesidad de humanos.

Más historias geniales de WIRED

Leer la Fuente

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd