Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Problema 2473

Loading...
Los federales revisan el tweet de Musk sobre la desactivación del monitoreo del conductor
apnews.com · 2023

DETROIT (AP) — Un tuit de Elon Musk que indica que Tesla podría permitir que algunos propietarios que están probando un sistema de “conducción autónoma total” deshabiliten una alerta que les recuerda que deben mantener las manos en el volante llamó la atención de los reguladores de seguridad de EE. UU. .

La Administración Nacional de Seguridad del Tráfico en las Carreteras dice que le pidió a Tesla más información sobre el tuit. La semana pasada, la agencia dijo que el problema ahora forma parte de una investigación más amplia sobre al menos 14 Tesla que se han estrellado contra vehículos de emergencia mientras usaba el sistema de asistencia al conductor Autopilot.

Desde 2021, Tesla ha estado probando la versión beta de la "autoconducción completa" con propietarios que no han sido capacitados en el sistema pero que son monitoreados activamente por la compañía. A principios de este año, Tesla dijo que participaban 160.000, aproximadamente el 15% de los Tesla que ahora circulan por las carreteras de EE. UU. Una distribución más amplia del software se implementaría a fines de 2022.

A pesar del nombre, Tesla todavía dice en su sitio web que los autos no pueden conducirse solos. Los Tesla que utilizan la "conducción autónoma total" pueden navegar por las carreteras por sí mismos en muchos casos, pero los expertos dicen que el sistema puede cometer errores. “No estamos diciendo que esté listo para no tener a nadie detrás del volante”, dijo el director ejecutivo Musk en octubre.

En la víspera de Año Nuevo, uno de los fanáticos más fervientes de Musk publicó en Twitter que los conductores con más de 10,000 millas de pruebas de "conducción autónoma completa" deberían tener la opción de apagar el "giro del volante", una alerta que les dice a los conductores que sigan manos al volante.

Musk respondió: "De acuerdo, la actualización llegará en enero".

No está claro en los tweets exactamente qué hará Tesla. Pero deshabilitar un sistema de monitoreo del conductor en cualquier vehículo que automatice la velocidad y la dirección representaría un peligro para otros conductores en la carretera, dijo Jake Fisher, director senior de pruebas automáticas de Consumer Reports.

“Usando FSD beta, eres parte de un experimento”, dijo Fisher. “El problema es que los otros usuarios de la carretera adyacentes a usted no se han registrado para ser parte de ese experimento”.

Tesla no respondió a un mensaje en busca de comentarios sobre el tuit o el monitoreo de su conductor.

Los defensores de la seguridad automotriz y los investigadores gubernamentales han criticado durante mucho tiempo el sistema de monitoreo de Tesla como inadecuado. Hace tres años, la Junta Nacional de Seguridad en el Transporte mencionó el monitoreo deficiente como un factor que contribuyó a un Tesla fatal en 2018 accidente en California. La junta recomendó un mejor sistema, pero dijo que Tesla no ha respondido.

El sistema de Tesla mide el par en el volante para tratar de garantizar que los conductores presten atención. Muchos Tesla tienen cámaras que monitorean la mirada del conductor. Pero Fisher dice que esas cámaras no son infrarrojas como las de los sistemas de asistencia al conductor de algunos competidores, por lo que no pueden ver de noche o si el conductor usa anteojos de sol.

Philip Koopman, profesor de ingeniería eléctrica e informática en la Universidad Carnegie Mellon, argumentó que Tesla se contradice a sí mismo de una manera que podría confundir a los conductores. "Están tratando de hacer felices a los clientes quitándoles las manos del volante, incluso cuando el manual (del propietario) dice 'no hagas eso'".

De hecho, el sitio web de Tesla dice que el piloto automático y el sistema más sofisticado de "conducción autónoma total" están destinados a ser utilizados por un "conductor totalmente atento que tiene las manos en el volante y está preparado para tomar el control en cualquier momento". Dice que los sistemas no son completamente autónomos.

NHTSA ha señalado en documentos que se han producido numerosos accidentes de Tesla en los que los conductores tenían las manos en el volante pero aún no prestaban atención. La agencia ha dicho que el piloto automático se está utilizando en áreas donde sus capacidades son limitadas y que muchos conductores no toman medidas para evitar accidentes a pesar de las advertencias del vehículo.

Los sistemas parcialmente automatizados de Tesla han estado bajo investigación por parte de la NHTSA desde junio de 2016 cuando un conductor que usaba el piloto automático murió después de que su Tesla quedara debajo de un camión con remolque que se cruzaba en su camino en Florida. La investigación separada de los Tesla que usaban Autopilot cuando chocaron contra vehículos de emergencia comenzó en agosto de 2021.

Incluyendo el accidente de Florida, la NHTSA envió investigadores a 35 accidentes de Tesla en los que se sospecha que se usaron sistemas automatizados. Diecinueve personas han muerto en esos accidentes.

Consumer Reports ha probado el sistema de monitoreo de Tesla, que cambia con frecuencia con las actualizaciones de software en línea. Inicialmente, el sistema no advertía a un conductor sin las manos en el volante durante tres minutos. Recientemente, sin embargo, las advertencias han llegado en tan solo 15 segundos. Sin embargo, Fisher dijo que no está seguro de cuánto tiempo podrían estar las manos del conductor fuera del volante antes de que el sistema disminuya la velocidad o se apague por completo.

Al apagar el "giro del volante", dijo Fisher, Tesla podría estar cambiando a la cámara para monitorear a los conductores, pero eso no está claro.

A pesar de que los nombres implican que Autopilot y "Full Self-Driving" pueden conducirse solos, dijo Fisher, está claro que Tesla espera que los propietarios sigan siendo conductores. Pero la NTSB dice que los conductores humanos pueden terminar bajando la guardia y confiando demasiado en los sistemas mientras buscan en otra parte o realizan otras tareas.

Es probable que aquellos que usan la "conducción autónoma total", dijo Fisher, estén más atentos para tomar el control porque el sistema comete errores.

“No soñaría con quitar mis manos del volante usando ese sistema, solo porque puede hacer cosas inesperadas”, dijo.

Koopman dijo que no ve un gran riesgo de seguridad al deshabilitar el aviso del volante porque el sistema de monitoreo de Tesla es tan defectuoso que deshabilitarlo no necesariamente hace que los Tesla sean más peligrosos.

NHTSA, dijo, tiene suficiente evidencia para tomar medidas para obligar a Tesla a instalar un mejor sistema de monitoreo.

La agencia dice que no comenta sobre investigaciones abiertas.

Leer la Fuente

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd