Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Problema 1485

Incidentes Asociados

Incidente 1453 Reportes
Tesla's Autopilot Misidentified the Moon as Yellow Stop Light

Loading...
La tecnología de conducción autónoma total de Tesla sigue siendo engañada por la luna, las vallas publicitarias y los letreros de Burger King
businessinsider.com · 2021

Un tuit viral mostró a un Tesla confundiendo la luna con un semáforo en amarillo.

La tecnología Full Self-Driving de la compañía ha cometido errores similares antes.

Los propietarios dicen que sus autos han sido engañados por vallas publicitarias y letreros de Burger King.

El CEO de Tesla, Elon Musk, ha estado prometiendo durante años que los vehículos totalmente autónomos están en el horizonte.

Pero la tecnología Full Self-Driving de su empresa aún no está a la altura de su nombre. Y a pesar del objetivo de Musk de eventualmente hacer que el sistema sea más seguro que un conductor humano, actualmente falla en cosas que cualquier conductor humano no pensaría dos veces.

Por ejemplo, el propietario de un Tesla publicó un clip en Twitter el jueves que mostraba que su vehículo confundía la luna con un semáforo una y otra vez mientras conducía por la carretera.

El clip muestra una luna inusualmente amarilla y baja en el cielo, por lo que uno puede ver por qué el automóvil podría registrarla como una luz amarilla y aplicar los frenos. Otro propietario respondió con su propio video mostrando el mismo escenario.

Aún así, la luna es una constante, no un caso extremo, y es algo que cualquier sistema de conducción autónoma que se precie debería identificar como a cientos de miles de millas de distancia, no solo más adelante. Además, hacer que un automóvil disminuya la velocidad inesperadamente a velocidades de autopista podría crear una situación peligrosa para el conductor y el tráfico circundante.

Para ser justos, Tesla aún no afirma que la conducción autónoma total pueda reaccionar perfectamente ante los semáforos y las señales de alto. La función "Control de semáforos y señales de alto", lanzada a través de una actualización de software a principios de 2020, todavía está en versión beta y los propietarios deben activarla manualmente.

Pero no es solo la luna la que está engañando a los Tesla. Los propietarios también informaron que sus vehículos confundieron el sol con una luz roja. Y un clip extraño muestra a un Tesla engañado por un camión que transporta semáforos.

En abril, el propietario de un Tesla notó que su automóvil siempre se detenía por completo en el mismo lugar en medio de una carretera. Un video que publicó muestra su vehículo confundiendo una imagen de una señal de alto en una valla publicitaria con la real.

Poco después de que Tesla lanzara la función de detección de semáforos en abril de 2020, el propietario de un Tesla publicó un video de su automóvil confundiendo una señal de Burger King al borde de la carretera con una señal de alto. El automóvil comienza a reducir la velocidad en la carretera de 40 mph antes de darse cuenta de que no hay una señal de alto y continúa.

Tesla resolvió el error de Burger King en una actualización de software posterior. Aún así, la cadena de comida rápida intentó sacar provecho de la falla al lanzar una promoción gratuita de Whopper para cualquier propietario de Tesla cuyo automóvil se detuvo accidentalmente en un letrero de Burger King.

En julio, el fabricante de automóviles lanzó una opción de suscripción para Full Self-Driving, bajando su precio de un pago inicial de $10,000 a tan solo $99 por mes. Pero, como muestran estos errores, el sistema no hace que los autos sean autónomos y aún no está claro cuándo lo hará.

Mientras tanto, podría decirse que es más seguro que los Tesla reconozcan demasiados semáforos y señales de alto que muy pocos.

Leer la Fuente

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd