Incidentes Asociados
Durante una escala reciente en UCLA, grabé de manera oportunista un video de un robot de entrega que casi inmediatamente se metió en problemas. Lo que sigue es una introducción a los elementos de diseño de los robots de entrega como se muestra en una serie de eventos desafortunados.
El mercado de la entrega robótica
En 2021, la financiación global para empresas de robótica y drones [aumentó a 14 900 millones de dólares] (https://www.thestreet.com/technology/why-vcs-are-pouring-money-into-robotics). Entre estas empresas de alto vuelo se encuentra la startup de entrega de alimentos, Starship Technologies, que ha recaudado $ 202 millones en su camino (según Starship) [convertirse en la flota de robots de entrega más grande del mundo] (https://techcrunch.com/2022/03/ 01/starship-technologies-levanta-otros-42m-para-impulsar-el-crecimiento-de-su-flota-de-robots-de-entrega-auto-dirigidos/).
Starship no está solo en el mercado de entregas robóticas. Muchas empresas persiguen el problema de la entrega de "última milla", y es probable que veamos estos sistemas en nuestra vida cotidiana. Amazon, por ejemplo, solicitó la aprobación regulatoria para [comenzar la entrega aérea en una pequeña ciudad de California] (https://techcrunch.com/2022/06/13/amazon-starting-drone-deliveries-in-california-town- después en este año/).
Por casualidad, me encontré con una unidad de entrega de Starship mientras caminaba por la Universidad de California, Los Ángeles. Durante mi encuentro con una unidad de entrega, grabé varios minutos de video y, casi de inmediato, presencié una interesante serie de eventos que ilustran muchas de las propiedades de diseño requeridas para este tipo de implementación.
Registro de eventos: 3 de abril de 2022
Quedarse Atascado en la Maceta
(0:00) Un robot Starship que funciona en modo autónomo comienza a regresar al depósito.
(0:13) El robot se mueve hacia el extremo derecho del camino para permitir que los peatones pasen fácilmente alrededor del robot.
(0:17) Las ruedas derechas del robot se salen del borde del camino, pero el robot continúa hacia adelante.
(0:29) El robot detecta un obstáculo al final del camino actual y comienza a moverse hacia la izquierda, pero las ruedas no despejes el labio.
(0:36) El lado derecho del robot cae en la maceta y el robot intenta girar a la izquierda de forma autónoma.
Los humanos tratan de ayudar
(1:14) El patinador 1 saca el robot de la maceta.
(1:24) El robot gira de forma autónoma hacia la sembradora.
(1:30) Patinador 1: "No sé lo que quiere, ahora está solo".
(1:44) Patinador 2: "Tienes que ayudar a un hermano" (procede a empujar al robot fuera de la maceta)
Controlado a distancia
(2:03) El robot comienza a moverse de nuevo, probablemente como un dron controlado de forma remota. Los intermitentes ya no funcionan. El robot comienza a deambular.
(2:30) Un patinador salta por las escaleras.
(2:40) El robot salta por las escaleras.
Creo que esta secuencia de eventos es excepcional y no el rendimiento operativo estándar de la unidad Starship. Es más irónico que esperado que la única vez que seguí una de estas unidades produjo un incidente de IA cuando los incidentes de IA son el [enfoque actual de mi vida profesional] (https://incidentdatabase.ai/). Sin embargo, este incidente y un incidente relacionado en el que Starship fue [atropellado por un tren] (https://incidentdatabase.ai/cite/176) nos enseña cómo y por qué estos sistemas están diseñados de la forma en que están.
Elementos de diseño del robot Starship
Este análisis se deriva tanto de los primeros principios aplicados a mis observaciones como de las declaraciones públicas de Starship Technologies y sus empleados.
Navegación
En el video, notará que la unidad se desplaza hacia el lado derecho del camino, una elección de los diseñadores de Starship para respetar la norma del lado derecho de los Estados Unidos. También lleva a la unidad a la periferia más peligrosa de los caminos, que es como primero se mete en problemas al encontrar sus ruedas fuera del borde del camino. Esto exhibe una tensión común en los sistemas optimizados: ¿valora las normas humanas y se mueve hacia la derecha o la operación libre de errores del sistema y se dirige hacia el centro?
Humanos tratando de ayudar
Las unidades de entrega de Starship son a veces más robóticas (es decir, ejecutan movimientos independientes del control humano directo) y más drones (es decir, están controladas por un operador humano remoto). Los representantes de la compañía han declarado que las unidades de entrega de Starship operan de forma totalmente autónoma en más del 99 por ciento de las entregas. En el 1 por ciento restante del tiempo, una persona se conecta de forma remota a la unidad desde uno de los tres países con equipos de operadores. En el video de arriba, puede saber en qué modo está la unidad en función de si la unidad indica sus giros con luces intermitentes. Cuando un operador humano controla el Starship, es posible que no utilice las señales de giro de la unidad. Solo hace los giros.
Un robot de entrega podría emplear muchas reglas diferentes sobre cuándo una persona debe comenzar a controlar de forma remota (por ejemplo, cuando una ruta normalmente despejada está completamente bloqueada), pero creo que el evento que desencadenó el control remoto en este incidente fue una combinación de quedar atrapado por el sembrador y siendo empujado por el Patinador 2. Cuando los patinadores intentaron ayudar, probablemente registró un movimiento que no fue producido por los motores eléctricos de la unidad. Esto activaría la advertencia de vandalismo de la unidad.
Tan pronto como la unidad registró un posible vandalismo, un operador humano se conectó a las cámaras y controles. Los movimientos se volvieron erráticos y ya no se indicaban los giros. La tarea del operador humano es devolver la unidad a la pista GPS para que pueda continuar su camino sin supervisión humana. Evidentemente, el ángulo de cámara bajo que podía ver el operador humano no podía ver los escalones y la Starship voló por los aires. Poco después de saltar las escaleras, la unidad encontró la pista de GPS de regreso al depósito y continuó su camino y golpeó un scooter en la ruta.
¿Es este un buen negocio?
Mi experiencia al observar el producto de Starship Technologies plantea dudas sobre si la tecnología es una "buena apuesta", desde el punto de vista comercial. La Universidad Estatal de Oregón (es decir, el lugar en el que dos Starships han sido destruidos por trenes) paga a 9 empleados estudiantes además de 6 empleados no estudiantes que trabajan en la supervisión y mantenimiento de la flota de entrega del campus. Suponiendo que todos los empleados estudiantes trabajen a tiempo parcial, sigue siendo una gran cantidad de personas que apoyan la implementación. Con tanta gente involucrada, no creo que las implementaciones sean rentables en este momento, pero esto podría cambiar fácilmente con el aumento de los pedidos de entrega. Este modelo de entrega escala bien.
Si bien puede llevar algunos años comenzar a registrar ganancias, parece que Starship desea expandirse lo más rápido posible para operar en tantos entornos controlados de alta densidad como lo permita su apoyo de capital. Tengo más dudas de que Starship, y cualquier otra compañía de entrega, esté lista para enfrentarse al entorno de mundo abierto mucho más complicado. Espero que Starship Technologies continúe con sus despliegues cuidadosos en el mundo real y evite trenes.