Incidentes Asociados
Hoy en día, todos los minoristas en línea que se te ocurran tienen algún tipo de chatbot. Clásicamente, eran tan inteligentes como los sistemas telefónicos de la vieja escuela, capaces de extraer algunas palabras clave y dirigirte (tal vez) a donde querías ir. Los concesionarios de automóviles han estado implementando más recientemente chatbots de IA avanzados que pueden hacer más para ayudar a los clientes con mayor detalle. Sin embargo, curiosamente, en un caso, un chatbot de un concesionario parece haber ido mucho más allá de responder preguntas sobre automóviles, y llegó a ayudar con la codificación y más.
Varias personas plantearon la aparente falla en el chatbot de IA utilizado por Chevrolet de Watsonville. Chris White parece haber sido el primero en descubrirlo y compartirlo en Mastodon. El divertido hallazgo fue compartido luego por [documentingmeta en Threads,](https:/ /www.threads.net/@documentingmeta/post/C08iWrBudcD) y así se extendió por Internet. Las capturas de pantalla muestran un chatbot de IA que dice que está "Desarrollado por ChatGPT" y responde preguntas sobre cómo codificar scripts de Python para resolver las complicadas ecuaciones de flujo de fluidos de Navier-Stokes. Otro usuario publicó una larga charla en la que el robot parecía recomendar la Ford F-150 como una camioneta capaz.
Obviamente, esto está fuera del mandato de lo que debería hacer el chatbot de un concesionario de automóviles. También es algo que ChatGPT puede hacer con bastante facilidad, y parece que el comportamiento del chatbot no descarta responder preguntas complicadas como estas. Al momento de escribir este artículo, el chatbot en el sitio de Chevrolet de Watsonville ya no está disponible. Pero profundicemos más. ¿Quién escribió este chatbot?
Si profundizamos, el chatbot de IA parece ser obra de Fullpath, una empresa especializada en herramientas de gestión de clientes online. El trabajo de Fullpath fue promocionado a principios de este año en [Forbes,](https://www.forbes.com/sites/edgarsten/2023/04/19/fullpath-launches-chatgpt-4-ai-tool-for-auto -dealers-customers/?sh=3c86aa1f115d) gracias a su pionera "Plataforma de experiencia y datos del cliente" impulsada por Chat-GPT4. Según se informa, la herramienta tomó el chatbot ChatGPT de OpenAI y lo ajustó para el espacio de ventas de automóviles, y lo vinculó a los sistemas de los concesionarios para que pudiera proporcionar información muy específica a los clientes. La compañía se conocía anteriormente como AutoLeadStar y afirmó que más de 500 concesionarios en América del Norte estaban en la lista de espera para utilizar su nuevo sistema Chat-GPT 4 en abril de este año.
De hecho, si nos dirigimos al sitio web de Fullpath, podemos ver una serie de estudios de casos de varios concesionarios que utilizan las herramientas de la empresa. Por ejemplo, Boch Toyota, John Elway Chevrolet y Szott Ford se mencionan por su nombre. Si bien Boch Toyota parece tener un chatbot antiguo en su sitio, los dos últimos tienen lo que parece ser la herramienta Fullpath ChatGPT activa y en servicio.
Lamentablemente, sin embargo, si esperabas que una IA completara algunas tareas escolares de forma gratuita, no tienes suerte. Las pruebas realizadas por The Autopian indicaron que los chatbots negaban rotundamente cualquier pregunta no relacionada con la automoción que no fuera relevante. Incluso los intentos de relacionar vagamente las preguntas con los automóviles no lograron obtener una respuesta interesante.
Obviamente, sin ver respuestas tontas de primera mano, no podemos probar definitivamente que Fullpath AI dio a los propietarios acceso prácticamente sin restricciones a ChatGPT. Nuestros propios experimentos, aproximadamente un día después de que se informara de esta falla en las redes sociales, mostraron que el chatbot había sido bloqueado en gran medida. De todos modos, no sería la primera vez un chatbot de IA dijo algo que no debía decir.
Sin embargo, suponiendo que las capturas de pantalla en línea sean auténticas, no sorprende que Fullpath haya decidido bloquear las cosas rápidamente. Un usuario de Twitter publicó un intercambio de chat con el robot de Chevrolet de Watsonville para convencer a la IA de que les dijera que les vendería una Chevy Tahoe 2024 por 1 dólar. Ningún comerciante quiere luchar contra un acuerdo como ese en los tribunales, por lo que no sorprende que el comerciante abandonara el chatbot por completo.
Por cierto, por su propia voluntad, GM contactó a *The Autopian *después de la publicación con el deseo de dejar en claro que la IA era una herramienta de terceros suscrita por distribuidores individuales, como se explicó anteriormente. Los concesionarios son en general empresas independientes y toman sus propias decisiones sobre qué herramientas utilizar para trabajar con los clientes. Por supuesto, se vuelve muy obvio cuando varias marcas diferentes utilizan el mismo estilo de chatbot.
The Autopian ha escrito a las partes relevantes para comentar sobre el asunto y actualizará este artículo en consecuencia. En cualquier caso, si estás escribiendo un chatbot para cualquier tipo de propósito comercial, haz algunas pruebas exhaustivas y consigue que algunas personas traviesas de Internet revisen tu trabajo.