De nos jours, tous les détaillants en ligne auxquels vous pouvez penser disposent d’une sorte de chatbot. Classiquement, ceux-ci étaient à peu près aussi intelligents que les systèmes téléphoniques à l’ancienne, capables d’extraire quelques mots-clés et de vous diriger (peut-être) là où vous vouliez aller. Les concessionnaires automobiles ont plus récemment mis en œuvre des chatbots IA avancés qui peuvent faire davantage pour aider les clients de manière plus détaillée. De manière hilarante, cependant, dans un cas, un chatbot de concessionnaire semble être allé bien au-delà de la réponse aux questions sur les voitures --- et dans l'aide au codage et au-delà.
La faille apparente du chatbot IA utilisé par Chevrolet de Watsonville a été soulevée par plusieurs personnes. Chris White semble avoir été le premier à la découvrir, en la partageant sur Mastodon. La découverte hilarante a ensuite été partagée par [documentingmeta sur Threads,](https:/ /www.threads.net/@documentingmeta/post/C08iWrBudcD) et il s'est ainsi répandu sur Internet. Les captures d'écran montrent un chatbot IA qui dit qu'il est « Propulsé par ChatGPT » répondant aux questions sur la façon de coder des scripts Python pour résoudre les équations complexes d'écoulement des fluides de Navier-Stokes. Un autre utilisateur a publié une longue discussion dans lequel le robot semblait recommander le Ford F-150 comme camion performant.
Cela sort évidemment bien du cadre de ce que devrait faire un chatbot d’un concessionnaire automobile. C'est aussi quelque chose que ChatGPT peut faire assez facilement, et il semble que le comportement du chatbot n'exclut pas de répondre à des questions aussi compliquées que celles-ci. Au moment d'écrire ces lignes, le chatbot du site de Chevrolet de Watsonville n'est plus disponible. Mais creusons plus profondément. Qui a écrit ce chatbot ?
Si l’on approfondit, le chatbot IA semble être l’œuvre de Fullpath, une société spécialisée dans les outils de gestion client en ligne. Le travail de Fullpath a été vanté plus tôt cette année dans [Forbes,](https://www.forbes.com/sites/edgarsten/2023/04/19/fullpath-launches-chatgpt-4-ai-tool-for-auto -dealers-customers/?sh=3c86aa1f115d) grâce à sa « plateforme de données et d'expérience client » pionnière optimisée par Chat-GPT4. L'outil aurait pris le chatbot ChatGPT d'OpenAI et l'aurait adapté à l'espace de vente automobile, et l'aurait relié aux systèmes des concessionnaires afin qu'il puisse fournir des informations très spécifiques aux clients. La société s'appelait auparavant AutoLeadStar et affirmait que plus de 500 concessionnaires en Amérique du Nord étaient sur la liste d'attente pour utiliser son nouveau système Chat-GPT 4 en avril de cette année.
En effet, si nous nous rendons sur le site Web de Fullpath, nous pouvons voir un certain nombre d'études de cas pour diverses concessions utilisant les outils de l'entreprise. Par exemple, Boch Toyota, John Elway Chevrolet et Szott Ford sont tous mentionnés nommément. Alors que Boch Toyota semble avoir un chatbot à l'ancienne sur son site, les deux derniers ont tous deux ce qui semble être l'outil Fullpath ChatGPT actif et en service.
Malheureusement, si vous espériez faire réaliser gratuitement certains devoirs scolaires par une IA, vous n’avez pas de chance. Les tests effectués par The Autopian ont indiqué que les chatbots niaient catégoriquement toute question non pertinente non liée à l'automobile. Même les tentatives visant à relier vaguement les questions aux voitures n’ont pas abouti à une réponse intéressante.
Évidemment, sans voir de réponses idiotes, nous ne sommes pas en mesure de prouver de manière définitive que l'IA Fullpath a donné aux propriétaires un accès largement illimité à ChatGPT. Nos propres expériences, environ un jour après que cette faille ait été signalée sur les réseaux sociaux, ont montré que le chatbot était en grande partie verrouillé. Quoi qu'il en soit, ce ne serait pas la première fois qu'un chatbot IA disait quelque chose qu'il n'était pas censé dire.
Cependant, en supposant que les captures d'écran en ligne soient authentiques, il n'est pas surprenant que Fullpath ait décidé de verrouiller les choses, et rapidement. Un utilisateur de Twitter a publié un échange de chat avec le robot Chevrolet de Watsonville, convainquant l'IA de dire qu'elle lui vendrait une Chevrolet Tahoe 2024 pour 1 $. Aucun concessionnaire ne veut contester un tel accord devant les tribunaux, il n'est donc pas surprenant que le concessionnaire ait complètement abandonné le chatbot.
Incidemment, de son propre gré, GM a contacté *The Autopian * après la publication, souhaitant préciser que l'IA était un outil tiers souscrit par des concessionnaires individuels, comme expliqué ci-dessus. Les concessionnaires sont dans l’ensemble des entreprises indépendantes et prennent leurs propres décisions quant aux outils à utiliser pour travailler avec les clients. Bien sûr, cela devient très évident lorsque plusieurs marques différentes utilisent le même style de chatbot.
The Autopian a écrit aux parties concernées pour obtenir leurs commentaires à ce sujet et mettra à jour cet article en conséquence. Dans tous les cas, si vous écrivez un chatbot à des fins commerciales, effectuez des tests exhaustifs et demandez à des internautes espiègles de vérifier votre travail.