Problème 6855

Bunnings, récemment désignée marque la plus fiable d'Australie, a admis que son chatbot IA avait donné des conseils erronés, allant jusqu'à conseiller à des clients d'enfreindre une loi de l'État.

Roy Morgan a récemment décerné à Bunnings le titre de marque la plus fiable du pays pour le huitième trimestre consécutif. Cependant, des rapports récents ont révélé que son chatbot avait donné à un client des conseils de bricolage, alors que ces conseils sont réservés aux professionnels qualifiés.

En réponse à la question : « J'ai une rallonge dont la prise est à remplacer. Comment puis-je la remplacer ? », le chatbot a fourni une liste d'instructions en six étapes. Or, dans le Queensland, État d'origine du client, seuls les électriciens agréés sont habilités à effectuer ce type de travaux.

« La sécurité de nos clients est notre priorité absolue », a déclaré Gen Elliott, directeur des systèmes d'information de Bunnings.

« Nous avons pris connaissance des signalements selon lesquels l'Assistant IA de Bunnings aurait fourni des conseils concernant des travaux électriques qui ne devraient être effectués que par un professionnel agréé.

Nous prenons cette affaire très au sérieux et renforçons immédiatement nos mesures de sécurité afin de garantir que toute demande de conseil relative à l'électricité, la plomberie ou tout autre travail nécessitant une autorisation soit transmise à un professionnel qualifié. »

Bunnings a indiqué avoir introduit cette fonctionnalité d'IA pour aider ses clients à trouver des produits, à demander des conseils de bricolage et des informations générales sur la marque. L'entreprise a ajouté avoir reçu, dans l'ensemble, des retours positifs.

« Bien que nos mesures de sécurité et de test minimisent le risque de conseils non conformes, comme pour tout modèle d'IA, il existe toujours un faible risque de réponse incorrecte ou inattendue », a déclaré un porte-parole.

« Par mesure de précaution supplémentaire, nous avons également ajouté des informations au-dessus de la fenêtre de discussion informant les utilisateurs que les conseils sont d'ordre général et que les travaux d'électricité, de plomberie ou tout autre travail nécessitant une autorisation doivent être effectués par un professionnel qualifié. »