Incidents associés
WENTZVILLE, Missouri (First Alert 4) - Un restaurant local populaire affirme qu'un outil d'intelligence artificielle conçu pour améliorer les résultats de recherche Google sème la confusion chez ses clients.
Le restaurant Stefanina's Wentzville a mis en garde ses clients contre des résultats de recherche contenant des informations trompeuses, voire carrément fausses.
Le message disait :
« Veuillez ne pas utiliser l'IA de Google pour découvrir nos offres spéciales. Veuillez consulter notre page Facebook ou notre site web. L'IA de Google est imprécise et propose des offres inexistantes, ce qui provoque la colère des clients et les injures envers nos employés. Nous ne pouvons pas contrôler ce que Google publie ou dit et nous ne respecterons pas les offres spéciales de l'IA de Google. »
Eva Gannon, membre de la famille propriétaire du restaurant, a expliqué que le problème résidait dans le fait que les clients avaient découvert des offres spéciales chez Stefanina's qui n'étaient pas disponibles.
Elle a notamment cité un aperçu de l'IA montrant que Stefanina's proposait une grande pizza au même prix qu'une petite. Elle a également précisé que certains éléments du menu générés par l'outil étaient incorrects.
« Cela nous revient en pleine figure », a déclaré Gannon. « En tant que petite entreprise, nous ne pouvons pas honorer une offre spéciale Google IA. »
Google n'a pas répondu aux messages de FirstAlert4 concernant la situation. Cependant, le guide en ligne de l'entreprise sur l'utilisation de l'IA (https://support.google.com/websearch/answer/14901683?hl=fr&visit_id=638912447191764176-562331764&p=ai_overviews&rd=1) prévient que les résultats peuvent parfois être inexacts, car l'outil commet des erreurs ou interprète mal les données qu'il examine.
Jonathan Hanahan, professeur à l'Université de Washington qui utilise et enseigne l'intelligence artificielle, la décrit comme un outil qui, bien qu'utile, requiert néanmoins le scepticisme des utilisateurs et une volonté de vérification des faits.
« Il y a une grande différence entre utiliser l'IA et travailler avec l'IA », a-t-il déclaré.
Hanahan a pris comme exemple une application de score de golf sur laquelle il travaille. Grâce à l'IA, il peut rapidement intégrer des informations de parcours qui lui prendraient normalement des heures à collecter. Mais pour que l'application soit efficace, il doit néanmoins vérifier les informations collectées par le logiciel.
Il a expliqué que l'un des problèmes liés à l'utilisation de l'IA pour la recherche d'informations est que certaines formulations des invites peuvent fausser les informations, risquant ainsi un biais de confirmation.
« Il faudra parfois prendre des libertés pour obtenir ce que l'on cherche », a-t-il expliqué.
Il a ajouté que l'essentiel pour les utilisateurs est de bien réfléchir aux types de questions et d'invites qu'ils utilisent pour recueillir des informations, et d'éviter ce qu'il décrit comme une relation binaire.
« Réfléchissez à la manière dont vous posez les questions, les incitations », a-t-il dit. « Pensez à la conversation dans son ensemble et pas seulement aux choses que vous espérez découvrir. »