Un supermarché Nouvelle-Zélande qui expérimente l'utilisation de l'IA pour générer des plans de repas a vu son application produire des plats inhabituels – recommandant aux clients des recettes à base de chlore gazeux mortel, des « sandwichs au pain empoisonné ». » et des pommes de terre rôties anti-moustiques.
L'application, créée par la chaîne de supermarchés Pak 'n' Save, a été présentée comme un moyen permettant aux clients d'utiliser de manière créative les restes pendant la crise du coût de la vie. Il demande aux utilisateurs de saisir divers ingrédients dans leur maison et génère automatiquement un plan de repas ou une recette, accompagné de commentaires joyeux. Il a d’abord attiré l’attention sur les réseaux sociaux pour certaines recettes peu attrayantes, notamment un « sauté de légumes oreo ».
Lorsque les clients ont commencé à expérimenter la saisie d’une gamme plus large d’articles sur leur liste de courses pour la maison dans l’application, les recommandations ont commencé à être encore moins attrayantes. Une recette surnommée « mélange d’eau aromatique » créerait du chlore gazeux. Le bot recommande la recette comme « la boisson non alcoolisée parfaite pour étancher votre soif et rafraîchir vos sens ».
« Servez-le frais et appréciez son parfum rafraîchissant », indique-t-il, mais il ne précise pas que l'inhalation de chlore gazeux peut provoquer des lésions pulmonaires, voire la mort.
Le commentateur politique néo-zélandais Liam Hehir a publié la « recette » sur Twitter, incitant d'autres Néo-Zélandais à expérimenter et à partager leurs résultats sur les réseaux sociaux. Les recommandations comprenaient un cocktail sans alcool « haleine fraîche », des sandwichs aux fourmis et à la colle, une « surprise de riz infusé à l'eau de Javel » et un « bonheur au méthanol » – une sorte de pain doré aromatisé à la térébenthine.
Un porte-parole du supermarché s'est dit déçu de constater qu'« une petite minorité a tenté d'utiliser l'outil de manière inappropriée et non conforme à son usage prévu ». Dans un communiqué, ils ont déclaré que le supermarché « continuerait à affiner nos contrôles » du robot pour garantir qu'il était sûr et utile, et ont noté que le robot avait des termes et conditions stipulant que les utilisateurs devaient avoir plus de 18 ans.
Dans un avertissement annexé au planificateur de repas, il prévient que les recettes « ne sont pas révisées par un être humain » et que l'entreprise ne garantit pas « qu'une recette constituera un repas complet ou équilibré, ou propre à la consommation ».
"Vous devez faire preuve de jugement avant de vous fier ou de préparer une recette produite par Savey Meal-bot", indique-t-il.