Incidents associés
Alors que l’IA commence à s’imposer chaque jour davantage dans nos vies, ses limites deviennent plus évidentes à mesure qu’elle rencontre des situations que ses créateurs n’auraient peut-être pas imaginées. Le dernier exemple vient de Microsoft, qui a utilisé IA pour insérer des sondages à côté des actualités à l'intention de ses lecteurs, augmentant ainsi théoriquement fiançailles. Récemment, il a inséré un sondage sur une femme de Sydney qui a été retrouvée morte, le sondage demandant aux lecteurs quelle était, selon eux, la cause du décès.
L'article de presse concernait un entraîneur de water-polo à Sydney dont le corps avait été retrouvé dans le gymnase de l'école. Le sondage qui en a résulté a demandé aux lecteurs quelle était, selon eux, la cause, avec les options incluant un meurtre, un accident ou un suicide. Le article est originaire avec The Guardian, qui a reproché à Microsoft d'avoir inclus un sondage aussi insensé à côté de son article dans l'agrégateur d'actualités de l'entreprise, Microsoft Start (MSN.com sur le Web). Selon d'après Axios, le sondage erroné a amené Microsoft à suspendre son générateur de sondages alimenté par l'IA jusqu'à ce que il peut enquêter sur la question.
Le sondage a été enregistré par Axios avant que Microsoft ne le supprime de l'histoire suite au tollé des lecteurs. Crédit : Axios
La décision de Microsoft était trop peu, trop tard, selon The Guardian, qui a reçu de nombreuses critiques de la part de lecteurs pensant qu'il était responsable du sondage. Anna Bateson, PDG du Guardian, a écrit une lettre enflammée au président de Microsoft, Brad Smith, à propos de la situation, réitérant le souhait du journal de ne jamais vouloir que des sondages apparaissent à côté de tout contenu syndiqué. "Cette application de genAI par Microsoft est exactement le genre d'exemple contre lequel nous avons mis en garde en matière d'actualité", a écrit Bateson. Le PDG a exhorté Microsoft à préciser aux lecteurs que c'est AI, et non The Guardian, qui a participé au sondage.
Microsoft a assumé la responsabilité de ce sondage insensible. Dans une déclaration à Axios, il a écrit : « Un sondage n'aurait pas dû apparaître à côté d'un article de cette nature, et nous prenons des mesures pour éviter que ce type d'erreur ne se reproduise à l'avenir », a déclaré Microsoft.
Le whoopsie de Microsoft souligne la difficulté d’utiliser l’IA et les algorithmes pour remplacer le jugement humain. Selon selon CNN, le service d'agrégation d'actualités de Microsoft a récemment republié de nombreuses fausses histoires. L'entreprise employait auparavant plus de 800 éditeurs dans le monde pour organiser le contenu, mais a récemment réduit ce nombre en raison de « l'automatisation », ce que de nombreux éditeurs considéraient comme signifiant que l'IA faisait désormais son travail.
Au contraire, l’incident ne fait que souligner la nécessité pour les entreprises de médias de clarifier leur utilisation du contenu généré par l’IA. Reste à savoir si Microsoft empruntera cette voie lorsque ses sondages reviendront en ligne.