Problème 3432

Plus de trois ans après que Microsoft a vidé ses divisions d'information et remplacé leurs Travaillant avec l’IA et l’automatisation algorithmique, le contenu généré par ses systèmes continue de contenir de graves erreurs que l’implication humaine aurait pu, ou dû, arrêter. Aujourd'hui, The Guardian accuse la société qui a endommagé sa réputation avec un sondage intitulé « Insights from AI » paru dans Microsoft Start à côté d'une [Guardian story](https://www.msn.com/en-au/news/australia/woman-found-dead-at- st-andrews-school-in-sydney-identified-as-water-polo-coach-lilie-james/ar-AA1iQz2H?cvid=d86e5dbaf265434bac40c165ffe9bff6&ei=10#comments) sur la mort d'une femme, demandant aux lecteurs de voter sur la façon dont elle est décédée.

The Guardian a écrit que même si le sondage avait été supprimé, le mal était déjà fait. Le sondage demandait aux lecteurs de voter pour savoir si une femme s'était suicidée, avait été assassinée ou était décédée par accident. Des commentaires datant de cinq jours sur l’histoire indiquent que les lecteurs étaient bouleversés, et certains pensent clairement que les auteurs de l’histoire en étaient responsables.

Nous avons demandé à Microsoft par e-mail si le sondage avait été généré par l'IA et comment sa modération l'avait manqué, et le directeur général de Microsoft, Kit Thambiratnam, a répondu :

Nous avons désactivé les sondages générés par Microsoft pour tous les articles d'actualité et nous étudions la cause du contenu inapproprié. Un sondage n’aurait pas dû apparaître à côté d’un article de cette nature, et nous prenons des mesures pour éviter que ce type d’erreur ne se reproduise à l’avenir.

The Verge a obtenu une capture d'écran du sondage de The Guardian.

Une capture d'écran envoyée par The Guardian montre le sondage, qui est clairement intitulé « Insights from AI ». [L'image est disponible à la source d'origine.]

En août, un guide de voyage Microsoft Start apparemment généré par l'IA a recommandé visiter la Banque alimentaire d'Ottawa à Ottawa, Canada, « l'estomac vide ». Le directeur principal de Microsoft, Jeff Jones, a affirmé que l’histoire n’avait pas été réalisée avec une IA générative mais « grâce à une combinaison de techniques algorithmiques et d’examen humain ».

The Guardian dit qu'Anna Bateson, directrice générale du Guardian Media Group, a écrit dans une lettre au président de Microsoft, Brad Smith, que le sondage « clairement inapproprié » généré par l'IA avait causé « un préjudice important à la réputation » du média et de ses journalistes. Elle a ajouté que cela soulignait « le rôle important que joue un cadre solide en matière de droit d’auteur » en donnant aux journalistes la possibilité de déterminer la manière dont leur travail est présenté. Elle a demandé que Microsoft garantisse qu’il demandera l’approbation du média avant d’utiliser « la technologie expérimentale de l’IA sur ou parallèlement » à son journalisme et que Microsoft indiquera toujours clairement quand il utilise l’IA pour ce faire.

The Guardian a fourni à The Verge une copie de la lettre.

Mise à jour le 31 octobre 2023, 12 h 40 HE : Intégré La lettre du Guardian_ à Microsoft._

Mise à jour le 31 octobre 2023, 18 h 35 HE : Ajout d'une déclaration de Microsoft.

Correction le 31 octobre 2023, 18 h 35 HE : Une version précédente de cet article indiquait que le sondage était étiqueté comme « Insights by AI ». En fait, l’étiquette disait « Insights from AI ». Nous regrettons l'erreur.