Incidents associés
La décision de Microsoft de remplacer les journalistes humains par des robots s'est retournée contre lui, après que le logiciel d'intelligence artificielle de la société de technologie ait illustré un reportage sur le racisme avec une photo du mauvais membre métis du groupe Little Mix.
Une semaine après que le Guardian a révélé son intention de licencier les éditeurs humains qui dirigent MSN.com et de les remplacer par le code d'intelligence artificielle de Microsoft, un déploiement précoce du logiciel a abouti à une histoire sur les réflexions personnelles de la chanteuse Jade Thirlwall sur le racisme illustrées par une image. de son collègue membre du groupe Leigh-Anne Pinnock.
Thirlwall, qui a assisté à une récente manifestation Black Lives Matter à Londres, a critiqué MSN vendredi, affirmant qu'elle en avait assez des médias "ignorants" commettant de telles erreurs. Elle a posté sur Instagram: "@MSN Si vous allez copier et coller des articles d'autres médias précis, vous voudrez peut-être vous assurer que vous utilisez une image du bon membre métis du groupe."
"Cette merde arrive à @leighannepinnock et à moi TOUT LE TEMPS que c'est devenu une blague courante", a-t-elle déclaré. "Ça m'offense que vous ne puissiez pas différencier les deux femmes de couleur sur quatre membres d'un groupe... FAITES MIEUX !"
Ce que Thirlwall ne pouvait pas savoir, selon des sources de l'entreprise, c'est que l'image a été sélectionnée par le logiciel d'intelligence artificielle de Microsoft, qui est déjà responsable de l'édition de certaines parties du site d'actualités, qui attire des centaines de millions de lecteurs dans le monde.
Un article Instagram Stories de Jade Thirlwall critiquant le service d'actualités MSN. Photographie: Jade Thirlwall
Microsoft ne réalise pas de rapports originaux, mais emploie des éditeurs humains pour sélectionner, éditer et réutiliser les articles des organes de presse, y compris le Guardian. Les articles sont ensuite hébergés sur le site Web de Microsoft et la société de technologie partage les revenus publicitaires avec les éditeurs d'origine. À la fin du mois dernier, Microsoft a décidé de licencier des centaines de journalistes en pleine pandémie et de les remplacer entièrement par le logiciel d'intelligence artificielle.
Interrogé sur la raison pour laquelle Microsoft déployait un logiciel qui ne peut pas distinguer les individus métis, si des préjugés racistes apparents pourraient s'infiltrer dans les déploiements du logiciel d'intelligence artificielle de l'entreprise par de grandes entreprises et si l'entreprise reconsidérerait son intention de remplacer les éditeurs humains par des robots, un porte-parole pour la société de technologie a déclaré: "Dès que nous avons pris connaissance de ce problème, nous avons immédiatement pris des mesures pour le résoudre et avons remplacé l'image incorrecte."
Avant la publication de cet article, le personnel de MSN a été informé qu'il devait s'attendre à un article négatif dans le Guardian sur les allégations de préjugés racistes dans le logiciel d'intelligence artificielle qui prendra bientôt leur poste.
Parce qu'ils sont incapables d'empêcher le nouvel éditeur de robots de sélectionner des articles sur des sites d'actualités externes tels que le Guardian, le personnel humain restant a été invité à rester vigilant et à supprimer une version de cet article si le robot décide qu'il est intéressant et le publie automatiquement. sur MSN.com. Ils ont également été avertis que même s'ils le supprimaient, l'éditeur de robots pourrait les annuler et tenter de le publier à nouveau.
Le personnel a déjà dû supprimer la couverture critiquant MSN pour avoir diffusé l'histoire de Little Mix avec la mauvaise image après que le logiciel d'IA a décidé que les histoires sur l'incident intéresseraient les lecteurs de MSN.
Un membre du personnel a déclaré que Microsoft était profondément préoccupé par les atteintes à la réputation de son produit d'IA : "Avec toutes les manifestations contre le racisme en ce moment, ce n'est pas le moment de faire des erreurs."