Incidents associés
La décision de Microsoft de remplacer les journalistes humains par l'IA pour gérer son site d'actualités et de recherche MSN.com a été critiquée après que le système automatisé ait confondu deux membres métis du groupe pop britannique Little Mix.
Comme l'a rapporté pour la première fois The Guardian, les éditeurs de robots nouvellement installés sur MSN.com ont sélectionné une histoire sur l'expérience de la chanteuse Little Mix Jade Thirlwall avec le racisme pour apparaître sur la page d'accueil, mais ont utilisé une photo de la coéquipière de Thirlwall, Leigh-Anne Pinnock, pour l'illustrer.
Thirlwall a attiré l'attention sur l'erreur sur son histoire Instagram, écrivant: "@MSN Si vous allez copier et coller des articles d'autres médias précis, vous voudrez peut-être vous assurer que vous utilisez une image du bon membre de race mixte du groupe. »
Elle a ajouté: "Cette merde arrive à @leighannepinnock et moi TOUT LE TEMPS que c'est devenu une blague courante ... Cela m'offense que vous ne puissiez pas différencier les deux femmes de couleur sur quatre membres d'un groupe ... FAITES MIEUX!"
Selon The Guardian, l'erreur a été commise par les nouveaux systèmes automatisés de Microsoft. Le géant de la technologie a licencié la rédaction de MSN à la fin du mois dernier. Ces journalistes n'étaient pas chargés d'écrire des articles, mais de sélectionner des articles d'autres médias à mettre en lumière sur la page d'accueil de MSN. Une cinquantaine de journalistes auraient été licenciés aux États-Unis et 27 au Royaume-Uni.
On ne sait pas exactement ce qui a causé cette erreur, mais dans une déclaration mise à jour, Microsoft a déclaré que ce n'était pas le résultat d'un biais algorithmique mais d'une fonctionnalité expérimentale du système automatisé.
Un porte-parole a déclaré à The Verge : "Bien que la suppression des biais et l'amélioration de la précision restent un domaine d'intérêt pour la recherche sur l'IA, cette erreur n'est pas le résultat de ces problèmes. En testant une nouvelle fonctionnalité pour sélectionner une autre image, plutôt que de choisir par défaut la première photo, une image différente sur la page de l'article d'origine a été associée au titre de l'article. Cela a fait apparaître à tort que le titre était une légende pour l'image.
Cependant, c'est exactement le genre d'erreur que les éditeurs humains sont censés repérer. Cependant, comme le montrent clairement les commentaires de Thirlwall, ce n'est pas la première fois que de telles erreurs sont commises. Plus tôt cette année, par exemple, la BBC a été forcée de s'excuser après avoir utilisé des images du basketteur LeBron James pour illustrer la nouvelle de la mort de Kobe Bryant, qui ont tous deux joué pour les Lakers à différentes périodes.
Notamment, The Guardian rapporte que le personnel humain restant de MSN a été averti qu'une couverture critique des systèmes automatisés du site est publiée par les médias. Le personnel a été informé que l'IA pourrait sélectionner ces histoires comme étant intéressantes et les placer sur la page d'accueil de MSN. Si cela se produit, le personnel humain a été invité à supprimer les histoires.
Mise à jour le 10 juin, 5 h 59 HE : L'histoire a été mise à jour avec une nouvelle déclaration de Microsoft.
Correction : L'histoire décrivait précédemment Kobe Bryant et LeBron James comme des "coéquipiers". Bien qu'ils aient joué pour la même équipe, ce n'était pas en même temps.