Incidents associés
– Recherchez un contact féminin sur LinkedIn, et vous pourriez obtenir un résultat curieux. Le site Web de réseautage professionnel vous demande si vous vouliez rechercher le nom d'un homme similaire.
Une recherche de "Stephanie Williams", par exemple, fait apparaître une invite demandant si le chercheur voulait taper "Stephen Williams" à la place.
Ce n'est pas qu'il n'y a pas de personnes portant ce nom - environ 2 500 profils incluaient Stephanie Williams.
Mais des recherches similaires de prénoms féminins populaires, associés à des noms de famille fictifs, font apparaître la suggestion de LinkedIn de remplacer "Andrea Jones" par "Andrew Jones", Danielle par Daniel, Michaela par Michael et Alexa par Alex.
Le schéma se répète pour au moins une douzaine des prénoms féminins les plus courants aux États-Unis.
Les recherches sur les 100 noms masculins les plus courants aux États-Unis, en revanche, ne génèrent aucune invite demandant si les utilisateurs voulaient dire des noms à prédominance féminine.
LinkedIn a déclaré que ses résultats suggérés sont générés automatiquement par une analyse des tendances des anciens chercheurs. "Tout dépend de la façon dont les gens utilisent la plateforme", a déclaré la porte-parole Suzi Owens.
La société de Mountain View, en Californie, que Microsoft achète dans le cadre d'un accord de 26,2 milliards de dollars, ne demande pas aux utilisateurs leur sexe lors de l'inscription et n'essaie pas de marquer les utilisateurs en fonction du sexe supposé ou des résultats de groupe de cette façon, a déclaré Owens. LinkedIn examine les moyens d'améliorer sa technologie prédictive, a-t-elle déclaré.
Owens n'a pas précisé si les membres de LinkedIn, qui totalisent environ 450 millions, étaient plus masculins que féminins. Une enquête de Pew Research l'année dernière n'a pas trouvé d'écart important dans le sexe des utilisateurs de LinkedIn aux États-Unis. Environ 26 % des internautes masculins utilisaient LinkedIn, contre 25 % de toutes les utilisatrices d'Internet, a déclaré Pew.
Les invites de noms féminins à masculins de LinkedIn surviennent alors que certains chercheurs et technologues avertissent que les algorithmes logiciels, utilisés pour informer tout ce que les entreprises apparaissent dans les résultats de recherche aux stratégies de maintien de l'ordre, ne sont pas à l'abri des préjugés humains.
"Les histoires de discrimination peuvent perdurer sur les plateformes numériques", a écrit Kate Crawford, chercheuse chez Microsoft, dans le New York Times plus tôt cette année. "Et s'ils ne sont pas remis en question, ils deviennent une partie de la logique des systèmes algorithmiques quotidiens."
Il y a beaucoup de preuves de cela récemment. Une application photo de Google a fait la une des journaux l'année dernière en identifiant par erreur les Noirs comme des gorilles.
Plus récemment, Tay, un chatbot Microsoft conçu pour se livrer à des plaisanteries insensées sur Twitter, a été mis hors ligne après que d'autres internautes aient persuadé le logiciel de répéter des insultes racistes et sexistes.
L'effet des algorithmes d'apprentissage automatique ne se limite pas au monde numérique.
Une analyse de Bloomberg a révélé que le service de livraison le jour même d'Amazon.com, s'appuyant sur des données spécifiant la concentration de membres d'Amazon Prime, avait exclu les quartiers à prédominance non blanche dans six villes américaines. Pendant ce temps, ProPublica a découvert que les logiciels utilisés pour prédire les tendances des récidivistes étaient susceptibles de signaler à tort les accusés noirs comme de futurs criminels.
Les personnes qui travaillent dans l'intelligence artificielle ont déclaré que l'un des défis de la construction d'algorithmes sans biais est une main-d'œuvre sur le terrain qui biaise fortement les blancs et les hommes.
"Il s'agit vraiment de mettre les bonnes données de formation dans le système", a déclaré Kieran Snyder, directeur général de Textio, une start-up de Seattle qui construit un outil conçu pour détecter les modèles, y compris les preuves de biais, dans les offres d'emploi. . "Un ensemble plus large de personnes [travaillant sur le logiciel] aurait compris comment obtenir un ensemble de données plus large en premier lieu."
Il y a quelques mois, Snyder a déclaré qu'une analyse de Textio avait révélé que les offres d'emploi pour les rôles d'apprentissage automatique contenaient un langage plus susceptible d'attirer les candidats masculins que le poste d'emploi moyen de l'industrie technologique.
"Ces deux trains de conversation, l'un autour de l'inclusion dans la technologie, l'autre autour de [l'intelligence artificielle], n'ont pris de l'ampleur qu'au cours des deux dernières années", a-t-elle déclaré.