Incidents associés
Jusqu'au 7 septembre, les utilisateurs de LinkedIn recherchant des contacts féminins sur le site ont peut-être remarqué des résultats étranges. Les recherches de noms féminins courants donnaient également des suggestions de noms masculins.
Effectuez une recherche sur LinkedIn pour "Stephanie Williams". Plus tôt cette semaine, cette requête a renvoyé le résultat, "vouliez-vous dire Stephen Williams?" (en plus des plus de 2 500 utilisateurs nommés Stephanie Williams). Une recherche de "Stephen Williams", cependant, a simplement affiché les 7 200 résultats pour les personnes portant ce nom.
Il en va de même pour les recherches d'au moins une douzaine d'autres prénoms féminins populaires aux États-Unis, a révélé une enquête du Seattle Times. LinkedIn s'est demandé si les utilisateurs recherchant Andrea signifiaient Andrew, Danielle signifiait Daniel et Alexa signifiait Alex. Les recherches sur les 100 noms masculins les plus courants aux États-Unis n'ont pas renvoyé de suggestions de noms féminins.
Les résultats "Voulez-vous dire" de LinkedIn sont alimentés par un algorithme conçu pour suggérer des noms avec des orthographes similaires. L'algorithme fait des recommandations en fonction de la fréquence à laquelle les noms sont apparus dans les requêtes passées des plus de 450 millions de profils de membres de l'entreprise, a déclaré la porte-parole Suzi Owens. "Cela n'a rien à voir avec le sexe", a-t-elle déclaré.
Néanmoins, le 7 septembre, la société basée dans la Silicon Valley a déployé une modification de l'algorithme qui lui permet de reconnaître explicitement les noms populaires en tant que tels, afin que l'algorithme n'essaie pas de les corriger.
Cela semble fonctionner : les recherches de prénoms comme Dana, Joan, Danielle, Alexa et Stephanie ne renvoient plus de résultats "vouliez-vous dire".
Le problème souligne les biais présents dans les systèmes artificiellement intelligents qui apprennent du comportement des autres utilisateurs. Plus tôt cette année, Microsoft a été contraint de mettre son chatbot millénaire hors ligne après avoir appris à faire des remarques racistes et sexistes de la part d'utilisateurs sur Twitter. (Microsoft acquiert également LinkedIn.)
"Comme avec tous les systèmes d'apprentissage automatique, il y a toujours des cas extrêmes et nous travaillons constamment dur pour nous améliorer et créer la meilleure expérience possible pour nos membres", déclare Owens.