Incidents associés
Les algorithmes de recherche de Google révèlent la discrimination raciale, selon une nouvelle étude d'un professeur de Harvard. Il affirme que les publicités liées aux casiers judiciaires sont plus susceptibles d'apparaître lorsque des "noms à consonance noire" sont "googlés".
Latanya Sweeney, professeur de gouvernement et de technologie en résidence à Harvard, a découvert que les recherches Google impliquant des "noms à consonance noire" sont plus de 25% susceptibles de produire des publicités qui impliquent que la personne a été arrêtée plutôt que des "noms à consonance blanche".
Que sont les "noms à consonance noire et blanche" ?
Dans son article "Discrimination in Online Ad Delivery" (publié le 28 janvier), Sweeney fait référence à une étude sur la discrimination au travail qui "a utilisé une corrélation des noms donnés aux bébés noirs et blancs dans le Massachusetts entre 1974 et 1979".
Tout d'abord, en utilisant ces découvertes, elle a rassemblé une liste de plus de 2 000 noms évoquant la race.
Des noms tels que Lakisha, DeAndre, Jermaine, Leroy et Darnell ont plus souvent tendance à suggérer que la personne était noire, tandis que des noms comme Allison, Kristen, Greg ou Jack étaient considérés comme des noms d'identification blancs.
Exemples d'images de visage sur google.com récupérées pour les recherches "latisha". (Image de arxiv.org)
Sweeney a jeté un coup d'œil aux soi-disant publicités d'enregistrement public comme InstantCheckMate ou PeopleSmart et quelques autres. Elle a comparé les résultats de recherche sur Google.com et Reuters.com.
Il s'est avéré que les "noms à consonance noire" sont plus susceptibles que les "noms à consonance blanche" de déclencher des publicités incluant le mot "arrestation".
La recherche de noms comme Leroy, Jamal ou Kenya a donné un plus grand pourcentage d'annonces avec le mot "arrêté" dans le texte de l'annonce, tandis que pour Jack ou Greg, par exemple, des annonces neutres, sans texte lié à la criminalité, sont apparues.
Dans la recherche Google, les annonces InstantCheckMate contenaient le mot "arrêté" dans 92 % des retours (dans 332 cas sur 366) lorsque des noms "à consonance noire" étaient recherchés, 8 % des annonces neutres apparaissaient.
À titre de comparaison, sur la recherche Reuters, les annonces InstantCheckMate suggéraient de vérifier les casiers judiciaires de 60% de tous les noms d'identification noirs.
Sweeney a essayé son propre nom. Informaticienne sans passé criminel, elle a découvert qu'avant de présenter ses mérites académiques, elle avait d'abord été accueillie par une annonce qui suggérait de vérifier si "Latanya Sweeney, arrêtée?"
Sweeney a suivi le lien et a payé des frais pour découvrir qu'il n'y avait pas de casier judiciaire associé à ce nom.
« Peut-être êtes-vous en compétition pour un prix, une nomination, une promotion ou un nouvel emploi… », écrit la scientifique dans son article, donnant un tas de circonstances pour lesquelles un chercheur en ligne cherche à en savoir plus sur une personne.
"Apparaissant à côté de votre liste de réalisations, une publicité implique que vous pourriez avoir un casier judiciaire, que vous en ayez un ou non", a conclu Sweeney.
Cependant, elle a hésité à donner une cause pour les différences dans les publicités, disant que plus d'informations « sur le fonctionnement interne de Google AdSense [l'outil de publicité en ligne de Google] » sont nécessaires.
Sweeney a suggéré que les moteurs de recherche pourraient n'être que le reflet des préjugés de la société et que les publicités diffusées sont simplement basées sur les liens les plus populaires sur lesquels les utilisateurs précédents ont cliqué.
"Ainsi, le texte d'annonce qui obtient le plus de clics s'affiche finalement plus fréquemment", a-t-elle expliqué.
Google AdSense a répondu aux conclusions de Sweeney en disant qu'il ne procède à aucun profilage racial dans son logiciel de recherche.