Incidents associés
Image caption Le professeur Sweeney a déclaré que la technologie pourrait être utilisée pour lutter contre l'intolérance raciale
Une étude des recherches Google a révélé une "discrimination significative" dans les résultats des annonces en fonction de la race perçue des noms recherchés.
La professeure de Harvard, Latanya Sweeney, a déclaré que les noms généralement associés aux Noirs étaient plus susceptibles de produire des publicités liées à des activités criminelles.
Dans son article, le professeur Sweeney a suggéré que les recherches sur Google pourraient révéler des "préjugés raciaux dans la société".
Google a déclaré qu'il "ne procède à aucun profilage racial".
Dans une déclaration à la BBC, la société a déclaré: "Nous avons également une politique" anti "et de violence qui stipule que nous n'autoriserons pas les publicités qui plaident contre une organisation, une personne ou un groupe de personnes."
Lorsqu'elles placent des annonces avec Google, les entreprises peuvent spécifier les mots clés qu'elles souhaitent cibler.
"Il appartient aux annonceurs individuels de décider quels mots clés ils souhaitent choisir pour déclencher leurs annonces", a déclaré le géant de la recherche.
Arrêté?
L'étude a analysé le type de publicités qui apparaissaient sur Google lorsque certains noms étaient recherchés.
Il a examiné le moteur de recherche principal de Google.com, ainsi que la fonction de recherche de Reuters.com - qui affiche également la publicité de Google.
L'enquête du professeur Sweeney suggère que les noms liés aux Noirs - tels que définis par une étude précédente sur la discrimination raciale sur le lieu de travail - étaient 25% plus susceptibles d'avoir des résultats qui incitaient le chercheur à cliquer sur un lien pour rechercher l'historique du casier judiciaire.
La technologie peut faire plus pour contrecarrer les effets discriminatoires et s'harmoniser avec les normes sociétales Prof Latanya Sweeney, Harvard
Elle a découvert que des noms comme Leroy, Kareem et Keisha produisaient des publicités indiquant "Arrested?", Avec un lien vers un site Web qui pourrait effectuer des vérifications de casier judiciaire.
Les recherches de noms tels que Brad, Luke et Katie ne seraient pas - plutôt plus susceptibles d'offrir des sites Web qui peuvent fournir des coordonnées générales.
"Il y a une discrimination dans la diffusion de ces publicités", a conclu le professeur Sweeney, ajoutant qu'il y avait moins de 1% de chances que les résultats soient basés sur le hasard.
"Parallèlement aux reportages sur les athlètes et les enfants du secondaire, il peut y avoir des publicités portant le nom de l'enfant et suggérant une arrestation. Cela semble préoccupant à plusieurs niveaux."
Habitudes des utilisateurs
Cependant, elle était réticente à identifier une cause des écarts, affirmant que cela nécessitait "des informations supplémentaires sur le fonctionnement interne de Google AdSense".
Elle a noté qu'une cause possible pourrait être les algorithmes "intelligents" de Google - une technologie qui adapte automatiquement le placement publicitaire en fonction des habitudes des utilisateurs de masse.
En d'autres termes, il se peut que les moteurs de recherche reflètent les propres préjugés de la société - car les résultats publicitaires fournis par Google sont souvent basés sur les liens les plus populaires sur lesquels les utilisateurs précédents ont cliqué.
"Au fil du temps, comme les gens ont tendance à cliquer sur une version du texte d'annonce plutôt que sur d'autres, les pondérations changent", a expliqué le professeur Sweeney.
"Ainsi, le texte d'annonce qui génère le plus de clics s'affiche plus fréquemment."
Elle a fait valoir que la technologie devrait être utilisée pour contrer cet effet.
"Dans une perspective plus large, la technologie peut faire plus pour contrecarrer les effets discriminatoires et s'harmoniser avec les normes sociétales.
"Les annonces répondant aux recherches de noms apparaissent dans un contexte d'information spécifique et la technologie contrôle ce contexte."