Incidents associés
Chaque candidat à un emploi vit dans la crainte qu'une recherche sur Google puisse révéler des indiscrétions incriminantes d'un passé lointain. Mais une nouvelle étude examinant les préjugés raciaux dans le libellé des publicités en ligne suggère que les algorithmes publicitaires de Google pourraient associer injustement certaines personnes à des actes répréhensibles qu'ils n'ont pas commis.
Après avoir appris qu'une recherche sur Google pour son propre nom avait fait apparaître une publicité pour un service de vérification des antécédents laissant entendre qu'elle avait été arrêtée, Latanya Sweeney, professeure à l'Université de Harvard, a entrepris d'enquêter pour savoir si les résultats des publicités en ligne étaient façonnés par la race. Elle a recherché plus de 2 000 "noms associés à une race" pour déterminer si des noms "précédemment identifiés par d'autres comme étant attribués à la naissance à plus de bébés noirs ou blancs" donnaient des résultats publicitaires indiquant un casier judiciaire. Plus précisément, elle s'est concentrée sur les publicités achetées par des entreprises qui fournissent des vérifications des antécédents utilisées par les employeurs.
Sweeney a conclu que les soi-disant noms d'identification noirs étaient beaucoup plus susceptibles d'être accompagnés d'un texte suggérant que la personne avait un casier judiciaire, qu'il existe ou non un casier judiciaire.
À gauche, les annonces diffusées pour les recherches par nom complet sur Google.com, selon l'étude de Sweeney. À droite, les annonces diffusées pour les recherches par nom complet effectuées via Reuters.com, qui propose des résultats Google. Via Latanya Sweeney.
"Il y a une discrimination dans la diffusion de ces publicités", écrit Sweeney dans son rapport. "Notez que le racisme peut en résulter, même s'il n'est pas intentionnel, et que l'activité en ligne peut être si omniprésente et intimement liée à la conception technologique que les technologues peuvent maintenant devoir réfléchir aux conséquences sociétales comme le racisme structurel dans la technologie qu'ils conçoivent."
Comme le note Sweeney, les publicités associant le nom d'une personne à une activité criminelle risquent de nuire à sa réputation en suggérant un acte répréhensible alors qu'il n'y en a pas. Elle demande aux lecteurs d'imaginer qu'ils sont évalués par un employeur potentiel, à qui on dit de se renseigner sur leurs arrestations lorsqu'il recherche leur nom. "Pire", écrit Sweeney, "Les publicités n'apparaissent pas pour vos concurrents."
Pour tester son hypothèse, Sweeney a utilisé des recherches existantes pour trouver des noms considérés comme identifiant les Noirs ou les Blancs, puis les a utilisées pour compiler plus de 2 000 combinaisons de prénoms et de noms appartenant à de vraies personnes. Elle a interrogé ces noms complets sur Google.com et Reuters.com, qui s'appuient tous deux sur AdSense de Google pour la diffusion d'annonces en ligne, et a enregistré la langue des messages sponsorisés qui sont apparus. Son propre nom, par exemple, incluait une annonce d'InstantCheckmate.com qui disait : « Latanya Sweeney, arrêtée ? et "Vérifiez les arrestations de Latanya Sweeney".
Sur Reuters.com, un "nom d'identification noir était 25% plus susceptible d'obtenir une publicité suggérant un dossier d'arrestation", a constaté Sweeney. Sur Google, 92 % des annonces apparaissant à côté de noms identifiant des Noirs suggéraient un casier judiciaire, contre 80 % des noms identifiant des Blancs. En fait, les personnes blanches représentaient près de 70 % de toutes les arrestations et les personnes noires 28,4 % des arrestations, selon les statistiques sur la criminalité du FBI de 2011, les données les plus récentes sont disponibles.
Sweeney propose plusieurs explications potentielles pour la copie publicitaire discriminatoire. Il se peut qu'Instant Checkmate, qui avait le plus d'annonces en ligne de toutes les entreprises suivies dans l'étude, ait choisi de lier des noms d'identification noirs avec des modèles d'annonces suggérant un casier judiciaire. Cependant, Sweeney note qu'Instant Checkmate lui a dit qu'il donnait à Google le même texte d'annonce à exécuter avec des groupes de noms de famille et ne variait pas les modèles d'annonces en fonction des prénoms.
En réponse à l'étude, une porte-parole d'Instant Checkmate a déclaré que la société "voudrait déclarer sans équivoque qu'elle ne s'est jamais livrée au profilage racial dans Google AdWords".
"Nous n'avons absolument aucune technologie en place pour même associer un nom à une race et n'avons jamais tenté de le faire. L'idée même est contraire aux principes et valeurs les plus profondément ancrés de notre entreprise", a écrit la porte-parole dans un e-mail au HuffPost. .
Google pourrait être en faute, écrit Sweeney, bien qu'un porte-parole de Google ait déclaré au Huffington Post que la société ne cible pas ses utilisateurs en fonction de leur race, notant que les annonceurs sont libres de choisir les termes sur lesquels leurs annonces apparaîtront.
"AdWords ne procède à aucun profilage racial", a écrit le porte-parole dans un e-mail. «Nous avons également une politique« anti »et contre la violence qui stipule que nous n'autoriserons pas les publicités qui plaident contre une organisation, une personne ou un groupe de personnes. Il appartient aux annonceurs individuels de décider quels mots clés ils souhaitent choisir pour déclencher leurs annonces. »
Il se peut également que les utilisateurs de Google soient à blâmer : lorsqu'un annonceur choisit pour la première fois le contenu publicitaire, toutes les options sont pondérées de manière égale et ont une probabilité égale d'apparaître dans les résultats de recherche. Pourtant, au fil du temps, comme certains modèles sont cliqués plus fréquemment que d'autres, Google tentera d'optimiser l'annonce de son client en diffusant plus fréquemment l'annonce qui recueille le plus de clics.
"Instant Checkmate a-t-il fourni des modèles d'annonces suggérant une arrestation disproportionnée