Incidents associés
"As-tu déjà été arrêté? Imaginez que la question n'apparaisse pas dans la solitude de vos pensées pendant que vous lisez cet article, mais apparaît explicitement chaque fois que quelqu'un interroge votre nom dans un moteur de recherche.
Capture d'écran d'une annonce Google.
Ainsi commence Latanya Sweeney de l'Université de Harvard dans un article convaincant affirmant que la discrimination raciale nuit à la diffusion d'annonces en ligne.
De nombreuses personnes auront l'expérience de googler des amis, des collègues et des proches pour en savoir plus sur leur présence en ligne - les sites Web sur lesquels ils apparaissent, leurs photos, leurs passe-temps, etc.
L'intérêt de Sweeney réside dans les publicités qui apparaissent à côté de ces résultats. Lorsqu'elle a entré son nom dans Google, une annonce est apparue avec le libellé :
« Latanya Sweeney, arrêtée ? 1) Entrez le nom et l'état 2) Accédez à l'arrière-plan complet. Vérifie instantanément. www.instantcheckmate.com”
C'est une formulation suggestive. Il suggère que Latanya Sweeney a un casier judiciaire dont les détails sont accessibles en cliquant sur l'annonce. Mais après avoir cliqué sur le lien et payé les frais d'abonnement nécessaires, Sweeney dit qu'elle n'a trouvé aucun dossier d'arrestation.
Ce qui est intéressant à ce sujet, c'est que le prénom de Sweeney est également évocateur - qu'elle est noire. La question que Sweeney pose est de savoir si une recherche similaire avec un nom évocateur d'un profil racial blanc sert également des publicités mentionnant les dossiers d'arrestation.
La réponse est un puissant signal d'alarme. Sweeney dit qu'elle a des preuves que les noms d'identification noirs sont jusqu'à 25% plus susceptibles d'être servis avec une annonce liée à une arrestation. "Il y a une discrimination dans la diffusion de ces publicités", conclut-elle.
Sweeney a rassemblé ces preuves en recueillant plus de 2000 noms évocateurs de race. Par exemple, des prénoms tels que Trevon, Lakisha et Darnell suggèrent que le propriétaire est noir tandis que des noms comme Laurie, Brendan et Katie suggèrent que le propriétaire est blanc.
Elle a ensuite entré ces noms de famille plus dans Google.com et Reuters.com et a examiné les annonces qu'ils ont renvoyées. La plupart des noms ont généré des annonces pour les archives publiques. Cependant, les noms identifiant les Noirs se sont avérés beaucoup plus susceptibles que les noms identifiant les Blancs de générer des publicités incluant le mot « arrestation » (60 % contre 48 %). Tous provenaient de www.instantcheckmate.com.
Elle dit que les résultats sont statistiquement significatifs avec moins de 0,1 % de chances qu'ils aient été générés par hasard.
Sur Reuters.com, les noms d'identification noirs étaient 25% plus susceptibles d'être servis avec une annonce liée à une arrestation.
C'est un résultat extraordinaire et qui soulève plus de questions qu'il n'apporte de réponses. Le plus grand casse-tête, bien sûr, est de savoir ce qui fait que les publicités sont diffusées selon ce modèle. Ici, le mystère du service Adsense de Google obscurcit considérablement les choses.
Sweeney dit qu'il y a essentiellement trois possibilités. La première est que www.instantcheckmate.com a mis en place les publicités mentionnant l'arrestation à diffuser aux noms d'identification noirs. Une autre est que Google a en quelque sorte biaisé son mécanisme de diffusion d'annonces de cette manière.
Une explication plus insidieuse est que la société dans son ensemble est à blâmer. Si le service Adsense de Google apprend quelles combinaisons d'annonces sont les plus efficaces, il diffusera d'abord les annonces liées à l'arrestation à tous les noms au hasard. Mais cela changerait s'il devait découvrir que les clics sont plus probables lorsque ces publicités sont diffusées contre un nom d'identification noir. En d'autres termes, les résultats reflètent simplement le schéma discriminatoire des clics des personnes ordinaires.
Bien sûr, nous ne pouvons pas savoir sans une meilleure compréhension de la boîte noire qu'est Google Adsense.
Il est clair que Sweeney a découvert un sérieux problème ici étant donné l'impact que la présence en ligne peut avoir sur les perspectives d'emploi d'un individu.
Quelle que soit la cause, Sweeney dit que la technologie peut offrir une sorte de solution. Si les algorithmes derrière Adsense peuvent raisonner sur la maximisation des revenus, elle dit qu'ils devraient être en mesure de raisonner sur les conséquences juridiques et sociales de certains schémas de clics.
C'est une idée intéressante et que Google, www.instantcheckmate.com et la société en général devraient considérer plus en détail.
Réf : http://arxiv.org/abs/1301.6822 Discrimination dans la diffusion d'annonces en ligne
Mise à jour 4 février 2013 14:34 HNE
En réponse à ce billet de blog, un porte-parole de Google envoie le commentaire suivant :
"AdWords ne procède à aucun profilage racial. Nous avons également une politique "anti" et contre la violence qui stipule que nous n'autoriserons pas les publicités qui plaident contre une organisation, une personne ou un groupe de personnes. Il appartient aux annonceurs individuels de décider quels mots clés ils souhaitent choisir pour déclencher leurs annonces. »
Mise à jour du 7 février
Instantcheckmate.com envoie la déclaration suivante :
"En fait, Instant Checkmate tient à déclarer sans équivoque qu'il ne s'est jamais engagé dans le profilage racial dans Google AdWords.
Nous n'avons absolument aucune technologie en place pour associer un nom à une race et nous n'avons jamais tenté de le faire. L'idée même est contraire aux principes et aux valeurs les plus profondément ancrés dans notre entreprise.