Incidents associés
Une jolie petite étude qui montre que les publicités diffusées parallèlement aux recherches Google pourraient, si vous étiez dans ce sens, être considérées comme quelque peu racistes :
Une étude récente des recherches Google par le professeur Latanya Sweeney a révélé une "discrimination significative" dans les résultats des annonces selon que le nom que vous recherchez sur Google est, statistiquement parlant, plus susceptible d'appartenir à une personne blanche ou à une personne noire. Ainsi, alors que googler une Emma ne déclenchera probablement rien de plus sinistre qu'une invitation à rechercher le numéro de téléphone et l'adresse d'Emma, la recherche d'un Jermaine pourrait générer une annonce pour une recherche de casier judiciaire. En fait, les recherches de Sweeney suggèrent qu'il est 25 % plus probable que vous obteniez des annonces pour des recherches de casiers judiciaires à partir de noms "d'identification noire" que de noms à consonance blanche.
Ce qui nous amène à quelque chose d'un problème. Un problème que nous voyons dans d'autres domaines aussi. Par exemple, un marché véritablement libre et aussi un marché oligopolistique montreront à peu près la même activité des prix. Ils bougeront tous en même temps, que ce soit vers le haut ou vers le bas. Ainsi, nous ne pouvons pas dire si un marché est libre ou oligopolistique simplement en notant que les prix évoluent tous en même temps.
Ici, nous avons un problème très similaire. Si nous postulons que Google, ou les personnes (ou même l'algorithme) qui placent les publicités sont racistes, alors c'est le genre de résultat que nous nous attendons à voir. Cependant, s'il s'avérait que c'était nous, les utilisateurs, de la manière dont nous avons formé l'algorithme en cliquant sur les publicités précédemment, nous étions racistes, nous nous attendrions à voir exactement les mêmes résultats. Donc, nous ne pouvons pas, simplement en notant que les emplacements d'annonces déterminent si c'est nous ou Google qui affichons les attitudes racialement partielles.
Et il y a aussi une troisième explication : que ce n'est pas du tout le reflet d'attitudes. Au contraire, c'est juste un reflet du monde dans lequel nous vivons en fait. Il est bien connu que la population carcérale est disproportionnellement noire. Disproportionné ici signifiant sauvagement, grossièrement, biaisé. Pourquoi est-ce quelque chose que nous pouvons tous crier, mais les facteurs contributifs sont que les Noirs sont en moyenne plus pauvres que les autres groupes raciaux : le crime et la pauvreté sont en effet liés et l'ont toujours été. Certains crimes sont punis de manière disproportionnée : par exemple, le crack est une drogue plus pauvre et noire que la cocaïne, mais les peines pour le crack sont considérablement plus élevées que celles pour possession ou trafic de cocaïne. Et il y a très certainement de la place là-dedans pour l'idée qu'il y a effectivement du racisme dans la société en général.
Mais étant donné que ces choses existent, on pourrait s'attendre à ce que les services de vérification des casiers judiciaires soient en effet plus souvent utilisés avec des noms à consonance noire qu'avec des noms blancs ou asiatiques. Autrement dit, que le racisme dans la société au sens large y ait conduit ou non, le placement des publicités est tout à fait rationnel compte tenu de la société dans laquelle nous nous trouvons.
Tout cela est vraiment assez triste à mon avis. Google n'est pas raciste pour associer les vérifications de casiers judiciaires à des noms à consonance noire. La société au sens large ne l'est pas non plus. Car ce sont à la fois des actions entièrement rationnelles et sans préjugés. Mais le fait qu'il s'agisse à la fois d'actions entièrement rationnelles et sans préjugés est en quelque sorte une tache sur l'écusson de la société.