Incidents associés
L'algorithme de recherche de Google est-il coupable de racisme ? Une étude menée par un chercheur de Harvard a révélé que cela pourrait être le cas.
La professeure Latanya Sweeney dit avoir trouvé une "discrimination statistiquement significative" en comparant les publicités diffusées avec les résultats de recherches en ligne effectuées en utilisant des noms associés aux Noirs et ceux associés aux Blancs. Sweeney, qui est afro-américaine, a commencé ses études après avoir appris qu'une recherche sur Google pour son propre nom avait produit une annonce pour un service de vérification des antécédents, laissant entendre qu'elle avait été arrêtée.
Son hypothèse : les noms associés aux Afro-Américains, tels que Latanya, sont plus susceptibles de déclencher des associations publicitaires négatives que les noms tels que Jill, qui ne le sont pas.
Je n'ai pas parlé à Sweeney (sa photo est à gauche), mais je ne crois pas qu'elle accuse Google de racisme délibéré, et moi non plus. Il serait facile pour certains de rejeter son travail comme étant du politiquement correct tortueux, mais c'est faux aussi. Ce qui est important dans son travail, je crois, c'est qu'il donne un aperçu de l'expérience que les Afro-Américains peuvent avoir sur Internet.
Après tout, faire une recherche sur votre propre nom (je parie que vous l'avez fait) et recevoir une annonce pour un service appelé Instantcheckmate qui implique que vous êtes un criminel, doit être humiliant. Lorsque Sweeney a recherché son nom, des annonces Instantcheckmate disant "Latanya Sweeney, arrêtée?" et "Vérifiez les arrestations de Latanya Sweeney", sont apparus dans la partie des résultats payants de la page de recherche.
Supposons que sa fille ait vu ça ?
Lorsque Sweeney a ensuite cliqué sur ces publicités et payé les frais, il s'est avéré, sans surprise, qu'il n'y avait aucune trace de son arrestation. En revanche, elle a recherché les noms "Kristen Haring", "Kristen Sparrow" et "Kristen Lindquist". Des publicités sont apparues, mais pas d'Instantcheckmate ou d'autres services similaires. Mais lorsqu'elle a recherché ces noms dans Instantcheckmate, il y avait des dossiers d'arrestation pour deux de ces femmes dans la base de données de l'entreprise.
Sur Reuters.com, qui utilise Google AdSense pour diffuser des annonces, un "nom d'identification noir était 25% plus susceptible d'obtenir une annonce suggérant un dossier d'arrestation", a constaté Sweeney. Sur Google, 92 % des annonces apparaissant à côté de noms identifiant des Noirs suggéraient un casier judiciaire, contre 80 % des noms identifiant des Blancs, a-t-elle écrit.
On ne sait pas ce qu'il y a au fond de tout cela. Google, bien sûr, nie s'être livré à ce qu'il faudrait appeler du profilage racial. Il se peut qu'Instant Checkmate, qui avait le plus d'annonces en ligne de toutes les entreprises suivies dans l'étude, ait choisi de lier des noms d'identification noirs avec des modèles d'annonces suggérant un casier judiciaire, bien que l'entreprise ait dit à Sweeney qu'elle ne le faisait pas.
"Il y a de la discrimination dans la diffusion de ces publicités", écrit Sweeney dans son rapport. "Notez que le racisme peut en résulter, même s'il n'est pas intentionnel, et que l'activité en ligne peut être si omniprésente et intimement liée à la conception technologique que les technologues peuvent maintenant devoir réfléchir aux conséquences sociétales comme le racisme structurel dans la technologie qu'ils conçoivent."
Je soupçonne que ce qui se passe ici a à voir avec le type de recherches que des millions de personnes effectuent chaque jour. L'algorithme de Google suit les recherches et utilise ces informations pour rendre la recherche plus pertinente. Si suffisamment de personnes recherchent des noms et des termes à consonance noire comme crime, cela pourrait expliquer cela.
En fin de compte, je parie que nous ne le saurons jamais, mais cela vaut la peine de réfléchir à la façon dont le Web nous affecte tous de manière très inattendue.