Incidents associés
Lecteurs, je déteste vous le dire, mais selon Harvard, Internet est raciste. Je vous suggère de cesser de l'utiliser immédiatement à moins que vous ne vouliez que votre patronage de Google et al noircisse votre nom. En fait, euh, attendez peut-être d'avoir fini de lire.
Une étude récente des recherches Google par le professeur Latanya Sweeney a révélé une "discrimination significative" dans les résultats des annonces selon que le nom que vous recherchez sur Google est, statistiquement parlant, plus susceptible d'appartenir à une personne blanche ou à une personne noire. Ainsi, alors que googler une Emma ne déclenchera probablement rien de plus sinistre qu'une invitation à rechercher le numéro de téléphone et l'adresse d'Emma, la recherche d'un Jermaine pourrait générer une annonce pour une recherche de casier judiciaire. En fait, les recherches de Sweeney suggèrent qu'il est 25 % plus probable que vous obteniez des annonces pour des recherches de casiers judiciaires à partir de noms "d'identification noire" que de noms à consonance blanche.
Alors, qu'est-ce que cela signifie exactement? Google a-t-il une sorte d'outil de profilage racial intégré dans ses algorithmes ? Eh bien, pas exactement. Google a déclaré sans équivoque qu'il "ne procède à aucun profilage racial" et le document de recherche lui-même admet que ce n'est probablement pas aussi insidieux que cela. Il postule plutôt que les écarts démographiques proviennent probablement d'algorithmes "intelligents" qui adaptent le placement des annonces en fonction des habitudes des utilisateurs de masse. En bref, écrit Sweeney, les résultats soulèvent "des questions quant à savoir si la technologie publicitaire de Google expose les préjugés raciaux dans la société et comment la technologie de publicité et de recherche peut se développer pour assurer l'équité raciale".
Woah - est-ce que quelqu'un vient de prétendre que la société est raciste? Tenez la première page. Bien que l'étude de Harvard fasse ressortir des points intéressants, la recherche est également un cas révélateur de dualisme numérique - l'idée qu'en ligne et hors ligne sont des réalités séparées et distinctes. Cela était peut-être vrai il y a des décennies, lorsque l'Internet était quelque chose que vous "composiez" afin de vérifier AltaVista pour les offres sur les magnétoscopes, mais il est maintenant terriblement obsolète. La plupart des gens voient maintenant le monde virtuel comme un simple reflet du monde réel. En effet, un rapport publié cette année par le Government Office for Science proclame que : "Le Royaume-Uni est désormais un environnement virtuel ainsi qu'un lieu réel".
La question de savoir comment (et, en fait, si) la technologie peut se débarrasser de ce que Sweeney décrit comme du "racisme structurel" présente des parallèles intéressants avec les débats sur le langage qui ont eu lieu bien avant que Google ne soit une étincelle dans les yeux de Sergey Brin. Prenez, par exemple, l'expression que j'ai utilisée plus tôt, "noircissez votre nom". C'est un idiome assez courant et vous n'appelleriez pas quelqu'un au racisme s'il l'utilisait ; néanmoins c'est un terme chargé. Benjamin Zephaniah a un grand poème intitulé White Comedy, qui traite de la politique de ce type de phraséologie : "J'ai été envoyé en blanc / Par une sorcière blanche / Wid white magic / An white lies", commence le poème. Vous avez eu l'idée.
Pendant des siècles, les gens ont tenté de débarrasser la langue de son "racisme structurel" en inventant des dialectes politiquement neutres. L'espéranto, créé par LL Zamenhof, un nom plutôt merveilleux, a été le plus réussi de ces efforts, conçu pour transcender la nationalité et favoriser la paix, l'amour, l'harmonie, toutes ces bonnes choses. Il n'en est pas encore là, mais il a réussi à engendrer des dizaines de milliers de locuteurs fluides, ainsi qu'un millier de locuteurs natifs. On pourrait dire que l'équivalent technologique de l'espéranto est la conception sensible à la valeur (VSD), une croyance selon laquelle la technologie devrait être influencée de manière proactive pour tenir compte des valeurs humaines dans le processus de conception, plutôt que de simplement y réagir après coup. Bien que cela semble être une bonne idée à première vue, c'est un nid de vipères de questions éthiques lorsque vous creusez plus profondément, soulevant un débat plus large sur l'idée de valeurs universelles et de relativisme culturel.
Mais toute cette théorie est peut-être un peu intellectuelle et détourne l'attention du point le plus important de la recherche de Sweeney : votre empreinte numérique a de profondes implications sur votre vie réelle. Comme Descartes ne l'a pas dit tout à fait : "Googlito ergo sum" - je suis sur Google, donc je suis. Et, si ce que vous êtes sur Google est un criminel potentiel, cela va rendre vos chances d'obtenir un emploi un peu plus difficiles. Mais se débarrasser de ce biais n'est pas une question d'algorithmes, c'est une question de changement d'attitude. Il y a un aperçu intéressant de cela dans le mot « intello » lui-même : un terme qui vient de la « science » de la phrénologie du XIXe siècle, qui utilisait les formes du crâne des gens pour justifier le racisme. Dans les années 1820-1840, lorsque la phrénologie faisait fureur, les employeurs exigeaient souvent une référence de caractère d'un phrénologue local pour vérifier si vous seriez un bon employé ou un criminel potentiel. À l'époque, votre crâne servait en quelque sorte de moteur de recherche Google. Et nous n'avons pas progressé en tant que société en changeant nos crânes, nous avons plutôt changé ce qu'ils contiennent.