Incidents associés
La réponse courte à la raison pour laquelle l'algorithme de Google renvoie des résultats racistes est que la société est raciste. Mais commençons par une petite histoire.
Le 6 juin (c'est lundi, pour ceux d'entre vous qui gardent une trace à la maison), Kabir Alli, un jeune de 18 ans en Virginie, a publié une brève vidéo de lui-même en train d'effectuer quelques recherches rapides d'images sur Google. Il a d'abord recherché "trois adolescents noirs" et a rencontré plusieurs rangées de photos décontextualisées. Puis il a recherché "trois adolescents blancs" et a reçu des photos d'archives d'adolescents détendus traînant devant divers arrière-plans blancs unis.
Le tweet a été retweeté 67 687 fois à ce jour. Jeudi, Alli a déclaré au Guardian qu'il avait été informé des résultats différents par des amis, mais que "quand j'ai vu les résultats par moi-même, j'ai été choqué."
Il a également déclaré au journal qu'il ne pensait pas que Google était raciste. Il a remarqué que certaines personnes accusaient l'entreprise de racisme en réponse à son tweet et a proposé une réplique.
Publicité
"Les résultats ont été formés grâce à l'algorithme qu'ils ont mis en place. Ils ne sont pas racistes mais j'ai l'impression qu'ils devraient avoir plus de contrôle sur quelque chose comme ça.
Google est d'accord, du moins quand il s'agit de savoir si c'est raciste ou non. Un porte-parole de Google a fait la déclaration suivante à FUSION par e-mail :
Nos résultats de recherche d'images reflètent le contenu du Web, y compris la fréquence à laquelle les types d'images apparaissent et la façon dont elles sont décrites en ligne. Cela signifie que des représentations parfois désagréables de sujets sensibles en ligne peuvent affecter les résultats de la recherche d'images qui apparaissent pour une requête donnée. Ces résultats ne reflètent pas les propres opinions ou convictions de Google. En tant qu'entreprise, nous accordons une grande importance à la diversité des perspectives, des idées et des cultures.
Publicité
Comme beaucoup l'ont déjà souligné, ce n'est pas la première fois que cela se produit. Plus tôt cette année, l'étudiante diplômée Bonnie Komona a publié les résultats des "coiffures non professionnelles pour le travail", qui montraient des photos de femmes noires et celles des "coiffures professionnelles pour le travail", qui affichaient principalement des photos de femmes blanches.
Il y a des cas où Google interviendra lorsque son algorithme fait de mauvaises choses, comme l'été dernier après que le programme de marquage automatique de Google Photo a suggéré que deux jeunes noirs étaient des gorilles. Dans ce cas, un ingénieur de haut rang de l'entreprise s'est excusé. Il y a aussi eu le cas de 2009 où la société a semblé supprimer une image raciste comparant Michelle Obama à un gorille qui apparaissait en haut de ses résultats de recherche.
Publicité
Les résultats de recherche pour les deux termes utilisés par Alli restent en grande partie les mêmes pour le moment, même si, comme c'est souvent le cas, ils sont désormais également pleins de comparaisons côte à côte d'articles de presse. Voici à quoi ils ressemblent au moment de la rédaction de cet article :
Publicité
Et juste pour le contraste, voici les résultats pour "trois adolescents latinos":"
Et voici "trois adolescents asiatiques", où vous verrez un autre type de préjugé. Il montre presque toujours des adolescentes, souvent légèrement vêtues. (Ceux-ci ne me sont pas personnalisés, soit dit en passant ; mes collègues ont obtenu les mêmes résultats.)
Publicité
Comme BuzzFeed News l'a expliqué en avril, un certain nombre de facteurs jouent un rôle dans les images qui apparaissent en premier dans les résultats d'image de Google, notamment "[l]a popularité de l'image, la fréquence à laquelle elle est partagée, le contexte tel que le texte autour de l'image et les méta -marquage." Le méta-balisage (ou métadonnées) est une information sur l'image fournie par la page d'où provient l'image ou l'image elle-même, donc dans le cas de "trois adolescents noirs", cette description provient probablement des sites qui ont publié les mugshots, et des personnes cliquent probablement sur ces images. Et en général, les algorithmes de Google agissent sur de nombreuses entrées.
La pensée d'Alli selon laquelle Google "devrait avoir plus de contrôle sur [les résultats d'image]" est juste. Google prend de nombreuses décisions importantes et discrétionnaires concernant les résultats des annonces et ce qui apparaît dans leurs autres applications, mais en ce qui concerne les résultats de recherche, ils s'en tiennent globalement à la ligne qu'ils sont tout simplement très bons pour trouver efficacement ce que les gens recherchent sur le l'Internet. En d'autres termes, ils ne sont pas racistes, la société est raciste.
Publicité
Et assez juste, la société est raciste. Mais Alli soulève la question très juste du rôle que les institutions de la société devraient jouer pour apaiser ce racisme plutôt que de l'encourager. Google peut trouver ce que les gens veulent sur le Web, mais en raison de son rôle de moteur de recherche le plus populaire au monde, il renforce également ces désirs. Être au sommet de ces classements peut faire toute la différence dans le monde, et il existe une grande industrie basée uniquement sur le fait d'y arriver. Mais Google est en fin de compte une entreprise aux États-Unis et poursuivra ses intérêts fiduciaires avant toute autre chose, qui reposent en partie sur le fait de ne pas trop jouer avec les résultats de recherche.
Donc pour l'instant, notre meilleure option est peut-être quelque chose d'un peu plus difficile : essayer de rendre la société dans son ensemble moins raciste.
Je suppose qu'on ferait mieux de s'y mettre.
Ethan Chiel est journaliste pour Fusion, écrivant principalement sur Internet et la technologie. Vous pouvez (et devriez) lui envoyer un e-mail à