Incidents associés
Le numéro de janvier/février 2019 d'acmqueue est maintenant disponible
Les abonnés et les membres ACM Professional se connectent ici
2 avril 2013
Tome 11, numéro 3
Discrimination dans la diffusion d'annonces en ligne
Annonces Google, noms noirs et noms blancs, discrimination raciale et publicité au clic
Latanya Sweeney
Les publicités en ligne suggérant des dossiers d'arrestation apparaissent-elles plus souvent avec des recherches de noms à consonance noire que de noms à consonance blanche ? Qu'est-ce qu'un nom à consonance noire ou un nom à consonance blanche, de toute façon ? Combien de fois faudrait-il encore qu'une publicité apparaisse affectant négativement un groupe racial pour qu'elle soit considérée comme discriminatoire ? L'activité en ligne est-elle si omniprésente que les informaticiens doivent réfléchir aux conséquences sociétales telles que le racisme structurel dans la conception technologique ? Si oui, comment construire cette technologie ? Faisons une plongée scientifique dans la diffusion d'annonces en ligne pour trouver des réponses.
"As-tu déjà été arrêté?" Imaginez que cette question apparaisse chaque fois que quelqu'un entre votre nom dans un moteur de recherche. Peut-être êtes-vous en compétition pour un prix, une bourse, une nomination, une promotion ou un nouvel emploi, ou peut-être êtes-vous dans une position de confiance, comme un professeur, un médecin, un banquier, un juge, un gestionnaire, ou un bénévole. Peut-être remplissez-vous une demande de location, vendez-vous des biens, demandez-vous un prêt, rejoignez-vous un club social, faites-vous de nouveaux amis, rencontrez-vous ou êtes-vous engagé dans l'une des centaines de circonstances pour lesquelles quelqu'un veut en savoir plus sur vous en ligne. À côté de votre liste de réalisations, une publicité laisse entendre que vous pourriez avoir un casier judiciaire, que vous en ayez un ou non. Pire encore, les publicités peuvent ne pas apparaître pour vos concurrents.
Les demandes d'emploi comportent souvent des questions telles que : Avez-vous déjà été arrêté ? Avez-vous déjà été accusé d'un crime? Autre qu'une contravention, avez-vous été reconnu coupable d'un crime ? Les employeurs posent ces questions pour établir la fiabilité. Parce que d'autres assimilent souvent un casier judiciaire à un manque de fiabilité ou d'honnêteté, des protections existent pour ceux qui ont un casier judiciaire.
Si un employeur disqualifie un demandeur d'emploi sur la seule base d'informations indiquant un dossier d'arrestation, l'entreprise peut faire face à des conséquences juridiques. L'EEOC (Equal Employment Opportunity Commission) des États-Unis est l'agence fédérale chargée d'appliquer le titre VII de la loi sur les droits civils de 1964, une loi qui s'applique à la plupart des employeurs, interdisant la discrimination dans l'emploi fondée sur la race, la couleur, la religion, le sexe ou l'origine nationale. . Les directives émises en 1973 ont étendu les protections aux personnes ayant un casier judiciaire.5,11 Le titre VII n'interdit pas aux employeurs d'obtenir des informations sur les antécédents criminels. Cependant, certaines utilisations d'informations criminelles, telles qu'une politique générale ou une pratique consistant à exclure des candidats ou à disqualifier des employés sur la seule base d'informations indiquant un dossier d'arrestation, peuvent entraîner une accusation de discrimination.
Pour prendre une décision, l'EEOC utilise un test d'impact négatif qui mesure si certaines pratiques, intentionnelles ou non, ont un effet disproportionné sur un groupe de personnes dont les caractéristiques déterminantes sont couvertes par le titre VII. Pour décider, vous calculez le pourcentage de personnes touchées dans chaque groupe, puis vous divisez la plus petite valeur par la plus grande pour obtenir le ratio et comparez le résultat à 80. Par exemple, supposons qu'une entreprise licencie des travailleurs noirs et blancs comparables au même taux — 25 % de Noirs et 25 % de Blancs — alors le rapport, 25 divisé par 25, serait de 100 %. Si le ratio est inférieur à 80 %, l'EEOC considère que l'effet est disproportionné et peut tenir l'employeur responsable de la discrimination.6
Qu'en est-il des publicités en ligne suggérant qu'une personne portant votre nom a un dossier d'arrestation, même si personne portant votre nom n'a été arrêté ? Le titre VII ne s'applique que si vous avez un dossier d'arrestation et que vous pouvez prouver que l'employeur potentiel utilise régulièrement des publicités ou des informations de l'entreprise qui parraine les publicités, et que le résultat a un effet dissuasif inapproprié sur l'embauche de candidats ayant un casier judiciaire.
L'annonceur peut faire valoir que les annonces sont la liberté d'expression commerciale, un droit constitutionnel d'afficher l'annonce associée à votre nom. Le premier amendement de la Constitution américaine protège la publicité. Dans une décision historique, la Cour suprême des États-Unis a établi un test pour évaluer les restrictions gouvernementales sur le discours commercial, qui commence par déterminer si le discours est trompeur.3 Les publicités en ligne suggérant l'existence d'un dossier d'arrestation sont-elles trompeuses si personne portant ce nom n'a un dossier d'arrestation?
Supposons que les publicités soient libres d'expression : que se passe-t-il lorsque ces publicités apparaissent plus souvent pour un groupe racial qu'un autre ? Tout le monde n'est pas également touché par la liberté d'expression. S'agit-il de liberté d'expression ou de discrimination raciale ?
Le racisme, tel que défini par la Commission des droits civils des États-Unis, est "toute attitude, action ou structure institutionnelle qui subordonne une personne ou un groupe en raison de sa couleur... Le racisme n'est pas seulement une question d'attitudes ; les actions et les structures institutionnelles peuvent également être une forme de racisme. »16 La discrimination raciale