Incidents associés
CHICAGO (CN) – Les titulaires de polices d'assurance habitation noirs ont intenté un recours collectif fédéral contre State Farm mercredi matin, alléguant que la société multimilliardaire soumet ses réclamations à un examen plus approfondi que celle des clients blancs.
Plus précisément, la poursuite accuse State Farm d'avoir enfreint la loi de 1968 Fair Housing Act en forçant les assurés noirs à attendre plus longtemps que leurs homologues blancs. pour que leurs demandes soient approuvées.
Il allègue en outre, en utilisant des données tirées de 800 propriétaires blancs et noirs du Midwest, que les clients noirs étaient 39% plus susceptibles que les clients blancs d'être invités à soumettre des documents supplémentaires après avoir déposé une réclamation, et 20% plus susceptibles d'avoir besoin de plus de trois réunions avec les employés de State Farm afin d'en régler une. Les obstacles supplémentaires que les clients noirs doivent surmonter à leur tour les obligent à attendre plus longtemps pour les réparations domestiques nécessaires.
"Trente-neuf pour cent des assurés blancs interrogés de State Farm ont vu leur réclamation payée dans un mois ou moins à compter de la date de soumission; en revanche, seuls 30% des répondants propriétaires noirs ont été payés au même taux", affirme la poursuite.
Plusieurs heures après le dépôt de la plainte, un représentant de State Farm a publié cette déclaration :
"Nous prenons ce dépôt au sérieux. Cette poursuite ne reflète pas les valeurs que nous détenons chez State Farm. State Farm s'engage pour un environnement diversifié et inclusif, où tous les clients et associés sont traités avec équité, respect et dignité. Nous nous engageons à payer ce que nous devons, rapidement et avec courtoisie."
Mais l'avocate Aisha Rich du cabinet d'avocats Fairmark Partners, qui a aidé à rédiger la plainte, a répliqué dans sa propre déclaration préparée que "les données derrière ce procès indiquent que les propriétaires noirs sont soumis à un processus de réclamation fondamentalement différent et pire à State Farm".
"State Farm devrait être un" bon voisin "pour tous ses assurés, quelle que soit leur race", a déclaré Rich.
Parmi les autres avocats représentant la classe putative figurent une équipe du Center on Race, Inequality and the Law de la faculté de droit de l'Université de New York, ainsi que le cabinet d'avocats Mehri & Skalet.
La représentante du groupe dans l'affaire, une femme de l'Illinois nommée Jacqueline Huskey, est l'un des nombreux clients noirs prétendument touchés par le parti pris institutionnel de State Farm. Elle a déposé une réclamation en juin 2021 après qu'une tempête de grêle a endommagé son toit, mais a déclaré qu'il avait fallu deux mois à l'entreprise pour envoyer des experts en sinistres pour inspecter les dommages et quatre mois pour qu'elle approuve sa réclamation pour le coût des réparations internes. L'assureur n'a toujours pas approuvé sa réclamation pour les dommages externes au toit lui-même.
"En raison du retard de State Farm, Huskey a subi d'autres dommages à sa maison - des dégâts d'eau à sa cuisine et à deux salles de bain causés par des fuites dans le toit non réparé - et une diminution de la valeur globale de sa maison", indique la plainte.
La cause de cette pratique discriminatoire alléguée est le système de traitement automatisé des réclamations de State Farm. Contrairement au racisme d'antan, lorsque les futurs propriétaires noirs étaient confrontés à un redlining explicite par des êtres humains vivants, la discrimination moderne peut être effectuée par des ordinateurs utilisant des ensembles de données à inflexion raciale.
"Dans le secteur de l'assurance, comme ailleurs dans notre société, la discrimination raciale est passée d'ouverte à cachée", indique le procès. "Même si le redlining basé sur la race est désormais illégal, la discrimination a persisté grâce à des pratiques telles que l'utilisation de scores d'assurance basés sur le crédit et des directives de souscription discriminatoires qui utilisent l'âge et la valeur de la maison comme indicateur de la race."
Les systèmes de traitement automatisés sont utiles aux grandes compagnies d'assurance comme State Farm car ils réduisent les coûts de main-d'œuvre et rationalisent l'accueil des clients. Ils empêchent également les préjugés d'un employé d'affecter la façon dont un client est traité par l'entreprise. Mais étant donné que la race, la classe et la richesse sont confondues aux États-Unis, la poursuite allègue que même les facteurs économiques supposément neutres en matière de race qu'un algorithme prend en compte lors de l'évaluation de la légitimité d'une revendication peuvent renforcer la disparité raciale.
"Malheureusement, les algorithmes ont trop souvent des effets discriminatoires, même lorsque les données démographiques, telles que la race, ne sont pas incluses en tant qu'entrées", indique la plainte. "En effet, les algorithmes peuvent" apprendre "à utiliser des caractéristiques démographiques omises en combinant d'autres entrées corrélées à la race (ou à une autre classification protégée), comme le code postal, la fréquentation d'un collège et l'appartenance à certains groupes." (Parenthèses dans l'original.)
Le biais inhérent aux systèmes algorithmiques a été noté au-delà le secteur de l'assurance - leur utilisation est également critiquée dans services de police, rapports de solvabilité et admissions à l'université. La poursuite cite une étude du Brookings Institut 2021 qui a révélé que les IA formées sur les données Internet ont souvent "associations négatives pour le concept de groupe social afro-américain" en raison de la représentation raciste des noms noirs en ligne, et un [article] de 2020 (https://www.technologyreview.com/2020/07/17/1005396/predictive- policing-algorithms-racist-dismantled-machine-learning-bias-criminal-justice/) dans le MIT Technology Review qui affirmait que les algorithmes de police prédictive devaient être abolis.
State Farm a elle-même reconnu que les préjugés raciaux peuvent s'étendre au processus d'apprentissage de l'IA, étant donné que la division automobile de l'entreprise a déposé un logiciel [patent](https://patentimages.storage.googleapis.com/9e/58/43/d8cb1b20ff273c/US11315191 .pdf) en 2022 pour une "méthode de contrôle des facteurs indésirables dans les modèles d'apprentissage automatique".
"Le modèle est formé pour corréler de manière probabiliste un aspect de l'apparence du demandeur avec une caractéristique personnelle et/ou liée à la santé. Tous les facteurs indésirables, tels que l'âge, le sexe, l'origine ethnique et/ou la race, sont identifiés pour exclusion", résume le brevet états, mais rien n'indique que ce modèle a été appliqué au traitement des réclamations d'assurance des propriétaires.
Compte tenu de la violation présumée des droits civils des propriétaires noirs, la poursuite demande à un juge fédéral d'interdire à State Farm d'utiliser son système actuel de traitement automatisé des réclamations. Elle demande également des audits sur l'entreprise pour s'assurer qu'il est mis fin aux effets discriminatoires de ce système.
"State Farm pourrait examiner le biais algorithmique qui inflige un préjudice énorme aux assurés noirs, mais son incapacité à le faire nécessite ce litige", a déclaré l'avocat Alexander Rose de Fairmark Partners.