Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Problème 4302

Incidents associés

Incident 8444 Rapports
SafeRent AI Screening Tool Allegedly Discriminated Against Housing Voucher Applicants

Loading...
Le ministère de la Justice dépose une déclaration d'intérêt dans une affaire de loi sur le logement équitable alléguant des pratiques illégales de sélection des locataires basées sur des algorithmes
justice.gov · 2023

Le ministère de la Justice et le ministère du Logement et du Développement urbain (HUD) ont annoncé aujourd'hui avoir déposé une déclaration d'intérêt pour expliquer l'application de la loi sur le logement équitable (FHA) aux systèmes de sélection des locataires basés sur des algorithmes. La déclaration d'intérêt a été déposée dans le cadre de Louis et al. v. SafeRent et al., un procès actuellement en cours devant le tribunal de district américain du district du Massachusetts alléguant que l'utilisation par les défendeurs d'un système de notation basé sur un algorithme pour sélectionner les locataires discrimine les candidats à la location noirs et hispaniques en violation de la FHA.

"Les fournisseurs de logements et les sociétés de sélection des locataires qui utilisent des algorithmes et des données pour sélectionner les locataires ne sont pas exonérés de responsabilité lorsque leurs pratiques refusent de manière disproportionnée aux personnes de couleur l'accès à des opportunités de logement équitables", a déclaré la procureure générale adjointe Kristen Clarke de la division des droits civils du ministère de la Justice. "Ce dépôt démontre l'engagement du ministère de la Justice à garantir que la loi sur le logement équitable soit appliquée de manière appropriée dans les cas impliquant des algorithmes et des logiciels de sélection des locataires".

« Les algorithmes sont écrits par des personnes. En tant que tels, ils sont sensibles à tous les biais, implicites ou explicites, des personnes qui les créent », a déclaré Rachael S. Rollins, procureure américaine du district du Massachusetts. « À mesure que le secteur du logement et d'autres professions adoptent des algorithmes dans leurs décisions quotidiennes, il peut y avoir des impacts différents sur certaines communautés protégées. Un logement stable et abordable offre une voie unique vers le succès, les opportunités et la sécurité. Nous devons protéger farouchement les droits et les protections promulgués dans la loi sur le logement équitable. Le dépôt d'aujourd'hui reconnaît que nos lois sur les droits civils du XXe siècle s'appliquent aux innovations du XXIe siècle. »

« Les politiques de sélection des locataires ne sont pas exemptées des protections de la loi sur le logement équitable simplement parce que les décisions sont prises par algorithme », a déclaré Damon Smith, avocat général du HUD. « Les fournisseurs de logements et les sociétés de sélection des locataires doivent s'assurer que toutes les politiques qui excluent des personnes des opportunités de logement, que ce soit sur la base d'un algorithme ou autre, n'ont pas d'impact disparate injustifié en raison de la race, de l'origine nationale ou d'une autre caractéristique protégée. »  

Le procès Louis a été intenté au nom de deux plaignantes, Mary Louis et Monica Douglas, des candidates noires à la location qui utilisent des bons de logement pour payer une partie de leur loyer. Les plaignantes ont demandé un logement locatif mais affirment que leur demande a été refusée en raison de leur « SafeRent Score », un score dérivé du logiciel de sélection basé sur un algorithme du défendeur SafeRent. Les plaignantes allèguent que les scores SafeRent ont un impact différent sur les candidats noirs et hispaniques à la location parce que l'algorithme sous-jacent s'appuie sur certains facteurs qui désavantagent de manière disproportionnée les candidats noirs et hispaniques, tels que les antécédents de crédit et les dettes non liées à la location, tout en omettant de prendre en compte un facteur très pertinent, à savoir que l'utilisation de bons de logement financés par le HUD rend ces locataires plus susceptibles de payer leur loyer.

Les défendeurs ont demandé le rejet de l'affaire et les plaignants se sont opposés aux motions des défendeurs. Par le biais de la déclaration d'intérêt, le ministère cherche à aider le tribunal en corrigeant deux questions de droit représentées par erreur dans les requêtes en rejet des défendeurs. Premièrement, la déclaration établit la norme appropriée pour plaider des réclamations pour impact disparate en vertu de la FHA. Deuxièmement, la déclaration précise que le texte et la jurisprudence de la FHA soutiennent l'application de la FHA aux entreprises fournissant des services de sélection résidentielle. Les requêtes en rejet sont actuellement en attente devant le tribunal.

La loi sur le logement équitable interdit la discrimination dans le logement fondée sur la race, la couleur, la religion, le sexe, le statut familial (avoir un ou plusieurs enfants de moins de 18 ans), l'origine nationale et le handicap. De plus amples informations sur la Division des droits civils et les lois qu'elle applique sont disponibles sur www.justice.gov/crt. 

Les personnes qui estiment avoir été victimes de discrimination en matière de logement peuvent soumettre un rapport en ligne sur www.civilrights.justice.gov. Ces personnes peuvent également contacter le ministère américain du Logement et du Développement urbain au 1-800-669-9977 ou déposer une plainte en ligne.

Mis à jour le 10 mars 2023

Lire la source

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd