家主が使用するAIスクリーニングツールであるSafeRentは、住宅バウチャーを使用する人が良い入居者になるかどうかを評価するために、AIを搭載した「スコア」を使用しなくなります。水曜日、米国地方裁判所のAngel Kelley判事は、SafeRentが収入と人種に基づいて入居者を差別するのを防ぐため、約230万ドルの和解金の最終承認を発行しました。
この和解は、マサチューセッツ州で2022年に提起された集団訴訟に端を発しています。訴訟では、SafeRent のスコアリング システムが住宅バウチャーを使用する人々、特に黒人とヒスパニック系の申請者に不当に不利益を与えたと主張されています。マサチューセッツ州法に違反しているだけでなく、苦情では SafeRent が住宅差別を禁止する公正住宅法に違反していると非 難されています。
最初の訴訟で概説されているように、SafeRent のスコアリング アルゴリズムは、信用履歴や賃貸に関連しない負債などの要素を使用して、潜在的な入居者に SafeRent スコアを割り当てます。家主は、このスコアを使用して、誰かの賃貸申請を受け入れるか拒否するかを決定できます。訴訟では、SafeRent が家主にスコアの算出方法を知らせていないため、プロセスが透明ではないと主張しています。また、このシステムは、黒人とヒスパニック系の入居者、および住宅バウチャーを使用する人々に不当に低いスコアを割り当て、家主が彼らの住宅申請を拒否する原因となったとされています。
5年間の和解により、SafeRentは、全国の住宅バウチャーを使用する申請者に対する入居審査スコアを表示しなくなり、また、家主が同社の「手頃な」SafeRentスコアモデルを使用する場合、スコアを含めることもできなくなります。SafeRentのサービスでは、住宅バウチャーを使用する場合、申請を「承認」するか「拒否」するかの推奨も表示できません。つまり、家主は、住宅バウチャーを使用する入居者を、SafeRentスコアだけを使用するのではなく、その記録全体に基づいて評価する必要があるということです。
「クレジットスコアや、SafeRentスコアなどの同様にモデル化されたスコアは、信用義務の返済を予測することのみを目的としたテスト済みの情報を利用しています」と、全米消費者法律センターの訴訟担当ディレクター、シェナン・カバナ氏は声明で述べています。「このようなデータが、入居者が家賃を支払うことを予測できるという証拠はありません。」
和解の一環として集めら れたお金は、住宅バウチャーを使用したものの、SafeRentの入居者スコアのせいで住宅を確保できなかったマサチューセッツ州在住の賃貸申請者に渡される。「SafeRentは、SRS [SafeRent Solutions]スコアがすべての適用法に準拠していると引き続き信じていますが、訴訟は時間がかかり、費用もかかります」と、SafeRentの広報担当者Yazmin Lopez氏はThe Vergeへの声明で述べた。「この訴訟でSRSスコアを擁護することは、SafeRentが住宅提供者に申請者の審査に必要なツールを提供するという中核的な使命を果たすために有効に活用できる時間とリソースをそらすことになることがますます明らかになりました。」
SafeRentは、訴訟に直面している最新のアルゴリズム駆動型不動産管理ソフトウェアです。8月、司法省は RealPageのアルゴリズム価格設定ソフトウェアが家賃を値上げしているという主張をめぐって同社を提訴しました。