Incidentes Asociados
El Departamento de Justicia anunció hoy que obtuvo un acuerdo de conciliación que resuelve las acusaciones de que Meta Platforms Inc., anteriormente conocida como Facebook Inc., se ha involucrado en publicidad discriminatoria en violación de la Ley de Vivienda Justa (FHA). El acuerdo propuesto resuelve una demanda presentada hoy en el Tribunal de Distrito de los EE. UU. para el Distrito Sur de Nueva York alegando que el sistema de publicidad de viviendas de Meta discrimina a los usuarios de Facebook por su raza, color, religión, sexo, discapacidad, estado familiar y origen nacional. El acuerdo no entrará en vigor hasta que sea aprobado por el tribunal.
Entre otras cosas, la denuncia alega que Meta usa algoritmos para determinar qué usuarios de Facebook reciben anuncios de vivienda y que esos algoritmos se basan, en parte, en características protegidas por la FHA. Este es el primer caso del departamento que desafía el sesgo algorítmico bajo la Ley de Vivienda Justa.
Según el acuerdo, Meta dejará de usar una herramienta de publicidad para anuncios de viviendas (conocida como la herramienta "Audiencia de anuncios especiales") que, según la denuncia del departamento, se basa en un algoritmo discriminatorio. Meta también desarrollará un nuevo sistema para abordar las disparidades raciales y de otro tipo causadas por el uso de algoritmos de personalización en su sistema de entrega de anuncios para anuncios de vivienda. Ese sistema estará sujeto a la aprobación del Departamento de Justicia y la supervisión del tribunal.
Este acuerdo marca la primera vez que Meta estará sujeta a supervisión judicial por su sistema de entrega y orientación de anuncios.
“A medida que la tecnología evoluciona rápidamente, las empresas como Meta tienen la responsabilidad de garantizar que sus herramientas algorítmicas no se utilicen de manera discriminatoria”, dijo la fiscal general adjunta Kristen Clarke, de la División de Derechos Civiles del Departamento de Justicia. “Este acuerdo es histórico, ya que marca la primera vez que Meta acepta cancelar una de sus herramientas de orientación algorítmica y modificar sus algoritmos de entrega para anuncios de vivienda en respuesta a una demanda de derechos civiles. El Departamento de Justicia se compromete a responsabilizar a Meta y otras empresas de tecnología cuando abusan de los algoritmos de manera que dañan ilegalmente a las comunidades marginadas”.
“Cuando una empresa desarrolla e implementa tecnología que priva a los usuarios de oportunidades de vivienda basándose total o parcialmente en características protegidas, ha violado la Ley de Equidad de Vivienda, al igual que cuando las empresas se involucran en publicidad discriminatoria utilizando métodos de publicidad más tradicionales”, dijo el fiscal federal. Damian Williams por el Distrito Sur de Nueva York. “Debido a esta demanda innovadora, Meta, por primera vez, cambiará su sistema de entrega de anuncios para abordar la discriminación algorítmica. Pero si Meta no logra demostrar que ha cambiado lo suficiente su sistema de entrega para protegerse contra el sesgo algorítmico, esta oficina procederá con el litigio”.
“No son solo los proveedores de vivienda los que tienen el deber de cumplir con las leyes de vivienda justa”, dijo Demetria McCain, Subsecretaria Adjunta Principal de Vivienda Justa e Igualdad de Oportunidades del Departamento de Vivienda y Desarrollo Urbano (HUD). “Las partes que discriminan en el mercado de la vivienda, incluidas las que se involucran en el sesgo algorítmico, deben rendir cuentas. Este tipo de comportamiento nos hace daño a todos. HUD aprecia su asociación continua con el Departamento de Justicia en su intento de defender las leyes de derechos civiles de nuestro país”.
Demanda de Estados Unidos
La queja de los Estados Unidos cuestiona tres aspectos clave del sistema de entrega y orientación de anuncios de Meta. Específicamente, el departamento alega que:
- Meta habilitó y alentó a los anunciantes a orientar sus anuncios de vivienda basándose en la raza, el color, la religión, el sexo, la discapacidad, el estado familiar y el origen nacional para decidir qué usuarios de Facebook serán elegibles y no elegibles para recibir anuncios de vivienda.
- Meta creó una herramienta de orientación de anuncios conocida como "Público similar" o "Público de anuncios especiales". La herramienta utiliza un algoritmo de aprendizaje automático para encontrar usuarios de Facebook que comparten similitudes con grupos de personas seleccionadas por un anunciante utilizando varias opciones proporcionadas por Facebook. Facebook ha permitido que su algoritmo considere las características protegidas por la FHA, incluida la raza, la religión y el sexo, para encontrar usuarios de Facebook que "se parecen" a la audiencia de origen del anunciante y, por lo tanto, son elegibles para recibir anuncios de viviendas.
- El sistema de entrega de anuncios de Meta utiliza algoritmos de aprendizaje automático que se basan en parte en las características protegidas por la FHA, como la raza, el origen nacional y el sexo, para ayudar a determinar qué subconjunto de la audiencia objetivo de un anunciante recibirá realmente un anuncio de vivienda.
La denuncia alega que Meta ha utilizado estos tres aspectos de su sistema de publicidad para orientar y entregar anuncios relacionados con la vivienda a algunos usuarios de Facebook mientras excluye a otros usuarios en función de las características protegidas por la FHA.
La demanda del departamento alega trato desigual y discriminación de impacto desigual. La denuncia alega que Meta es responsable de un trato desigual porque clasifica intencionalmente a los usuarios sobre la base de las características protegidas por la FHA y diseña algoritmos que se basan en las características protegidas por la FHA de los usuarios. El departamento alega además que Meta es responsable de la discriminación por impacto desigual porque el funcionamiento de sus algoritmos afecta a los usuarios de Facebook de manera diferente en función de su pertenencia a clases protegidas.
Acuerdo de solución
Estas son las características clave del acuerdo de conciliación de las partes:
- Para el 31 de diciembre de 2022, Meta debe dejar de usar una herramienta publicitaria para albergar anuncios conocida como "Audiencia de anuncios especiales" (anteriormente llamada "Audiencia similar"), que se basa en un algoritmo que, según los Estados Unidos, discrimina en el en función de la raza, el sexo y otras características protegidas por la FHA para identificar qué usuarios de Facebook serán elegibles para recibir un anuncio.
- Meta tiene hasta diciembre de 2022 para desarrollar un nuevo sistema para alojar anuncios que aborde las disparidades de raza, etnia y sexo entre las audiencias objetivo de los anunciantes y el grupo de usuarios de Facebook a quienes los algoritmos de personalización de Facebook realmente entregan los anuncios. Si Estados Unidos concluye que este nuevo sistema aborda suficientemente las disparidades discriminatorias que introducen los algoritmos de Meta, Meta implementará completamente el nuevo sistema antes del 31 de diciembre de 2022.
- Si Estados Unidos llega a la conclusión de que los cambios de Meta en su sistema de publicación de anuncios no abordan adecuadamente las disparidades discriminatorias, el acuerdo de conciliación terminará y Estados Unidos litigará su caso contra Meta en un tribunal federal.
- Las partes seleccionarán un revisor externo independiente para investigar y verificar de forma continua si el nuevo sistema cumple con los estándares de cumplimiento acordados por las partes. Según el acuerdo, Meta debe proporcionar al revisor toda la información necesaria para verificar el cumplimiento de esos estándares. El tribunal tendrá la máxima autoridad para resolver disputas sobre la información que Meta debe divulgar.
- Meta no proporcionará ninguna opción de orientación para los anunciantes de viviendas que describan o se relacionen directamente con las características protegidas por la FHA. Según el acuerdo, Meta debe notificar a los Estados Unidos si Meta tiene la intención de agregar alguna opción de orientación. El tribunal tendrá autoridad para resolver cualquier disputa entre las partes sobre las nuevas opciones de orientación propuestas.
- Meta debe pagar a los Estados Unidos una sanción civil de $115,054, la sanción máxima disponible bajo la Ley de Vivienda Justa.
La demanda del Departamento de Justicia se basa en parte en una investigación y acusación de discriminación por parte de HUD, que encontró que los tres aspectos del sistema de entrega de anuncios de Meta violaron la Ley de Vivienda Justa. Cuando Facebook eligió que el cargo de HUD se escuchara en un tribunal federal, HUD remitió el asunto al Departamento de Justicia para que lo litigara.
Este caso está siendo manejado conjuntamente por la División de Derechos Civiles del Departamento de Justicia y la Oficina del Fiscal Federal para el Distrito Sur de Nueva York.
La fiscal general adjunta Kristen Clarke y el fiscal federal Damian Williams agradecieron al Departamento de Vivienda y Desarrollo Urbano por sus esfuerzos en la investigación.
La Ley de Vivienda Justa prohíbe la discriminación en la vivienda por motivos de raza, color, religión, sexo, estado familiar, origen nacional y discapacidad. Más información sobre la División de Derechos Civiles y las leyes que hace cumplir está disponible en www.justice.gov/crt. Más información sobre la Oficina del Fiscal Federal para el Distrito Sur de Nueva York está disponible en www.justice.gov/usao-sdny. Las personas que creen que han sido víctimas de discriminación en la vivienda pueden presentar un informe en línea en www.civilrights.justice.gov, o pueden comunicarse con el Departamento de Vivienda y Desarrollo Urbano al 1-800-669-9777 o a través de su sitio web en www.hud.gov. La Ley de Vivienda Justa prohíbe la discriminación en la vivienda por motivos de raza, color, religión, sexo, estado familiar, origen nacional y discapacidad. Más información sobre la División de Derechos Civiles y las leyes que hace cumplir está disponible en www.justice.gov/crt. Más información sobre la Oficina del Fiscal Federal para el Distrito Sur de Nueva York está disponible en www.justice.gov/usao-sdny. Las personas que creen que han sido víctimas de discriminación en la vivienda pueden presentar un informe en línea en www.civilrights.justice.gov, o pueden comunicarse con el Departamento de Vivienda y Desarrollo Urbano al 1-800-669-9777 o a través de su sitio web en www.hud.gov.