Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Problema 2973

Loading...
El impuesto Tiger Mom: los asiáticos tienen casi el doble de probabilidades de obtener un precio más alto de Princeton Review
propublica.org · 2015

Lea nuestra metodología.

Cada año, miles de estudiantes de secundaria se preparan para el SAT utilizando los servicios de preparación para exámenes de The Princeton Review.

Pero pocos, si es que hay alguno, se dan cuenta de que los precios de los paquetes de tutoría SAT en línea de The Princeton Review varían sustancialmente según el lugar donde vivan los clientes. Si escriben algunos códigos postales en el sitio web de la empresa, se les ofrece el curso Premier de The Princeton Review por tan solo $6600. Para otros códigos postales, el mismo curso cuesta hasta $8,400.

Un efecto inesperado del enfoque geográfico de precios de la compañía es que los asiáticos tienen casi el doble de probabilidades de recibir un precio más alto que los no asiáticos, según muestra un análisis de ProPublica.

Los asiáticos representan el 4,9 por ciento de la población general de EE. UU. Pero representan más del 8 por ciento de la población en áreas donde The Princeton Review cobra precios más altos por sus paquetes de preparación para el SAT.

La brecha se mantiene incluso para los asiáticos en vecindarios de bajos ingresos. Considere un código postal en Flushing, un vecindario en Queens, Nueva York. Los asiáticos constituyen el 70,5 por ciento de la población en este código postal. Según el censo de EE. UU., el ingreso familiar promedio en el código postal, $41,884, es más bajo que el de la mayoría, pero los clientes de The Princeton Review cotizan allí con el precio más alto.

The Princeton Review dijo en un comunicado que su precio se basa en los "costos de operar nuestro negocio y los atributos competitivos del mercado dado", y que la compañía cobra el mismo precio en todas partes de la ciudad de Nueva York. Aunque el servicio de preparación para exámenes comercializa su servicio como "Tutoría en línea las 24 horas", la compañía dice que la tutoría se realiza en sesiones individuales en persona o en línea y que los tutores generalmente viven en las mismas áreas que sus estudiantes.

“Las áreas que experimenten precios más altos también tendrán una población desproporcionadamente mayor de miembros de la industria de servicios financieros, personas que tienden a votar por los demócratas, periodistas y cualquier otro grupo que esté más concentrado en áreas como la ciudad de Nueva York”, The Princeton La declaración de la revisión decía.

Estos tipos de diferencias de precios no son ilegales y las consecuencias no son intencionales, pero los investigadores dicen que es probable que se vuelvan más comunes en la era de servicios como [Uber] (http://www.nytimes.com/2014/01/ 12/magazine/is-ubers-surge-pricing-an-example-of-high-tech-gouging.html), que establece los precios mediante algoritmos informáticos. The Princeton Review dice que sus precios están determinados simplemente por región geográfica.

El año pasado, un [informe de la Casa Blanca] (https://www.whitehouse.gov/sites/default/files/docs/big_data_privacy_report_5.1.14_final_print.pdf) sobre "Big Data" advirtió que las "decisiones algorítmicas plantean el espectro de 'línea roja' en la economía digital: el potencial para discriminar a las clases más vulnerables de nuestra sociedad bajo la apariencia de algoritmos neutrales”.

En 2012, el Wall Street Journal informó que el minorista de oficina en línea [Staples tenía precios variables] (http://www.wsj.com/articles/SB10001424127887323777204578189391813881534) por código postal. Staples parecía estar calculando los precios en función de la distancia del usuario a una tienda rival, pero el efecto involuntario fue que las personas en los códigos postales de bajos ingresos vieron los precios más altos.

En 2014, investigadores de la Universidad Northeastern descubrieron que los principales sitios web, como Home Depot, Orbitz y Travelocity, estaban [dirigiendo a algunos usuarios hacia productos más caros] (http://www.ccs.neu.edu/home/cbw/pdf /imc151-hannak.pdf). Y este año, otro estudio encontró que los usuarios identificados por Google como mujeres recibieron [menos anuncios para un trabajo bien remunerado] (http://www.degruyter.com/view/j/popets.2015.1.issue-1/ popets-2015-0007/popets-2015-0007.xml).

Fuera de línea, la práctica de ofrecer diferentes precios para el mismo producto en diferentes lugares es bastante común: la gasolina o un galón de leche pueden tener precios diferentes a pocas cuadras de distancia. Pero mientras no haya intención de discriminar racialmente, por lo general es legal, dice Andrew Selbst, un abogado coautor [de un artículo sobre los sesgos que pueden ser inherentes a Big Data] (http://papers.ssrn. com/sol3/papers.cfm?abstract_id=2477899).

“Si está abierto a los negocios, no puede discriminar a ciertas clases protegidas”, dijo Selbst.

La discriminación racial no intencional es ilegal en la vivienda y el empleo según la doctrina legal conocida como “[impacto dispar](https://www.propublica.org/article/how-the-supreme-court-could-scuttle-critical-fair-housing -regla)”, que prohíbe las acciones inadvertidas que dañan a las personas en una clase protegida.

Pero la doctrina del impacto dispar no se aplica al mundo en línea, donde a menudo es difícil determinar cómo y por qué se ofrecen diferentes precios.

A principios de este año, el estudiante de Harvard Christian Haigh se topó con los precios variables de The Princeton Review mientras investigaba para una clase que estaba tomando llamada "Ciencia de datos para salvar el mundo".

Haigh había estado buscando diferencias de precios en las habitaciones de hotel si reservaba desde diferentes lugares del mundo. Pero no estaba encontrando mucho. Así que buscó sitios web que requerían ingresar un código postal.

“Pensamos que tal vez si tenía que ingresar el código postal, estaban tratando de discriminar”, dijo Haigh. Hoy, Haigh y tres compañeros están publicando sus hallazgos de que los precios más altos de The Princeton Review se correlacionan con áreas con ingresos más altos.

ProPublica revisó el código que uno de los compañeros de estudios de Haigh publicó en un sitio web público y recopiló sus propios datos en julio y nuevamente el lunes. Los datos mostraron que The Princeton Review ofreció cuatro precios diferentes para el mismo paquete de tutoría en línea de "Nivel Premier".

Muchos de los precios son regionales. Por ejemplo, toda el área de la ciudad de Nueva York, incluida Long Island, recibe el precio más alto posible, $8400. A gran parte de California, excepto San Diego, se le ofrece el segundo precio más alto, $7,200, mientras que a los códigos postales de San Diego se les cobra el precio más bajo.

Debido a que las regiones de precios son grandes, a veces abarcan varios estados, son diferentes a los algoritmos tecnológicos personalizados utilizados por algunos sitios web, que toman decisiones en tiempo real sobre qué anuncios mostrar a un visitante en particular.

ProPublica probó si los precios de The Princeton Review estaban vinculados a diferentes características de cada código postal, incluidos los ingresos, la raza y el nivel educativo. Cuando se trataba de obtener los precios más altos, vivir en un código postal con un ingreso medio alto o una gran población asiática parecía marcar la mayor diferencia.

El análisis mostró que las áreas de mayores ingresos tienen el doble de probabilidades de recibir precios más altos que la población en general. Por ejemplo, a los suburbios ricos de Washington D.C. se les cobran precios más altos. Pero ese no es siempre el caso: a los residentes de los vecindarios acomodados de Dallas se les cobra el precio más bajo, $6,600.

Los clientes en áreas con una alta densidad de residentes asiáticos tenían 1,8 veces más probabilidades de que se les ofrecieran precios más altos, independientemente de sus ingresos. Por ejemplo, a los residentes de la ciudad industrial arenosa de Westminster, California, que es mitad asiática con un ingreso medio por debajo de la mayoría, se les cobró el segundo precio más alto por el servicio de tutoría Premier.

The Princeton Review dijo que sería un error llamar discriminación a sus prácticas de fijación de precios. “Equiparar las diferencias incidentales en el impacto que se producen a partir de este tipo de fijación de precios basada en la geografía que impregna todo el comercio estadounidense con discriminación malinterpreta el significado literal, legal y moral de la palabra”, dijo la compañía en su comunicado.

La compañía dijo que los precios de sus servicios de tutoría en línea se basan en los precios de los tutores locales, que varían “al igual que prácticamente todos los bienes o servicios, ya sea gasolina, alquiler o huevos”.

Incluso si las diferencias de precios no fueran intencionales, los estudiantes de Harvard dijeron que las encontraban perturbadoras. Haigh, el estudiante que descubrió las variaciones, se especializa en economía y dijo que generalmente no está en contra de las diferencias de precios a menos que se vean afectados grupos demográficos particulares.

“Es algo que tiene un impacto muy pequeño en la vida de un individuo, pero puede tener un gran impacto en grupos grandes”, dijo Haigh.

Leer la Fuente

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd