Entités
Voir toutes les entitésStatistiques d'incidents
Classifications de taxonomie CSETv1
Détails de la taxonomieIncident Number
92
AI Tangible Harm Level Notes
There was a gender bias in the rates and credit limits offered by the Apple card. This results in financial harm based on gender.
Special Interest Intangible Harm
yes
Date of Incident Year
2019
Date of Incident Month
11
Estimated Date
No
Classifications de taxonomie CSETv1_Annotator-1
Détails de la taxonomieIncident Number
92
AI Tangible Harm Level Notes
3.2 - Goldman Sachs, who developed the card, never explicitly said whether the algorithm was AI. General media consensus is that machine learning was very likely involved.
Notes (special interest intangible harm)
Women with similar financial backgrounds, credit scores, and other personal details as male counterparts were assigned much lower credit limits.
Special Interest Intangible Harm
yes
Classifications de taxonomie CSETv1_Annotator-2
Détails de la taxonomieIncident Number
92
AI Tangible Harm Level Notes
There was a gender bias in the rates and credit limits offered by the Apple card. This results in financial harm based on gender.
Special Interest Intangible Harm
yes
Date of Incident Year
2019
Estimated Date
No
Multiple AI Interaction
no
Classifications de taxonomie CSETv0
Détails de la taxonomieProblem Nature
Specification
Physical System
Software only
Level of Autonomy
High
Nature of End User
Amateur
Public Sector Deployment
No
Data Inputs
credit score, credit report, reported income
Rapports d'incidents
Chronologie du rapport
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Ce qui a commencé avec un fil Twitter viral s'est métastasé en une enquête réglementaire sur les pratiques de Goldman Sachs en matière de cartes de crédit après qu'un éminent développeur de logiciels a attiré l'attention sur les différences…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
L'algorithme responsable des décisions de crédit pour la carte Apple donne aux femmes des limites de crédit inférieures à celles des hommes également qualifiés. Ce sont les allégations qui ont commencé à se répandre lorsque les consommateur…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Lorsque l'entrepreneur technologique David Heinmeier Hansson s'est récemment adressé à Twitter en disant que la carte Apple lui accordait une limite de crédit 20 fois plus élevée que celle de sa femme, malgré le fait qu'elle avait un pointa…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Les régulateurs américains enquêtent pour savoir si la carte de crédit d'Apple, lancée en août, est [biaisée contre les femmes](https://qz.com/1746446/the-real-hero-of-the-sexist-applecard-saga-has-issued- une déclaration/). L'ingénieur log…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
La possibilité que les demandeurs d'Apple Card aient été soumis à des préjugés sexistes ouvre une nouvelle frontière pour le secteur des services financiers dans lequel les régulateurs sont largement absents, affirme Karen Mills.
Fin août, …
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Les partisans de la justice algorithmique ont commencé à voir leurs proverbiales « journées devant les tribunaux » avec des enquêtes judiciaires sur des entreprises comme [UHG](https://www.wsj.com/articles/new-york-regulator-probes-unitedhe…
Variantes
Incidents similaires
Did our AI mess up? Flag the unrelated incidents
Incidents similaires
Did our AI mess up? Flag the unrelated incidents