Description: Researchers at Stanford Graduate School of Business developed a model that determined, on a binary scale, whether someone was homosexual using only his facial image, which advocacy groups such as GLAAD and the Human Rights Campaign denounced as flawed science and threatening to LGBTQ folks.
Entités
Voir toutes les entitésPrésumé : Un système d'IA développé et mis en œuvre par Michal Kosinski and Yilun Wang, endommagé LGBTQ people , LGBTQ people of color and non-American LGBTQ people.
Statistiques d'incidents
ID
167
Nombre de rapports
1
Date de l'incident
2017-09-07
Editeurs
Sean McGregor, Khoa Lam
Classifications de taxonomie GMF
Détails de la taxonomieKnown AI Goal
An AI Goal which is almost certainly pursued by the AI system referenced in the incident.
Behavioral Modeling
Known AI Technology
An AI Technology which is almost certainly a part of the implementation of the AI system referenced in the incident.
Neural Network
Potential AI Technology
An AI Method / Technology which probably is a part of the implementation of the AI system referenced in the incident.
Siamese Network, Convolutional Neural Network, Diverse Data
Known AI Technical Failure
An AI Technical Failure which almost certainly contributes to the AI system failure referenced in the incident.
Limited Dataset, Dataset Imbalance, Generalization Failure
Potential AI Technical Failure
An AI Technical Failure which probably contributes to the AI system failure referenced in the incident.
Incomplete Data Attribute Capture, Overfitting, Lack of Explainability
Rapports d'incidents
Chronologie du rapport
nytimes.com · 2017
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Michal Kosinski a estimé qu'il avait de bonnes raisons d'enseigner à une machine à détecter l'orientation sexuelle.
Une start-up israélienne avait commencé à colporter un service qui prédisait les tendances terroristes sur la base d'une ana…
Variantes
Une "Variante" est un incident qui partage les mêmes facteurs de causalité, produit des dommages similaires et implique les mêmes systèmes intelligents qu'un incident d'IA connu. Plutôt que d'indexer les variantes comme des incidents entièrement distincts, nous listons les variations d'incidents sous le premier incident similaire soumis à la base de données. Contrairement aux autres types de soumission à la base de données des incidents, les variantes ne sont pas tenues d'avoir des rapports en preuve externes à la base de données des incidents. En savoir plus sur le document de recherche.
