Description: Researchers at Stanford Graduate School of Business developed a model that determined, on a binary scale, whether someone was homosexual using only his facial image, which advocacy groups such as GLAAD and the Human Rights Campaign denounced as flawed science and threatening to LGBTQ folks.
Entidades
Ver todas las entidadesPresunto: un sistema de IA desarrollado e implementado por Michal Kosinski y Yilun Wang, perjudicó a LGBTQ people , LGBTQ people of color y non-American LGBTQ people.
Estadísticas de incidentes
ID
167
Cantidad de informes
1
Fecha del Incidente
2017-09-07
Editores
Sean McGregor, Khoa Lam
Clasificaciones de la Taxonomía GMF
Detalles de la TaxonomíaKnown AI Goal
An AI Goal which is almost certainly pursued by the AI system referenced in the incident.
Behavioral Modeling
Known AI Technology
An AI Technology which is almost certainly a part of the implementation of the AI system referenced in the incident.
Neural Network
Potential AI Technology
An AI Method / Technology which probably is a part of the implementation of the AI system referenced in the incident.
Siamese Network, Convolutional Neural Network, Diverse Data
Known AI Technical Failure
An AI Technical Failure which almost certainly contributes to the AI system failure referenced in the incident.
Limited Dataset, Dataset Imbalance, Generalization Failure
Potential AI Technical Failure
An AI Technical Failure which probably contributes to the AI system failure referenced in the incident.
Incomplete Data Attribute Capture, Overfitting, Lack of Explainability
Informes del Incidente
Cronología de Informes
nytimes.com · 2017
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
Michal Kosinski sintió que tenía buenas razones para enseñarle a una máquina a detectar la orientación sexual.
Una empresa emergente israelí había comenzado a vender un servicio que predecía tendencias terroristas basándose en análisis faci…
Variantes
Una "Variante" es un incidente que comparte los mismos factores causales, produce daños similares e involucra los mismos sistemas inteligentes que un incidente de IA conocido. En lugar de indexar las variantes como incidentes completamente separados, enumeramos las variaciones de los incidentes bajo el primer incidente similar enviado a la base de datos. A diferencia de otros tipos de envío a la base de datos de incidentes, no se requiere que las variantes tengan informes como evidencia externa a la base de datos de incidentes. Obtenga más información del trabajo de investigación.
