Traducido por IA

Incidente 167: El modelo de detección de hombres homosexuales desarrollado por investigadores es denunciado como una amenaza a la seguridad y privacidad de las personas LGBTQ

Traducido por IA
Descripción:
Traducido por IA
Investigadores de la Escuela de Posgrado de Negocios de Stanford desarrollaron un modelo que determinaba, en escala binaria, si alguien era homosexual usando solo su imagen facial, lo cual grupos de defensa como GLAAD y la Campaña de Derechos Humanos denunciaron como ciencia defectuosa y una amenaza para las personas LGBTQ.

Herramientas

Nuevo InformeNuevo InformeNueva RespuestaNueva RespuestaDescubrirDescubrirVer HistorialVer Historial

Entidades

Ver todas las entidades
Presunto: un sistema de IA desarrollado e implementado por Michal Kosinski y Yilun Wang, perjudicó a LGBTQ people , LGBTQ people of color y non-American LGBTQ people.

Estadísticas de incidentes

ID
167
Cantidad de informes
1
Fecha del Incidente
2017-09-07
Editores
Sean McGregor, Khoa Lam
Applied Taxonomies
GMF, MIT

Clasificaciones de la Taxonomía GMF

Detalles de la Taxonomía

Known AI Goal Snippets

(Snippet Text: Presented with photos of gay men and straight men, a computer program was able to determine which of the two was gay with 81 percent accuracy, according to Dr. Kosinski and co-author Yilun Wang’s paper., Related Classifications: Behavioral Modeling, Snippet Discussion: Pairwise classification)

Clasificaciones de la Taxonomía MIT

Machine-Classified
Detalles de la Taxonomía

Risk Subdomain

2.1. Compromise of privacy by obtaining, leaking or correctly inferring sensitive information

Risk Domain

  1. Privacy & Security

Entity

Human

Timing

Post-deployment

Intent

Intentional

Informes del Incidente

Cronología de Informes

Incident OccurrencePor qué los investigadores de Stanford intentaron crear una máquina 'Gaydar'
Por qué los investigadores de Stanford intentaron crear una máquina 'Gaydar'
nytimes.com · 2017
Traducido por IA

Michal Kosinski sintió que tenía buenas razones para enseñarle a una máquina a detectar la orientación sexual.

Una empresa emergente israelí había comenzado a vender un servicio que predecía tendencias terroristas basándose en análisis faci…

Variantes

Una "Variante" es un incidente de IA similar a un caso conocido—tiene los mismos causantes, daños y sistema de IA. En lugar de enumerarlo por separado, lo agrupamos bajo el primer incidente informado. A diferencia de otros incidentes, las variantes no necesitan haber sido informadas fuera de la AIID. Obtenga más información del trabajo de investigación.
¿Has visto algo similar?

Incidentes Similares

Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

Research Prototype AI, Delphi, Reportedly Gave Racially Biased Answers on Ethics

Research Prototype AI, Delphi, Reportedly Gave Racially Biased Answers on Ethics

· 3 informes
Fake LinkedIn Profiles Created Using GAN Photos

Fake LinkedIn Profiles Created Using GAN Photos

· 4 informes
Ever AI Reportedly Deceived Customers about FRT Use in App

Ever AI Reportedly Deceived Customers about FRT Use in App

· 7 informes
Incidente AnteriorSiguiente Incidente