Journal des citations pour l'incident 47

Description: An investigation by The Seattle Times in 2016 found a gender bias in LinkedIn's search engine.

Outils

Nouveau rapportNouveau rapportNouvelle RéponseNouvelle RéponseDécouvrirDécouvrirVoir l'historiqueVoir l'historique
Présumé : Un système d'IA développé et mis en œuvre par LinkedIn, endommagé Women.

Statistiques d'incidents

ID
47
Nombre de rapports
9
Date de l'incident
2016-09-06
Editeurs
Sean McGregor

Classifications de taxonomie CSETv0

Détails de la taxonomie

Full Description

In 2016, an investigation by the Seattle Times found that the LinkedIn search engine feature potentially possessed gender bias, as the LinkedIn search function would present any male users before female users when users would search for names that possess both male and female profiles. In addition, when a user would search a female name, a prompt would ask if the user was searching for the male equivalent of the name. The same did not occur when searching the 100 most common male names.

Short Description

An investigation by The Seattle Times in 2016 found a gender bias in LinkedIn's search engine.

Severity

Negligible

Harm Distribution Basis

Sex

AI System Description

Linkedin uses search engines trained on and guided by relative frequencies of words appearing in past queries and member profiles

System Developer

LinkedIn

Sector of Deployment

Information and communication

Relevant AI functions

Perception, Cognition, Action

AI Techniques

Machine learning, natural language processing model

AI Applications

recommendation engine, decision support

Location

Global

Named Entities

LinkedIn, The Seattle Times, Microsoft

Technology Purveyor

LinkedIn

Beginning Date

2016-08-31

Ending Date

2016-08-31

Near Miss

Unclear/unknown

Intent

Accident

Lives Lost

No

Data Inputs

words appearing in user past queries and member profiles

Classifications de taxonomie CSETv1

Détails de la taxonomie

Harm Distribution Basis

sex

Sector of Deployment

information and communication

Le moteur de recherche de LinkedIn peut refléter un préjugé sexiste
stuff.co.nz · 2016

LinkedIn affirme que ses résultats suggérés sont générés automatiquement par une analyse des tendances des anciens chercheurs.

Recherchez un contact féminin sur LinkedIn et vous obtiendrez peut-être un résultat curieux. Le site Web de résea…

Les entreprises technologiques s'efforcent de rechercher des sites Web sans parti pris
startribune.com · 2016

– Recherchez un contact féminin sur LinkedIn, et vous pourriez obtenir un résultat curieux. Le site Web de réseautage professionnel vous demande si vous vouliez rechercher le nom d'un homme similaire.

Une recherche de "Stephanie Williams", …

L'algorithme de recherche de LinkedIn favorisait apparemment les hommes jusqu'à cette semaine
qz.com · 2016

Jusqu'au 7 septembre, les utilisateurs de LinkedIn recherchant des contacts féminins sur le site ont peut-être remarqué des résultats étranges. Les recherches de noms féminins courants donnaient également des suggestions de noms masculins.

LinkedIn modifie le moteur de recherche après des allégations de préjugés sexistes
time.com · 2016

DEVISE Samantha Cooney est rédactrice en chef de la stratégie de contenu chez TIME.

Une semaine après que le Seattle Times a rapporté que le moteur de recherche de LinkedIn pouvait refléter un préjugé sexiste, la plateforme de réseautage a …

Une enquête sur LinkedIn affirme que les recherches de femmes professionnelles finissent par suggérer des HOMMES
dailymail.co.uk · 2016

La question de savoir si un ordinateur peut être biaisé ou non peut sembler frivole, mais cela pourrait faire toute la différence lorsqu'il s'agit d'être trouvé en ligne.

Or, une enquête d'un journal américain a suggéré que ce biais pourrai…

LinkedIn dément toute allégation de préjugé sexiste sur la recherche sur le site
bbc.com · 2016

Copyright de l'image Getty Images Image caption LinkedIn lancé en 2002

LinkedIn a nié que son algorithme de recherche ait été biaisé pour suggérer des versions masculines de noms féminins dans les recherches sur son site Web.

Une enquête du…

LinkedIn nie le problème des préjugés sexistes
thecut.com · 2016

LinkedIn.

La semaine dernière, une enquête du Seattle Times a révélé que la fonction de recherche de LinkedIn semble avoir un biais sexiste assez prononcé. Il s'avère que lorsque vous recherchez le nom d'une femme sur LinkedIn, le site a la…

Adieu les préjugés sexistes ! LinkedIn ne demandera plus aux utilisateurs s'ils voulaient rechercher un homme
glamour.com · 2016

Avez-vous déjà recherché un contact sur LinkedIn uniquement pour que le site de réseautage vous invite automatiquement à rechercher un homme portant un nom similaire ? Tu n'es pas seul. Une enquête récente du Seattle Times a révélé un préju…

LinkedIn a-t-il un préjugé sexiste ?
digitaljournal.com · 2016

Sep 19, 2016 dans Technologie Le site de réseautage social "professionnel" LinkedIn a été accusé d'avoir un parti pris sexiste. C'est en fournissant plus de professionnels masculins dans ses résultats de recherche que de femmes. "Une nouvel…

Variantes

Une "Variante" est un incident qui partage les mêmes facteurs de causalité, produit des dommages similaires et implique les mêmes systèmes intelligents qu'un incident d'IA connu. Plutôt que d'indexer les variantes comme des incidents entièrement distincts, nous listons les variations d'incidents sous le premier incident similaire soumis à la base de données. Contrairement aux autres types de soumission à la base de données des incidents, les variantes ne sont pas tenues d'avoir des rapports en preuve externes à la base de données des incidents. En savoir plus sur le document de recherche.

Incidents similaires

Par similarité textuelle

Did our AI mess up? Flag the unrelated incidents