Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Problème 130

Incidents associés

Incident 1810 Rapports
Gender Biases of Google Image Search

Loading...
Google Image Search a un problème de préjugé sexiste
huffingtonpost.com · 2015

Tous les médecins ou PDG ne sont pas des hommes. Toutes les infirmières ne sont pas des femmes. Mais vous pourriez penser le contraire si vous recherchiez ces professions dans les images Google.

Il s'avère qu'il existe un biais sexiste notable dans les résultats de recherche d'images pour certains emplois, selon une nouvelle étude menée par des chercheurs de l'Université de Washington et de l'Université du Maryland. Cette sous-représentation des femmes dans les résultats de recherche d'images affecte en fait les idées des gens sur les ratios professionnels entre les sexes dans le monde réel, selon l'étude.

Voir par vous-même...

Voici ce qui s'est passé lorsque j'ai recherché "infirmière" dans Google images :

Voici ce qui s'est passé lorsque j'ai recherché "docteur" dans Google images :

Voici ce qui s'est passé lorsque j'ai recherché "PDG" dans les images Google :

Ce sont tous des hommes blancs dans ce dernier, au cas où vous ne pourriez pas le dire.

Bien qu'ils soient minoritaires, il y a des PDG qui sont des femmes et qui ne sont pas blanches.

Les chercheurs ont examiné les 100 meilleurs résultats de recherche d'images pour 45 emplois différents. Ils ont ensuite comparé la répartition par sexe de ces résultats aux données réelles sur le sexe du Bureau of Labor Statistics pour chaque emploi.

Il s'avère que pour certains termes de recherche, comme « directeur général », le déséquilibre entre les sexes sur Google est bien pire qu'il ne l'est dans la vraie vie. L'étude a révélé que seulement 11 % des personnes figurant dans une recherche d'image pour « PDG » étaient des femmes, tandis que les données du BLS indiquent que 27 % des PDG sont des femmes. De même, une recherche de télévendeurs a montré 64% de femmes, même si en réalité il s'agit d'une répartition 50-50 entre les sexes. Près de 60 % des barmans sont des femmes, mais dans les résultats de la recherche d'images, seuls 23 % l'étaient.

Tous les emplois n'ont pas démontré un tel fossé entre les résultats de recherche et la réalité. Mais les femmes étaient légèrement sous-représentées en moyenne dans tous les emplois examinés par les chercheurs.

"J'ai été surpris de la qualité des résultats de la recherche d'images, juste en termes de chiffres", a déclaré Matt Kay, co-auteur de l'étude. "Ils pourraient légèrement sous-représenter les femmes et ils pourraient légèrement exagérer les stéréotypes de genre, mais cela ne sera pas totalement séparé de la réalité."

Et essayez de rechercher un terme comme "travailleur de la construction". (Selon les données du BLS, 2,9 % des travailleurs de la construction sont des femmes.)

"Cynthia Matuszek, co-auteur de l'étude, a déclaré : "Un certain nombre des meilleurs succès représentant des femmes en tant qu'ouvrières du bâtiment sont des mannequins en petits costumes étriqués avec un casque posant de manière suggestive sur un marteau-piqueur". "Vous obtenez des choses que personne ne considérerait comme professionnelles."

La recherche d'images de Google, comme de nombreux autres outils de recherche de Google, explore le Web à la recherche de contenu basé sur des algorithmes conçus pour vous montrer les résultats qu'il pense que vous voudriez le plus voir. Les recherches de Google tiennent compte d'un certain nombre de facteurs, tels que les mots clés, l'actualité du contenu, l'endroit d'où vous effectuez la recherche et le PageRank, qui est la façon dont Google analyse l'importance d'une page sur Internet. Google a refusé de commenter les résultats de l'étude.

Ce qui est triste, c'est que les préjugés sexistes affichés dans la recherche ont en fait un effet sur la façon dont les gens perçoivent les répartitions entre les sexes dans le monde réel, selon l'étude. Après avoir vu des résultats d'image biaisés pour une certaine profession, les participants à l'étude ont signalé un léger changement dans leur perception de la prédominance masculine d'un domaine.

Bien sûr, rien de tout cela n'est exactement la faute de Google. Google est le reflet de ce qui se trouve sur Internet. Vous pouvez également voir des résultats de recherche similaires sur Yahoo et Bing.

Mais les chercheurs ont suggéré que les concepteurs de moteurs de recherche pourraient en fait utiliser ces résultats d'étude pour développer des algorithmes qui aideraient à lutter contre les stéréotypes de genre.

Lire la source

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd