Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Problème 1350

Incidents associés

Incident 5318 Rapports
Biased Google Image Results

Loading...
Connexions manquées : ce que les moteurs de recherche disent des femmes
safiyaunoble.files.wordpress.com · 2012

À l'occasion, je demande à mes étudiants universitaires de me suivre à travers une journée dans la vie d'une tante, mère, mentor ou amie afro-américaine qui essaie d'aider les jeunes femmes à apprendre à utiliser Internet. Dans cet exercice, je leur demande quel genre de choses elles pensent que les jeunes filles noires pourraient être intéressées à apprendre : la musique, les cheveux, l'amitié, la mode, la culture populaire ? Je leur demande s'ils peuvent imaginer comment le groupe d'amis multiculturels de mes nièces qui sont curieux d'en savoir plus sur la culture et les contributions noires (au-delà de regarder des clips de rap ou des films de Tyler Perry) pourraient aller sur Google pour trouver des informations sur les réalisations, les identités et les traditions intellectuelles. Je leur demande de réfléchir au rapport de livre qu'ils pourraient écrire ou au discours qu'ils pourraient prononcer sur des filles noires célèbres impliquées dans des mouvements de défense des droits humains et civiques aux États-Unis et dans le monde. Je rappelle à mes étudiants qu'être noir, c'est englober plus qu'une identité afro-américaine, mais embrasser une affinité avec les Noirs de la diaspora, que c'est notre identification avec les autres d'ascendance africaine en Afrique, dans les Caraïbes, en Amérique latine, L'Europe et toutes les parties du globe. Je leur rappelle la reconquête du mot « noir » pour laquelle les générations de mes parents et de leurs grands-parents se sont battues, comme dans « Black Is Beautiful ». Je leur demande d'imaginer une fille de 16 ans, voire de 8 ans, ouvrant Google dans son navigateur et se recherchant elle-même et ses amis en tapant les mots "filles noires". Quelqu'un se porte inévitablement volontaire pour se présenter et ouvrir une page de recherche Google vierge - un portail vers la gamme apparemment sans fond d'informations en ligne - dans l'intention de trouver des informations précises et opportunes qui ne peuvent pas être facilement trouvées sans une carte de bibliothèque ou un enseignant réfléchi et bien informé. Le semestre dernier, SugaryBlackPussy.com était le top hit. Quelle que soit l'année ou la classe dans laquelle se trouvent les élèves, ils me regardent toujours avec incrédulité lorsque leur recherche donne ce résultat. Ils se demandent s'ils ont fait quelque chose de mal. Ils revérifient. Ils essaient d'utiliser des guillemets autour des termes de recherche. Ils s'assurent que l'ordinateur n'est pas connecté à Gmail, comme si les recherches antérieures de pornographie pouvaient affecter les résultats. Ils ne comprennent pas. me considère loin d'être prude. Je me fiche que quelqu'un tape "porno" dans un moteur de recherche et que le porno soit ce qu'il obtient. Je me soucie que la pornographie apparaisse dans les résultats lorsque les gens recherchent un soutien, des connaissances ou des réponses sur l'identité. Je me soucie du fait que quelqu'un puisse taper «filles noires», «Latinas» ou d'autres termes associés aux femmes de couleur et trouver instantanément du porno partout dans leurs résultats de première page. Je me soucie du fait que les femmes sont automatiquement considérées comme des «filles» et que les vraies filles trouvent leur identité si facilement compromise par la pornographie. À l'heure actuelle, les moteurs de recherche commerciaux américains tels que Google, Yahoo! et Bing disposent d'un pouvoir considérable pour définir la manière dont les informations sont indexées et hiérarchisées. Les coupures dans l'éducation publique, les bibliothèques publiques et les ressources communautaires ne font qu'exacerber notre dépendance à l'égard de la technologie, plutôt que des professionnels de l'information et de l'éducation, pour l'apprentissage. Mais ce qui manque dans le moteur de recherche, c'est la prise de conscience des stéréotypes, des inégalités et de l'identité. Ces résultats sont profondément problématiques et sont souvent présentés sans aucun moyen pour nous de les modifier. L'année dernière, lorsque j'ai effectué ces exercices en classe, le désormais disparu HotBlackPussy.com a devancé SugaryBlackPussy.com, indiquant que le marché de l'identité des femmes et des filles noires en ligne est également en pleine mutation et change à mesure que les entreprises et les organisations peuvent se permettre de positionner et se maintenir au sommet de la pile de recherche. Ces résultats de moteurs de recherche, pour les femmes dont l'identité est déjà calomniée dans les médias, ne font que dégrader et éroder davantage les efforts de reconnaissance et de justice sociales, politiques et économiques. En me préparant à écrire cet article, j'ai fait une recherche de "magazines féminins", ayant le pressentiment que les périodiques féministes n'atteindraient pas le sommet de la pile de recherche. Après avoir parcouru les sites Web fournis par Google, j'ai abandonné à la page 11, sans jamais trouver le magazine Bitch. Cette recherche soulève des questions sur la raison pour laquelle les «magazines féminins» sont automatiquement liés à des périodiques non féministes comme Cosmopolitan et Women's Day. (Ce n'est pas un hasard si ces titres appartiennent tous à Hearst Corporation, qui dispose des fonds nécessaires pour se hisser au sommet de la pile de recherche et qui bénéficie de la possession de plusieurs propriétés médiatiques pouvant être utilisées pour des hyperliens promotionnels croisés qui poussent mutuellement les uns les autres plus haut dans le classement.) Ces titres sont la représentation par défaut des magazines féminins, tandis que les médias féminins alternatifs - par exemple, ceux qui ont une perspective féministe - ne peuvent être trouvés qu'en recherchant par nom ou en incluant des termes de recherche utiles comme "féministe". Essayez les recherches Google sur toutes les variantes auxquelles vous pouvez penser pour les identités des femmes et des filles et vous verrez de nombreuses façons dont les intérêts commerciaux ont renversé une gamme variée (ou réaliste) de représentations. Essayez les "athlètes féminines" et faites de votre mieux pour ne pas reculer devant les listes des "25 meilleures athlètes féminines les plus sexy" qui apparaissent. Sur la base de ces résultats de recherche, les constructions des identités et des intérêts des femmes semblent être basées sur des normes sexistes traditionnelles et limitées, tout comme elles le sont dans les médias traditionnels. Qu'est-ce que cela signifie que le féminisme - ou, sauf identification spécifique avec ce terme, le progressisme - a été séparé des définitions ou des représentations des « femmes » dans un moteur de recherche commercial ? Que des représentations antiféministes voire pornographiques des femmes apparaissent par défaut sur la première page des résultats des moteurs de recherche ? Le processus de recherche de Google est basé sur l'identification et l'attribution de valeur à divers types d'informations via l'indexation Web. De nombreux moteurs de recherche, et pas seulement Google, utilisent l'intelligence artificielle des ordinateurs pour déterminer quels types d'informations doivent être récupérés et affichés, et dans quel ordre. Des formulations mathématiques complexes sont développées en algorithmes qui font partie du processus d'automatisation. Mais ces calculs ne tiennent pas compte du contexte social. Si vous deviez essayer mes expériences en classe par vous-même (ce que j'imagine que vous pourriez faire au milieu de la lecture de cet article), vous pourriez obtenir une variation sur les résultats de mes élèves. La vérité est que les résultats des moteurs de recherche sont influencés par une myriade de facteurs. Les applications Google comme Gmail et les sites de médias sociaux comme Facebook suivent votre identité et vos recherches précédentes pour découvrir quelque chose de légèrement différent. Les moteurs de recherche se souviennent de plus en plus où vous êtes allé et sur quels liens vous avez cliqué afin de fournir un contenu plus personnalisé. Les résultats de la recherche varieront également selon que les filtres pour filtrer la pornographie sont activés sur votre navigateur. Dans certains cas, il peut y avoir plus de médias et d'intérêt pour les informations non pornographiques sur les filles noires dans votre région qui poussent ces sites plus haut jusqu'à la première page, comme une forte source à but non lucratif, un blog ou une source médiatique qui obtient beaucoup de clics dans votre région (j'enseigne dans le Midwest, ce qui peut avoir quelque chose à voir avec les résultats que nous obtenons lorsque nous effectuons des recherches Google en classe). Les informations qui arrivent en haut de la pile de recherche ne sont pas les mêmes pour chaque utilisateur dans chaque emplacement, et une variété de publicités commerciales et de facteurs politiques, sociaux et économiques sont liés à la façon dont les résultats de recherche sont codés et affichés. Récemment, la Federal Trade Commission a commencé à examiner le statut de quasi-monopole et la domination du marché de Google, ainsi que les dommages que cela pourrait causer aux consommateurs. Le rapport de Consumer Watchdog.org "Traffic Report: How Google Is Squeezing out Competitors and Muscling into New Markets", de juin 2010, détaille comment Google bloque efficacement les sites avec lesquels il est en concurrence et donne la priorité à ses propres propriétés en haut de la pile de recherche (YouTube sur d'autres sites vidéo, Google Maps sur MapQuest et Google Images sur Photobucket et Flickr). Le rapport souligne que la recherche universelle n'est pas un processus de recherche neutre, mais plutôt un processus commercial qui déplace les sites qui achètent de la publicité payante (ainsi que les propres investissements de Google) vers le haut de la pile. Mais de nombreux analystes qui regardent les débats antitrust autour de Google affirment que dans l'économie de marché libre, la domination des parts de marché et le contrôle des résultats de recherche ne sont pas un crime. Dans un article de Businessweek.com de septembre 2011, le journaliste Mathew Ingram a suggéré qu'"il serait difficile pour quiconque de prouver que les services gratuits de l'entreprise ont nui aux consommateurs". Mais Ingram définit sans doute la « blessure » un peu trop étroitement. Essayez de rechercher « Latinas » ou « Femmes asiatiques » et les résultats se concentrent sur la pornographie, les rencontres et la fétichisation. "Femmes noires" vous donnera des sites sur "les femmes noires en colère" et des articles sur "pourquoi les femmes noires sont moins attirantes". Les plus grands moteurs de recherche commerciaux ne fournissent pas de connaissances pertinentes et culturellement situées sur la façon dont les femmes de couleur ont traditionnellement été discriminées, privées de leurs droits ou violées dans la société et les médias, même si nous nous sommes organisés et avons résisté à cela à plusieurs niveaux. Les résultats des moteurs de recherche ne masquent pas seulement l'accès inégal à la vie sociale, politique et économique aux États-Unis, ventilé par race, sexe et sexualité, ils le maintiennent également. Vous pourriez penser que Google voudrait faire quelque chose à propos des résultats de recherche problématiques, en particulier ceux qui semblent racistes ou sexistes. Veronica Arreola s'est posée la même question sur le blog de Mme en 2010, lorsque Google Instant, un outil d'amélioration de la recherche, n'incluait pas initialement les mots "Latinas", "lesbienne" et "bisexuelle", en raison de leurs résultats en première page classés X. : "Vous êtes Google. Je pense que vous pourriez trouver comment mettre les résultats liés à la pornographie et à la violence, disons, sur la deuxième page ? » Mais ils ne le font pas, sauf là où c'est illégal (Google ne fera pas apparaître certains sites Web néonazis en France et en Allemagne, où la négation de l'Holocauste est contraire à la loi). Le livre de 2011 de Siva Vaidhyanathan, The Googlization of Everything: (And Why We Should Worry) nous rappelle pourquoi c'est une question importante à retracer. Il relate les tentatives récentes de la communauté juive et de la Ligue anti-diffamation de contester le classement prioritaire de Google des sites Web antisémites et négationnistes. Ces résultats de recherche étaient si gênants qu'en 2011, Google a publié une déclaration sur son processus de recherche, encourageant les gens à utiliser "Juifs" et "peuple juif" dans leurs recherches, plutôt que le terme péjoratif "Juif" - dont ils prétendent qu'ils ne peuvent rien faire sur la cooptation des groupes suprématistes blancs. Le besoin d'informations précises sur la culture juive et l'Holocauste devrait être une preuve suffisante pour lancer une discussion nationale sur les dommages causés aux consommateurs, à laquelle nous pouvons ajouter toute une série d'identités culturelles et sexistes qui sont déformées dans les résultats des moteurs de recherche. L'affirmation de Google selon laquelle ses résultats de recherche, bien que problématiques, étaient générés par ordinateur (et donc pas la faute de l'entreprise) était apparemment une réponse assez bonne pour l'ADL, qui était « extrêmement ravie que Google ait entendu nos préoccupations et celles de ses utilisateurs au sujet de la la nature offensante de certains résultats de recherche et le classement inhabituellement élevé des colporteurs de fanatisme et d'antisémitisme. Une recherche du mot "Juif" aujourd'hui fera apparaître une boîte beige de Google renvoyant à sa longue clause de non-responsabilité concernant vos résultats - qui restent un mélange de sites antisémites et informatifs. Ces types de clauses de non-responsabilité concernant les résultats de recherche ne suffisent pas, et bien que notre histoire d'amour collective (et parfois tourmentée) avec Google se poursuive, il ne faut pas lui donner un laissez-passer simplement parce qu'il présente des excuses sous le couvert de sa devise : "Ne sois méchant. » Ce n'est pas parce que les moteurs de recherche sont enveloppés de processus de haute technologie qui peuvent être difficiles à comprendre pour l'internaute moyen qu'il ne faut pas examiner les méthodes de recherche de tous les leaders du marché. De plus, il est important que ceux qui se sentent lésés par ce qui arrive en haut d'un système de classement de pages soient entendus dans ces processus. La question que la Federal Trade Commission pourrait poser est de savoir si les moteurs de recherche comme Google devraient être interrogés sur les valeurs qu'ils attribuent aux combinaisons de mots-clés comme "filles noires", "Latinas" et d'autres combinaisons raciales, de genre et d'identité sexuelle, et si dire qu'ils ne sont pas responsables de ce qui se passe à travers les clauses de non-responsabilité devrait suffire. Le passage rapide au cours de la dernière décennie du journalisme d'intérêt public à la prise de contrôle par les entreprises des médias d'information américains - qui a rendu de plus en plus difficile la mise en évidence de tout type d'information alternative - s'est produit simultanément avec l'érosion des normes professionnelles appliquées à la fourniture d'informations sur le Web. Alors que l'arène de la recherche est consolidée par une poignée d'entreprises, il est encore plus crucial de porter une attention particulière aux types de biais qui façonnent les informations priorisées dans les moteurs de recherche. Plus une page Web est classée, plus elle est digne de confiance. Et contrairement à la vérification des journalistes et des bibliothécaires, qui ont été chargés de vérifier les faits et de conserver les informations pour le public, la légitimité des sites Web est tenue pour acquise. En ce qui concerne les moteurs de recherche commerciaux, il ne suffit plus de simplement partager des informations et des informations sur le Web. Nous devons nous demander comment les choses que nous voulons partager sont trouvées et comment les choses que nous trouvons ont fait surface. Ces changements sont similaires à la manière dont certains types d'informations sont priorisés en haut de la pile de recherche : informations, produits et idées promus par les entreprises et vendus à des industries qui peuvent se permettre d'acheter des mots clés à un prix élevé, ou des URL et des espaces publicitaires. en ligne qui génèrent leurs résultats et des liens vers le haut de la pile quasi infinie d'informations disponibles sur le Web. Toutes ces dynamiques sont importantes pour les communautés et les organisations qui souhaitent mettre à la disposition des autres des informations, une éducation, une culture et des ressources fiables, et non à la page 23 d'une recherche Google. Les enquêtes de suivi du comportement des consommateurs de Pew Internet et American Life sont menées régulièrement pour comprendre la manière dont les Américains utilisent Internet et la technologie. Un rapport du 9 août 2011 a révélé que 92 % des adultes qui utilisent Internet, soit environ la moitié de tous les Américains, utilisent des moteurs de recherche pour trouver des informations en ligne, et 59 % le font au cours d'une journée type. Ces résultats indiquent que la recherche est l'activité en ligne la plus populaire parmi les adultes américains. Un rapport Pew antérieur de 2005, "Search Engine Users", a spécifiquement étudié la confiance et la crédibilité, constatant que pour la plupart, les gens sont satisfaits des résultats qu'ils trouvent dans les moteurs de recherche, avec 64% des répondants estimant que les moteurs de recherche sont justes et équitables. source d'information impartiale. Mais dans le cas d'une recherche sur les mots "filles noires", les résultats qui apparaissent ne sont certainement pas des représentations justes ou impartiales des vraies filles noires. Dans une lutte séculaire pour l'autodétermination et un effort de plusieurs décennies pour contrôler nos fausses représentations médiatiques - des mamans aux saphirs, des prostituées aux renardes - les femmes et les filles noires ont longtemps été exploitées dans les médias. Étant donné que nous dépendons tellement des moteurs de recherche pour fournir des informations fiables, ne devrions-nous pas remettre en question la manière dont les "informations" sur les femmes sont proposées au plus offrant, à l'annonceur ou à l'entreprise qui peut acheter des termes de recherche et les présenter comme ils le souhaitent. vouloir? Lorsque j'ai mené mon exercice en classe ce semestre, Black Girls Rock !, une organisation à but non lucratif dédiée à l'autonomisation des jeunes femmes de couleur, a été classée en tête des résultats de la première page, ce qui montre qu'il existe effectivement des alternatives aux résultats de recherche habituels. Cela a coïncidé avec une campagne nationale que l'organisation menait pour une émission spéciale télévisée à venir, ce qui signifie que de nombreuses personnes ont visité leur site, les aidant à passer à la première page. Mais toutes les organisations n'ont pas la possibilité de promouvoir leur URL via d'autres médias. L'un des mythes de notre démocratie numérique est que ce qui monte en haut de la pile est ce qui est le plus populaire. Selon cette logique, le sexisme et la pornographie sont les valeurs les plus populaires sur Internet lorsqu'il s'agit de femmes. Le classement des résultats ne se résume pas simplement à "voter" avec nos clics. Les moteurs de recherche ont le potentiel d'afficher des informations et des contre-discours qui ne donnent pas la priorité aux formulations les plus explicites, racistes ou sexistes autour de l'identité. Nous pourrions nous libérer de ces représentations artificielles et stéréotypées en ne soutenant pas les entreprises qui favorisent un manque de contexte social, politique et économique dans les résultats des moteurs de recherche, d'autant plus que les moteurs de recherche ont tellement de pouvoir dans les écoles, les bibliothèques et dans le public domaine. Nous pourrions lire plus pour la connaissance et la compréhension et moins rechercher des extraits d'informations décontextualisés. Nous pourrions soutenir davantage de financement pour les ressources publiques telles que les écoles et les bibliothèques, plutôt que de sous-traiter les connaissances aux grandes entreprises. Nous avons besoin de classements de résultats plus sophistiqués et réfléchis qui tiennent compte de la discrimination et de la fausse représentation historiques. Sinon, il semble que les résultats de recherche basés sur l'identité ne pourraient être rien de plus qu'un ancien fanatisme emballé dans les nouveaux médias.

Lire la source

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd