Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Problème 1872

Incidents associés

Incident 2802 Rapports
Coffee Meets Bagel’s Algorithm Reported by Users Disproportionately Showing Them Matches of Their Own Ethnicities Despite Selecting “No Preference”

Loading...
L"application de rencontre qui sait secrètement que vous n"aimez pas les gars d"autres races
buzzfeednews.com · 2016

Pourtant, cela semble être une expérience relativement courante, même si vous ne faites pas partie d'un groupe minoritaire.

Amanda Chicago Lewis (qui travaille maintenant chez BuzzFeed) a écrit sur son expérience similaire sur Coffee Meets Bagel pour [LA Weekly] (http://www.laweekly.com/arts/coffee-meets-bagel-the-online-dating-site -that-helps-you-weed-out-the-creeps-4183980) : « Je suis sur le site depuis presque trois mois, et moins d'un tiers de mes matchs et moi avons eu des amis en commun. Alors, comment l'algorithme trouve-t-il le reste de ces mecs ? Et pourquoi est-ce que je n'avais que des gars asiatiques ? »

Pour l'anecdote, d'autres amis et collègues qui ont utilisé l'application ont tous vécu une expérience similaire : les femmes blanches et asiatiques qui n'avaient aucune préférence ont été montrées principalement aux hommes asiatiques ; les hommes latinos n'ont été montrés qu'aux femmes latinas. Tous ont convenu que ce cloisonnement racial n'était pas ce qu'ils espéraient dans les matchs potentiels. Certains ont même dit qu'ils avaient quitté l'application à cause de cela.

Pourtant, Coffee Meets Bagel soutient qu'ils espèrent réellement des matchs raciaux – même s'ils ne le savent pas. C'est là que les choses commencent à se sentir, enfin, un peu racistes. Ou à tout le moins, qu'il dénonce un racisme subtil.

"Grâce à des millions de données de correspondance, nous avons découvert qu'en matière de rencontres, ce que les gens disent vouloir est souvent très différent de ce qu'ils veulent réellement", a expliqué Dawoon Kang, l'une des trois sœurs qui ont fondé l'application dans un e-mail. à BuzzFeed News. "Par exemple, de nombreux utilisateurs qui disent n'avoir "aucune préférence" en matière d'ethnicité ont en fait une préférence très claire en matière d'ethnicité lorsque nous regardons les bagels qu'ils aiment - et la préférence est souvent leur propre origine ethnique.

J'ai demandé à Kang si cela semblait un peu comme si l'application vous disait nous savons secrètement que vous êtes plus raciste que vous ne le pensez.

"Je pense que vous comprenez mal l'algorithme", a-t-elle répondu. "L'algorithme ne dit PAS que" nous savons secrètement que vous êtes plus raciste que vous ne l'êtes réellement … ". Ce qu'il dit, c'est" je n'ai pas assez d'informations sur vous, donc je vais utiliser des données empiriques pour maximiser votre taux de connexion. jusqu'à ce que j'aie suffisamment d'informations sur vous et que je puisse les utiliser pour maximiser le taux de connexion pour vous.'

Dans ce cas, les données empiriques indiquent que l'algorithme sait que les gens sont plus susceptibles de correspondre à leur propre origine ethnique.

Peut-être que le problème fondamental ici est une déconnexion entre ce que les daters pensent que sélectionner "aucune préférence" signifiera ("Je suis ouvert à sortir avec tous les types de personnes") et ce que l'algorithme de l'application comprend comme signifiant ("Je me soucie si peu de l'ethnicité que je ne penserai pas que c'est bizarre si on ne me montre qu'un seul groupe.) Le décalage entre ce que signifie réellement la préférence ethnique et ce que les utilisateurs attendent qu'elle signifie finit par être une déception frustrante pour les dateurs.

Le point de vente de Coffee Meets Bagel est son algorithme basé sur les données de son site. Et ils ont en effet analysé les informations bizarres et quelque peu décourageantes sur les types de préférences ethniques des gens. [Dans un article de blog examinant si le mythe selon lequel les hommes juifs ont un « truc » pour les femmes asiatiques] (https://coffeemeetsbagel.com/blog/index.php/dating-statistics/dating-myths-exposed-do-jewish- gars-vraiment-avoir-un-chose-pour-les-filles-asiatiques/), la société a examiné les préférences pour chaque race (à l'époque, l'application était à 29 % asiatique et à 55 % blanche).

Il a constaté que la plupart des hommes blancs (juifs et non juifs) choisissaient le blanc comme ethnie préférée. Cependant, vous pouvez sélectionner plusieurs ethnies, donc pour voir si les hommes juifs blancs étaient vraiment plus susceptibles de ne sélectionner que des femmes asiatiques, ils ont examiné les données des personnes qui n'avaient sélectionné qu'une seule race, ce qui indiquerait qu'ils avaient un « truc » pour les femmes asiatiques. .

Ce qu'ils ont trouvé à la place, c'est que les hommes juifs blancs étaient les plus susceptibles (41%) de sélectionner une seule préférence raciale. Et pour celles qui l'ont fait, c'était majoritairement pour d'autres femmes blanches, pas pour des femmes asiatiques.

Une analyse similaire des préférences des femmes a montré que parmi les femmes blanches qui ne préféraient qu'une seule race, 100% étaient pour les hommes blancs.

L'objectif de l'application est d'utiliser ce qu'ils ont appris sur le comportement des gens pour faire les meilleures suggestions de correspondance possibles. Ce qui n'est pas clair, c'est si cela devient une prophétie auto-réalisatrice : si on ne vous montre que des correspondances potentielles de votre même race, il est fort probable que vous finirez par choisir une date de même race. Et l'idée que la majorité des couples sont de la même race n'est pas exactement un choc total : c'est vrai. Ok Cupid a également analysé la race dans les données de rencontres qui sont en quelque sorte à sens unique train pour bummersville.

Mais quand même, quelque chose semble extrêmement… mal. Et ce qui est peut-être le plus choquant, c'est simplement que Coffee Meets Bagel est complètement franc à propos d'une sorte de racisme auquel les gens distingués ne veulent pas faire face.

Lire la source

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd