Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Problème 1117

Incidents associés

Incident 6023 Rapports
FaceApp Racial Filters

Loading...
FaceApp est à nouveau qualifié de "raciste" pour avoir présenté des filtres problématiques
allure.com · 2017

Rappelez-vous cette application virale de filtrage du visage, FaceApp, qui a été accusée d'être raciste après avoir présenté un filtre appelé "Hot" qui a en fait éclairci la peau des gens](https://www.allure.com/story/faceapp-accused-of-racism -avec fonction de blanchiment de la peau) ? Eh bien, d'une manière ou d'une autre, ils ont réussi à se surpasser et sont à nouveau appelés, cette fois pour avoir créé des filtres destinés intentionnellement à changer la race d'une personne lorsqu'ils sont utilisés.

L'application de réalité virtuelle a connu ses 15 minutes de gloire au printemps dernier, lorsque les gens ont été séduits par l'idée de prendre des photos d'eux-mêmes en tant que personnes âgées et de voir à quoi ressembleraient leurs bébés (des temps plus simples, les gens). La première controverse de l'application a éclaté en avril lorsque les utilisateurs ont réalisé que le filtre "Hot" éclaircissait visiblement leur peau sur les photos. Puis mercredi, l'application a publié une mise à jour qui comprenait de nouveaux filtres, intitulés "Caucasien", "Noir", "Indien" et "Asiatique", rapporte Buzzfeed.

Selon Buzzfeed, qui a fait ses propres expériences avec la fonctionnalité, les utilisateurs qui prennent un selfie et sélectionnent un filtre ethnique se retrouveront avec une image résultante qui a été modifiée en termes de caractéristiques et de teint de peau. Bien sûr, Twitter n'a pas tardé à souligner que c'était extrêmement problématique à presque tous les niveaux.

"Je suis content que faceapp, cette application amusante que nous avons tous utilisée pendant 24 heures, vient d'inventer le visage noir comme une tentative de retour rétro cool", a tweeté un utilisateur. "... FaceApp, s'il vous plaît, ne faites pas ça", a plaidé un autre.

"Les filtres de changement d'ethnicité ont été conçus pour être égaux à tous égards. Ils n'ont aucune connotation positive ou négative qui leur est associée", a déclaré un représentant de FaceApp à Buzzfeed dans un communiqué. "Ils sont même représentés par la même icône. De plus, la liste de ces filtres est mélangée pour chaque photo, de sorte que chaque utilisateur les voit dans un ordre différent."

Cet ensemble de filtres, affirment-ils, n'est pas du tout le même que leur première série de filtres controversés pour une raison très précise. "Le filtre 'Spark' était un cas assez différent. Il impliquait une transformation positive et par conséquent, il était inacceptable qu'un algorithme modifie implicitement l'origine ethnique", ont-ils déclaré dans la même déclaration que beaucoup interpréteraient comme établissant la mauvaise piste de l'entreprise. record sur l'intersection des filtres et de la course.

... Disons que Twitter n'est toujours pas convaincu.

Nous vous tiendrons au courant si FaceApp décide de supprimer ses nouveaux filtres - ou s'ils continuent à en proposer davantage.

Lisez à propos du maquillage qui vous donne l'air filtré - d'une manière non problématique :

Maintenant regarde:

Lire la source

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd