Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Problème 1120

Incidents associés

Incident 6023 Rapports
FaceApp Racial Filters

Loading...
Les filtres ethniques FaceApp vous font ressembler à une race différente
cosmopolitan.com · 2017

FaceApp

Ces derniers mois, FaceApp a été une application amusante que vous avez probablement vue sur vos flux de médias sociaux, vous permettant, à vous et à vos amis, de transformer des visages pour avoir l'air plus vieux, plus jeune ou souriant lorsque vous froncez les sourcils. Vous pouvez même voir à quoi vous ressembleriez si vous vous présentiez comme un autre genre (cette dernière caractéristique s'avérant souvent un peu problématique en soi). Et une toute nouvelle fonctionnalité de l'application a amené l'entreprise à encore plus d'eau chaude en ligne.

L'application vient d'ajouter des filtres ethniques, qui transforment votre visage en ce que l'application considère comme des ethnies asiatiques, noires, caucasiennes et indiennes. Oui, cela implique d'éclaircir ou d'assombrir votre peau, ainsi que de modifier les traits de votre visage et la texture de vos cheveux pour les adapter aux stéréotypes ethniques. Voici quelques photos des filtres en action.

Cela ne s'est manifestement pas bien passé en ligne. Certaines personnes sur Twitter n'ont pas tardé à qualifier les nouveaux filtres de racistes, à les comparer au blackface (et au brownface et au yellowface), et juste une mauvaise idée tout autour.

Tout le monde aime FaceApp, l'application pour téléphone qui ajoute des sourires et des rides aux visages de vos amis !

Nous avons le regret de vous informer que FaceApp est raciste pic.twitter.com/2tRSlcfWdc — Jennifer Unkle (@jbu3) 9 août 2017

(Réunion du conseil d'administration de FaceApp)

"Notre application est populaire."

(Tout le monde hoche la tête)

« Et si ça pouvait être plus populaire ? »

(Tout le monde se penche)

« Comprenez ceci : le racisme. – Bon Tweetman (@Goodtweet_man) 9 août 2017

Tout Internet adore faceapp, la jolie application qui change de sexe !

5 semaines plus tard pic.twitter.com/3rHHo6RQmz — Casey (@caseymerwin) 9 août 2017

#FaceApp maintenant avec blackface numérique ! Complet avec une peau foncée, des lèvres épaisses et un nez large !

Encore une fois le visage noir n'est pas ok ! FFS ! 😡 pic.twitter.com/R7GQoN8gsT — Leon Alleyne (@leon_alleyne) 9 août 2017

Et ce n'est pas la première fois que l'application voit un contrecoup en ligne. Mic rapporte que FaceApp a tiré un filtre "chaud" qui semblait éclaircir votre peau. La société s'est excusée, qualifiant cet effet de conséquence involontaire de la technologie de l'application, plutôt que de fonctionnalité planifiée.

#faceapp n'est pas seulement mauvais c'est aussi raciste...🔥 filter=blanchir ma peau et faire de mon nez votre opinion sur l'européen. Non merci #désinstallé pic.twitter.com/DM6fMgUhr5 — Terrance AB Johnson (@tweeterrance) 19 avril 2017

Yaroslav Goncharov, PDG de FaceApp, a insisté sur le fait que la fonctionnalité n'était pas offensante dans une déclaration à Cosmopolitan.com :

Les filtres de changement d'ethnicité ont été conçus pour être égaux à tous égards. Ils n'ont aucune connotation positive ou négative qui leur est associée. Ils sont même représentés par la même icône. En plus de cela, la liste de ces filtres est mélangée pour chaque photo, de sorte que chaque utilisateur les voit dans un ordre différent.

La société a expliqué à BuzzFeed : « Le filtre 'Spark' était un cas assez différent. Cela impliquait une transformation positive et, par conséquent, il était inacceptable qu'un algorithme modifie implicitement l'origine ethnique.

Mais Gizmodo souligne un facteur clé qui a conduit à l'infraction en ligne : il n'y a pas si longtemps, les Blancs s'habillaient comme d'autres races pour se moquer d'eux - et, plus précisément, se peignaient souvent le visage pour modifier leur teint et adopter les stéréotypes associés. avec ces courses. Ainsi, bien que l'infraction n'ait peut-être pas été intentionnelle, elle a été largement interprétée comme une forme numérique d'une pratique offensive - c'est pourquoi, en général, c'était une assez mauvaise décision.

Mise à jour 09/08, 17h15 : Dans une déclaration à Cosmopolitan.com, le PDG de FaceApp, Yaroslav Gontcharov, confirme que les filtres "seront supprimés dans les prochaines heures".

Lire la source

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd