Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Incident 60: FaceApp Racial Filters

Description: FaceApp is criticized for offering racist filters.

Outils

Nouveau rapportNouveau rapportNouvelle RéponseNouvelle RéponseDécouvrirDécouvrirVoir l'historiqueVoir l'historique

Entités

Voir toutes les entités
Présumé : Un système d'IA développé et mis en œuvre par FaceApp, a endommagé Minority Groups.

Statistiques d'incidents

ID
60
Nombre de rapports
23
Date de l'incident
2017-04-25
Editeurs
Sean McGregor
Applied Taxonomies
CSETv0, CSETv1, GMF, MIT

Classifications de taxonomie CSETv0

Détails de la taxonomie

Problem Nature

Indicates which, if any, of the following types of AI failure describe the incident: "Specification," i.e. the system's behavior did not align with the true intentions of its designer, operator, etc; "Robustness," i.e. the system operated unsafely because of features or changes in its environment, or in the inputs the system received; "Assurance," i.e. the system could not be adequately monitored or controlled during operation.
 

Unknown/unclear

Physical System

Where relevant, indicates whether the AI system(s) was embedded into or tightly associated with specific types of hardware.
 

Software only

Level of Autonomy

The degree to which the AI system(s) functions independently from human intervention. "High" means there is no human involved in the system action execution; "Medium" means the system generates a decision and a human oversees the resulting action; "low" means the system generates decision-support output and a human makes a decision and executes an action.
 

Low

Nature of End User

"Expert" if users with special training or technical expertise were the ones meant to benefit from the AI system(s)’ operation; "Amateur" if the AI systems were primarily meant to benefit the general public or untrained users.
 

Amateur

Public Sector Deployment

"Yes" if the AI system(s) involved in the accident were being used by the public sector or for the administration of public goods (for example, public transportation). "No" if the system(s) were being used in the private sector or for commercial purposes (for example, a ride-sharing company), on the other.
 

No

Data Inputs

A brief description of the data that the AI system(s) used or were trained on.
 

Photos of faces

Classifications de taxonomie CSETv1

Détails de la taxonomie

Incident Number

The number of the incident in the AI Incident Database.
 

60

AI Tangible Harm Level Notes

Notes about the AI tangible harm level assessment
 

Annotator 1:

3.3 - Although there was no tangible harm, the adverse outcomes of the incident were directly related to the AI.

Notes (special interest intangible harm)

Input any notes that may help explain your answers.
 

Annotator 1:

4.4 - FaceApp added a filter that allowed users to look like different races/ethnicities. It also added a "hot" filter that automatically lightened skin color.

Special Interest Intangible Harm

An assessment of whether a special interest intangible harm occurred. This assessment does not consider the context of the intangible harm, if an AI was involved, or if there is characterizable class or subgroup of harmed entities. It is also not assessing if an intangible harm occurred. It is only asking if a special interest intangible harm occurred.
 

yes

Classifications de taxonomie MIT

Machine-Classified
Détails de la taxonomie

Risk Subdomain

A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
 

1.1. Unfair discrimination and misrepresentation

Risk Domain

The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
 
  1. Discrimination and Toxicity

Entity

Which, if any, entity is presented as the main cause of the risk
 

AI

Timing

The stage in the AI lifecycle at which the risk is presented as occurring
 

Post-deployment

Intent

Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
 

Unintentional

Rapports d'incidents

Chronologie du rapport

+8
Le PDG de FaceApp s'excuse d'avoir blanchi la peau avec un filtre "chaud"
Comment fonctionne Face App ? Voici comment vous pouvez participer à la tendance virale du mashing facialComment les smartphones populaires rendent votre peau plus "blanche" dans les selfies+12
Mises à jour de l'application de retouche photo FaceApp avec des filtres asiatiques, noirs, caucasiens et indiens
Le PDG de FaceApp s'excuse d'avoir blanchi la peau avec un filtre "chaud"

Le PDG de FaceApp s'excuse d'avoir blanchi la peau avec un filtre "chaud"

dailydot.com

FaceApp supprime les nouveaux filtres noirs, blancs et asiatiques après la tempête raciste

FaceApp supprime les nouveaux filtres noirs, blancs et asiatiques après la tempête raciste

telegraph.co.uk

FaceApp désolé pour le filtre «raciste» qui éclaircit la peau pour rendre les utilisateurs «chauds»

FaceApp désolé pour le filtre «raciste» qui éclaircit la peau pour rendre les utilisateurs «chauds»

bbc.co.uk

FaceApp accuse l'IA de blanchir les Noirs

FaceApp accuse l'IA de blanchir les Noirs

gizmodo.co.uk

Cette 'FaceApp' virale rend tout le monde plus blanc

Cette 'FaceApp' virale rend tout le monde plus blanc

motherboard.vice.com

FaceApp s'excuse pour le filtre "raciste" qui éclaircit le teint des utilisateurs

FaceApp s'excuse pour le filtre "raciste" qui éclaircit le teint des utilisateurs

theguardian.com

FaceApp supprime le filtre "Spark" suite aux accusations de blanchiment

FaceApp supprime le filtre "Spark" suite aux accusations de blanchiment

colorlines.com

FaceApp : les experts ont des problèmes de confidentialité concernant l'application populaire de transformation du visage

FaceApp : les experts ont des problèmes de confidentialité concernant l'application populaire de transformation du visage

abc.net.au

Comment fonctionne Face App ? Voici comment vous pouvez participer à la tendance virale du mashing facial

Comment fonctionne Face App ? Voici comment vous pouvez participer à la tendance virale du mashing facial

bustle.com

Comment les smartphones populaires rendent votre peau plus "blanche" dans les selfies

Comment les smartphones populaires rendent votre peau plus "blanche" dans les selfies

businessinsider.com.au

Mises à jour de l'application de retouche photo FaceApp avec des filtres asiatiques, noirs, caucasiens et indiens

Mises à jour de l'application de retouche photo FaceApp avec des filtres asiatiques, noirs, caucasiens et indiens

mic.com

L'application populaire de vieillissement du visage propose désormais des filtres "Noir", "Indien" et "Asiatique"

L'application populaire de vieillissement du visage propose désormais des filtres "Noir", "Indien" et "Asiatique"

theverge.com

FaceApp supprime les filtres noirs, asiatiques et indiens après un contrecoup auquel ils auraient dû s'attendre

FaceApp supprime les filtres noirs, asiatiques et indiens après un contrecoup auquel ils auraient dû s'attendre

complex.com

FaceApp supprime les "filtres ethniques" après une tempête de racisme

FaceApp supprime les "filtres ethniques" après une tempête de racisme

dailymail.co.uk

FaceApp contraint d'extraire des filtres "racistes" qui autorisent le "blackface numérique"

FaceApp contraint d'extraire des filtres "racistes" qui autorisent le "blackface numérique"

theguardian.com

FaceApp publie des filtres de changement de race

FaceApp publie des filtres de changement de race

stuff.co.nz

FaceApp permet brièvement aux utilisateurs de changer leur couleur de peau. Mauvaise idée.

FaceApp permet brièvement aux utilisateurs de changer leur couleur de peau. Mauvaise idée.

slate.com

Les filtres photo indiens et noirs de FaceApp sont manifestement racistes

Les filtres photo indiens et noirs de FaceApp sont manifestement racistes

dailyo.in

FaceApp lance des options de Blackface numérique parce que le monde est rempli d'idiots

FaceApp lance des options de Blackface numérique parce que le monde est rempli d'idiots

gizmodo.com.au

FaceApp est à nouveau qualifié de "raciste" pour avoir présenté des filtres problématiques

FaceApp est à nouveau qualifié de "raciste" pour avoir présenté des filtres problématiques

allure.com

Les filtres photo "racistes" de FaceApp ont encouragé les utilisateurs à se noircir

Les filtres photo "racistes" de FaceApp ont encouragé les utilisateurs à se noircir

independent.co.uk

Les filtres ethniques FaceApp vous font ressembler à une race différente

Les filtres ethniques FaceApp vous font ressembler à une race différente

cosmopolitan.com

FaceApp a introduit les filtres Blackface et Yellowface Selfie, puis les a supprimés quelques heures plus tard

FaceApp a introduit les filtres Blackface et Yellowface Selfie, puis les a supprimés quelques heures plus tard

buzzfeednews.com

Le PDG de FaceApp s'excuse d'avoir blanchi la peau avec un filtre "chaud"
dailydot.com · 2017
Traduit par IA

On dirait que FaceApp, le nouvel engouement pour le morphing du visage, a déjà besoin d'une cure de jouvence.

Lancé en janvier et originaire de Russie, FaceApp suscite l'intérêt pour sa technologie d'intelligence artificielle et ses filtres…

FaceApp supprime les nouveaux filtres noirs, blancs et asiatiques après la tempête raciste
telegraph.co.uk · 2017
Traduit par IA

Une application virale qui ajoute des filtres aux selfies des utilisateurs pour changer leur apparence a fait marche arrière sur sa dernière mise à jour après avoir été accusée de racisme sur sa nouvelle gamme de filtres ethniques.

FaceApp,…

FaceApp désolé pour le filtre «raciste» qui éclaircit la peau pour rendre les utilisateurs «chauds»
bbc.co.uk · 2017
Traduit par IA

Les créateurs d'une application de morphing de visage se sont excusés après que les utilisateurs les aient accusés de créer un filtre "raciste".

FaceApp peut modifier les portraits pour faire paraître les gens plus âgés, changer de sexe ou …

FaceApp accuse l'IA de blanchir les Noirs
gizmodo.co.uk · 2017
Traduit par IA

Les personnes qui veulent réellement voir leur visage se refléter sur les écrans de leur téléphone se sont récemment amusées avec FaceApp, Facebook et Twitter étant actuellement surchargés d'images d'utilisateurs partageant à quoi ils resse…

Cette 'FaceApp' virale rend tout le monde plus blanc
motherboard.vice.com · 2017
Traduit par IA

Twitter/Terrance AB Johnson

C'est arrivé - une entreprise de technologie a encore fait une mauvaise chose. Cette fois, c'est l'application de morphing de visage super populaire appelée, attendez… FaceApp.

Pour une raison qui m'est inconnue,…

FaceApp s'excuse pour le filtre "raciste" qui éclaircit le teint des utilisateurs
theguardian.com · 2017
Traduit par IA

Le créateur d'une application qui modifie vos selfies grâce à l'intelligence artificielle s'est excusé car son filtre "chaud" éclaircissait automatiquement la peau des gens.

FaceApp est présentée comme une application qui utilise des « rése…

FaceApp supprime le filtre "Spark" suite aux accusations de blanchiment
colorlines.com · 2017
Traduit par IA

Une application selfie qui rend les visages des utilisateurs dans différents styles a supprimé l'un de ses filtres après avoir été critiqué pour avoir blanchi les visages des personnes de couleur.

Mic rapporte qu'après avoir reçu des plaint…

FaceApp : les experts ont des problèmes de confidentialité concernant l'application populaire de transformation du visage
abc.net.au · 2017
Traduit par IA

FaceApp : les experts ont des problèmes de confidentialité concernant l'application populaire de transformation du visage

Actualisé

FaceApp est devenu viral. Pourquoi? Parce qu'il vous permet de transformer votre visage de manière hilarante…

Comment fonctionne Face App ? Voici comment vous pouvez participer à la tendance virale du mashing facial
bustle.com · 2017
Traduit par IA

Les médias sociaux regorgent actuellement de selfies avec des transformations faciales étrangement réalistes grâce à une application virale, appelée à juste titre "FaceApp". FaceApp permet aux utilisateurs d'ajouter des filtres aux visages …

Comment les smartphones populaires rendent votre peau plus "blanche" dans les selfies
businessinsider.com.au · 2017
Traduit par IA

Shona Ghosh/Business Insider Les filtres de beauté sur les smartphones populaires vous rendent plus pâle dans les selfies

Si vous possédez un téléphone fonctionnant sous Android, il y a de fortes chances qu'il ait un réglage de caméra que v…

Mises à jour de l'application de retouche photo FaceApp avec des filtres asiatiques, noirs, caucasiens et indiens
mic.com · 2017
Traduit par IA

Mercredi matin, l'application de retouche photo FaceApp a publié de nouveaux filtres photo qui modifient l'apparence ethnique de votre visage.

L'application est devenue populaire pour la première fois en 2017 en raison de sa capacité à tran…

L'application populaire de vieillissement du visage propose désormais des filtres "Noir", "Indien" et "Asiatique"
theverge.com · 2017
Traduit par IA

Le PDG de FaceApp déclare : "Les nouveaux filtres controversés seront supprimés dans les prochaines heures."

Vous vous souvenez peut-être de FaceApp, une application d'édition de selfies qui transforme les photos des utilisateurs en les fai…

FaceApp supprime les filtres noirs, asiatiques et indiens après un contrecoup auquel ils auraient dû s'attendre
complex.com · 2017
Traduit par IA

Vous vous souvenez de FaceApp, l'application pour smartphone qui permet, entre autres, d'ajouter un filtre à votre visage pour vous faire paraître plus jeune ou plus vieux ? Celui qui fascine d'une manière ou d'une autre toutes les personne…

FaceApp supprime les "filtres ethniques" après une tempête de racisme
dailymail.co.uk · 2017
Traduit par IA

Une application virale qui ajoutait des filtres asiatiques, noirs, caucasiens et indiens aux selfies des gens les a supprimés après avoir été accusés de racisme.

La mise à jour qui a été lancée hier a suscité des réactions négatives - de no…

FaceApp contraint d'extraire des filtres "racistes" qui autorisent le "blackface numérique"
theguardian.com · 2017
Traduit par IA

Le programme alimenté par l'IA a permis aux utilisateurs de modifier des selfies pour les intégrer dans les catégories "Caucasien, Asiatique, Indien ou Noir" provoquant l'indignation et un demi-tour immédiat

Le populaire programme de selfie…

FaceApp publie des filtres de changement de race
stuff.co.nz · 2017
Traduit par IA

Le patron de FaceApp, Yaroslav Goncharov, a défendu les nouveaux filtres. "Les filtres de changement d'ethnicité ont été conçus pour être égaux à tous égards."

FaceApp, une application qui utilise des réseaux de neurones pour transformer vo…

FaceApp permet brièvement aux utilisateurs de changer leur couleur de peau. Mauvaise idée.
slate.com · 2017
Traduit par IA

Les filtres raciaux de FaceApp n'ont vécu que brièvement, mais ils n'auraient jamais dû se produire en premier lieu.

FaceApp

Pendant un bref instant mercredi, FaceApp - l'application qui est devenue virale en avril pour prendre une photo du…

Les filtres photo indiens et noirs de FaceApp sont manifestement racistes
dailyo.in · 2017
Traduit par IA

L'application de filtres photo populaire, FaceApp, qui permet aux utilisateurs de prendre des selfies, puis d'y ajouter des filtres amusants pour changer leur apparence en ajoutant une gamme de filtres photo, a fait face à un contrecoup maj…

FaceApp lance des options de Blackface numérique parce que le monde est rempli d'idiots
gizmodo.com.au · 2017
Traduit par IA

Ce n'est vraiment pas si difficile, les gens. L'année dernière, Snapchat s'est excusé d'avoir ajouté un filtre selfie offensant de Bob Marley à son écurie. Maintenant, FaceApp – l'éditeur de photos idiot que vous avez probablement télécharg…

FaceApp est à nouveau qualifié de "raciste" pour avoir présenté des filtres problématiques
allure.com · 2017
Traduit par IA

Rappelez-vous cette application virale de filtrage du visage, FaceApp, qui a été accusée d'être raciste après avoir présenté un filtre appelé "Hot" qui a en fait éclairci la peau des gens](https://www.allure.com/story/faceapp-accused-of-rac…

Les filtres photo "racistes" de FaceApp ont encouragé les utilisateurs à se noircir
independent.co.uk · 2017
Traduit par IA

FaceApp a supprimé un certain nombre de filtres photo à thème racial après avoir été accusé de racisme.

L'application, qui utilise l'intelligence artificielle pour éditer des images, a lancé cette semaine un certain nombre de "filtres de ch…

Les filtres ethniques FaceApp vous font ressembler à une race différente
cosmopolitan.com · 2017
Traduit par IA

FaceApp

Ces derniers mois, FaceApp a été une application amusante que vous avez probablement vue sur vos flux de médias sociaux, vous permettant, à vous et à vos amis, de transformer des visages pour avoir l'air plus vieux, plus jeune ou so…

FaceApp a introduit les filtres Blackface et Yellowface Selfie, puis les a supprimés quelques heures plus tard
buzzfeednews.com · 2017
Traduit par IA

"Nouveaux filtres : Asiatique, Noir, Caucasien, Indien." QUEL. Mise à jour : Faceapp a supprimé les quatre nouveaux filtres.

Vous vous souvenez de FaceApp ? En avril, c'était un Internet Thing(™) soudainement populaire qui donnait l'impress…

Variantes

Une "Variante" est un incident qui partage les mêmes facteurs de causalité, produit des dommages similaires et implique les mêmes systèmes intelligents qu'un incident d'IA connu. Plutôt que d'indexer les variantes comme des incidents entièrement distincts, nous listons les variations d'incidents sous le premier incident similaire soumis à la base de données. Contrairement aux autres types de soumission à la base de données des incidents, les variantes ne sont pas tenues d'avoir des rapports en preuve externes à la base de données des incidents. En savoir plus sur le document de recherche.

Incidents similaires

Par similarité textuelle

Did our AI mess up? Flag the unrelated incidents

Images of Black People Labeled as Gorillas

When It Comes to Gorillas, Google Photos Remains Blind

Jun 2015 · 24 rapports
Biased Google Image Results

'Black teenagers' vs. 'white teenagers': Why Google's algorithm displays racist results

Mar 2016 · 18 rapports
TayBot

Danger, danger! 10 alarming examples of AI gone wild

Mar 2016 · 28 rapports
Incident précédentProchain incident

Incidents similaires

Par similarité textuelle

Did our AI mess up? Flag the unrelated incidents

Images of Black People Labeled as Gorillas

When It Comes to Gorillas, Google Photos Remains Blind

Jun 2015 · 24 rapports
Biased Google Image Results

'Black teenagers' vs. 'white teenagers': Why Google's algorithm displays racist results

Mar 2016 · 18 rapports
TayBot

Danger, danger! 10 alarming examples of AI gone wild

Mar 2016 · 28 rapports

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • ecd56df