Incidents associés
On dirait que FaceApp, le nouvel engouement pour le morphing du visage, a déjà besoin d'une cure de jouvence.
Lancé en janvier et originaire de Russie, FaceApp suscite l'intérêt pour sa technologie d'intelligence artificielle et ses filtres intrigants qui peuvent vous faire paraître plus vieux, plus jeune ou d'un sexe différent. Il utilise des «réseaux de neurones convolutionnels génératifs profonds» pour éditer les selfies d'une manière qui semble réelle, comme l'ajout de petits détails autour de vos yeux et de votre bouche pour créer un sourire naturel.
Malheureusement, l'application vous rend également plus sexy. Découvrez ce qui se passe lorsque vous utilisez le filtre "chaud".
https://www.instagram.com/p/BTTxi0Gg-dL/
Pourquoi la fonctionnalité chaude de #faceapp me rend-elle blanche ? 🤔 pic.twitter.com/OsSs5wlUSX — PLANÈTE LYNX (@PLANETLYNX) 28 janvier 2017
https://twitter.com/sarjun/status/826244655842856960
Faceapp m'a rendu chaud en me rendant blanc… cool #FaceApp pic.twitter.com/JFxSsjIsXj - Dark Bomber (Eddie) (@DarkBomberX) 10 avril 2017
Donc, cette application est apparemment raciste comme l'enfer. Mais au moins je suis impertinent. #faceapp Une publication partagée par Khary Randolph (@kharyrandolph) le 18 avril 2017 à 6h50 PDT
L'application semble également modifier complètement certaines fonctionnalités sous ce même filtre "chaud", en supprimant les lunettes et en masquant les visages avec des fonctionnalités européennes.
#faceapp enlève les lunettes et remplace les yeux. Avec les yeux des Blancs. 😐 pic.twitter.com/mUgrcrXds1 — Trois grosses araignées dans un trench (@littlebunnyfu) 18 avril 2017
https://twitter.com/tweeterrance/status/854766266094985216
L'idée #FaceApp de me rendre chaud me rend blanc. C'est raciste comme l'enfer pic.twitter.com/6z3kcLn42V — MiddleC (@The_MiddleC) 21 avril 2017
Selon #faceapp, la version "hot" de moi est une version blanche de moi. pic.twitter.com/1uQIkEKF6x – Omar Khan (@omarthebeard) 21 avril 2017
Bien sûr, cet éclaircissement visible sous un filtre appelé "chaud" insinue plusieurs choses : que les caractéristiques eurocentriques telles que le nez étroit et la peau blanche sont le standard ultime du chaud, et qu'être n'importe quelle nuance de peau plus foncée n'est décidément pas chaud du tout, perpétuant cette idée que la couleur de la peau détermine la valeur d'une personne.
Le PDG de FaceApp, Yaroslav Goncharov, s'est depuis excusé pour le blanchiment de l'application, en publiant une déclaration au FADER reconnaissant les critiques de l'application.
"Nous sommes profondément désolés pour ce problème incontestablement grave", lit-on dans la déclaration de Gontcharov. "C'est un effet secondaire malheureux du réseau neuronal sous-jacent causé par le biais de l'ensemble d'entraînement, et non par un comportement intentionnel."
Tout comme les pièges des «filtres de blanchiment» de Snapchat et la classification automatique par Google Photos des photos de personnes noires comme des animaux, il semble que le problème de «préjugé d'ensemble d'entraînement» de FaceApp ne soit pas unique à la nouvelle application, et ne sera pas la dernière fois que nous rencontrons une fonction de détection de visage raciste. Mais Gontcharov a déjà lancé une tentative pour inverser cette infraction.
Le fondateur et PDG a déclaré au FADER qu'un correctif était en cours sur la fonctionnalité, mais en attendant, le filtre "chaud" de FaceApp sera appelé "étincelle" pour effacer toute connotation positive. Le changement a déjà pris effet dans l'application, bien qu'il semble que l'application iPhone ait été mise à jour pour la dernière fois le 17 avril et que le filtre "étincelle" éclaircisse toujours la peau.
H/T le FADER