Problème 1119

Le PDG de FaceApp déclare : "Les nouveaux filtres controversés seront supprimés dans les prochaines heures."

Vous vous souvenez peut-être de FaceApp, une application d'édition de selfies qui transforme les photos des utilisateurs en les faisant paraître plus vieilles, plus jeunes ou en leur donnant un sourire artificiel. Eh bien, plus tôt ce mois-ci, les créateurs de l'application russe ont mis à jour leur logiciel avec quatre nouveaux filtres : "Asiatique", "Noir", "Caucasien" et "Indien". Repérés pour la première fois par Mic, les utilisateurs peuvent sélectionner ces options et l'application modifiera leur apparence, en changeant la couleur de leur peau et de leurs cheveux.

Cela équivaut à une sorte de blackface numérique, "se déguisant" en différentes ethnies. Snapchat a déjà été critiqué pour avoir implémenté une fonctionnalité similaire lorsqu'il a publié un masque de selfie Bob Marley pour célébrer le 20/04. FaceApp lui-même a été critiqué pour son insensibilité raciale dans le passé, les utilisateurs soulignant que son filtre "chaud" éclaircissait constamment les tons de peau des utilisateurs.

La société s'est ensuite excusée pour cette fonctionnalité, le PDG Yaroslav Goncharov expliquant que l'effet était "un effet secondaire malheureux du réseau neuronal sous-jacent causé par le biais de l'ensemble d'entraînement". Cela signifie que le logiciel qui a été utilisé pour changer l'apparence des utilisateurs n'avait été alimenté que par des images de personnes blanches, c'était donc la couleur de peau qu'il associait à la "chaleur". Ce type de biais fondé sur les données est un gros problème dans le domaine de l'intelligence artificielle, avec des programmes incarnant régulièrement des préjugés raciaux et sexistes en raison des données sur lesquelles ils sont formés.

Dans le cas de la dernière mise à jour de FaceApp, cependant, Gontcharov affirme qu'il n'y a aucun parti pris ou préjugé en cause. "Les filtres de changement d'ethnicité ont été conçus pour être égaux à tous égards", a-t-il déclaré à The Verge par e-mail. "Ils n'ont aucune connotation positive ou négative qui leur est associée. Ils sont même représentés par la même icône. En plus de cela, la liste de ces filtres est mélangée pour chaque photo, de sorte que chaque utilisateur les voit dans un ordre différent.

Certains pourraient souligner, cependant, que l'ordre dans lequel les filtres apparaissent n'est pas le problème - c'est le fait qu'ils sont proposés en premier lieu.