Incidents associés
Les filtres raciaux de FaceApp n'ont vécu que brièvement, mais ils n'auraient jamais dû se produire en premier lieu.
FaceApp
Pendant un bref instant mercredi, FaceApp - l'application qui est devenue virale en avril pour prendre une photo du visage de quelqu'un et la faire paraître plus âgée, plus jeune, plus masculine ou plus féminine - avait une nouvelle fonctionnalité qui permettait aux utilisateurs de voir à quoi ils ressembleraient s'ils étaient d'une race différente. Cela signifie que les utilisateurs blancs pourraient noircir leur visage et que les utilisateurs noirs pourraient blanchir leur peau. Il y avait aussi un filtre asiatique ainsi qu'un autre pour donner l'impression que les gens étaient indiens.
En quelques heures, FaceApp avait supprimé la nouvelle fonctionnalité. C'est bon. Mais vraiment : Qui a pensé que c'était une bonne idée ? Pensaient-ils réellement que cela irait bien ?
Vous vous dites peut-être que cela vous semble terriblement familier. N'avons-nous pas déjà vécu ce non-sens? Oui. Oui. Les nouvelles catégories de course étaient une mise à jour de l'application. Au printemps, lorsque tout le monde a commencé à télécharger et à jouer avec FaceApp, il y avait une fonctionnalité appelée Spark qui éclaircissait le teint de la peau des utilisateurs. Spark a été supprimé en tant qu'option sur FaceApp après que les utilisateurs se sont tournés vers les médias sociaux pour appeler l'entreprise à blanchir.
À l'époque, FaceApp a qualifié ce qui s'est passé "d'effet secondaire malheureux du réseau neuronal sous-jacent causé par le biais de l'ensemble d'entraînement, et non par un comportement intentionnel" - une excuse plutôt ridicule.
moi et mes trois demi-frères ethniquement divers condamnons sans équivoque les nouveaux filtres faceapp pic.twitter.com/uMNfIrb73f — drone volant acheté avec chèque de paie gametop dans l'arbre (@Lowenaffchen) 9 août 2017
Mais d'une manière ou d'une autre, pour une raison mystérieuse, Wireless Lab, la société qui a développé FaceApp, a apparemment décidé de se pencher sur ses filtres de course, ajoutant encore plus d'options que le simple blanchiment de la peau. Mais l'ajout d'un filtre de visage noir, d'un filtre de visage asiatique et d'un filtre de visage indien n'a pas nivelé les choses. Du tout.
Peut-être que la société basée en Russie n'était pas au courant de l'histoire de la parodie raciale de notre côté de l'étang. Mais compte tenu de l'indignation qui a suivi son filtre de blanchiment, on pourrait penser que FaceApp a appris que créer une application pour changer la race des gens ne sera jamais, jamais, jamais, jamais OK. Presque tous les pays du monde continuent d'être aux prises avec les séquelles racistes de centaines d'années d'histoire coloniale. Il y a trop d'histoires très réelles et très récentes de personnes essayant de passer ou de changer de race pour survivre ou vivre une vie plus privilégiée.
Pour être juste, FaceApp n'est pas la seule application de médias sociaux à filtre photo qui joue avec la race. L'année dernière, le 20 avril, fête nationale des amateurs de marijuana aux États-Unis, Snapchat a proposé aux utilisateurs un filtre qui les faisait paraître noirs avec des dreadlocks. C'était évidemment un clin d'œil à Bob Marley, mais c'était néanmoins un filtre blackface, et l'entreprise a également eu un retour de flamme important. Non pas que Snap ait appris sa leçon. Plus tard cette année-là, en août, Snapchat a publié un autre filtre alarmant, une option "anime" qui rendait le visage des gens plus jaune, leurs yeux plus étroits et leurs dents plus grosses. Et encore une fois, l'entreprise a été réprimandée pour avoir fabriqué un filtre raciste.
Ce qui est étonnant, c'est que cela continue à se produire, que ces fonctionnalités arrivent sur le marché. S'il vous plaît, les entreprises technologiques : faites-le tomber avec les filtres faciaux basés sur la race. Il n'y a rien de cool à faire ressembler quelqu'un à une race différente. Tenez-vous en aux auréoles de fleurs, aux lunettes, aux chapeaux et aux filtres pour oreilles d'animaux. Tant de gens qui utilisent Internet sont déjà suffisamment racistes. Il n'est pas nécessaire d'aider.