Incidents associés
L'application de filtres photo populaire, FaceApp, qui permet aux utilisateurs de prendre des selfies, puis d'y ajouter des filtres amusants pour changer leur apparence en ajoutant une gamme de filtres photo, a fait face à un contrecoup majeur après que ses développeurs ont déployé le 9 août une mise à jour permettant de nouveaux filtres qui ont été qualifié de raciste.
L'application a fait sensation pour la première fois en février 2017 en raison de sa capacité à rendre ses utilisateurs plus âgés, plus jeunes, plus masculins ou plus féminins, et même à ajouter un sourire à leur visage malheureux.
Cependant, la dernière mise à jour qui apporte de nouvelles options de filtrage - asiatique, noir, caucasien et indien - a naturellement provoqué l'indignation, incitant ses développeurs à retirer rapidement la mise à jour.
moi et mes trois demi-frères ethniquement divers condamnons sans équivoque les nouveaux filtres faceapp pic.twitter.com/uMNfIrb73f — Alex Nichols (@Lowenaffchen) 9 août 2017
En quoi consiste l'application ?
Cette plate-forme de réalité augmentée (AR) qui utilise des réseaux de neurones pour fournir un morphing de visage photoréaliste qui non seulement ajoute une couche sur votre image, mais édite à la place l'image pour plier la réalité de "quelques manières de choix".
S'adressant à TechCrunch plus tôt en février, son fondateur et PDG Yaroslav Goncharov a expliqué l'idée derrière l'application et en quoi elle est différente des autres applications de filtres photo disponibles sur le marché.
« Nous avons développé une nouvelle technologie qui utilise des réseaux de neurones pour modifier un visage sur n'importe quelle photo tout en la gardant photoréaliste. Par exemple, cela peut ajouter un sourire, changer de sexe et d'âge, ou simplement vous rendre plus attirant... Notre principal différenciateur est le photo-réalisme. Après avoir appliqué un filtre, c'est toujours votre photo."
Par rapport à d'autres applications de filtrage photo grand public, ses créateurs affirment que FaceApp utilise une technologie inégalée, telle que l'utilisation de "réseaux de neurones convolutionnels génératifs profonds" pour l'édition d'images. Il ajoute : "Nous pensons que nous sommes assez en avance en termes de technologie. Pour autant que je sache, il n'existe aucun produit ou document de recherche qui puisse revendiquer une qualité similaire dans cette tâche."
Utilisation irresponsable de la technologie
Jusqu'à présent, l'application a été un succès et est devenue virale dans les pays du monde entier, et pour une bonne raison. Dans une mer d'applications de filtres photo similaires, la poussée de FaceApp pour l'utilisation du photo-réalisme l'a aidé à se démarquer. L'utilisation impressionnante de l'apprentissage automatique et de la RA l'a en outre aidé à devenir un succès.
Mais alors, à quoi sert cette « technologie inégalée » si elle n'est pas utilisée de manière responsable ?
Le faux pas de FaceApp était au mieux une tentative inconsciente de colporter des stéréotypes raciaux. A l'heure où les sociétés du monde entier se battent pour lutter contre les comportements peu recommandables qui propagent la discrimination basée sur la couleur de peau et l'ethnie, cette décision des développeurs d'une application utilisée par les adolescents et pré-adolescents de déployer des "filtres raciaux" peut être qualifié d'irresponsable.
Le pire, c'est que ce n'est même pas la première fois que les développeurs se trompent dans la courte histoire de l'application. Étonnamment, après son lancement en février 2017, FaceApp a choisi d'ajouter un filtre "hotness" embellissant à l'application. Mais en fin de compte, il n'y avait aucune beauté à l'idée derrière ce filtre puisqu'il ne faisait que "blanchir" le teint de l'utilisateur pour le rendre "plus beau".
J'ai donc téléchargé cette application et décidé de choisir le filtre "chaud" sans savoir que cela me rendrait blanc. C'est 2017, allez les gars smh#FaceApp pic.twitter.com/9U9dv9JuCm — Shahquelle L. (@RealMoseby96) 20 avril 2017
Cela dit, il sera toujours injuste de distinguer FaceApp et ses développeurs russes pour une décision qui est en grande partie le produit d'une pensée qui vit et respire sans vergogne parmi nous. En ligue avec près de 20 autres applications moins connues, le géant des médias sociaux Snapchat avait plus tôt en 2016 pensé qu'il était bon de déployer un filtre qui promeut les stéréotypes racistes des Asiatiques. La fonctionnalité permettait aux utilisateurs de transformer leurs selfies en caricatures asiatiques avec des yeux plissés caricaturaux.
La fonctionnalité était aussi insensible et irresponsable que les filtres de FaceApp qui, dans leur orgueil malavisé, tentaient de changer l'identité raciale d'une personne en modifiant simplement la couleur de sa peau.
Dans un monde qui souffre encore de préjugés raciaux et qui est régulièrement témoin de crimes haineux, la dernière chose dont nous avons besoin, ce sont des influenceurs aussi connus qui nous disent que "le blanc est beau" ou qui propagent des stéréotypes sexistes et raciaux.
A lire aussi - Si je ne parle pas, je perdrai ma voix : le cinéaste de Simran Hansal Mehta