Incidents associés
Plusieurs magasins en ligne et Meta ont supprimé une application controversée d'échange de visage qui faisait la promotion d'une publicité sexuellement suggestive mettant en vedette le visage de l'acteur "Harry Potter" Emma Watson imposé à quelqu'un d'autre.
L'application pour créer des deepfakes, appelée Facemega, montrait une femme avec le visage de Watson souriant de manière flirteuse, puis se mettant à genoux pour ce qui semble être un homme. La légende disait : "Échangez n'importe quel visage dans la vidéo !" Un enregistrement d'écran de l'annonce publiée sur Twitter a été visionné 3,2 millions de fois.
Les deepfakes utilisent l'intelligence artificielle pour remplacer la ressemblance d'une personne par une autre dans les vidéos et autres médias numériques, et son utilisation a renforcé l'éthique et la confidentialité préoccupations.
Un avocat a déclaré à Insider qu'il ne s'agissait là que d'une illustration de la façon dont la technologie émergente de deepfake pourrait être utilisée comme "arme" contre les femmes et les filles.
Michael Farhi, un avocat qui a publié des documents sur le sujet auparavant, a déclaré à Insider que le l'utilisation de l'IA "va se traduire par un énorme bond en avant en tant qu'arme contre les femmes en ligne partout dans le monde". Il a ajouté que les femmes sont le groupe démographique le plus populaire à cibler avec un tel harcèlement.
Les deepfakes et la pornographie de vengeance sont déjà des menaces pour les femmes, et la technologie de l'IA, qui peut faire de fausses vidéos [avoir l'air d'une réalité convaincante] (https://www.cnn.com/2023/02/16/tech/nonconsensual-deepfake-porn/index .html), va "quadrupler" les impacts négatifs, a déclaré Farhi.
L'annonce Facemega a été diffusée sur Facebook jusqu'à ce que le site la supprime après avoir été couverte par [NBC News](https://www.nbcnews.com/tech/social-media/emma-watson-deep-fake-scarlett-johansson-face-swap -app-rcna73624), qui a rapporté que l'application publiait également des publicités avec le visage de Scarlett Johansson dans des vidéos provocantes. Facemega a été répertorié gratuitement sur Apple et Google Play, qui l'ont tous deux supprim é depuis, mais des applications similaires restent répertoriées dans les deux magasins.
Un porte-parole d'Apple a déclaré à Insider que la société avait supprimé l'application de l'Apple Store et qu'elle n'autorisait pas les applications contenant du contenu diffamatoire, pornographique ou mesquin destiné à humilier les autres. Un porte-parole de Google a déclaré que la société avait pris "des mesures appropriées" et supprimé l'application pour "violation de nos politiques".
Un porte-parole de Meta a déclaré à Insider que leurs "politiques interdisent le contenu pour adultes, qu'il soit généré par l'IA ou non", et que la page de FaceMega était restreinte sur Facebook.
La représentation légale de Watson n'a pas pu être jointe pour commenter.
L'annonce suggestive semblait enfreindre les propres [termes et conditions de service] de Facemega (https://sc-res.fitovideo.com/aboutus/src/face.service.html), qui interdisent aux utilisateurs de télécharger du contenu diffamatoire ou à caractère sexuel. explicite.
La société de logiciels chinoise Wondershare est propriétaire de Facemega, a confirmé un porte-parole de la société à Insider. Interrogé sur la publicité, le porte-parole de Wondershare a déclaré : "Notre service juridique suit déjà cette affaire, et le contenu publicitaire a également été retiré des étagères."
La technologie Deepfake sera utilisée comme une "arme" contre les femmes, a déclaré un avocat
Aux États-Unis, les victimes de deepfake porn "ont des réclamations potentielles comme la diffamation, l'atteinte à la vie privée, l'infliction d'une détresse émotionnelle", a déclaré Farhi à Insider. Mais il a également déclaré qu'engager une action en justice au niveau international contre une entreprise chinoise serait un "obstacle".
"Un avocat, où qu'il se trouve aux États-Unis, envoie une lettre de type cesser et s'abstenir à une entité en Chine, même si elle est traduite correctement, cela n'aura que peu ou pas d'effet pratique. Alors, où allez-vous ensuite ? Vous allez à Facebook, qui a ses propres règles et réglementations difficiles en termes de ce qu'il publie et des publicités qu'il met en place », a déclaré Farhi.
La pression publique contre les entreprises qui partagent le contenu peut être plus efficace que les actions en justice, a déclaré Farhi. Il a ajouté que "les progrès technologiques se produisent trop rapidement pour que cela soit légiféré". La technologie Deepfake, comme toutes les avancées technologiques, comporte "des avantages et des inconvénients", mais Farhi a déclaré que les dommages potentiels étaient "passés sous le tapis".
"Les défenseurs de l'IA soutiennent, bien sûr, l'idée que vous obtiendrez une recherche instantanée, une assistance instantanée au travail. Pour les créateurs, c'est un atout majeur et un outil formidable", a déclaré Farhi. "Ça va être un putain de cauchemar, encore plus que ce qui existe actuellement, en tant qu'outil ou arme pour nuire aux femmes."
Farhi a déclaré qu'un groupe particulièrement vulnérable serait probablement les adolescentes, qui [revenge and deepfake porn](https://www.theguardian.com/society/2023/mar/07/laura-bates-for-teenage-girls-escaping -harcèlement-revenge-porn-et-deepfake-porn-est-impossible) bombardent déjà régulièrement.
"Cela va avoir un réel préjudice pour un nombre incalculable de filles et de femmes. Pas seulement au lycée, avant le lycée au niveau primaire ou secondaire, jusqu'aux femmes dans la vingtaine, la trentaine et au-delà ", a déclaré Farhi. "Et plus c'est facile à faire, ou plus c'est facile pour un prédateur - et ça va être beaucoup plus facile - plus ça va être fait."