Problème 2307

Les deepfakes ont eu un impact énorme sur le monde de l'édition d'images, d'audio et de vidéo, alors pourquoi Adobe, le géant du contenu, ne s'implique-t-il pas davantage ? Eh bien, la réponse courte est que c'est le cas, mais lentement et avec précaution. Lors de la conférence annuelle Max de la société aujourd'hui, elle a dévoilé un prototype d'outil nommé Project Morpheus qui démontre à la fois le potentiel et les problèmes de l'intégration de techniques de deepfake dans ses produits.

Le projet Morpheus est essentiellement une version vidéo des [Neural Filters] de la société (https://www.theverge.com/2020/10/20/21517616/adobe-photoshop-ai-neural-filters-beta-launch-machine-learning ), introduit dans Photoshop l'année dernière. Ces filtres utilisent l'apprentissage automatique pour ajuster l'apparence d'un sujet, en ajustant des éléments tels que son âge, sa couleur de cheveux et son expression faciale (pour changer un regard de surprise en un regard de colère, par exemple). Morpheus apporte tous ces mêmes ajustements au contenu vidéo tout en ajoutant quelques nouveaux filtres, comme la possibilité de changer les poils du visage et les lunettes. Considérez-le comme un écran de création de personnage pour les humains.

Project Morpheus est un outil deepfake, bien qu'Adobe ne l'appelle pas ainsi

Les résultats ne sont certainement pas sans faille et ont une portée très limitée par rapport au monde plus large des deepfakes. Vous ne pouvez apporter que de petites modifications prédéterminées à l'apparence des personnes face à la caméra, et vous ne pouvez pas faire des choses comme les échanges de visage, par exemple. Mais la qualité s'améliorera rapidement, et bien que la fonctionnalité ne soit pour l'instant qu'un prototype sans garantie qu'elle apparaîtra dans le logiciel Adobe, c'est clairement quelque chose que la société étudie sérieusement.

Ce que Project Morpheus est aussi, cependant, est un outil deepfake – ce qui est potentiellement un problème. Un gros. Parce que les deepfakes et tout ce qui leur est associé – de la pornographie non consensuelle à la propagande politique – ne sont pas vraiment bons pour les affaires.

Maintenant, étant donné le relâchement avec lequel nous [définissons les deepfakes] (https://www.theverge.com/2018/5/22/17380306/deepfake-definition-ai-manipulation-fake-news) ces jours-ci, Adobe a sans doute été fabriquer de tels outils pendant des années. Ceux-ci incluent les filtres neuronaux susmentionnés, ainsi que des outils plus fonctionnels tels que le masquage et la segmentation assistés par l'IA. Mais Project Morpheus est évidemment beaucoup plus deepfakey que les efforts antérieurs de l'entreprise. Il s'agit de monter des séquences vidéo d'humains - d'une manière que beaucoup trouveront probablement étrange ou manipulatrice.

Changer l'expression faciale de quelqu'un dans une vidéo, par exemple, peut être utilisé par un réalisateur pour corriger une mauvaise prise, mais cela peut également être utilisé pour créer de la propagande politique - par exemple. faire apparaître un dissident emprisonné détendu dans les images du tribunal alors qu'il est vraiment en train de mourir de faim. C'est ce que les experts en politique appellent une "technologie à double usage", ce qui est une façon rapide de dire que la technologie est "parfois peut-être bonne, parfois peut-être merdique".

C'est sans doute la raison pour laquelle Adobe n'a pas utilisé une seule fois le mot "deepfake" pour décrire la technologie dans aucun des documents d'information qu'il a envoyés à The Verge. Et lorsque nous avons demandé pourquoi c'était le cas, l'entreprise n'a pas répondu directement, mais a plutôt donné une longue réponse sur le sérieux avec lequel elle prend les menaces posées par les deepfakes et ce qu'elle fait à leur sujet.

Les efforts d'Adobe dans ces domaines semblent impliqués et sincères (ils sont principalement axés sur [les schémas d'authentification de contenu](https://www.slashgear.com/adobe-expands-content-authenticity-initiative-tools-to-fight-misinformation- 26696717/)), mais ils n'atténuent pas un problème commercial auquel l'entreprise est confrontée : les mêmes outils de deepfake qui seraient les plus utiles à sa clientèle sont aussi ceux qui sont potentiellement les plus destructeurs.

Les deepfakes posent un problème délicat pour la stratégie commerciale d'Adobe

Prenez, par exemple, la possibilité de coller le visage de quelqu'un sur le corps de quelqu'un d'autre - sans doute l'application ur-deepfake qui a déclenché tout cela. Vous voudrez peut-être un tel échange de visage pour des raisons légitimes, comme la licence de la ressemblance de Bruce Willis pour une [série d'annonces mobiles en Russie](https://www.inputmag.com/culture/bruce-willis-licensed-his-deepfake- pour-une-série-d'annonces-de-l'opérateur-mobile-russe). Mais vous pouvez également créer de la pornographie non consensuelle pour harceler, intimider ou faire chanter quelqu'un (de loin l'application malveillante la plus courante de cette technologie).

Quelle que soit votre intention, si vous souhaitez créer ce type de deepfake, vous disposez de nombreuses options, dont aucune ne provient d'Adobe. Vous pouvez louer un studio de contenu deepfake boutique, vous disputer avec des logiciels open source ou, si cela ne vous dérange pas que vos échanges de visage soient limités à des mèmes et des gifs préapprouvés, vous pouvez télécharger une application. Ce que vous ne pouvez pas faire, c'est lancer Adobe Premiere ou After Effects. Cela va-t-il donc changer à l'avenir ?

C'est impossible à dire avec certitude, mais je pense que c'est définitivement une possibilité. Après tout, Adobe a survécu à l'avènement de "Photoshopped" devenant un raccourci pour les images éditées numériquement en général, et souvent avec des connotations négatives. Et pour le meilleur ou pour le pire, les deepfakes perdent lentement leurs propres associations négatives à mesure qu'ils sont adoptés dans des projets plus traditionnels. Project Morpheus est un outil deepfake avec quelques garde-corps sérieux (vous ne pouvez apporter que des modifications prescrites et il n'y a pas d'échange de visage, par exemple), mais cela montre qu'Adobe est déterminé à explorer ce territoire, vraisemblablement tout en évaluant les réactions de l'industrie et du public.

Il est normal que le « deepfake » ait remplacé « Photoshoppé » comme accusation de contrefaçon dans la sphère publique, Adobe se sent peut-être exclu. Le projet Morpheus suggère qu'il pourrait bien rattraper son retard bientôt.