Problème 6134

Un phénomène étrange s'est produit sur YouTube ces dernières semaines. Après leur mise en ligne, certaines vidéos ont été subtilement modifiées, leur apparence changeant sans intervention de leurs créateurs. Les spectateurs ont remarqué des ombres très marquées, des bords étrangement nets et un aspect lissé des images qui les font ressembler à du plastique. Nombreux sont ceux qui sont arrivés à la même conclusion : YouTube utilise l'IA pour modifier les vidéos sur sa plateforme, à l'insu des créateurs.

Français Un artiste multimédia du nom de M. Bravo, dont les vidéos YouTube présentent « une esthétique authentique des années 80 » obtenue en faisant passer ses vidéos sur un magnétoscope, a écrit sur Reddit que ses vidéos sont « complètement différentes de ce qui a été téléchargé à l'origine ». « Une grande partie du charme des vidéos réside dans l'aspect VHS et la qualité vidéo granuleuse et délavée », a-t-il écrit. Le filtre de YouTube a masqué cette qualité laborieuse : « Il est ridicule que YouTube puisse ajouter des fonctionnalités comme celle-ci qui changent complètement le contenu », a-t-il écrit. Un autre YouTubeur, Rhett Shull, a publié une vidéo la semaine dernière sur le sort réservé à ses courts métrages et à ceux de son ami Rick Beato. Tous deux gèrent des chaînes musicales extrêmement populaires, comptant respectivement plus de 700 000 et 5 millions d'abonnés. Dans sa vidéo, Shull affirme croire à l'utilisation de l'« upscaling par IA » – un procédé qui augmente la résolution et le niveau de détail d'une image – et s'inquiéter du message que cela pourrait transmettre à son public. « Je pense que cela va amener les gens à penser que j'utilise l'IA pour créer mes vidéos. Ou qu'elles ont été truquées. Ou que je fais des économies », a-t-il déclaré. « Cela va inévitablement éroder la confiance des spectateurs envers mon contenu. »

La falsification est une préoccupation répandue à l'ère de l'IA, où les médias peuvent être générés, améliorés ou modifiés sans effort. Ce même rectangle de pixels pourrait contenir le travail de quelqu'un qui a consacré du temps et de l'énergie à se produire en public, ou de quelqu'un qui, assis dans son lit, tape des instructions et assemble des clips pour gagner quelques sous. Les spectateurs qui ne veulent pas se laisser tromper par ces derniers doivent désormais être attentifs aux moindres signes de modification de l'IA. Pour les créateurs qui souhaitent se démarquer du nouveau contenu synthétique, YouTube semble vouloir compliquer la tâche.

Lorsque j'ai interrogé Google, la maison mère de YouTube, sur le devenir de ces vidéos, la porte-parole Allison Toh a écrit : « Nous menons une expérience sur une sélection de YouTube Shorts qui utilise une technologie d'amélioration d'image pour améliorer la netteté du contenu. Ces améliorations ne sont pas réalisées avec l'IA générative. » Mais cette affirmation est délicate : l'« IA générative » n'a pas de définition technique stricte, et la « technologie d'amélioration d'image » peut désigner n'importe quoi. J'ai demandé plus de détails sur les technologies utilisées et à quelles fins. Toh a déclaré que YouTube « utilise l'apprentissage automatique traditionnel pour corriger le flou, débruiter et améliorer la clarté des vidéos », m'a-t-elle expliqué. (On ignore si les vidéos modifiées sont présentées à tous les utilisateurs ou seulement à certains ; les entreprises technologiques effectuent parfois des tests limités des nouvelles fonctionnalités.)

La description de Toh ressemble étrangement au processus utilisé par les programmes d'IA générative pour créer des vidéos entièrement nouvelles. Ces programmes utilisent généralement un modèle de diffusion : un programme d'apprentissage automatique entraîné à affiner une image extrêmement bruitée en une image nette, aux contours nets et aux textures lisses. Un upscaler IA peut utiliser le même processus de diffusion pour « améliorer » une image existante, plutôt que d'en créer une nouvelle. La similitude du processus sous-jacent pourrait expliquer pourquoi la signature visuelle de l'IA basée sur la diffusion est reconnaissable dans les vidéos de ces YouTubeurs.

Parallèlement à cette expérience, YouTube encourage également les utilisateurs à créer et publier de courtes vidéos générées par l'IA à l'aide d'une suite d'outils récemment lancée, permettant d'animer des photos et d'ajouter des effets « comme nager sous l'eau, se jumeler avec un frère ou une sœur qui lui ressemble, et bien plus encore ». YouTube ne m'a pas précisé les motivations de son expérience, mais certains soupçonnent qu'il s'agit de créer une esthétique plus uniforme sur la plateforme. Comme l'a écrit un commentateur YouTube : « Ils nous entraînent, nous le public, à nous habituer à l'apparence de l'IA et à la considérer comme normale. »

Google n'est pas la seule entreprise à s'empresser d'intégrer du contenu généré par l'IA à ses plateformes. Meta encourage les utilisateurs à créer et publier leurs propres chatbots IA sur Facebook et Instagram grâce à son outil « AI Studio » (https://aistudio.instagram.com/policies/). En décembre dernier, le vice-président produit de Meta pour l'IA générative a déclaré au Financial Times que « nous nous attendons à ce que ces IA existent réellement, au fil du temps, sur nos plateformes, un peu comme les comptes [humains] ».

Dans un registre un peu moins inquiétant, Snapchat propose des outils permettant aux utilisateurs de « générer de nouvelles images » (https://help.snapchat.com/hc/en-us/articles/25312335775380-What-is-My-Selfie) d'eux-mêmes à partir de selfies qu'ils ont pris. L'année dernière, TikTok a lancé Symphony Creative Studio, qui génère des vidéos et inclut une fonctionnalité « Vos générations de vidéos quotidiennes » suggérant automatiquement de nouvelles vidéos chaque jour.

C'est une étrange tournure pour les médias sociaux. Les plateformes censées être basées sur l'idée de connecter les gens, ou du moins de partager des expériences et des performances – le slogan de YouTube jusqu'en 2013 était « Diffusez-vous » – semblent désormais axées sur l'envie de nous faire consommer des contenus impersonnels et algorithmiques. Shull a déclaré que la modification de ses vidéos érode sa confiance en YouTube, et comment pourrait-il en être autrement ? Les priorités de la plateforme se sont clairement éloignées des créateurs comme Shull, dont le travail combiné est l'une des principales raisons pour lesquelles YouTube est devenu le mastodonte qu'il est aujourd'hui.