Problème 6351

Jake Paul est partout sur Internet. Paul, star des réseaux sociaux devenu acteur et boxeur professionnel, est entré dans l'histoire l'an dernier en affrontant la légende de la boxe Mike Tyson lors de l'événement sportif le plus visionné en streaming de tous les temps. Aujourd'hui, il est de retour sous les feux des projecteurs, et plus que jamais. Une vague de vidéos virales, publiées la semaine dernière, le montre en train de donner des tutoriels de maquillage, de voler dans un Taco Bell et de braquer un 7-Eleven.

Mais aucune de ces vidéos n'est authentique : ce sont des deepfakes créés avec l'application Sora d'OpenAI. Ce logiciel, lancé le 30 septembre, utilise l'intelligence artificielle pour générer des vidéos et permet aux utilisateurs d'y intégrer leur image, que d'autres peuvent ensuite utiliser.

Paul a volontairement mis son image à disposition pour que d'autres puissent l'utiliser, puis, le 8 octobre, il a publié une vidéo sur TikTok (https://www.tiktok.com/@jakepaul/video/7558888728878402847) où il menaçait de poursuivre en justice quiconque diffuserait des deepfakes le montrant en train de faire des choses qu'il ne ferait jamais. Tout en disant cela, il a commencé à se maquiller maladroitement – une blague, car c'est ce que beaucoup de deepfakes le représentaient en train de faire. Le lendemain, il a annoncé sur X (https://x.com/jakepaul/status/1976411343025487977) qu'il était un « fier investisseur d'OpenAI » et « le premier utilisateur célèbre de la fonction NIL » (NIL étant l'acronyme de nom, image et ressemblance), et que les vidéos générées avec son image avaient, en seulement six jours, reçu plus d'un milliard de vues.

Ces initiatives pourraient marquer le début d'une nouvelle économie numérique pour les deepfakes, et Sora pourrait en être le principal moteur. La fonctionnalité « caméo », qui semblait au départ un simple ajout ludique aux capacités de Sora, apparaît désormais comme l'un de ses principaux attraits, et le PDG d'OpenAI a annoncé son intention de la monétiser. Ce développement offre des opportunités à certains, mais comporte des risques importants pour d'autres. Selon la mise en œuvre du système, les détenteurs de droits d'utilisation des caméos pourraient fixer des conditions et des tarifs, ce qui permettrait à ceux dont l'image a été utilisée sans leur consentement de reprendre un certain contrôle. N'importe qui pourrait partager son identité numérique et, de fait, placer son double numérique dans une banque d'images. D'autres utilisateurs de l'application pourraient concéder des licences pour l'utilisation de ces images à petite échelle et traçables, en respectant les règles établies par les détenteurs de droits (interdiction de la nudité, par exemple) et en les rémunérant pour chaque utilisation. Les deepfakes, jusqu'ici principalement utilisés pour diffamer ou extorquer des personnes, généreraient au moins des droits d'auteur pour les personnes concernées.

Bien sûr, cette technologie évoluant plus vite que beaucoup d'utilisateurs ne le pensent – et certainement plus vite que les autorités de régulation ne peuvent suivre –, les risques sont considérables. Une personne pourrait consentir à être dupliquée et malgré tout être lésée par des deepfakes modifiés de manière sélective ou créés avec des messages malveillants. Son image pourrait facilement être volée et utilisée ailleurs pour escroquer ou tromper, et les données biométriques exposées ne peuvent pas être réinitialisées aussi simplement qu'un mot de passe divulgué.

L'établissement d'un marché pour les droits d'auteur ne résout pas les problèmes potentiels, mais peut créer une incitation commerciale à les prévenir par la réglementation afin de préserver l'intégrité du marché. Dans certains cas, l'utilisation du droit d'auteur d'une personne sera impossible pour des raisons morales, et pas seulement juridiques. Dès la première semaine suivant le lancement de Sora, des familles ont protesté contre la diffusion de « deepfakes » de personnes décédées, et OpenAI a indiqué qu'elle ajouterait des outils pour répondre à ces demandes.

Et une économie des deepfakes (https://www.scientificamerican.com/podcast/episode/are-you-better-than-a-machine-at-spotting-a-deepfake/) va probablement bouleverser les choses de manière imprévisible. Les plateformes de streaming musical comme Spotify et SoundCloud ont transformé l'industrie musicale, modifiant la façon dont les chansons sont partagées et même conçues. Par exemple, elles ont incité les musiciens à enregistrer des chansons plus courtes (https://www.theverge.com/2019/5/28/18642978/music-streaming-spotify-song-length-distribution-production-switched-on-pop-vergecast-interview) que les auditeurs sont moins susceptibles de passer. Un phénomène similaire se produira-t-il avec la commercialisation des deepfakes ? Un marché pourrait se développer où les images des individus seraient vendues, échangées, voire ajustées en fonction de la demande. La valeur des images faciales fluctuerait-elle au gré de la popularité ? Cela semble dystopique, mais nous vivons déjà dans une culture où l'image et l'attention sont monétisées, et cette tendance semble vouée à se poursuivre.

Plusieurs célébrités ont déjà commencé à explorer les possibilités commerciales des deepfakes. En 2023, la musicienne Grimes a proposé un partage des royalties à parts égales à quiconque utiliserait sa voix synthétisée par intelligence artificielle pour créer une chanson à succès. Le projet Dream Track de YouTube permet aux créateurs de composer des bandes originales avec les voix chantées par IA de Charlie Puth, Demi Lovato et John Legend, entre autres. Des deepfakes des stars du sport David Beckham et Peyton Manning sont apparus dans des publicités, et la musicienne FKA twigs a créé un deepfake pour gérer ses interactions sur les réseaux sociaux afin de se concentrer sur sa musique.

Ce qui nous ramène à la logique de la décision de Paul d'autoriser la création de vidéos à partir de son apparition dans Sora : si l'attention est une denrée rare et précieuse sur un marché numérique saturé, alors permettre au monde de générer sa image à la demande lui assure une plus grande visibilité et augmente sa valeur. Il est à la fois un atout et un architecte, attirant l'attention aujourd'hui pour percevoir des royalties demain.