Incidents associés
Un auteur ayant découvert des vidéos « deepfake » sur YouTube le montrant en train de lire des chapitres d'un livre publié au Royaume-Uni par Hachette a suggéré que le contenu vidéo représente un nouveau défi « dangereux » pour les éditeurs en matière de violation du droit d'auteur par l'intelligence artificielle.
Shaun Rein, fondateur et directeur général du China Market Research Group, Américain d'origine installé à Shanghai, a déclaré à The Bookseller que les vidéos étaient si convaincantes qu'« il était vraiment difficile de réaliser que ce n'était pas moi ».
Rein est l'auteur de quatre livres, dont The Split, publié par John Murray Press en 2024. Sept vidéos au format podcast, basées sur des chapitres de The Split et semblant être enregistrées par Rein, ont cumulé plus de 200 000 vues sur YouTube en une semaine.
Rein a confié à The Bookseller : « On m'a envoyé des messages : “Shaun, quel podcast formidable sur ton livre !” Je me suis dit : “Je ne me souviens pas avoir fait d'enregistrement sur mon livre dans ce format.” Je suis allé sur YouTube, j'ai écouté, et j'ai eu beaucoup de mal à réaliser que ce n'était pas moi. »
L'auteur a déclaré n'avoir aucune connaissance des vidéos publiées sur la chaîne YouTube « The US-China Narrative », apparemment basée à Singapour, et a suggéré que ces vidéos avaient été réalisées à partir d'échantillons de sa voix téléchargés depuis des interviews publiques.
« C'était ma voix. Le rythme et l'intonation étaient les miens, et ils avaient utilisé mes mots. Je n'ai compris que ce n'était pas moi, et que c'était une IA, que lorsque la vidéo était en chinois », a-t-il expliqué. « Je n'enregistre pas souvent en mandarin, donc personne n'a pu utiliser ma voix dans une IA. Quand je parlais chinois dans l'émission YouTube, il était évident que ce n'était pas moi. »
Il a ajouté : « J'ai mis deux ans et demi à écrire ce livre. Il s'agit d'une violation du droit d'auteur. Pourquoi quelqu'un d'autre utiliserait-il mes mots et en tirerait-il profit ? Je dirais que 95 % du texte des vidéos est de moi. »
Rein craint que son agent et son éditeur ne reçoivent pas une part équitable des bénéfices. Bien que les sept vidéos publiées jusqu'à présent semblent respecter le contenu original, Rein s'inquiète surtout de perdre le contrôle des propos qui semblent sortir de sa bouche.
« C'est dangereux, d'autant plus que je ne soutiens ni le gouvernement américain ni le gouvernement chinois à 100 % », a-t-il déclaré. « YouTube doit mieux contrôler ce phénomène et s'assurer que ces deepfakes générés par l'IA soient supprimés ou, au moins, signalés comme faux. »
L'agent international de Rein, Chris Newson, basé au Royaume-Uni, a déclaré à The Bookseller : « Nous sommes très inquiets de l'utilisation de l'image et de la voix de Shaun à des fins malveillantes. Un faux compte Twitter [X] diffuse déjà des propos diamétralement opposés à ses écrits et à ses convictions. La prochaine étape serait que quelqu'un utilise son image et sa voix pour créer des contenus contre-productifs et particulièrement odieux. Les ventes de livres sont une chose, mais la perte de crédibilité en est une autre. »
Dans le contexte complexe des accords de droits territoriaux, ni Rein ni Newson ne semblent savoir quelles démarches entreprendre pour demander le retrait de contenus portant atteinte aux droits d'auteur dans plusieurs juridictions, lorsque ces contenus imprimés ont été vendus au Royaume-Uni et dans d'autres régions.
Holly Bennion, directrice éditoriale chez John Murray Business, a déclaré à The Bookseller que la maison d'édition « condamnait toute violation des droits d'auteur », ajoutant : « Les infractions de cette nature ont un impact commercial considérable sur nos auteurs, agents, fournisseurs et notre activité. Nous entretenons une relation suivie avec YouTube et avons mis en place des stratégies d'intelligence artificielle et de lutte contre le piratage, ainsi que des politiques de collaboration avec les réseaux sociaux. Nous travaillons également en étroite collaboration avec nos auteurs et agents afin de définir les mesures à prendre dans de tels cas. »
L'arrivée des deepfakes a notamment pour conséquence, selon Rein, une augmentation des ventes de ses livres sur Amazon. Il souligne qu'une partie du problème réside dans le fait que les générateurs de vidéos par IA trouvent des moyens de monétiser le contenu d'une manière que l'édition traditionnelle n'utilise généralement pas.
« Les éditeurs, en général, sont très en retard en matière de stratégie marketing, et ces spécialistes de l'IA comblent ces lacunes. L'une de ces vidéos a cumulé 70 000 vues en 24 heures, ce qui prouve que le public est intéressé par le contenu. Il le souhaite simplement sous un format différent », a-t-il déclaré.
« C’est un vrai problème, car pourquoi quelqu’un achèterait-il mon livre, surtout la version audio, alors qu’il est disponible quasiment gratuitement sur YouTube, avec ma voix ? C’est une violation du droit d’auteur. Les auteurs doivent pouvoir gagner leur vie. »
The Bookseller indique que YouTube applique sa politique de contenu, que le contenu soit généré par IA ou non, y compris en matière de droit d’auteur. Tout titulaire de droits peut soumettre une demande de retrait pour violation du droit d’auteur.
Anna Ganley, directrice générale de la Society of Authors, a déclaré à The Bookseller : « Les systèmes d’IA génératifs qui imitent la voix et le style des auteurs, produisent des deepfakes ou utilisent sans autorisation leurs œuvres et leur image, fragilisent le cadre juridique du droit d’auteur au Royaume-Uni et menacent la pérennité même de nos industries créatives.
« Cela va au-delà du droit d’auteur, car les entreprises technologiques s’approprient la propriété intellectuelle et les données personnelles des créateurs sans leur consentement, sans transparence ni rémunération. »