Incidents associés
Une nouvelle chanson qui semble avoir été publiée par Justin Bieber, avec des paroles mentionnant une "fête Diddy" est devenue virale sur les réseaux sociaux, suscitant des questions sur son authenticité.
Elle est apparue pour la première fois sur des plateformes de réseaux sociaux comme TikTok, X et YouTube en avril, mais a accumulé encore plus de vues depuis l'arrestation du rappeur Sean "Diddy" Combs.
Les paroles incluent : "Je me suis perdu à une fête Diddy/Je ne savais pas que ça se passerait comme ça/J'étais là pour une nouvelle Ferrari/Mais ça m'a coûté bien plus que mon âme".
Une autre ligne mentionne : « Il a signé un papier pour ne jamais avoir à s'excuser. »
Les représentants de Bieber n'ont pas répondu à une demande de commentaires sur la chanson, mais plusieurs experts conviennent que la mélodie est plus que probablement créée avec l'IA ou d'autres outils numériques.
L'experte en IA Marva Bailer a déclaré à Fox News Digital : « La raison pour laquelle cela est généré est que ce n'est pas quelque chose qui est rendu public par l'artiste. Et quand nous disons « généré par l'IA », cela peut signifier beaucoup de choses. Et donc l'IA s'entraîne en fait sur la voix et sur ce qui pourrait se passer. Cela pourrait être un outil d'IA, ou cela pourrait être un véritable outil numérique. Ces outils de musique numérique existent. Ce qui fait qu'il attire vraiment l'attention, c'est l'idée de l'IA, car cela se produit si rapidement et cela semble si réel, et donc tout le monde se dit que ce doit être quelqu'un qui utilise quelque chose de l'IA pour que cela paraisse aussi réel. »
Elle a poursuivi : « Une partie de l'expérience de la sortie d'un nouveau matériel est la partie avant et après l'expérience et cet engagement numérique. Nous savons donc tout de suite que ce n'est pas réel si l'artiste n'est pas enthousiaste et ne nous en a pas parlé. Nous aimons les surprises, et vous voyez beaucoup de gamification pour découvrir ce qu'il y a dans le coffre-fort, et quelle sera la nouvelle chanson, et quelle est la piste cachée. Nous n'avons pas vu cela avec ce scénario, et c'est pourquoi les fans disent que ce n'est pas mon Justin Bieber. »
« C'est très difficile à dire, mais je pense que le fait que cela semblait très pertinent et d'actualité, c'était presque trop fortuit que cela apparaisse », a déclaré Rob Rosenberg, fondateur et directeur de Telluride Legal Strategies.
CBS a rapporté qu'ils ont fait passer la chanson « à travers plusieurs outils de détection audio IA ; plusieurs résultats ont indiqué que l'audio, ou au moins des parties de celui-ci, était probablement généré par l'IA ».
Sur le plan technique, les experts de Pindrop, une société d'authentification et de sécurité vocale qui est fortement impliquée dans le secteur bancaire depuis 2011 mais qui a récemment étendu sa technologie à la détection des deepfakes générés par l'IA, ont déclaré à Fox News Digital qu'il existe certains indices qui marquent la chanson comme générée par l'IA.
« La raison pour laquelle cela est généré est que ce n'est pas quelque chose qui est rendu public par l'artiste. » > — Marva Bailer, experte en IA
« Lorsque nous parlons, notre discours se situe dans une gamme de fréquences spécifique. Nous avons remarqué que ces systèmes de génération d'IA ont un son vraiment bon, mais qu'ils ne correspondent pas exactement aux fréquences dont nous parlons comme un être humain normal. Nous sommes donc capables de détecter ce genre de variabilité de fréquence dans les discours générés par l'IA », a déclaré Sarosh Shahbuddin, directeur principal des produits chez Pindrop.
Elie Khoury, Ph. D. et vice-président de la recherche, a expliqué plus en détail qu'il existe trois grandes catégories de ces artefacts, notamment les incohérences acoustiques, phonétiques et temporelles, et « l'empreinte numérique » du modèle qui a généré l'IA.
Shahbuddin a également souligné que leur propre technologie est souvent associée à une vérification indépendante des faits pour déterminer si une image ou un morceau audio est réalisé avec l'IA.
Pindrop a récemment fait son entrée sur les réseaux sociaux avec l'outil Pindrop Pulse, et Shahbuddin et Khoury ont déclaré qu'ils constataient une « augmentation massive » du nombre de personnes recherchant des deepfakes, avec 10 000 « fichiers suspects » par mois saisis sur leur site.
Ils ont noté que « la distribution des fichiers multimédias que nous avons étiquetés comme synthétiques par rapport aux fichiers non synthétiques est assez importante et alarmante », en partie grâce aux outils open source mis à la disposition du public pour créer des deepfakes.
« Il y a très peu de choses qui peuvent être faites pour arrêter l'utilisation de ces modèles. C'est fou », a déclaré Shahbuddin.
Outre la question du contenu présenté dans la chanson, il y a aussi les implications financières des deepfakes en cours pour Bieber et d'autres artistes.
"Le but de TikTok est que vous faites vos petites créations amusantes, que vous mettez des dessins animés et des têtes parlantes et de nouvelles créations amusantes, et les gens utilisent cela comme musique de fond pour ces nouvelles créations. Et ainsi de suite. Et normalement, si c'était une chanson sous licence, chaque fois qu'une de ces créations était diffusée, vous receviez des royalties. Et puis dans ce monde entier, personne ne reçoit de royalties", a déclaré Bailer.
"Ces plateformes sociales vont commencer à voir les deepfakes liés à la musique comme une catégorie de médias très différente des deepfakes politiques ou d'autres types de deepfakes", a expliqué Shahbuddin. « Et la raison en est qu’il y a des labels et des sortes d’organisations qui détiennent les licences de ces chanteurs et artistes, et cela a un impact sur la façon dont les redevances sont distribuées à ces artistes. Ces deepfakes chantants sont donc en fait une nouvelle catégorie où l’impact sur les revenus est significatif. Et je pense que les plateformes comme YouTube vont commencer à prendre cela beaucoup plus au sérieux que les deepfakes non liés au chant ou à la musique. »
Il a ajouté : « Imaginez si cette personne qui a créé ce deepfake l’a effectivement soumis comme une chanson sur Spotify et a ensuite obtenu des milliers de streams. C’est de l’argent qui va à quelqu’un alors que vous savez que cet argent n’appartient pas à cette personne. »
« Il y a très peu de choses qui peuvent être faites pour arrêter l’utilisation de ces modèles. C’est fou. »
— Sarosh Shahbuddin, directeur principal des produits chez Pindrop
Même avec de l’argent en jeu, Bailer a déclaré que Bieber ne va pas se donner la peine de s’attaquer au deepfake pour plusieurs raisons.
"Bieber ne s'en occupe pas parce qu'il a des millions d'abonnés sur Instagram, et il serait même payé près de 2 millions de dollars pour faire un post sur Instagram", a-t-elle déclaré. "Donc si son équipe de relations publiques s'occupait de chaque remake non autorisé de sa musique, c'est tout ce qu'ils feraient. Et au fait, il vient d'avoir un enfant il y a trois mois, donc il est occupé avec sa famille. Lui et son équipe de relations publiques, ils ne veulent pas attirer l'attention indésirable sur les gens qui essaient de nuire à sa marque. Et on pourrait aussi se demander s'ils nuisent à sa marque ?"
Depuis l'arrestation et les accusations de Combs, l'amitié passée de Bieber avec le magnat en disgrâce a été passée au microscope, tout comme d'autres célébrités, les fans scrutant les vidéos refaites surface des deux en train d'interagir.
Mais Rosenberg conseille aux gens d’être prudents avec chaque nouvelle information qui apparaît alors que les allégations contre Combs sont portées devant le tribunal.
« Je pense en fait que nous allons voir beaucoup plus de nouvelles informations apparaître, et je pense qu’en même temps, il y aura de nouvelles désinformations », a-t-il déclaré. « Il y aura des deepfakes, des gens qui exerceront toute leur créativité et créeront des images, des vidéos et des histoires, c’est pourquoi les gens devront vraiment examiner attentivement les choses qu’ils voient et qu’ils trouvent pour s’assurer qu’ils ne sont pas simplement embrouillés. »