Problème 2793
La puissance de l'intelligence artificielle est à la fois incroyable pour les avancées technologiques et dangereuse pour la diffusion de fausses informations.
Et une vidéo de la voix de Leonardo DiCaprio doublée par d'autres célébrités le montre.
La vidéo, publiée par heyBarsee sur Twitter, utilise la technologie d'intelligence artificielle d'ElevenLabs pour doubler la voix d'une personne avec une autre.
Dans ce cas, il a fallu le discours de DiCaprio sur le changement climatique aux Nations Unies et a changé sa voix en Joe Rogan, Jeff Bezos, Robert Downey Jr, Bill Gates et Kim Kardashian.
La technologie correspond presque à l'identique à la voix de chaque célébrité aux mots, à l'inflexion et au modèle de discours de DiCaprio.
Cela donne l'impression que Rogan, Bezos, Downey Jr, Gates ou Kardashian prononcent le discours à la place.
"La nouvelle technologie de clonage de voix AI de 11labs est d'une qualité alarmante", heyBarsee a écrit.
D'autres personnes conviennent que la capacité de la technologie à faire correspondre les voix des célébrités est incroyable. Mais beaucoup ont noté comment l'IA pouvait être utilisée pour diffuser des informations erronées en donnant l'impression qu'une personne notable disait quelque chose qu'elle n'avait jamais dit.
"Les trucs de la voix de l'IA vont conduire à des canulars fous, mais le pire est. Le truc de la voix de l'IA va arnaquer BEAUCOUP de personnes âgées avec leur argent », Jay a tweeté.
Scott a écrit, "Cela va conduire à des trucs dingues dans les médias lol."
ElevenLabs, la société à l'origine de la technologie vocale, a déclaré qu'elle visait à construire son modèle "pour saisir la logique et les émotions derrière les mots".
"Plutôt que de générer des phrases une par une, il est toujours conscient de la façon dont chaque énoncé est lié au texte précédent et suivant. Cette perspective agrandie lui permet d'intoner des fragments plus longs de manière convaincante et avec un but", [le site Web d'ElevenLabs indique] (https ://beta.elevenlabs.io/). "Vous pouvez le faire avec n'importe quelle voix que vous voulez."
Déjà, des célébrités et des personnalités notables ont rencontré des problèmes avec des personnes utilisant leur image pour des escroqueries.