Problème 2984
Au cours du week-end, le compte Twitter d'un service de police de Londres a partagé cette information des policiers avaient arrêté des suspects pour possession "d'une grande quantité de cannabis", y compris une photo de ce qui semblait être une [herbe] vraiment nauséabonde (https:/ /www.rollingstone.com/t/weed/). Les réponses sur le message se sont rapidement remplies de blagues sur les flics confisquant les tailles de haies, le thé à la camomille en feuilles, etc. – mais un tweet comprenait un faux clip audio du président [Joe Biden](https://www.rollingstone.com /t/joe-biden/) expliquant qu'il préfère en fait le pot de mauvaise qualité.
"Je viens de Scranton", a déclaré le Biden simulé. "Ce que je fume, c'est de la saleté. Alors soyons clairs, Jack. Brique pure. Cul. D'accord?"
Bien sûr, le vrai Biden n'a rien dit de tel (du moins pas publiquement). Mais ces derniers temps, Biden virtuel a jailli - plutôt couramment - sur un certain nombre de sujets sur lesquels le président n'aurait pas et / ou ne devrait pas avoir d'opinions bien arrêtées. Tout cela grâce à l'avènement de puissants outils d'IA pour le clonage de la voix, et un en particulier qui a été lancé le mois dernier : Voice Lab, une plateforme créée par la startup d'IA ElevenLabs.
Pour seulement 5 $, vous pouvez accéder au logiciel d'ElevenLabs et commencer à créer votre propre audio. Tout ce dont il a besoin pour imiter de manière réaliste une personne réelle - puis lire n'importe quel texte dans sa voix - est un [court échantillon] (https://oneusefulthing.substack.com/p/a-quick-and-sobering-guide-to- cloning?utm_source=direct&r=i5f7&utm_campaign=post&utm_medium=web) du discours de cette personne, qu'il utilise pour créer un « clone ». Les enregistrements de la voix de Biden sont abondants, il est donc facile de créer votre copie AI de lui. Ensuite, il s'agit de taper ce que vous voulez qu'il dise. Peut-être avez-vous imaginé un joueur Biden qui fulmine à propos de "garces boiteuses" jouant en tant que "héros sans compétence" sur [Overwatch](https://www.rollingstone.com/culture/culture-features/overwatch- jeu-video-porno-1234662428/)? Vous pouvez maintenant donner vie à ce personnage, "Joe Rizzler".
Bien que des clips comme celui-ci soient clairement artificiels et apparemment inoffensifs, l'abus potentiel de la technologie comme celui-ci est préoccupant. ElevenLabs lui-même, peu de temps après que Voice Lab soit entré dans sa phase bêta, a tweeté qu'ils avaient vu "un nombre croissant de cas d'abus de clonage de voix" et prendraient des mesures pour "mettre en œuvre des garanties supplémentaires". La société s'est abstenue de décrire une utilisation abusive spécifique, mais à peu près au même moment, les trolls 4chan utilisaient l'outil pour générer de faux sons de diverses personnalités publiques [crachant des discours de haine] (https://www.vice.com/en/article/dy7mww /ai-voice-firm-4chan-celebrity-voices-emma-watson-joe-rogan-elevenlabs). Un extrait ressemblait à l'actrice Emma Watson lisant le Mein Kampf d'Hitler. Et plus tôt ce mois-ci, dans un [deepfake similaire](https://fortune.com/2023/02/11/artificial-intelligence-makes-voice-cloning-easy-and-the-monster-is-already-on- the-loose/) combiné à des séquences vidéo trafiquées, Biden a semblé prononcer un discours dénonçant les personnes transgenres. Inutile de dire que cela ne s'est jamais produit.
Bien que nous puissions retracer tout fichier audio généré jusqu'à l'utilisateur, nous aimerions résoudre ce problème en mettant en place des mesures de protection supplémentaires.
— ElevenLabs (@elevenlabsio) 30 janvier 2023
ElevenLabs n'a pas répondu à une demande de commentaire concernant les nouvelles mesures de sécurité qu'ils ont ajoutées ou prévoient d'appliquer à Voice Lab. Ils n'ont pas non plus précisé s'ils considéraient les discours non offensants d'AI Biden – comme celui partagé par l'utilisateur de Twitter @MNateShyamalan, dans lequel il devient philosophique à propos de la sitcom Young Sheldon – comme des exemples de « mauvaise utilisation ». Les impacts éventuels du clonage de la voix restent à voir ; les améliorations apportées à la technologie compliqueront sans aucun doute les efforts visant à séparer les enregistrements authentiques du faux matériel conçu pour pousser un programme ou un faux récit. En ce moment, cependant, les shitposters se délectent des mots apolitiques qu'ils peuvent mettre dans la bouche du président.
Pourquoi est-ce si amusant, ou séduisant, ou même réconfortant d'entendre un bot Biden cracher des références à la drogue et aux jeux vidéo ? Eh bien, pour commencer, ce n'est pas exactement présidentiel. Ensuite, il y a le fait que le Biden lui-même a 80 ans – la langue vernaculaire juvénile est carrément absurde dans sa cadence de grand-père. Pour Zach Silberberg, un producteur de contenu numérique dont les discours d'AI Biden ont fait sensation sur Twitter (on le fait discuter du film Matt Damon We J'ai acheté un zoo, et dans un autre il [se plaint](https:// twitter.com/zachsilberberg/status/1627108785947828225) d'être "inversé" comme les personnages de [Tenet](https://www.rollingstone.com/tv-movies/tv-movie-reviews/tenet-movie-review- christopher-nolan-1047641/)), la part d'anarchie est essentielle.
« Cette version du président est imprévisible », dit Silberberg. "Nous n'avons aucune idée de ce qu'il va dire. Cela pourrait être idiot, vulgaire, décousu ou n'importe quoi du tout. Il n'est pas lent et ennuyeux et plus de la même version néoconservatrice d'un démocrate que nous avons été conditionnés à accepter comme la version la plus libérale d'un président que nous pouvons obtenir.
Et finalement, note Silberberg – qui a également fait de faux dialogues comiques entre [Joe Rogan](https://www.rollingstone.com/t/joe- rogan/) et Ben Shapiro à l'aide du logiciel d'ElevenLabs — les riffs de Biden visent à faire tomber l'homme le plus puissant du monde. "C'est un fantasme pour un président dont on peut rire, et aussi torturer. Qui ne veut pas voir Joe Biden coincé dans la maison d'un film d'horreur ? C'est tout simplement drôle. Silberberg a précisé qu'il est "anti-IA" et que "l'IA est mauvaise". En ce sens, ses vidéos peuvent être interprétées comme des avertissements.
Ainsi, alors qu'ElevenLabs vante les réalisations les plus banales de leur technologie - comme la capacité de créer une voix totalement synthétique qui lira The Great Gatsby à haute voix - une partie importante de leur base d'utilisateurs à ce jour est plus intéressée par les méfaits, allant de l'hystérique et inoffensif au stratégique et malveillant. À moins d'approuver ou de refuser manuellement chaque demande de clonage de voix (une option qu'ils ont envisagée), il n'y a probablement pas grand-chose que la startup puisse faire pour réprimer les clones de voix de nos présidents passés et futurs. Cela pourrait être désastreux pour la démocratie telle que nous la connaissons, mais d'un autre côté, cela signifie que nous entendons Trump et Biden se chamailler comme des adolescents sur un jeu de tir multijoueur à la première personne. Ce qui est peut-être plus fidèle à notre moment politique que nous ne voudrions l'admettre.