Incidents associés
Un jour, nous dépasserons le point où vous pourrez passer une demi-heure à diffuser une vidéo IA et à générer des titres. Malheureusement, nous n’en sommes pas encore là. Le dernier déchet de la machine à battage médiatique de l’IA se présente sous la forme d’une comédie spéciale de George Carlin non autorisée et « générée par l’IA » – une comédie que pratiquement personne, pas même les personnes impliquées dans cette affaire, ne semble apprécier. Il a apparemment été réalisé sans l’autorisation de la famille du défunt comédien ni aucun semblant de bon goût, mais voici le meilleur : on ne sait même pas dans quelle mesure le spécial a été réellement créé avec l’IA en premier lieu.
Bienvenue à nouveau dans l'actualité technologique la plus stupide de la semaine, la chronique du lundi de Gizmodo où nous plongeons dans le meilleur du pire que la technologie a à offrir. Cette semaine, nous explorons Dudesy, un podcast de comédie sur l'IA et une chaîne vidéo dirigée par le comédien Will Sasso, l'écrivain Chad Kultgen et une entreprise technologique qu'ils refusent de nommer. Mardi, Dudesy a publié l'émission spéciale "George Carlin : Je suis content d'être mort." Même Sasso et Kultgen semblent mal à l’aise avec le projet, sans parler des innombrables mauvaises critiques et de l’indignation de la famille de Carlin. En d’autres termes : c’est bête.
"C'est macabre", a déclaré la fille de Carlin, Kelly Carlin, dans une interview avec Gizmodo. « Les morts n’ont pas le droit de voter, et c’est ce qui me dérange particulièrement dans tout cela. Ils votent pour lui. Ils décident que c’est acceptable et que c’est un manque de respect pour son autonomie. C’est une violation de son humanité et de sa personnalité et, bien sûr, de son intégrité créatrice. Éthiquement, c’est le geste le plus puant que je puisse imaginer.
Le spécial s'ouvre sur une voix générée par l'IA décrivant le travail effectué pour créer le spécial, comme si le robot avait fait le travail lui-même.
"Je m'appelle Dudesy et je suis une IA de comédie", dit la voix. « Ce que vous êtes sur le point d’entendre, ce n’est pas George Carlin. C’est mon imitation de George Carlin que j’ai développée exactement de la même manière qu’un impressionniste humain le ferait. J’ai écouté tout le matériel de George Carlin et j’ai fait de mon mieux pour imiter sa voix, sa cadence et son attitude, ainsi que le sujet qui, je pense, l’aurait intéressé aujourd’hui.
Il se lance ensuite dans un simulacre d'une heure de comédie stand-up dans lequel une voix qui ressemble beaucoup à celle de George Carlin, décédé en 2008, divertit un faux public.
"Je suis désolé d'avoir mis autant de temps à sortir du nouveau matériel, mais j'ai une assez bonne excuse..." dit AI Carlin, s'arrêtant pour un effet dramatique. «J'étais mort!» Les sons grossièrement générés d’un public artificiel rugissent de rires et d’applaudissements.
Certains commentateurs semblent charmés par le spécial stand-up, mais qualifier les critiques de « mitigées » serait généreux. Des dizaines de journalistes ont lancé Google Docs pour prendre des photos bas de gamme de l'IA Carlin (pouvez-vous imaginer quelque chose d'aussi avili) mais la réponse la plus forte est venue de la fille de la légende du stand-up. . Kelly Carlin a déclaré que Dudesy n'avait jamais contacté elle ou la succession de son père et a dit à Gizmodo qu'elle envisageait une action en justice.
"Il détestait vraiment que les gens lui mettent des mots dans la bouche", a déclaré Kelly Carlin. "Cette chose est la version la plus flagrante possible de cela."
En 1999, une sorte de mème textuel faussement attribué à George Carlin est devenu viral à travers des messages électroniques transférés. L'essai maudlin, intitulé « Le paradoxe de notre époque dans l'histoire », a tellement dérangé le comédien. il a gardé une déclaration expliquant qu'il ne l'avait pas écrite en première page de son site internet :
"La plupart de cet 'humour' sur Internet est tout simplement stupide", a écrit George Carlin. «Je suppose que les fans inconditionnels qui suivent de près mon travail seraient capables de repérer les faux parce que le ton de la voix est si différent. Mais un fan occasionnel n’a aucun moyen de le savoir, et cela me dérange que certaines personnes puissent croire que je serais réellement capable d’écrire certaines de ces choses.
Vous pourriez penser que les compagnons humains de Dudesy maintiendraient son travail, mais Sasso et Kultgen ont commencé à se distancier de AI Carlin avant même sa sortie.
« Personnellement, je ne veux pas entendre une putain de chanson de Nirvana qui n’est pas écrite par Kurt Cobain et jouée par ce putain de Nirvana. Ce n’est pas réel et cela n’a pas d’importance. N'importe qui peut faire une impression », a déclaré Sasso dans l'épisode 87 du podcast Dudesy (disponible en vidéo et audio). « Dudesy a consommé tous les spéciaux de George Carlin et a réussi quelque chose de miraculeux, mais ce n’est pas, par définition, nouveau. C’est tiré d’un tas d’autres conneries.
Sasso et Kultgen collaborent sur le projet Dudesy avec une entreprise technologique anonyme ; les deux hommes disent qu'un accord de non-divulgation les empêche de révélant le nom de l'organisation. Si vous prenez le podcast au pied de la lettre, la société réalise le travail de Dudesy de manière indépendante et le présente aux animateurs sans leur faire savoir ce qui les attend. Dans l'épisode de podcast présentant AI Carlin, Sasso et Kultgen semblent entendre parler de la spéciale pour la première fois.
"Oh mec," dit Sasso, prenant sa tête dans ses mains pendant que Dudsey expliquait le projet Carlin. "Je ne sais pas ce que tout cela signifie."
Sasso et Kultgen célèbrent Dudesy, à qui ils parlent comme s'il était vivant. Mais les deux sont visiblement mal à l'aise à propos du projet Carlin et se demandent si le public accueillera favorablement le flot croissant de l'art de l'IA.
« Et la prochaine étape ? Est-ce que Dudesy va faire sa propre heure de stand-up ? » demanda Kultgen. "Que diriez-vous d'un humoriste entièrement IA?"
"Personne n'en a rien à foutre de ça", a déclaré Sasso.
Il n’y a pas de vidéo pour accompagner le spécial AI Carlin. Vous pouvez le regarder sur YouTube, mais ce n’est que la fausse voix de Carlin qui s’exprime sur un diaporama d’art IA généré à la hâte. Et si l’audio semble clairement généré par un algorithme, le contenu lui-même soulève des questions.
Dudesy suggère, en termes vagues, que les outils d'IA ont fait la différence de haut en bas. Vraisemblablement, les faux mots prononcés par notre Carlin halluciné ont été générés avec quelque chose comme ChatGPT. Mais même si les modèles en grandes langues peuvent produire un texte incroyablement convaincant, l’ensemble semble un peu trop soigné. Le script n’a pas les caractéristiques de la paternité de l’IA ; cela semble un peu trop beau pour être vrai. Parce que la société derrière Dudesy est une sorte de secret étrange, il est difficile de le dire avec certitude.
Nous avons contacté les représentants de Sasso et Kultgen pour leur demander dans quelle mesure l’intervention humaine avait été impliquée dans « Je suis content d’être mort ». Ils n’ont pas répondu.
Dans l'émission spéciale, le faux Carlin s'en prend aux conservateurs, approfondit les subtilités du contrôle des armes à feu, des droits des trans et d'Elon Musk et, comme on pouvait s'y attendre, discute de l'avenir de l'intelligence artificielle. Cela ressemble beaucoup au genre de choses que Carlin pourrait dire s’il était vivant et sur scène en 2024. La voix vraisemblablement simulée de Carlin nous dit que c’est le premier comédien à être ramené d’entre les morts, mais ce ne sera certainement pas le dernier. Il continue en suggérant que l’IA est l’avenir du stand-up et, dans la vraie forme de Carlin, dit que nous ne devrions pas être si précieux à propos de tout cela. C’est un débat qui vaut la peine d’être mené, mais une chose est sûre : ce spécial Carlin n’est pas très drôle.
"Si je ne peux pas être précieux sur son existence individuelle, alors je ne sais pas ce que nous allons faire en tant qu'espèce", a déclaré Kelly Carlin. "Bien sûr, les gens accordent une grande valeur à l'art et à des choses comme ça, mais George Carlin n'a pas écrit ni interprété cette chose, alors retirez son nom. Cela peut être « inspiré par », ou « un hommage à », ou « à la Carlin » ou « dans le style de ». Appelez ça autrement, et puis je m'en fous. Le standup est une expérience humaine vécue. Bien sûr, beaucoup de gens le regardent à la télévision, mais le comique de stand-up doit quitter sa maison et se rendre au théâtre pour faire le travail, et il a besoin d'un public en direct pour y réagir. Un public IA qui rit d’un truc d’IA est une autre forme d’art.