Incidents associés
La scène est familière à tout fan de sitcom des années 90 : Jerry Seinfeld devant un micro, riffant devant une foule lors d'une routine de stand-up.
Mais ce n'est pas Seinfeld. Le personnage sur scène, "Larry Feinberg", est une approximation pixélisée du célèbre comédien et fait des mouvements brusques et saccadés et parle dans un monotone numérique. Un rythme électronique joue en arrière-plan. Et le spectacle ne s'arrête jamais, jamais.
C'est la bizarrerie --- et, pour certains, le charme éclectique --- de "Nothing, Forever", un projet artistique composé d'un flux sans fin d'épisodes parodiant "Seinfeld" qui utilise le programme d'intelligence artificielle GPT-3 , le programme de génération de texte étonnamment réactif qui alimente l'outil d'IA viral ChatGPT.
"Nothing, Forever" a commencé à diffuser sur la plate-forme de diffusion en direct Twitch en décembre et a attiré un public en ligne pour son application ambitieuse et surréaliste de l'IA générative, qui peut théoriquement créer pour toujours d'étranges imitations de la sitcom bien-aimée de l'Amérique.
Ou du moins jusqu'à lundi matin, lorsque le comédien artificiel "Nothing, Forever" a fait plusieurs commentaires transphobes dans une routine de stand-up. Feinberg, proposant des idées pour de futures routines comiques, a déclaré qu'être transgenre était "une maladie mentale" et "ruine le tissu social" et que "tous les libéraux sont secrètement homosexuels et veulent imposer leur volonté à tout le monde".
"Mais personne ne rit, alors je vais arrêter", a déclaré Feinberg après avoir fait les commentaires offensants. "... Où est-ce que tout le monde est allé?"
Peu de temps après, Twitch a suspendu la chaîne pendant 14 jours pour avoir enfreint les directives communautaires de la plateforme.
"Nous sommes super gênés, et … le contenu génératif créé ne reflète en aucun cas les valeurs ou les opinions de notre personnel", a écrit Skyler Hartle, l'un des co-créateurs de "Nothing, Forever", dans un e-mail au Washington. Poste. "Nous regrettons beaucoup que cela se soit produit et espérons être bientôt de retour en ondes, avec toutes les garanties appropriées en place."
Twitch a refusé de commenter la suspension, invoquant des raisons de confidentialité, mais a inclus un extrait des directives communautaires de la plateforme, qui interdit la discrimination fondée sur le sexe et l'identité de genre.
Hartle et son co-créateur Brian Habersberger ont créé "Nothing, Forever" il y a environ quatre ans après avoir discuté de l'idée d'une émission "toujours allumée" inspirée des sitcoms des années 90, a écrit Hartle.
Le service ChatGPT --- qui, comme "Nothing, Forever", est alimenté par le programme GPT3 --- peut identifier des modèles dans des pans entiers d'écriture humaine pour générer de nouvelles réponses aux demandes et s'est avéré incroyablement [polyvalent](https:// www.washingtonpost.com/technology/2023/02/02/chatgpt-work-ai-uses/?itid=lk_inline_manual_19), s'il est sujet aux erreurs et pas tout à fait humain, en répondant à une gamme de tâches et d'invites créatives.
Des extraits de "Nothing, Forever" montrent les aspérités du programme. Les silences gênants suivent les punchlines et les rires se déclenchent parfois au mauvais moment. Mais la qualité surréaliste de l'émission lui a valu des fans et a amusé les observateurs. Dans un cas, les personnages de la série ont demandé: "Pourquoi sommes-nous ici?" et si leur existence était une "blague cosmique", incitant certains sur les réseaux sociaux à spéculer en plaisantant que le programme était devenu conscient de lui-même.
La programmation de l'émission était inoffensive, bien que maladroite, jusqu'aux commentaires transphobes de lundi. Ils ont été générés lorsque l'équipe de l'émission a modifié le programme qu'elle utilisait pour créer le script "Nothing, Forever" en raison d'une panne de service GPT-3, a écrit Hartle.
GPT-3 propose plusieurs modèles différents, dont la vitesse et la puissance de traitement varient. L'équipe "Nothing, Forever" a perdu la connexion avec le modèle qu'elle utilisait, Davinci, et est passée à un autre, Curie, pour que le spectacle continue de fonctionner, a écrit Hartle. Curie a généré les lignes de dialogue offensives, a-t-il ajouté.
Après enquête, l'équipe "Nothing, Forever" a découvert qu'elle n'utilisait pas les outils de modération de contenu d'OpenAI, qui, selon Hartle, ne sont pas automatiquement appliqués à la sortie de GPT-3.
"Nous avions supposé que la modération de contenu était intégrée aux modèles Davinci et Curie, mais nous nous sommes malheureusement trompés", a écrit Hartle.
Le site Web d'OpenAI répertorie un outil de modération gratuit que les développeurs peuvent utiliser pour déterminer si le texte généré contient des propos haineux. Sa politique d'utilisation interdit la génération de contenu incitant à la "haine basée sur l'identité" et recommande aux développeurs d'utiliser leur outil de modération pour rester en conformité, mais ne précise pas si GPT-3 se modère.
Hartle a écrit que "Nothing, Forever" n'utiliserait plus Curie comme sauvegarde et mettra en œuvre l'outil de modération de contenu d'OpenAI pour analyser le dialogue de l'émission à l'avenir. L'équipe étudiera également l'utilisation d'un système de modération secondaire comme redondance, a-t-il écrit.
Hartle a reconnu les risques de ce qu'il a appelé un "espace très nouveau et inconnu", mais a écrit qu'il était enthousiasmé par le potentiel de l'IA générative facilitant la création d'émissions et de films.
Il a ajouté qu'il souhaitait continuer à développer la série et en créer d'autres à l'avenir.