Incidents associés
Une émission Seinfeld générée par l'IA a été bannie de la plateforme de streaming Twitch pendant au moins 14 jours après un stand-up transphobe et homophobe diffusé pendant la montrer.
Nothing, Forever, une version 24/7 et une parodie générée par l'IA de la populaire sitcom Seinfeld, était disponible sur Twitch depuis la mi-décembre.
L'émission suit quatre personnages - Larry, Fred, Yvonne et Kakler - qui passent le flux sans fin à discuter de leurs journées et d'autres détails mineurs, similaires à Seinfeld et ses quatre personnages principaux : Jerry, George, Elaine et Kramer.
Imitant Seinfeld, le flux AI s'ouvre avec son personnage Larry exécutant une routine de stand-up au début de l'émission.
Mais lors d'un stream dimanche soir, Larry a fait une série de remarques homophobes et transphobes lors d'un stand-up, selon un clip sur LiveStreamFails.com.
"Je pense à expliquer un peu comment être transgenre est en fait une maladie mentale", a déclaré Larry dans le clip.
« Ou comment tous les libéraux sont secrètement homosexuels et veulent imposer leur volonté à tout le monde. Ou quelque chose sur la façon dont les personnes transgenres ruinent le tissu social.
Le flux animé a été suspendu pendant au moins deux semaines à la lumière de ces remarques, a déclaré l'un des créateurs de l'émission, Xander, sur la plateforme de chat en ligne Discord, selon [Vice News](https://www.vice.com/ en/article/y3pymx/ai-generated-seinfeld-show-nothing-forever-banned-on-twitch-after-transphobic-standup-bit).
"Salut tout le monde. Voici la dernière en date : nous avons reçu une suspension de 14 jours en raison de ce que Larry Feinberg a dit ce soir lors d'une sortie en club", aurait déclaré Xander.
"Nous avons fait appel de l'interdiction, et nous vous tiendrons au courant à mesure que nous en saurons plus sur ce que Twitch décide. Quelle que soit l'issue de l'appel, nous reviendrons et passerons le temps à travailler pour garantir au mieux de nos capacités que rien de tel ne se reproduise.
Le personnel a commenté un fil Discord sur le fiasco, blâmant un changement dans le modèle d'IA pour les "comportements errants" des personnages, [rapporté par Indie Wire](https://www.indiewire.com/2023/02/seinfeld-ai- interdit-pour-être-transphobe-1234806856/).
"Plus tôt ce soir, nous avons commencé à avoir une panne en utilisant le modèle GPT-3 Davinci d'OpenAI, ce qui a amené l'émission à présenter des comportements errants (vous avez peut-être vu des pièces vides défiler)", a écrit un membre du personnel utilisant la poignée tinylobsta.
« OpenAI a un modèle moins sophistiqué, Curie, qui était le prédécesseur de Davinci. Lorsque Davinci a commencé à échouer, nous sommes passés à Curie pour essayer de maintenir le spectacle sans aucun temps d'arrêt. Le passage à Curie a entraîné la génération du texte inapproprié.
Le dialogue utilisé dans Nothing, Forever est généré à partir du générateur de texte OpenAI’s GPT-3, avec la société Mismatch Media responsable de la technologie derrière le discours.
Dans un e-mail au Guardian, Skyler Hartle de Mismatch Media a déclaré que le texte généré « était une erreur ».
"Nous sommes très gênés et le contenu génératif créé ne reflète en aucun cas les valeurs ou les opinions de notre personnel", a déclaré Hartle.
Hartle a ajouté que le problème était dû au fait que le modèle GPT-3 Davinci d'OpenAI "n'exploitait pas correctement leurs systèmes de modération de contenu".
"Avant de remettre en ligne, nous allons implémenter les bons outils de modération de contenu fournis par OpenAI et également étudier l'utilisation d'un système de modération de contenu secondaire comme redondance", a déclaré Hartle. "Nous regrettons beaucoup que cela se soit produit et espérons être bientôt de retour en ondes, avec toutes les garanties appropriées en place."
Twitch n'a pas pu être joint dans l'immédiat pour commenter la suspension de l'émission.