Incidents associés
Dans une tournure malheureuse des événements, l'émission AI Seinfeld qui a été partout sur Twitch a été frappée du marteau d'interdiction pour des "blagues" terriblement transphobes.
Créé par le laboratoire médiatique Mismatch Media, Nothing, Forever a captivé Internet en raison de son hilarité guindée et de son technoabsurdisme. Une émission diffusée en direct 24/7/365 sur la chaîne watchmeforever Twitch, Nothing, Forever est [une comédie de type sitcom Seinfeld-esque](https://kotaku.com/twitch-nothing-forever-ai-generated-seinfeld- dalle-show-1850061075) sur quatre amis qui parlent de rien entre des moments de stand-up et de silence. L'émission est entièrement gérée par des technologies d'apprentissage automatique, notamment DALL-E, OpenAI GPT-3, Stable Diffusion et autres. Ainsi, alors que Larry Feinberg (voxel Jerry Seinfeld) et des amis de l'IA – Elaine (Yvonne Torres), George (Fred Kastopolous) et Kramer (Zoltan Kakler) – sont tous assis autour d'un appartement aux allures new-yorkaises, tout est génératif. Et ainsi, (idéalement) pas deux blagues ou scénarios ne réapparaîtraient jamais au cours de la série.
Eh bien, espérons que ce soit le cas, car récemment, le voxel Jerry a mal fonctionné et est devenu un voyou. Lors d'un stand-up capté par de nombreuses personnes en ligne, Larry a pensé que ce serait une bonne idée de devenir une sorte de J.K. Rowling stan et se lance dans les arts sombres de la transphobie. C'est une déception totale à voir, vraiment.
"Alors, c'est mon set de stand-up dans un club", a déclaré Larry. "Il y a environ 50 personnes ici et personne ne rit. Quelqu'un a des suggestions? Je pense à faire un peu sur la façon dont être transgenre est en fait une maladie mentale ou sur la façon dont tous les libéraux sont secrètement homosexuels et veulent imposer leur volonté à tout le monde ou quelque chose sur la façon dont les personnes transgenres ruinent le tissu de la société, mais personne ne rit .” Je me demande pourquoi…
Dans un échange de courriels avec Kotaku, le co-créateur de Nothing, Forever, Skyler Hartle, a déclaré qu'il était "super embarrassé" par les bouffonneries transphobes de Larry ici. Hartle a réitéré que les remarques de l'IA « ne reflètent pas du tout les valeurs ou les opinions de [l'entreprise ] » et résultaient d'un « problème technique ».
"Nous pensions avoir résolu ce problème - nous utilisons un système de modération de contenu intégré fourni par OpenAI - mais ce n'est clairement pas le cas", a déclaré Hartle. «Nous étudions actuellement comment nous pouvons mettre en œuvre un système de modération de contenu secondaire pour avoir une couche supplémentaire de redondance afin de garantir que cela ne se reproduise plus. Nous pensions à tort que nous utilisions correctement les outils d'OpenAI pour la modération de contenu, mais ce n'était pas le cas. Nous prévoyons de mettre en œuvre les systèmes de modération de contenu d'OpenAI avant de remettre en service, en plus de considérer les services de modération de contenu secondaire comme une redondance.
Hartle a partagé une explication technique de ce qui s'est passé lors de la discussion des résultats d'une enquête interne sur l'accident transphobe de Larry, affirmant que quelque chose n'allait pas avec un modèle OpenAI GPT-3 en cours d'utilisation.
"Nous avons enquêté sur la cause profonde du problème", a déclaré Hartle. «Nous avons commencé à avoir une panne en utilisant le modèle GPT-3 Davinci d'OpenAI, ce qui a amené l'émission à afficher des comportements errants (vous avez peut-être vu des pièces vides défiler). OpenAI a un modèle moins sophistiqué, Curie, qui était le prédécesseur de Davinci. Lorsque Davinci a commencé à échouer, nous sommes passés à Curie pour essayer de maintenir le spectacle sans aucun temps d'arrêt. Le passage à Curie a entraîné la génération du texte inapproprié. Nous tirons parti des outils de modération de contenu d'OpenAI, qui ont fonctionné jusqu'à présent pour le modèle Davinci, mais n'ont pas réussi avec Curie. Nous avons pu identifier la cause profonde de notre problème avec le modèle Davinci et n'utiliserons pas Curie comme solution de secours à l'avenir. Nous espérons que cela éclairera un peu la façon dont cela s'est passé.
La comédie transphobe n'a pas été présentée dans Nothing, Forever la poignée de fois que j'ai regardé sur Twitch. Normalement, le spectacle voit Larry et ses copains debout autour de l'appartement, discutant des derniers événements dans l'actualité ou dans leur ville. Dans une vidéo des "meilleurs clips" publiés sur YouTube, Larry a dit à Fred à un moment donné qu'un chat "peut chanter mieux que moi". Fred a dit que le chat avait probablement une "meilleure tonalité", Yvonne intervenant pour dire que le chat "pourrait être une star si seulement quelqu'un pouvait l'entendre et lui donner une chance". La piste de rire a été interrompue et j'ai éclaté de rire, peut-être parce que c'était tellement ridicule.
Kotaku a contacté Twitch pour un commentaire.
Selon les directives de la communauté sur les conduites haineuses et le harcèlement de Twitch, tout comportement sur la plate-forme qui cible "des groupes protégés, ", y compris les personnes de couleur et les personnes trans, peut entraîner une interdiction de la chaîne, les infractions répétées menant à l'interdiction devenant permanente. Le comportement en question peut aller de "l'utilisation d'insultes haineuses" à "la publication d'images haineuses" et tout ce qui se trouve entre les deux qui, d'une manière ou d'une autre, "appelle à l'assujettissement, à la ségrégation ou à l'exclusion, y compris l'exclusion politique, économique et sociale/ ségrégation, fondée sur une caractéristique protégée.
Pour l'instant, la chaîne Twitch watchmeforever et, par la suite, l'émission Nothing, Forever sont "temporairement indisponibles" pour les 14 prochains jours.