Incidentes Asociados
Un programa de Seinfeld generado por IA ha sido prohibido en la plataforma de transmisión Twitch durante al menos 14 días después de que se emitiera un standup transfóbico y homofóbico durante el espectáculo.
Nothing, Forever, una versión 24/7 y una parodia generada por IA de la popular comedia de situación de Seinfeld, había estado disponible en Twitch desde mediados de diciembre.
El programa sigue a cuatro personajes, Larry, Fred, Yvonne y Kakler, que pasan la corriente interminable discutiendo sus días y otros detalles menores, similar a Seinfeld y sus cuatro personajes principales: Jerry, George, Elaine y Kramer.
Imitando a Seinfeld, la transmisión de IA se abre con su personaje Larry realizando una rutina de pie al comienzo del programa.
Pero durante una transmisión el domingo por la noche, Larry hizo una serie de comentarios homofóbicos y transfóbicos durante un stand up bit, según un clip en [LiveStreamFails.com] (https://livestreamfails.com/clip/150015).
“Estoy pensando en hacer un poco sobre cómo ser transgénero es en realidad una enfermedad mental”, dijo Larry en el clip.
“O cómo todos los liberales son secretamente homosexuales y quieren imponer su voluntad a todos. O algo sobre cómo las personas transgénero están arruinando el tejido de la sociedad”.
La transmisión animada se suspendió durante al menos dos semanas a la luz de esos comentarios, dijo uno de los creadores del programa, Xander, en la plataforma de chat en línea Discord, según [Vice News] (https://www.vice.com/ en/article/y3pymx/ai-generated-seinfeld-show-nothing-forever-banned-on-twitch-after-transphobic-standup-bit).
"Hola a todos. Aquí está lo último: recibimos una suspensión de 14 días debido a lo que dijo Larry Feinberg esta noche durante un club”, dijo Xander.
“Hemos apelado la prohibición y le informaremos a medida que sepamos más sobre lo que decide Twitch. Independientemente del resultado de la apelación, volveremos y dedicaremos el tiempo a trabajar para garantizar, en la medida de nuestras posibilidades, que nada de eso vuelva a suceder”.
El personal comentó en un hilo de Discord sobre el fiasco, culpando a un cambio en el modelo de IA por los "comportamientos errantes" de los personajes, [informó Indie Wire] (https://www.indiewire.com/2023/02/seinfeld-ai- prohibido-por-ser-transfóbico-1234806856/).
“Esta noche, comenzamos a tener una interrupción en el uso del modelo GPT-3 Davinci de OpenAI, lo que provocó que el programa exhibiera comportamientos erráticos (es posible que haya visto salas vacías ciclándose)”, escribió un miembro del personal que usaba el identificador tinylobsta.
“OpenAI tiene un modelo menos sofisticado, Curie, que fue el predecesor de Davinci. Cuando Davinci comenzó a fallar, cambiamos a Curie para intentar que el espectáculo siguiera funcionando sin tiempo de inactividad. El cambio a Curie fue lo que resultó en la generación de un texto inapropiado”.
El diálogo utilizado en Nothing, Forever se genera a partir del generador de texto GPT-3 de OpenAI, con la empresa Mismatch Media responsable de la tecnología detrás del discurso.
En un correo electrónico a The Guardian, Skyler Hartle de Mismatch Media dijo que el texto generado "fue un error".
“Estamos muy avergonzados y que el contenido generativo creado de ninguna manera refleje los valores u opiniones de nuestro personal”, dijo Hartle.
Hartle agregó que el problema se debió a que el modelo GPT-3 Davinci de OpenAI "no aprovechó correctamente sus sistemas de moderación de contenido".
“Antes de volver a poner en marcha, vamos a implementar las herramientas de moderación de contenido correctas que proporciona OpenAI y también investigaremos el uso de un sistema de moderación de contenido secundario como redundancia”, dijo Hartle. “Lamentamos mucho que esto haya sucedido y esperamos estar de vuelta en el aire pronto, con todas las medidas de seguridad apropiadas”.
Twitch no pudo ser contactado de inmediato para comentar sobre la suspensión del programa.