Incidentes Asociados
La escena es familiar para cualquier fanático de las comedias de situación de los 90: Jerry Seinfeld frente a un micrófono, hablando con una multitud durante una rutina de stand-up.
Pero no es Seinfeld. La figura en el escenario, "Larry Feinberg", es una aproximación pixelada del famoso comediante y hace movimientos repentinos y bruscos y habla en un tono monótono digital. Un ritmo electrónico suena de fondo. Y el espectáculo nunca, nunca se detiene.
Esta es la rareza --- y, para algunos, el encanto ecléctico --- de "Nothing, Forever", un proyecto de arte compuesto por una serie interminable de episodios que parodian a "Seinfeld" que utiliza el programa de inteligencia artificial GPT-3. , el programa de generación de texto sorprendentemente receptivo que impulsa la herramienta de IA viral ChatGPT.
"Nothing, Forever" comenzó a transmitirse en la plataforma de transmisión en vivo Twitch en diciembre y atrajo seguidores en línea por su ambiciosa y surrealista aplicación de IA generativa, que teóricamente puede generar extrañas imitaciones de la querida comedia estadounidense para siempre.
O al menos hasta la madrugada del lunes, cuando el comediante artificial de "Nothing, Forever" hizo varios comentarios transfóbicos en una rutina de stand-up. Feinberg, al proponer ideas para futuras rutinas de comedia, dijo que ser transgénero era "una enfermedad mental" y "arruinaba el tejido de la sociedad" y que "todos los liberales son secretamente homosexuales y quieren imponer su voluntad a todos".
"Pero nadie se ríe, así que voy a parar", dijo Feinberg después de hacer los comentarios ofensivos. "... ¿A dónde fueron todos?"
Poco después, Twitch suspendió el canal durante 14 días por violar las pautas de la comunidad de la plataforma.
"Estamos muy avergonzados y... el contenido generativo creado de ninguna manera refleja los valores u opiniones de nuestro personal", escribió Skyler Hartle, uno de los co-creadores de "Nothing, Forever", en un correo electrónico a The Washington. Correo. "Lamentamos mucho que esto haya sucedido y esperamos estar de vuelta en el aire pronto, con todas las salvaguardas apropiadas".
Twitch se negó a comentar sobre la suspensión, citando razones de privacidad, pero incluyó un extracto de las pautas de la comunidad de la plataforma, que prohíbe la discriminación por género e identidad de género.
Hartle y el cocreador Brian Habersberger crearon "Nothing, Forever" hace unos cuatro años después de discutir la idea de un programa "siempre activo" inspirado en las comedias de situación de los 90, escribió Hartle.
El servicio ChatGPT, que, como "Nothing, Forever", funciona con el programa GPT3, puede identificar patrones en franjas de escritura humana para generar nuevas respuestas a las solicitudes y ha demostrado ser increíblemente [versátil](https:// www.washingtonpost.com/technology/2023/02/02/chatgpt-work-ai-uses/?itid=lk_inline_manual_19), si es propenso a errores y no del todo humano, al responder a una variedad de tareas e indicaciones creativas.
Clips de "Nothing, Forever" muestran las asperezas del programa. Los silencios incómodos siguen a los chistes y las pistas de risa ocasionalmente se disparan en los momentos equivocados. Pero la calidad surrealista del programa ganó admiradores y entretuvo a los observadores. En un caso, los personajes del programa preguntaron: "¿Por qué estamos aquí?" y si su existencia era una "broma cósmica", lo que llevó a algunos en las redes sociales a especular en broma que el programa se había vuelto consciente de sí mismo.
La programación del programa era inofensiva, aunque incómoda, hasta los comentarios transfóbicos del lunes. Se generaron cuando el equipo del programa cambió el programa que estaba usando para crear el guión "Nothing, Forever" debido a una interrupción del servicio GPT-3, escribió Hartle.
GPT-3 ofrece varios modelos diferentes, que varían en velocidad y potencia de procesamiento. El equipo de "Nothing, Forever" perdió la conexión con el modelo que estaba usando, Davinci, y cambió a uno diferente, Curie, para mantener el espectáculo en marcha, escribió Hartle. Curie generó las líneas ofensivas del diálogo, agregó.
Tras investigar, el equipo de "Nothing, Forever" descubrió que no estaba usando las herramientas de moderación de contenido de OpenAI, que, según Hartle, no se aplican automáticamente a la salida de GPT-3.
“Habíamos asumido que la moderación de contenido estaba integrada en los modelos Davinci y Curie, pero lamentablemente nos equivocamos”, escribió Hartle.
El sitio web de OpenAI enumera una [herramienta de moderación] gratuita (https://platform.openai.com/docs/guides/moderation/overview) que los desarrolladores pueden usar para identificar si el texto generado contiene expresiones de odio. Su política de uso prohibe la generación de contenido que promueva el "odio basado en la identidad" y recomienda a los desarrolladores que utilicen su herramienta de moderación para seguir cumpliendo, pero no aclara si GPT-3 se modera solo.
Hartle escribió que "Nothing, Forever" ya no usaría Curie como respaldo e implementará la herramienta de moderación de contenido de OpenAI para escanear el diálogo del programa en el futuro. El equipo también investigará el uso de un sistema de moderación secundario como redundancia, escribió.
Hartle reconoció los riesgos de lo que llamó un "espacio muy nuevo y sin descubrir", pero escribió que estaba entusiasmado con el potencial de la IA generativa que facilita la creación de programas y películas.
Agregó que quiere seguir haciendo crecer el programa y crear más en el futuro.