Incidentes Asociados
En un desafortunado giro de los acontecimientos, el programa AI Seinfeld que ha estado en todo Twitch ha sido golpeado con el martillo de prohibición por algunas "bromas" terriblemente transfóbicas.
Creado por el laboratorio de medios Mismatch Media, Nothing, Forever ha cautivado a Internet debido a su hilaridad forzada y su tecnoabsurdo. Un programa que se transmite en vivo las 24 horas del día, los 7 días de la semana, los 365 días del año en el canal Watchmeforever Twitch, Nothing, Forever es [una comedia de situación similar a Seinfeld-esque comedia](https://kotaku.com/twitch-nothing-forever-ai-generated-seinfeld- dalle-show-1850061075) sobre cuatro amigos hablando de nada entre momentos de stand-up y silencio. El programa está completamente operado por tecnologías de aprendizaje automático, incluidas DALL-E, OpenAI GPT-3, Stable Diffusion y otras. Entonces, mientras Larry Feinberg (voxel Jerry Seinfeld) y sus amigos de IA, Elaine (Yvonne Torres), George (Fred Kastopolous) y Kramer (Zoltan Kakler), se sientan en un departamento que parece Nueva York, todo es generativo. Y por lo tanto, (idealmente) no volverían a aparecer dos chistes o escenarios a medida que avanzaba el espectáculo.
Bueno, esperemos que ese sea el caso porque recientemente, Voxel Jerry no funcionó correctamente y se volvió rebelde. Durante un stand-up bit capturado por muchas personas en línea, Larry pensó que sería una gran idea convertirse en una especie de J.K. Rowling sigue e incursiona en las oscuras artes de la transfobia. Es un fastidio total presenciar, de verdad.
“Entonces, este es mi set de stand-up en un club”, dijo Larry. “Hay como 50 personas aquí y nadie se ríe. ¿Alguien tiene alguna sugerencia? Estoy pensando en hacer un poco sobre cómo ser transgénero es en realidad una enfermedad mental o cómo todos los liberales son secretamente homosexuales y quieren imponer su voluntad a todos o algo sobre cómo las personas transgénero están arruinando el tejido de la sociedad, pero nadie se ríe. .” Me pregunto porque…
En un intercambio de correos electrónicos con Kotaku, el co-creador de Nothing, Forever, Skyler Hartle, dijo que está "muy avergonzado" por las travesuras transfóbicas de Larry aquí. Hartle reiteró que los comentarios de AI "[no] reflejan los valores u opiniones de [la empresa] en absoluto" y fueron el resultado de algún "problema técnico".
“Pensamos que habíamos resuelto este problema, utilizamos un sistema de moderación de contenido integrado proporcionado por OpenAI, pero claramente no lo habíamos hecho”, dijo Hartle. “Actualmente estamos investigando cómo podemos implementar un sistema de moderación de contenido secundario para tener una capa adicional de redundancia para garantizar que esto no vuelva a suceder. Creímos erróneamente que estábamos aprovechando correctamente las herramientas de OpenAI para la moderación de contenido, pero ese no fue el caso. Estamos planeando implementar los sistemas de moderación de contenido de OpenAI antes de volver a funcionar, además de considerar los servicios para la moderación de contenido secundario como una redundancia”.
Hartle compartió una explicación técnica de lo sucedido mientras discutía los resultados de una investigación interna sobre el percance transfóbico de Larry, diciendo que algo salió mal con un modelo OpenAI GPT-3 en uso.
“Hemos estado investigando la causa raíz del problema”, dijo Hartle. “Comenzamos a tener una interrupción utilizando el modelo GPT-3 Davinci de OpenAI, lo que provocó que el programa exhibiera comportamientos erráticos (es posible que haya visto salas vacías ciclándose). OpenAI tiene un modelo menos sofisticado, Curie, que fue el predecesor de Davinci. Cuando Davinci comenzó a fallar, cambiamos a Curie para intentar que el espectáculo siguiera funcionando sin tiempo de inactividad. El cambio a Curie fue lo que resultó en la generación de un texto inapropiado. Aprovechamos las herramientas de moderación de contenido de OpenAI, que han funcionado hasta ahora para el modelo Davinci, pero no tuvieron éxito con Curie. Hemos podido identificar la causa raíz de nuestro problema con el modelo Davinci y no utilizaremos Curie como alternativa en el futuro. Esperamos que esto arroje un poco de luz sobre cómo sucedió esto”.
La comedia transfóbica no apareció en Nothing, Forever las pocas veces que la vi en Twitch. Normalmente, el programa ve a Larry y sus amigos de pie alrededor del apartamento, discutiendo los últimos acontecimientos en las noticias o en su ciudad. En un video de los "mejores clips" publicado en YouTube, Larry le dijo a Fred en un momento que algún gato "puede cantar mejor que yo". Fred dijo que el gato probablemente tiene un "mejor tono", y Yvonne intervino para decir que el gato "podría ser una estrella si alguien pudiera escucharlo y darle una oportunidad". La pista de la risa se interrumpió y me eché a reír, tal vez porque era tan jodidamente ridículo.
Kotaku contactó a Twitch para hacer comentarios.
Según las [directrices de la comunidad sobre conductas de odio y acoso] de Twitch (https://www.twitch.tv/p/en/legal/community-guidelines/harassment/20210122/), cualquier comportamiento en la plataforma dirigido a “grupos protegidos, ” incluidas las personas de color y las personas trans, puede resultar en la prohibición del canal, con ofensas repetidas que hacen que la prohibición se vuelva permanente. El comportamiento en cuestión podría ser cualquier cosa, desde "usar calumnias llenas de odio" hasta "publicar imágenes llenas de odio" y cualquier cosa intermedia que de alguna forma o forma "llame a la subyugación, la segregación o la exclusión, incluida la exclusión política, económica y social". segregación, basada en una característica protegida”.
Por ahora, el canal de Twitch watchmeforever y, posteriormente, el programa Nothing, Forever “no estarán disponibles temporalmente” durante los próximos 14 días.