Problema 6134

Algo extraño ha estado sucediendo en YouTube durante las últimas semanas. Tras ser subidos, algunos videos han sido sutilmente aumentados, cambiando su apariencia sin que sus creadores intervengan. Los espectadores han notado sombras muy impactantes, bordes extrañamente afilados y un aspecto suavizado que hace que el metraje parezca plástico. Muchos han llegado a la misma conclusión: YouTube está usando IA para modificar los videos en su plataforma, sin que los creadores lo sepan.

Un artista multimedia conocido como Mr. Bravo, cuyos videos de YouTube [(https://www.youtube.com/@TheMrBravoShow) presentan "una auténtica estética de los 80" lograda al pasar sus videos por una videograbadora, escribió en Reddit que sus videos se ven "completamente diferentes a lo que se subió originalmente". "Una gran parte del encanto de los videos es el aspecto VHS y la calidad granulada y deslavada del video", escribió. El filtro de YouTube oscureció esta cualidad que requiere mucho trabajo: "Es ridículo que YouTube pueda agregar funciones como esta que cambian por completo el contenido", escribió. Otro YouTuber, Rhett Shull, publicó un video la semana pasada sobre lo que estaba sucediendo con sus cortos y los de su amigo Rick Beato. Ambos dirigen canales de música increíblemente populares, con más de 700.000 y 5 millones de suscriptores, respectivamente. En su video, Shull afirma creer que se está utilizando "escalado con IA" (un proceso que aumenta la resolución y el detalle de una imagen) y le preocupa la señal que esto pueda transmitir a su audiencia. "Creo que esto hará que la gente piense que estoy usando IA para crear mis videos. O que son deepfakes. O que estoy tomando atajos", dijo. "Inevitablemente erosionará la confianza de los espectadores en mi contenido".

La falsificación es una preocupación generalizada en la era de la IA, cuando los medios se pueden generar, mejorar o modificar con poco esfuerzo. El mismo rectángulo lleno de píxeles podría contener el trabajo de alguien que dedicó tiempo y energía y tuvo el coraje de actuar en público, o de alguien que se sienta en la cama a escribir indicaciones y unir clips para ganar algo de dinero. Los espectadores que no quieran ser engañados por esto último deben estar atentos a las señales más sutiles de modificación de la IA. Para los creadores que desean diferenciarse del nuevo contenido sintético, YouTube parece interesado en dificultarles el trabajo.

Cuando pregunté a Google, la empresa matriz de YouTube, sobre qué está pasando con estos videos, la portavoz Allison Toh escribió: "Estamos realizando un experimento en YouTube Shorts seleccionados que utiliza tecnología de mejora de imagen para enfocar el contenido. Estas mejoras no se realizan con IA generativa". Pero esta es una afirmación confusa: la "IA generativa" no tiene una definición técnica estricta, y la "tecnología de mejora de imagen" podría ser cualquier cosa. Pedí más detalles sobre qué tecnologías se están empleando y con qué fin. Toh dijo que YouTube está "utilizando el aprendizaje automático tradicional para desenfocar, eliminar el ruido y mejorar la claridad de los videos", me explicó. (Se desconoce si los videos modificados se muestran a todos los usuarios o solo a algunos; las empresas tecnológicas a veces realizan pruebas limitadas de nuevas funciones).

La descripción de Toh suena notablemente similar al proceso que se lleva a cabo cuando los programas de IA generativa crean videos completamente nuevos. Estos programas suelen utilizar un modelo de difusión: un programa de aprendizaje automático entrenado para refinar una imagen extremadamente ruidosa y convertirla en una imagen nítida, con bordes definidos y texturas suaves. Un escalador de IA puede utilizar el mismo proceso de difusión para "mejorar" una imagen existente, en lugar de crear una nueva. La similitud del proceso subyacente podría explicar por qué la firma visual de la IA basada en difusión es reconocible en los videos de estos YouTubers.

Mientras realizaba este experimento, YouTube también ha estado animando a la gente a crear y publicar vídeos cortos generados por IA utilizando un conjunto de herramientas recientemente lanzado que permite animar fotos y añadir efectos "como nadar bajo el agua, emparejarse con un hermano que se parece a él, y más". YouTube no me explicó qué motivó su experimento, pero algunos sospechan que tiene que ver con la creación de una estética más uniforme en toda la plataforma. Como escribió un usuario de YouTube: "Nos están entrenando a nosotros, la audiencia, para que nos acostumbremos a la apariencia de la IA y, con el tiempo, la veamos como algo normal".

Google no es la única empresa que se apresura a incorporar contenido generado por IA en sus plataformas. Meta anima a los usuarios a crear y publicar sus propios chatbots de IA en Facebook e Instagram utilizando la herramienta "AI Studio" de la compañía. El pasado diciembre, el vicepresidente de producto de IA generativa de Meta declaró al Financial Times que "esperamos que, con el tiempo, estas IA existan en nuestras plataformas, de forma similar a como lo hacen las cuentas humanas".

En un tono un poco menos inquietante, Snapchat ofrece herramientas para que los usuarios "generen imágenes novedosas" de sí mismos a partir de selfis. El año pasado, TikTok presentó Symphony Creative Studio (https://ads.tiktok.com/business/en-US/blog/tiktok-symphony-ai-creative-suite), que genera videos e incluye la función "Tus Generaciones Diarias de Videos" que sugiere nuevos videos automáticamente cada día.

Este es un giro extraño para las redes sociales. Las plataformas que supuestamente se basan en la idea de conectar a las personas, o al menos compartir experiencias y actuaciones (el eslogan de YouTube hasta 2013 era "Transmítelo"), ahora parecen centradas en hacernos consumir contenido impersonal y algorítmico. Shull afirmó que la modificación de sus videos erosiona su confianza en YouTube, ¿y cómo no? Las prioridades de la plataforma se han alejado claramente de creadores como Shull, cuyo trabajo conjunto es una de las principales razones por las que YouTube se ha convertido en el gigante que es hoy.