Problema 6351
Jake Paul está por todas partes en internet. Paul, estrella de las redes sociales convertido en actor y boxeador profesional, hizo historia el año pasado al enfrentarse a la leyenda del boxeo Mike Tyson en el evento deportivo más visto en streaming de la historia. Ahora vuelve a estar en el candelero, con aún más ojos puestos en él. Una oleada de vídeos virales publicados la semana pasada lo muestra dando tutoriales de maquillaje, robando en Taco Bell y asaltando un 7-Eleven.
Pero ninguno de estos vídeos es real: son deepfakes creados con la aplicación Sora de OpenAI (https://www.scientificamerican.com/article/openais-new-sora-app-lets-users-generate-ai-videos-and-star-in-them/). El software, lanzado el 30 de septiembre, utiliza inteligencia artificial para generar vídeos y permite a los usuarios subir su imagen como un "cameo" que otros pueden usar.
Paul subió voluntariamente su cameo para que otros lo usaran, y luego, el 8 de octubre, publicó un video en TikTok (https://www.tiktok.com/@jakepaul/video/7558888728878402847) en el que amenazaba con demandar a cualquiera que difundiera deepfakes de él haciendo cosas que jamás haría. Mientras decía esto, comenzó a maquillarse torpemente, en tono de broma, ya que eso es lo que muchos de los deepfakes lo mostraban haciendo. Al día siguiente, anunció en X (https://x.com/jakepaul/status/1976411343025487977) que era un "orgulloso inversor de OpenAI" y "el primer usuario famoso de cameos NIL" (NIL es el acrónimo de nombre, imagen y semejanza), y que los videos generados con su imagen habían recibido más de mil millones de visualizaciones en tan solo seis días.
Estos esfuerzos podrían marcar el inicio de una nueva economía digital para los deepfakes, y Sora podría ser el motor principal. La función de "cameo", que al principio parecía un complemento divertido para las capacidades de Sora, ahora se perfila como uno de sus principales atractivos, y el CEO de OpenAI ha anunciado planes para monetizarla. Este desarrollo presenta oportunidades para algunos, pero también grandes riesgos para otros. Dependiendo de cómo se implemente el sistema, los propietarios de cameos podrían establecer términos y precios, lo que podría devolver cierto control a aquellos cuyas imágenes se han utilizado sin su consentimiento. Cualquiera podría compartir su imagen y, en efecto, colocar su doble digital en el equivalente a un banco de imágenes. Otros usuarios de la aplicación podrían licenciar estas imágenes para usos pequeños y rastreables, respetando las normas establecidas por los titulares de los derechos (por ejemplo, no mostrar desnudez) y pagándoles por cada uso. Los deepfakes, que hasta ahora se han utilizado principalmente para difamar o extorsionar, al menos generarían regalías para las personas retratadas.
Por supuesto, dado que la tecnología avanza más rápido de lo que muchos usuarios creen —y sin duda más rápido de lo que los reguladores pueden controlar—, los riesgos son considerables. Una persona podría consentir ser duplicada y aun así resultar perjudicada por deepfakes editados selectivamente o creados con instrucciones maliciosas. Su imagen podría ser robada fácilmente y utilizada para defraudar o suplantar la identidad, y los datos biométricos expuestos no se pueden restablecer tan fácilmente como una contraseña filtrada.
Por supuesto, dado que la tecnología avanza más rápido de lo que muchos usuarios imaginan —y sin duda más rápido de lo que los reguladores pueden controlar—, los riesgos son sustanciales. Establecer un mercado para los derechos de imagen no resuelve los posibles daños, pero puede crear un incentivo comercial para prevenirlos mediante la regulación, manteniendo así la integridad del mercado. En algunos casos, el uso de los derechos de imagen de una persona será imposible por razones morales, no solo legales. Durante la primera semana del lanzamiento de Sora, familias disparos digitales de personas fallecidas, y OpenAI indicó que añadiría herramientas para atender dichas solicitudes.
Y una economía basada en deepfakes probablemente cambiará las cosas de maneras imprevisibles. Plataformas de música en streaming como Spotify y SoundCloud transformaron la industria musical, cambiando la forma en que se comparten e incluso se diseñan las canciones. Por ejemplo, impulsaron a los músicos a grabar canciones más cortas que los oyentes tienen menos probabilidades de saltarse. ¿Ocurrirá algo similar con los deepfakes comercializados? Podría surgir un mercado donde las imágenes de las personas se vendan, intercambien o incluso se modifiquen según su demanda. ¿Subirá y bajará el valor de las imágenes faciales con las fluctuaciones de popularidad? Suena distópico, pero ya vivimos en una cultura donde la imagen y la atención se monetizan, y es probable que esta tendencia siga evolucionando.
Varias celebridades ya han comenzado a explorar los deepfakes comerciales. En 2023, la cantante Grimes ofreció un reparto de regalías del 50% a quien usara su voz generada por IA para crear una canción exitosa. El proyecto Dream Track de YouTube permite a los creadores componer bandas sonoras con las voces de cantantes generadas por IA de Charlie Puth, Demi Lovato y John Legend, entre otros. Se han visto deepfakes de estrellas del deporte como David Beckham y Peyton Manning en anuncios publicitarios, y la cantante FKA twigs creó un deepfake para gestionar sus interacciones en redes sociales mientras se centra en su música.
Esto nos lleva de nuevo a la lógica de la decisión de Paul de permitir que se crearan vídeos con su cameo en Sora: si la atención es el bien preciado en un mercado digital saturado, entonces permitir que el mundo genere tu imagen a demanda te da más visibilidad y aumenta tu valor. Es a la vez activo y artífice, captando la atención hoy para recibir regalías mañana.