Incidentes Asociados
Una nueva canción que suena como si hubiera sido lanzada por Justin Bieber, con una letra que menciona haber estado en una "fiesta de Diddy" se ha vuelto viral en las redes sociales, generando preguntas sobre su autenticidad.
Apareció por primera vez en plataformas de redes sociales como TikTok, X y YouTube en abril, pero acumuló aún más vistas desde el arresto del rapero Sean "Diddy" Combs.
La letra incluye: "Me perdí en una fiesta de Diddy/No sabía que así sería/Estaba en esto por un nuevo Ferrari/Pero me costó mucho más que mi alma".
Otra línea menciona: "Firmó un papel para no tener que pedir perdón nunca más".
Los representantes de Bieber no respondieron a una solicitud de comentarios sobre la canción, pero varios expertos coinciden en que es más que probable que la melodía haya sido creada con IA u otras herramientas digitales.
La experta en IA Marva Bailer dijo a Fox News Digital: "La razón por la que se genera esto es porque no es algo que el artista esté publicitando. Y cuando decimos 'generado por IA', eso puede significar muchas cosas. Y entonces la IA en realidad se entrena con la voz y lo que podría estar sucediendo. Podría ser una herramienta de IA, o podría ser una herramienta digital real. Estas herramientas de música digital existen. Lo que realmente hace que reciba tanta atención es la idea de la IA porque está sucediendo tan rápido y parece tan real, y entonces todos piensan, debe ser alguien que está usando algo de IA para que parezca tan real".
Ella continuó: "Parte de la experiencia de lanzar material nuevo es la parte previa y posterior de la experiencia y esa interacción digital. Entonces, de inmediato sabemos que esto no es real si el artista no está entusiasmado con ello y no nos lo ha contado. Nos gustan las sorpresas, y vemos mucha gamificación para descubrir qué hay en la bóveda, cuál será la nueva canción y cuál es la pista oculta. No hemos visto esto con este escenario, y es por eso que los fanáticos dicen que este no es mi Justin Bieber".
"Es muy difícil decirlo, pero creo que el hecho de que pareciera muy oportuno y actual, casi parecía demasiada coincidencia que apareciera", dijo Rob Rosenberg, fundador y director de Telluride Legal Strategies.
CBS informó que analizaron la canción "a través de múltiples herramientas de detección de audio de IA; varios resultados indicaron que el audio, o al menos partes de él, probablemente fueron generados por IA".
A nivel técnico, los expertos de Pindrop, una empresa de seguridad y autenticación de voz que ha estado muy involucrada en la industria bancaria desde 2011, pero que recientemente expandió su tecnología para detectar deepfakes generados por IA, le dijeron a Fox News Digital que hay ciertos indicios que marcan la canción como generada por IA.
"La razón por la que se genera esto es porque no es algo que el artista esté publicitando".
— Marva Bailer, experta en IA
"Cuando hablamos, nuestro habla se encuentra en un rango de frecuencia específico. Y lo que hemos notado es que estos sistemas de generación de IA suenan muy bien, pero en realidad no hacen coincidir la forma en que hablamos con las frecuencias exactas como un ser humano normal. Y por eso podemos detectar este tipo de variabilidad de frecuencia en el habla generada por IA", dijo Sarosh Shahbuddin, director sénior de productos en Pindrop.
Elie Khoury, Ph.D. y vicepresidente de investigación, explicó además que hay tres categorías principales de estos artefactos, que incluyen la inconsistencia acústica, fonética y temporal, y la "huella digital" del modelo que generó la IA.
Shahbuddin también señaló que su propia tecnología a menudo se combina con una verificación de hechos independiente para determinar si una imagen o un fragmento de audio se realizó con IA.
Pindrop ha entrado más recientemente en el espacio de las redes sociales con la herramienta Pindrop Pulse, y Shahbuddin y Khoury dijeron que están viendo un "repunte masivo" en la gente que busca deepfakes, con 10.000 "archivos sospechosos" al mes ingresados en su sitio.
Señalaron que "la distribución de los archivos multimedia que etiquetamos como sintéticos frente a los no sintéticos es bastante grande y es alarmante", gracias en parte a las herramientas de código abierto disponibles para el público para crear deepfakes.
"Hay muy poco que se pueda hacer para detener el uso de esos modelos. Es una locura", dijo Shahbuddin.
Aparte de la cuestión del contenido que aparece en la canción, también están las implicaciones financieras de las continuas falsificaciones profundas para Bieber y otros artistas.
"El [objetivo] de TikTok es que haces tus pequeñas y divertidas creaciones, y pones dibujos animados y cabezas parlantes y nuevas creaciones divertidas, y la gente las usa como música de fondo para estas nuevas creaciones. Y así sigue y sigue y sigue. Y normalmente, si esa fuera una canción con licencia, cada vez que sonara una de esas creaciones, obtendrías regalías. Y luego en todo este mundo, nadie recibe regalías", dijo Bailer.
"Estas plataformas sociales van a empezar a ver las falsificaciones profundas relacionadas con la música como una categoría de medios muy diferente a las falsificaciones profundas políticas o de otro tipo", explicó Shahbuddin. "Y la razón es que hay sellos y organizaciones que poseen las licencias de estos cantantes y artistas, y eso afecta la forma en que se distribuyen las regalías a estos artistas. Por lo tanto, estos deepfakes de canto son en realidad una nueva clase donde hay un impacto significativo en los ingresos. Y creo que las plataformas como YouTube van a empezar a tomar esto mucho más en serio que los deepfakes que no son de canto o relacionados con la música".
Añadió: "Imagínense si esta persona que creó este deepfake realmente lo presentó como una canción en Spotify y luego obtuvo miles de reproducciones. Ese es dinero que va a alguien y sabes que ese dinero no pertenece a esa persona".
"Hay muy poco que se pueda hacer para detener el uso de esos modelos. Es una locura".
— Sarosh Shahbuddin, director sénior de productos en Pindrop
Incluso con dinero en juego, Bailer dijo que Bieber no se molestará en abordar el deepfake por algunas razones.
"Bieber no se está pronunciando al respecto porque tiene millones de seguidores en Instagram, e incluso [según se informa] le pagan cerca de 2 millones de dólares por hacer una publicación en Instagram", dijo. "Así que si su equipo de relaciones públicas se pronunciara sobre cada nueva versión no autorizada de su música, eso sería todo lo que estarían haciendo. Y, por cierto, acaba de tener un hijo hace tres meses, así que está ocupado con su familia. Él y su equipo de relaciones públicas no quieren poner atención no deseada en personas que están tratando de dañar su marca. Y también se podría argumentar, ¿están dañando su marca?".
Desde el arresto y los cargos de Combs, la amistad pasada de Bieber con el magnate caído en desgracia ha estado bajo la lupa, junto con otras celebridades, con fanáticos que examinan videos resurgidos de los dos interactuando.
Pero Rosenberg aconseja a la gente que sea cautelosa con cada nueva pieza de información que surja a medida que las acusaciones contra Combs vayan a juicio.
"De hecho, creo que vamos a ver mucha más información nueva salir a la luz, y creo que al mismo tiempo que eso sucede, habrá nueva desinformación", dijo. "Habrá deepfakes, gente que está ejercitando toda su creatividad y creando imágenes, videos e historias, por lo que la gente realmente tendrá que examinar las cosas que ve y encuentra para asegurarse de que no están siendo manipuladas".