Problema 2793
El poder de la inteligencia artificial es increíble para los avances tecnológicos y peligroso para difundir información errónea.
Y un video de la voz de Leonardo DiCaprio doblada por otras celebridades lo demuestra.
El video, publicado por heyBarsee en Twitter, utiliza la tecnología de IA de ElevenLabs para copiar la voz de una persona con otra.
En este caso, tomó el discurso de DiCaprio sobre el cambio climático en las Naciones Unidas y cambió su voz a Joe Rogan, Jeff Bezos, Robert Downey Jr, Bill Gates y Kim Kardashian.
La tecnología hace coincidir casi de manera idéntica la voz de cada celebridad con las palabras, la inflexión y el patrón del habla de DiCaprio.
Hace que parezca que Rogan, Bezos, Downey Jr, Gates o Kardashian están dando el discurso en su lugar.
“La nueva tecnología de clonación de voz con IA de 11labs es alarmantemente buena”, escribió heyBarsee.
Otras personas están de acuerdo en que la capacidad de la tecnología para igualar las voces de las celebridades es increíble. Pero muchos notaron cómo la IA podría usarse para difundir información errónea al hacer que parezca que una persona notable está diciendo algo que nunca dijo.
“Las cosas de voz de AI conducirán a engaños locos, pero la peor parte es. El material de voz de la IA va a estafar a MUCHAS personas mayores con su dinero”, twitteó Jay.
Scott escribió, "Esto va a llevar a algunas locuras en los medios jajaja".
ElevenLabs, la compañía detrás de la tecnología de voz, dijo que su objetivo era construir su modelo "para captar la lógica y las emociones detrás de las palabras".
"En lugar de generar oraciones una por una, siempre tiene en cuenta cómo cada expresión se relaciona con el texto anterior y posterior. Esta perspectiva alejada le permite entonar fragmentos más largos de manera convincente y con un propósito", [dice el sitio web de ElevenLabs] (https ://beta.elevenlabs.io/). "Puedes hacer esto con la voz que quieras".
Las celebridades y figuras notables ya han tenido problemas con personas que usan sus imágenes para estafas.