Incidentes Asociados
El magnate estadounidense Elon Musk es la última figura prominente en aparecer en videos manipulados que utilizan inteligencia artificial para promover una estafa financiera.
Los videos, publicados en Facebook, utilizan imágenes auténticas del Sr. Musk con una voz generada artificialmente para simular que invita a invertir en una plataforma de compraventa de acciones llamada Quantum AI.
"Si te unes a nosotros desde el principio, puedes ganar hasta 3000 dólares vendiendo acciones con alta rentabilidad y mínimo riesgo", parece decir el Sr. Musk en el video. "Esta herramienta te hará financieramente independiente en el menor tiempo posible".
El video falso, que ha acumulado más de 27 000 visualizaciones, utiliza imágenes auténticas de la participación del Sr. Musk en el podcast Real Talk with Zuby. Durante el episodio del podcast, el Sr. Musk no menciona Quantum AI.
Otro video falso, publicado desde múltiples cuentas, parece mostrar un reportaje de 9 News Australia sobre Quantum AI, con Elon Musk promocionando el plan de inversión.
El supuesto presentador de 9 News Australia dice, con acento estadounidense: "Los australianos ya no tendrán que trabajar", y añade que "Elon también dijo que cada residente del país podrá recibir un ingreso de 5700 dólares al día".
El video luego muestra un fragmento de Musk donde supuestamente dice: "La plataforma más reciente, Quantum AI, ayudará a la gente a hacerse rica rápidamente, sin tener que trabajar por cada centavo".
Parece mencionar a Richard Branson, Jeff Bezos y Bill Gates como "accionistas destacados" antes de que el reportero dirija a los espectadores a "realizar una inversión mínima de 400 dólares" en el sitio web de Quantum AI.
Este video también incluye imágenes auténticas que han sido manipuladas con inteligencia artificial.
El video muestra a la presentadora de 9 News Queensland, Mia Glover, presentando una noticia sobre la agresión a policías, junto con imágenes del Sr. Musk hablando en la Cumbre Mundial de Gobiernos de 2023. En ambos casos, sus voces han sido dobladas con voces generadas artificialmente. La Sra. Glover, por ejemplo, habla con acento estadounidense en lugar de su acento australiano nativo.
Además, si el espectador ve el video de 1 minuto y 29 segundos hasta el final, aparece el mensaje "Más información en 9news.com.au", que es la dirección real del sitio web de 9 News. Sin embargo, el enlace en realidad redirige a los usuarios a un sitio web falso con una URL diferente (https://invesgoesly.click/?facebook_pixel_id=1793382267777815&utm_campaign=%7B%7Bcampaign.name%7D%7D&utm_creative=9news3_400&T&utm_source=a25ads25&fbclid=IwAR0d2Dmyi6n2tEDVXyL6gm36F2Qy-qnvV5POmOz9Pk-BaiHr__2Avq63LcM).
El sitio web falso presenta un informe titulado «Tesla lanza su nueva plataforma Quantum AI™: busca ayudar a las familias a ser más ricas», firmado por Jonathan Ponciano, que también es el nombre de un editor asociado de la revista Forbes.
El sitio web falso muestra la fecha y la hora actuales en el momento en que el usuario lo abre, pero el tiempo se detiene y todos los enlaces de noticias integrados redirigen a más promociones de la estafa de Quantum AI.
El profesor John Thangarajah, vicedecano de Inteligencia Artificial de la Universidad RMIT, declaró a RMIT FactLab que existe una creciente preocupación por el uso de contenido generado por IA en estafas financieras.
"Esto es el equivalente actual a las estafas por correo electrónico que engañan con texto. Estas estafas lo llevan a otro nivel con elementos audiovisuales", afirmó.
Específicamente, en ambos videos generados por IA, los labios del Sr. Musk aparecen borrosos, lo que, según el Comisionado de Seguridad Electrónica (eSafety Commissioner), puede ser un indicio de la tecnología deepfake. En los videos, los labios del Sr. Musk están desincronizados con el audio robótico. El proyecto Detect DeepFake del MIT (https://www.media.mit.edu/projects/detect-fakes/overview/) lo identifica como otra señal a tener en cuenta al analizar si se ha utilizado la clonación de voz.
La clonación de voz consiste en utilizar un programa informático para generar una copia sintética y adaptable de la voz de una persona. Existen programas informáticos de fácil acceso que permiten copiar una voz y utilizarla para leer cualquier texto creado por el usuario.
El programa ScamWatch de la Comisión Australiana de Competencia y Consumo (https://www.scamwatch.gov.au/types-of-scams/investment-scams) señala que las estafas de inversión con respaldo de celebridades son comunes.
FactLab también investigó previamente videos de Gina Rinehart y Richard Branson promocionando un esquema para hacerse rico rápidamente y determinó que eran falsos.
Según la ACCC, los australianos reportaron pérdidas por 3.100 millones de dólares australianos debido a estafas en 2022, lo que representó un aumento del 80 % con respecto a las cifras de 2021.
Puede encontrar información sobre cómo identificar estafas de inversión en el sitio web ScamWatch de la ACCC.