Incidentes Asociados
Todo lo que Steve Beauchamp quería era dinero para su familia. Y pensó que Elon Musk podría ayudar.
El señor Beauchamp, un jubilado de 82 años, vio un vídeo a finales del año pasado en el que Musk promocionaba una oportunidad de inversión radical que prometía rendimientos rápidos. Se puso en contacto con la empresa que estaba detrás de la propuesta y abrió una cuenta por 248 dólares. A través de una serie de transacciones a lo largo de varias semanas, el señor Beauchamp vació su cuenta de jubilación, invirtiendo en última instancia más de 690.000 dólares.
Después, el dinero desapareció... perdido a manos de estafadores digitales que están a la vanguardia de una nueva empresa criminal impulsada por la inteligencia artificial.
Los estafadores habían editado una entrevista auténtica con el señor Musk, sustituyendo su voz por una réplica utilizando herramientas de inteligencia artificial. La inteligencia artificial era lo suficientemente sofisticada como para alterar los movimientos mínimos de la boca para que coincidieran con el nuevo guión que habían escrito para la falsificación digital. Para un espectador casual, la manipulación podría haber sido imperceptible.
"Quiero decir, la foto de él... era él", dijo el señor Beauchamp sobre el vídeo que vio de Musk. "Ahora bien, no sé si fue la IA la que le hizo decir lo que estaba diciendo, pero en cuanto a la imagen, si alguien hubiera dicho: 'Elígelo de una fila de personas', ese es él".
Miles de estos vídeos impulsados por IA, conocidos como deepfakes, han inundado Internet en los últimos meses con versiones falsas de Musk que engañan a decenas de posibles inversores. Se espera que los deepfakes impulsados por IA contribuyan a miles de millones de dólares en pérdidas por fraude cada año, según estimaciones de Deloitte.
Producir los vídeos cuesta solo unos pocos dólares y se pueden hacer en minutos. Se promocionan en las redes sociales, incluso en anuncios pagos en Facebook, lo que aumenta su alcance.
"Probablemente sea la mayor estafa impulsada por deepfakes de la historia", dijo Francesco Cavalli, cofundador y jefe de inteligencia de amenazas en Sensity, una empresa que monitorea y detecta deepfakes.
Los videos suelen ser inquietantemente realistas, capturando la cadencia icónica de Musk y su acento sudafricano.
Los estafadores comenzarán con un video genuino, como esta entrevista de The Wall Street Journal realizada por Thorold Barker, un editor cuya voz también se escucha en el clip.
Los movimientos de la boca de Musk se editan con tecnología de sincronización de labios, que modifica la forma en que alguien habla. Los estafadores agregarán una voz de IA utilizando herramientas de clonación de voz, que copian cualquier voz de clips de muestra.
Musk fue, con mucho, el portavoz más común en los videos, según Sensity, que analizó más de 2000 deepfakes.
Apareció en casi una cuarta parte de todas las estafas de deepfakes desde fines del año pasado, descubrió Sensity. Entre los que se centraron en las criptomonedas, apareció en casi el 90 por ciento de los videos.
Los anuncios deepfake también incluían a Warren Buffett, el destacado inversor, y Jeff Bezos, el fundador de Amazon, entre otros.
Musk no respondió a las solicitudes de comentarios.
Es difícil cuantificar exactamente cuántos deepfakes circulan en línea, pero una búsqueda en la biblioteca de anuncios de Facebook del lenguaje de uso común que anunciaba las estafas descubrió cientos de miles de anuncios, muchos de los cuales incluían los videos deepfake. Aunque Facebook ya ha eliminado muchos de ellos por violar sus políticas y ha desactivado algunas de las cuentas responsables, otros videos permanecieron en línea y parecían aparecer más cada día.
YouTube también se inundó de las falsificaciones, a menudo usando una etiqueta que sugiere que el video es "en vivo". De hecho, los videos son deepfakes pregrabados.
Estafas "en vivo" de YouTube
Los resultados de la búsqueda en YouTube de "Conferencia de Bitcoin de Elon" mostraron docenas de videos supuestamente en vivo con un deepfake de Musk promocionando estafas de criptomonedas. Algunos videos fueron vistos por cientos de miles de personas.
Después de que el expresidente Donald J. Trump hablara en una conferencia sobre Bitcoin el sábado, YouTube presentó docenas de videos que usaban la etiqueta "en vivo" que mostraban una versión deepfake pregrabada de Elon Musk diciendo que duplicaría personalmente cualquier criptomoneda enviada a su cuenta. Algunos de los videos tuvieron cientos de miles de espectadores, aunque YouTube dijo que los estafadores pueden usar bots para inflar artificialmente el número.
Un tejano dijo que perdió $36,000 en Bitcoin después de ver una "imitación" de Musk hablando en un supuesto video en vivo de YouTube en febrero de 2023, según un informe del Better Business Bureau (https://www.bbb.org/), el grupo de defensa del consumidor sin fines de lucro.
"Envié mi bitcoin y nunca recibí nada a cambio", escribió la persona.
YouTube dijo en un comunicado que había eliminado más de 15,7 millones de canales y más de 8,2 millones de videos por violar sus pautas de enero a marzo de este año, y la mayoría de ellos violaban sus políticas contra el spam.
La prevalencia de los anuncios falsos impulsó a Andrew Forrest, un multimillonario australiano cuyos videos también se usaron para crear anuncios deepfake en Facebook, a presentar una demanda civil contra Meta, su empresa matriz, por negligencia en la forma en que se maneja su negocio publicitario. Afirmó que el negocio publicitario de Facebook atraía a "usuarios inocentes a malas inversiones".
Meta, propietaria de Facebook, dijo que la empresa estaba entrenando sistemas de detección automatizados para detectar el fraude en su plataforma, pero también describió un juego del gato y el ratón en el que los estafadores bien financiados cambiaban constantemente sus tácticas para evadir la detección.
YouTube señaló sus políticas que prohíben las estafas y los videos manipulados. En marzo, la empresa impuso como requisito que los creadores divulguen cuando utilicen IA para crear contenido realista.
Internet está plagado de informes similares de personas que fueron estafadas por miles de dólares, algunas de las cuales perdieron los ahorros de toda su vida. La Comisión de Valores y Futuros de Hong Kong emitió una advertencia en mayo sobre estafas protagonizadas por Musk. A principios de este año, la Comisión Federal de Comercio y la Oficina Federal de Investigaciones advirtieron a los estadounidenses que los delitos cibernéticos y las estafas de deepfake impulsadas por IA estaban en aumento.
"Los delincuentes están aprovechando la IA como un multiplicador de fuerza" de maneras que hacen que los "ataques cibernéticos y otras actividades delictivas sean más eficaces y más difíciles de detectar", dijo el FBI en una declaración enviada por correo electrónico.
Las estafas digitales son tan antiguas como Internet. Pero la nueva ola de deepfakes protagonizada por Musk surgió el año pasado después de que se lanzaran al público sofisticadas herramientas de inteligencia artificial que permitían a cualquiera clonar voces de celebridades o manipular videos con una precisión espeluznante. Los pornógrafos, los creadores de memes y, cada vez más, los estafadores tomaron nota.
'Deepfake Elon Musk'
Miles de anuncios que circulan en línea presentan una versión de inteligencia artificial de Elon Musk que promociona productos de criptomonedas o promete grandes retornos de las inversiones.
"Ahora está cambiando porque el crimen organizado se ha dado cuenta de que podemos ganar dinero con esto", según Lou Steinberg, fundador de CTM Insights, un laboratorio de investigación de ciberseguridad. "Por eso, vamos a ver cada vez más intentos falsos de quitarte tu dinero".
Los vídeos generados por IA no son perfectos. Musk puede sonar robótico en algunos vídeos y su boca no siempre se alinea con sus palabras. Pero parecen lo suficientemente convincentes para algunos objetivos de la estafa, y están mejorando todo el tiempo, dijeron los expertos.
Según Cavalli, de Sensity, crear estos vídeos cuesta tan solo 10 dólares. Los estafadores, que tienen su base principalmente en India, Rusia, China y Europa del Este, improvisan los vídeos falsos utilizando una combinación de herramientas gratuitas y baratas en menos de 10 minutos.
"Funciona", dijo Cavalli. "Seguirán amplificando la campaña en todos los países, traduciendo a varios idiomas y difundiendo continuamente la estafa a más objetivos".
Algunas de las estafas suelen anunciar software falso impulsado por IA, con afirmaciones de que pueden producir increíbles retornos de inversión. Se anima a las víctimas a enviar una pequeña suma al principio --- alrededor de $250 --- y poco a poco se las atrae para que inviertan más a medida que los estafadores afirman que la inversión inicial está aumentando en valor.
En un video, tomado de una reunión de accionistas en Tesla, el deepfake Musk explica un producto para el comercio automatizado impulsado por IA que puede duplicar una inversión dada cada día.
Los expertos que han estudiado las comunidades de criptomonedas dijeron que la base de fans global única de Musk, compuesta por conservadores, tipos anti-establishment y entusiastas de las criptomonedas, a menudo se sienten atraídos por caminos alternativos para ganar fortunas, lo que los convierte en objetivos perfectos para las estafas.
"Definitivamente hay un grupo de personas que creen que el secreto de la riqueza se les está ocultando", dijo Molly White, una investigadora que ha estudiado las comunidades de criptomonedas. Piensan que "si pueden encontrar el secreto, entonces eso es todo lo que necesitan".
Los estafadores a menudo se dirigen a los usuarios de Internet de mayor edad que pueden estar familiarizados con las criptomonedas, la IA o Musk, pero no con las formas más seguras de invertir.
"Los ancianos siempre han sido una población muy estafable y rentable", dijo Finn Brunton, profesor de estudios de ciencia y tecnología en la Universidad de California, Davis, que es un experto en el mercado de criptomonedas. Agregó que los ancianos habían sido blanco de fraude mucho antes de que plataformas como Facebook los hicieran más fáciles de estafar.
Beauchamp, que es viudo y trabajó hasta los 75 años como representante de ventas en una empresa en Ontario, Canadá, se encontró con un anuncio poco después de unirse a Facebook en 2023. Aunque recuerda haber visto el video en vivo en CNN, una portavoz de CNN dijo que Musk no había aparecido para una entrevista en años. (El New York Times no pudo identificar un video que coincidiera con la descripción del Sr. Beauchamp, pero dijo que su historia era casi idéntica a la de otra mujer estafada en línea por un Sr. Musk que hizo deepfake).
Envió $27,216 en diciembre pasado a una compañía que se hace llamar Magna-FX, según correos electrónicos entre el Sr. Beauchamp y la compañía que se compartieron con el New York Times. Magna-FX hizo parecer que su inversión estaba aumentando de valor. En un momento, un agente de ventas usó un software para tomar el control de la computadora del Sr. Beauchamp, moviendo fondos para aparentemente invertirlos.
Para retirar el dinero, se le dijo al Sr. Beauchamp que pagara una tarifa administrativa de $3,500 y otra tarifa de comisión de $3,500. Envió el dinero y le dijeron que tenía que pagar 20.000 dólares para liberar una parte de los fondos, unos 200.000 dólares. Y también pagó esa cantidad.
Aunque Beauchamp les dijo a los estafadores que había agotado sus ahorros para la jubilación, había agotado sus tarjetas de crédito, había utilizado una línea de crédito y había pedido prestado dinero a su hermana para invertir y pagar las tasas, los estafadores querían más. Le pidieron que pagara otra tasa más. Beauchamp se puso en contacto con la policía.
La mayoría de los rastros de Magna-FX se eliminaron de la red, incluido el sitio web de la empresa, el número de teléfono y las direcciones de correo electrónico utilizadas por los agentes con los que habló Beauchamp. Otra empresa con un nombre casi idéntico y que anunciaba servicios similares no respondió a las solicitudes de comentarios.
"Supongo que ahora es el momento de llamarme tonto, estúpido, idiota y cualquier otro superlativo que se les ocurra", escribió Beauchamp en un informe presentado ante el Better Business Bureau (https://www.bbb.org/).
Beauchamp dijo que estaba logrando pagar sus cuentas usando una cuenta de jubilación más pequeña que no había compartido con los estafadores, junto con sus pensiones. Había planeado viajar por el mundo durante su jubilación.
Beauchamp presentó una denuncia ante la policía local, pero no se ha avanzado mucho en el caso, dijo.
"Debido a la cantidad de fraudes que se están produciendo en todas partes, mi caso quedó en espera", dijo. "No me hago ilusiones".