Incidentes Asociados
El organismo de protección al consumidor de Australia Occidental ha emitido una alerta sobre una estafa de inversión que utiliza un video generado con inteligencia artificial (deepfake) del primer ministro Roger Cook promocionando el plan, en medio de la preocupación de que muchas estafas similares sean "imposibles" de detectar.
El anuncio emergente en YouTube utiliza la imagen y la voz del Sr. Cook, animando al público a inscribirse en la oportunidad de "baja inversión, alta rentabilidad, resultados reales".
"Muchos se han preguntado por qué esta oportunidad no se hizo pública antes", dice el video deepfake del Sr. Cook a la cámara, desde detrás de un escritorio de madera oscura en lo que se supone es su oficina.
La verdad es simple: nos tomamos el tiempo necesario para asegurarnos de que fuera seguro, transparente y realmente efectivo para los australianos. Ahora puedo afirmar con seguridad que funciona.
Con una inversión inicial de tan solo $400, los usuarios obtienen un retorno promedio de alrededor de $19,200 en su primer mes.
Ignorando las señales de alerta
La Comisionada de Protección al Consumidor de Australia Occidental, Trish Blake, declaró que la forma en que se presentó el anuncio lo hacía potencialmente más creíble.
"Lo presentan como un anuncio emergente durante un programa que quizás estés viendo... no puedes retroceder, reproducirlo a cámara lenta y analizar el video en detalle", explicó.
"Eso significa que corres un riesgo mucho mayor de pasar por alto las señales de alerta o advertencias que solemos mencionar".
"Así que, cuando tienes tiempo de ver el video despacio, puedes observar que los labios no se mueven al ritmo de las palabras y que las manos tienen un aspecto un tanto extraño.
"Pero cada vez es más difícil distinguir la diferencia, porque, por un lado, los publican en plataformas donde se reproducen muy rápido y te dan una sensación de urgencia, como si tuvieras que actuar con rapidez, pero por otro, no puedes volver atrás y analizar el video a fondo".
Una tarea imposible
El organismo de control fue alertado sobre el anuncio el viernes por la mañana por un ciudadano. El equipo pudo entonces identificar al titular del dominio, contactarlo y solicitar su eliminación.
Sin embargo, la Sra. Blake afirmó que mantenerse al tanto de este tipo de anuncios fraudulentos que utilizan tecnología de IA se ha convertido en una batalla sin fin.
"Desafortunadamente, es como un juego gigante de golpear topos... en cuanto los eliminamos, vuelven a aparecer", dijo.
"Mi consejo para todos respecto a estos anuncios es que den por sentado que son fraudulentos". Son una estafa hasta que se demuestre lo contrario. Esa es la forma más segura de protegerse.
La Sra. Blake afirmó que creía que la tecnología, que se ha abaratado y sofisticado, ya había alcanzado un punto en el que distinguir entre lo falso y lo real era prácticamente imposible para el ojo humano.
"Literalmente, solo necesitan 10 segundos de vídeo y la voz de cualquier persona para crear un deepfake", dijo.
"Creo que ya es demasiado tarde... ha llegado el momento en que... estos deepfakes pueden ser tan buenos que nos sería imposible distinguirlos sin tecnología más avanzada que permita identificar las diferencias".
"Nos encantaría que las plataformas hicieran más para evitar que surjan".
Recientemente se reveló que Meta, otra plataforma donde aparecen anuncios fraudulentos con regularidad, ganaba miles de millones de dólares con publicidad fraudulenta.
La Sra. Blake dijo que, considerando los ingresos que las plataformas obtenían de la publicidad, parte de la cual era fraudulenta, deberían hacer mucho más.
«Están ganando muchísimo dinero con actividades delictivas, porque eso es lo que son las estafas. Son delitos, y la gente sufre el robo de su dinero, aprovechándose de su vulnerabilidad», dijo.
«Estas plataformas tienen las herramientas, los recursos y los datos para... actuar y hacer mucho más de lo que están haciendo».
«Muy aterrador»: Cook
El primer ministro se refirió al anuncio fraudulento el sábado por la tarde, declarando que le preocupaba ver su imagen utilizada de esa manera.
«Es muy aterrador que la gente llegue a tales extremos para engañar a la gente e intentar estafarla con el dinero que tanto les ha costado ganar. Es repugnante»,
dijo.
«Obviamente, me preocupó mucho ver mi imagen utilizada de esta manera.
«Quiero dejarlo muy claro: el gobierno no respalda los planes de inversión ni los productos financieros en particular.
«No confíen en este tipo de videos».
La Sra. Blake indicó que cualquier persona que vea anuncios similares debe denunciarlos a la Oficina de Protección al Consumidor a través de WA ScamNet en scamnet.wa.gov.au.
"Por favor, no se avergüencen. Contáctenos y haremos lo posible por ayudarlos, especialmente para evitar que sean víctimas de otra estafa en el futuro", afirmó.