Incidentes Asociados
"¿Quién no ha recibido ayuda de mi parte? ¿Qué necesitan ahora mismo?", parece preguntar Prabowo a los espectadores en el vídeo publicado en noviembre.
Pero aunque el líder indonesio mueve la boca y parpadea, las palabras que pronuncia forman parte de una estafa de deepfakes descubierta por la policía el mes pasado, que ha estafado a indonesios en 20 provincias.
A quienes fueron engañados por el mensaje se les pidió que contactaran a un número de WhatsApp y entregaran entre 250.000 y un millón de rupias (entre 15 y 60 dólares) como "tasa administrativa" para obtener ayuda que nunca se materializó.
Desde las elecciones indonesias del año pasado, los expertos han advertido sobre una oleada de deepfakes: audios, imágenes y vídeos que parecen provenir de una persona conocida, pero que en realidad son obra de estafadores que utilizan herramientas de inteligencia artificial.
Y las víctimas afirman que los engaños son tan sofisticados que dejan a otros vulnerables a ser estafados también.
"La gente debería tener más cuidado. No se dejen engañar fácilmente por la tentación de los premios", dijo Aryani, de 56 años, quien entregó 200.000 rupias a estafadores tras ver un video deepfake de un destacado empresario indonesio.
"Necesito dinero, pero en lugar de eso me piden que lo envíe. Incluso hicieron videollamadas conmigo, como si les hablara directamente".
Durante la campaña presidencial del país del sudeste asiático, los deepfakes se convirtieron en una herramienta importante para difundir desinformación, tanto perjudicial como beneficiosa, para los candidatos.
Pero ahora esa tecnología ha caído en manos de delincuentes que buscan ganar dinero contante y sonante.
Amplia circulación
Los verificadores de datos de AFP descubrieron que la cuenta detrás del video de Prabowo ha publicado docenas de videos similares que parecen mostrar a varias figuras de alto perfil, incluido el vicepresidente indonesio Gibran Rakabuming Raka.
Esos videos también promueven la falsa ayuda financiera.
La policía arrestó a un sospechoso que se embolsó 65 millones de rupias (4.000 dólares) en la estafa, según informó a la prensa en febrero Himawan Bayu Aji, director de la Unidad Nacional de Delitos Cibernéticos de Indonesia.
Añadió que los agentes detuvieron a una segunda persona implicada en otra estafa que también utilizó tecnología deepfake, sin revelar la cantidad recaudada.
La investigación de AFP Fact Check descubrió que la difusión de estos vídeos tuvo un alcance mucho mayor que el de las dos cuentas anunciadas por la policía.
Vídeos deepfake del presidente, un popular exgeneral, seguían circulando en redes sociales tras los arrestos, incluyendo docenas en TikTok con la etiqueta "Prabowo comparte bendiciones".
Al menos 22 cuentas de TikTok promovían el mismo esquema fraudulento desde que Prabowo asumió el cargo en octubre, según descubrieron periodistas de AFP, y algunas parecían aprovecharse de su reciente ascenso a la presidencia.
Una cuenta con más de 77.000 seguidores acumuló 7,5 millones de visualizaciones en un vídeo inventado de Prabowo aparentemente distribuyendo ayuda financiera. Otra cuenta con miles de seguidores ha compartido 100 videos solo desde enero, la mayoría con videos deepfake del presidente ofreciendo dinero.
TikTok anunció la eliminación de uno de los videos deepfake fraudulentos y la cuenta asociada, y añadió que seguirá eliminando cualquiera que infrinja las normas comunitarias de la plataforma, que prohíben publicaciones engañosas.
Meta, la empresa matriz de Facebook, no respondió a la solicitud de comentarios de AFP.
AFP, junto con más de 100 organizaciones de verificación de datos, recibe pagos de TikTok y Meta para verificar publicaciones en redes sociales que potencialmente contengan información falsa.
Más accesible
Aribowo Sasmito, cofundador de Mafindo, la organización indonesia de verificación de datos, afirmó que su equipo detecta nuevas estafas deepfake cada semana debido a su prolífica propagación en línea.
"Hemos empezado a ver videos deepfake desde el año pasado, a medida que las herramientas de inteligencia artificial se han vuelto más accesibles y asequibles", declaró a AFP.
Las estafas que utilizan deepfakes de figuras prominentes parecen estar en aumento.
El multimillonario tecnológico Elon Musk y el primer ministro canadiense Justin Trudeau se encuentran entre una serie de celebridades que han sido blanco de suplantaciones sofisticadas de identidad en los últimos años para promover estafas de dinero.
Aribowo afirmó que su equipo de verificadores de datos está trabajando más arduamente que nunca para desacreditar estas estafas utilizando la tecnología más avanzada disponible para los delincuentes.
"Hemos observado que la calidad de estos videos ha mejorado con el tiempo. Se ha vuelto más difícil distinguir entre videos falsos y reales", añadió.
"El desafío es el volumen de estas estafas".