Incidentes Asociados
El presidente Prabowo Subianto lleva un sombrero y una camisa negros tradicionales de Indonesia y habla a la cámara en un video de Instagram, en el que pregunta a su gente cómo puede ayudarlos después de su elección el año pasado.
"¿Quién no ha recibido ayuda de mí? ¿Cuáles son sus necesidades en este momento?", parece preguntar Prabowo a los espectadores en el clip publicado en noviembre.
Pero mientras la boca del presidente se mueve y sus ojos parpadean, las palabras que pronuncia son parte de una estafa deepfake fraudulenta descubierta por la policía el mes pasado que ha estafado a indonesios en 20 provincias.
A los que fueron engañados por el mensaje se les pidió que se pusieran en contacto con un número de WhatsApp y entregaran entre 250.000 y 1 millón de rupias (entre 15 y 60 dólares) como "tarifa administrativa" para obtener una ayuda que nunca se materializó.
Desde las elecciones del año pasado, los expertos han advertido sobre una oleada de deepfakes: audio, imágenes y vídeos que parecen proceder de una persona conocida pero que, de hecho, son obra de estafadores que utilizan herramientas de inteligencia artificial.
Y las víctimas dicen que los engaños son tan sofisticados que dejan a otros vulnerables a ser estafados también.
"La gente debería tener más cuidado. No se dejen engañar fácilmente por el atractivo de los premios", dijo Aryani, de 56 años, que entregó 200.000 rupias a los estafadores después de ver un vídeo deepfake de un empresario destacado.
"Necesito dinero, pero en lugar de eso me piden que envíe dinero. Incluso hicieron videollamadas conmigo, como si estuviera hablando directamente con ellos".
Durante la campaña presidencial del año pasado, los deepfakes se convirtieron en una herramienta importante para difundir información errónea, tanto perjudicial como útil para los candidatos.
Pero ahora esa tecnología ha caído en manos de delincuentes que buscan ganar dinero contante y sonante.
Amplia circulación
Los verificadores de datos de AFP descubrieron que la cuenta detrás del clip de Prabowo ha publicado docenas de videos similares que parecen mostrar a varias figuras de alto perfil, incluido el vicepresidente Gibran Rakabuming Raka.
Esos videos también promueven la ayuda financiera falsa.
La policía arrestó a un sospechoso que se embolsó 65 rupias (4.000 dólares) de la estafa, dijo a los periodistas en febrero el general de brigada Himawan Bayu Aji, director de la Unidad de Delitos Cibernéticos de la Policía Nacional.
Dijo que los oficiales detuvieron a una segunda persona involucrada en otra estafa que también utilizó tecnología deepfake, sin revelar la cantidad recaudada.
La investigación de AFP Fact Check encontró que la difusión de tales videos tuvo un alcance mucho más amplio que las dos cuentas que anunció la policía.
Los videos deepfake del presidente, un exgeneral popular, todavía circulaban en las redes sociales después de los arrestos, incluidas docenas en TikTok con el hashtag "Prabowo comparte bendiciones".
Al menos 22 cuentas de TikTok estaban promocionando el mismo esquema fraudulento desde que Prabowo asumió el cargo en octubre, encontraron los periodistas de AFP, y algunas parecían aprovecharse de su reciente ascenso a la presidencia.
Una cuenta con más de 77.000 seguidores acumuló 7,5 millones de visitas en un video inventado de Prabowo aparentemente repartiendo asistencia financiera.
Otra cuenta con miles de seguidores ha compartido 100 videos solo desde enero, la mayoría con videos deepfake del presidente ofreciendo dinero en efectivo.
TikTok dijo que había eliminado uno de los videos de la estafa deepfake y la cuenta asociada, y agregó que continuaría eliminando cualquiera que violara las pautas de la comunidad de la plataforma, que prohíben publicaciones engañosas.
Meta, la empresa matriz de Facebook, no respondió a la solicitud de comentarios de AFP.
TikTok y Meta pagan a AFP, junto con más de 100 organizaciones de verificación de datos, para verificar publicaciones en las redes sociales que potencialmente contienen información falsa.
Más accesible
Aribowo Sasmito, cofundador de la organización de verificación de datos indonesia Mafindo, dijo que su equipo estaba encontrando nuevas estafas deepfake cada semana debido a su prolífica propagación en línea.
"Hemos comenzado a ver videos deepfake desde el año pasado a medida que las herramientas de inteligencia artificial se han vuelto más accesibles y asequibles", dijo a AFP.
Los esquemas que utilizan deepfakes de figuras prominentes parecen estar en aumento.
El multimillonario tecnológico Elon Musk y el primer ministro de Canadá, Justin Trudeau, se encuentran entre una serie de celebridades que han sido blanco de suplantaciones sofisticadas en los últimos años para promover estafas de dinero.
Aribowo dijo que su equipo de verificadores de datos estaba trabajando más duro que nunca para desacreditar estas estafas utilizando la última tecnología disponible para los delincuentes.
"Notamos que la calidad de estos videos ha mejorado con el tiempo. Se ha vuelto más difícil distinguir entre videos falsos y reales", agregó.
"El desafío es el volumen de estas estafas".