Incidentes Asociados
Han aparecido en línea extraños videos generados por IA de personas expresando su apoyo a la nueva junta militar de Burkina Faso, en lo que podría ser un torpe intento de difundir propaganda promilitar.
Se desconoce quién creó los videos, pero parece que se están compartiendo por WhatsApp.
Uno de los videos se compartió ampliamente en Twitter esta semana, cuando fue compartido por Lauren Blanchard, especialista en asuntos africanos del Servicio de Investigación del Congreso de Estados Unidos. Blanchard afirmó que el video había estado circulando por WhatsApp, pero desconocía su autoría.
"Hola al pueblo africano, y en particular al pueblo burkinés. Me llamo Alisha y soy panafricanista", dice una figura en el video, que VICE World News confirmó que fue creado por el generador de videos con inteligencia artificial Synthesia.
Synthesia declaró haber baneado al usuario que creó los videos, pero no reveló su identidad.
El avatar generado por IA en el video continúa: "Apelo a la solidaridad del pueblo burkinés y del pueblo de Burkina Faso para que apoyen eficazmente a las autoridades de la transición".
"Sigamos todos movilizados por el pueblo burkinés en esta lucha. Patria o muerte. Venceremos".
El video ha aparecido junto a un clip similar, con varios avatares diferentes pero leyendo el mismo guion, también creado con Synthesia.
El segundo video fue publicado en Facebook el 23 de enero por Ibrahima Maiga, quien se describe como un politólogo saheliano de Burkina Faso. Maiga, quien ha publicado en apoyo al nuevo régimen del país, declaró a VICE World News a través de Facebook Messenger que había encontrado el video en WhatsApp antes de publicarlo en Facebook y que desconocía que se hubiera creado con inteligencia artificial.
Parece que eliminó el video poco después de que VICE World News lo contactara.
Burkina Faso está gobernado actualmente por el presidente interino Ibrahim Traoré, quien tomó el poder mediante un golpe de Estado en septiembre. El ejército ahora gobierna el país de África Occidental, tras haber afirmado que los gobiernos anteriores no habían logrado detener la propagación de la violencia yihadista.
Algunos usuarios de Twitter atribuyeron los videos al Grupo Wagner, la empresa militar privada rusa, sin presentar pruebas.
Wagner es uno de los grupos mercenarios más herméticos y brutales del mundo (https://www.vice.com/en/article/xgdbpa/inside-russia-wagner-group-mercenaries) y ha colaborado con los gobiernos de Mali y la República Centroafricana. Las autoridades militares de Burkina Faso han negado previamente las acusaciones de haber contratado mercenarios para combatir la insurgencia islamista, pero esta semana Francia accedió a la solicitud de su antigua colonia para retirar todas las tropas del país.
Si bien se sabe que Rusia ha utilizado deepfakes durante la guerra en Ucrania, se desconoce si Wagner utilizó alguna vez inteligencia artificial para generar vídeos como estos.
Tracy Harwood, profesora de cultura digital en la Universidad De Montfort del Reino Unido, declaró a VICE World News que le sorprendería que alguien se creyera los videos de Burkina Faso.
"Con las consecuencias de la evidencia de la influencia rusa en la manipulación de resultados políticos, ¿quién confiaría realmente en cualquier contenido en línea que apoye una postura política? Las personas afectadas por los problemas políticos necesitan la verdad, no una verdad virtual", afirmó. "¡Estos videos huelen a guerreros del teclado haciendo lo suyo, lo más lejos posible de la acción!".
Un video en la cuenta de YouTube de Synthesia sobre cómo se crean los avatares de IA presenta uno de los mismos avatares que se ven en los videos de Burkina Faso, que dice: "Un equipo de moderadores de contenido se asegura de que nadie infrinja las reglas, por lo que es imposible difundir información errónea, desinformación u obscenidad a través de los videos creados por Synthesia Studio". El director ejecutivo de Synthesia, Victor Riparbelli, se negó a revelar a VICE World News quién creó los videos, pero afirmó: «Tenemos directrices estrictas sobre el tipo de contenido que permitimos crear en nuestra plataforma y condenamos enérgicamente cualquier uso indebido. Los videos recientes que surgieron infringen nuestras Condiciones de Servicio y hemos identificado y baneado al usuario en cuestión.
Como empresa, invertimos desde el principio en la moderación de contenido para garantizar que nuestras decenas de miles de clientes se beneficien de una plataforma segura».
Añadió: «Casos como este ponen de manifiesto la dificultad de la moderación. Los guiones en cuestión no utilizan lenguaje explícito y requieren un profundo conocimiento del contexto del tema. Ningún sistema será perfecto, pero para evitar situaciones similares en el futuro, seguiremos trabajando para mejorar los sistemas».