Incidentes Asociados
Poco después de que el capitán Ibrahim Traoré liderara el segundo golpe de Estado en un año en Burkina Faso, en septiembre de 2023, comenzaron a circular videos deepfakes que instaban a los ciudadanos burkineses a apoyar el golpe.
Desde entonces, Traoré se ha convertido en la estrella de diversos videos creados para mostrar al líder de la junta estrechando la mano de líderes mundiales, criticando al Fondo Monetario Internacional o dirigiéndose al Papa León XIV en un inglés fluido.
Los videos están cuidadosamente elaborados para provocar una reacción emocional.
“Cuando la gente escucha voces, incluso artificiales, articulando con valentía lo que siempre ha sentido pero que rara vez ha escuchado, se desencadena algo poderoso”, dijo Yaw Kissi, un escritor panafricano popular en LinkedIn, según HumAngle.
Los deepfakes son contenido de video o audio generado por inteligencia artificial (IA) y diseñado para simular las imágenes y voces de personas prominentes para promover información falsa. Se están extendiendo rápidamente por África, donde la mayoría de los países tienen una capacidad limitada para identificarlos y bloquearlos.
En zonas como Burkina Faso, Mali y Níger, el antiguo Grupo Wagner de Rusia, ahora conocido como Cuerpo de África, es una probable fuente de deepfakes que promueven narrativas prorrusas y projunta.
Los discursos de Traoré, por ejemplo, fueron producidos por dos grupos con sede en Francia, Black Rebellion y Univers Inspirant, que han dedicado más del 90% de su contenido al líder de la junta burkinesa. Aunque los vídeos elogian a Traoré, el objetivo parece ser simplemente lucrarse con el contenido sobre él que millones de espectadores comparten, según los expertos.
“Hoy tenemos un mensaje inspirador de Ibrahim Traoré”, declaró recientemente a HumAngle Adrian Moore, consultor de formación en TI con sede en Londres. “Mañana, podríamos ver a Ibrahim Traoré promoviendo prejuicios o justificando crímenes, y sería aceptado, incluso llevado a la práctica”.
Burkina Faso es solo un ejemplo del entorno de deepfakes en África. En todo el continente, los consumidores de medios de comunicación se enfrentan a una variedad de contenido fabricado, desde deepfakes dirigidos a rivales durante las elecciones hasta presentadores de noticias artificiales que difunden propaganda, con rostros copiados de modelos desprevenidos. Las partes en conflicto en Sudán han utilizado imágenes deepfakes para demonizarse mutuamente en línea.
Los medios de comunicación han sido blanco de ataques en múltiples ocasiones en un aparente intento de dar credibilidad a información falsa. Al Jazeera, con sede en Qatar, expuso recientemente una trama que involucraba a "reporteros fantasma" que utilizaban la identidad de personas fallecidas para difundir propaganda prorrusa en África Occidental y Central.
Una investigación del Observatorio Africano de la Democracia Digital descubrió a una periodista ghanesa deepfake con su propio perfil en redes sociales y sitio web. Su aparente autenticidad permitió inyectar información falsa sobre líderes ghaneses y organizaciones internacionales en los medios de comunicación africanos, según la investigación.
Además de los deepfakes generados por IA, los africanos también reciben los llamados cheapfakes, que pueden ser tan simples como reemplazar la pista de audio de un video existente con un discurso generado por IA que imita la voz del protagonista.
“Gracias a los avances en IA generativa, ahora cualquiera puede decir o hacer prácticamente cualquier cosa en pantalla, con un realismo asombroso”, informaron recientemente analistas de la Agencia Ecofin.
Los creadores de deepfakes se aprovechan de la tendencia de las personas a creer lo que ven y oyen en línea, según Raphael Nkolwoudou Afane, experto legal y especialista en derecho digital con sede en Camerún.
“Durante siglos, lo visual equivalía a una prueba de autenticidad. Pero hoy en día, la tecnología puede fabricar realidades increíblemente convincentes”, declaró Afane a la Agencia Ecofin. “El cerebro humano, sin estar entrenado para distinguir entre engaños digitales y contenido genuino, es un blanco fácil para estas sofisticadas ilusiones”.
Ante la falta de una regulación clara de las redes sociales en los países africanos, el riesgo de deepfakes está aumentando, según los expertos. Al mismo tiempo, las plataformas de redes sociales más populares se han convertido en fuentes clave de información, incluso a pesar de haber reducido sus esfuerzos por eliminar el contenido engañoso.
Entre 2018 y 2023, seis países —Argelia, Benín, Egipto, Mauricio, Ruanda y Senegal— desarrollaron estrategias nacionales de IA. Otros, como Etiopía, Ghana, Kenia, Mauritania, Marruecos, Nigeria, Uganda, Sudáfrica, Tanzania y Túnez, han avanzado en políticas e instituciones de IA destinadas a abordar los desafíos que esta presenta.
Uganda, por ejemplo, actualizó su Ley de Uso Indebido de Computadoras en 2022 para penalizar la difusión intencional de información falsa, incluyendo los deepfakes.
Los expertos afirman que las naciones africanas deben redoblar sus esfuerzos para promover el uso adecuado de la IA y evitar que los deepfakes socaven la estabilidad política y económica en todo el continente.
“África no puede permitirse el lujo de permanecer pasiva”, escribieron los analistas de la Agencia Ecofin. “La lucha por la verdad digital está profundamente ligada a cuestiones de soberanía, estabilidad democrática y confianza pública. No se trata de rechazar el progreso de la IA, sino de garantizar su uso responsable e implementar salvaguardas para prevenir su abuso”.