Problema 4307

Mientras los principales ejércitos del mundo compiten por adoptar la inteligencia artificial en previsión de una futura guerra entre grandes potencias, las fuerzas de seguridad de una de las regiones más propensas a los conflictos del mundo están optando por un enfoque más mesurado. En África, la IA se está abriendo camino gradualmente en tecnologías como sistemas de vigilancia avanzados y drones de combate, que se están desplegando para combatir el crimen organizado, los grupos extremistas y las insurgencias violentas. Aunque el potencial a largo plazo de la IA para impactar en las operaciones militares en África es innegable, hasta ahora el impacto de la IA en la violencia organizada ha sido limitado. Estos límites reflejan tanto la novedad como las limitaciones de la tecnología existente habilitada para IA.

Inteligencia artificial y conflicto armado en África 

La inteligencia artificial (IA), en su forma más básica, aprovecha el poder computacional "para simular el comportamiento de los humanos que requieren inteligencia". La inteligencia artificial no es una tecnología militar como un arma o un tanque. Es más bien, como sostiene Michael Horowitz de la Universidad de Pensilvania, "una tecnología de propósito general con una multitud de aplicaciones", como el motor de combustión interna, la electricidad o Internet. Y a medida que las aplicaciones de la IA proliferan para usos militares, amenaza con cambiar la naturaleza de la guerra. Según el CICR, "los sistemas de inteligencia artificial y aprendizaje automático podrían tener profundas implicaciones para el papel de los humanos en los conflictos armados, especialmente en relación con: la creciente autonomía de los sistemas de armas y otros sistemas no tripulados; nuevas formas de guerra cibernética y de información; y, más ampliamente, la naturaleza de la toma de decisiones".

En al menos dos aspectos, la IA ya está afectando la dinámica de los conflictos armados y la violencia en África. En primer lugar, se están utilizando plataformas de vigilancia y de policía inteligente impulsadas por IA para responder a los ataques de grupos extremistas violentos y redes delictivas organizadas. En segundo lugar, el desarrollo de drones impulsados por IA está empezando a influir en las operaciones de combate y las tácticas en el campo de batalla.

La IA es quizás más utilizada en África en zonas con altos niveles de violencia para aumentar las capacidades y la coordinación de los servicios de seguridad interna y de aplicación de la ley. Por ejemplo, catorce países africanos implementan plataformas de vigilancia y de policía inteligente impulsadas por IA, que suelen depender de redes neuronales profundas para la clasificación de imágenes y de una serie de modelos de aprendizaje automático para el análisis predictivo. En Nairobi (https://africatimes.com/2019/12/18/huaweis-surveillance-tech-in-kenya-a-safe-bet/), el gigante tecnológico chino Huawei ha ayudado a construir un sistema de vigilancia avanzado, y en Johannesburgo (https://www.dailymaverick.co.za/article/2021-05-04-islamic-state-land-has-the-age-of-southern-african-terrorism-properly-begun/), los lectores automáticos de matrículas han permitido a las autoridades rastrear a criminales violentos y organizados con presuntos vínculos con el Estado Islámico. Aunque estos sistemas tienen limitaciones significativas (más sobre esto a continuación), están proliferando en toda África.

También se están implementando sistemas impulsados por IA para combatir el crimen organizado. En el Parque Nacional Liwonde en Malawi, los guardabosques utilizan el software EarthRanger, desarrollado por el difunto cofundador de Microsoft, Paul Allen, para combatir la caza furtiva utilizando inteligencia artificial y análisis predictivo. El software detecta patrones en la caza furtiva que los guardabosques podrían pasar por alto, como aumentos en la caza furtiva durante las vacaciones y los días de pago del gobierno. Una pequeña "cámara de cazador furtivo" activada por movimiento se basa en un algoritmo para distinguir entre humanos y animales y ha contribuido a al menos un arresto. No es difícil imaginar cómo se podría reutilizar un sistema de este tipo para la contrainsurgencia o el conflicto armado, con sistemas de vigilancia y monitoreo habilitados por IA implementados para detectar y disuadir a los insurgentes armados.

Además del creciente uso de IA dentro de los sistemas de vigilancia en toda África, la IA también se ha integrado en los sistemas de armas. Lo más destacado es que los sistemas de armas autónomas letales utilizan datos de sensores en tiempo real junto con algoritmos de inteligencia artificial y aprendizaje automático para "seleccionar y atacar objetivos sin la intervención adicional de un operador humano". Dependiendo de cómo se interprete esa definición, el primer uso de un sistema de armas autónomas letales en combate puede haber tenido lugar en suelo africano en marzo de 2020. Ese mes, las unidades logísticas pertenecientes a las fuerzas armadas del caudillo libio Khalifa Haftar fueron atacadas por drones STM Kargu-2 de fabricación turca cuando huían de Trípoli. Según un informe de las Naciones Unidas (https://documents-dds-ny.un.org/doc/UNDOC/GEN/N21/037/72/PDF/N2103772.pdf?OpenElement), el Kargu-2 representaba un sistema de armas autónomo letal porque había sido "programado para atacar objetivos sin requerir conectividad de datos entre el operador y la munición". Aunque otros expertos han clasificado al Kargu-2 como una munición merodeadora, su uso en combate en el norte de África apunta, no obstante, a un futuro en el que las armas habilitadas con IA se desplegarán cada vez más en los conflictos armados de la región.

De hecho, a pesar de los llamamientos mundiales a la prohibición de armas similares, es probable que la proliferación de sistemas como el Kargu-2 apenas esté comenzando. Los costos relativamente bajos, las ventajas tácticas y la aparición de múltiples proveedores han dado lugar a un mercado en auge para los drones de combate de gama baja y media, que actualmente está dominado por actores como Israel, China, Turquía y Sudáfrica. Dichos drones, en particular el Bakratyar TB2 de Turquía, han sido adquiridos y utilizados por más de una docena de países africanos.

Si bien la generación actual de drones en general no tiene capacidades autónomas impulsadas por IA que sean reconocidas públicamente, no se puede decir lo mismo de la próxima generación, que es incluso menos costosa, más atractiva y utiliza "tecnología de enjambre" asistida por IA para volverse más difícil de defender. En febrero, Paramount Group, con sede en Sudáfrica, anunció el lanzamiento de su sistema UAV "N-RAVEN", que presenta como "una familia de vehículos aéreos autónomos multimisión que cuentan con tecnologías de 'enjambre' de próxima generación". El N-RAVEN podrá enjambrar en unidades de hasta veinte y está "diseñado para la transferencia de tecnología y la fabricación portátil dentro de los países socios". Es probable que estas características sean atractivas para los ejércitos africanos.

Límites, desventajas y riesgos de la IA

Aunque la IA puede seguir desempeñando un papel cada vez mayor en las estrategias organizativas, las capacidades de recopilación de inteligencia y las tácticas de campo de batalla de los actores armados en África y otros lugares, es importante poner estas contribuciones en una perspectiva más amplia. La IA no puede abordar los factores fundamentales de los conflictos armados, en particular las insurgencias complejas comunes en África. Los estados y ejércitos africanos pueden invertir demasiado en IA, descuidando sus riesgos y externalidades, así como las formas en que las capacidades impulsadas por la IA pueden ser mitigadas o explotadas por actores armados no estatales.

Es poco probable que la IA tenga un impacto transformador en el estallido, la duración o la mitigación de los conflictos armados en África, cuya incidencia se ha duplicado en la última década. A pesar de las afirmaciones de sus creadores, hay pocas pruebas sólidas que vinculen la implementación de ciudades inteligentes impulsadas por IA con disminuciones en la violencia, incluso en Nairobi, donde los incidentes delictivos se han mantenido prácticamente sin cambios desde 2014, cuando los sistemas impulsados por IA de la ciudad se pusieron en línea por primera vez. Lo mismo ocurre con la caza furtiva. Durante la pandemia de COVID-19, menos turistas y economías locales en dificultades han impulsado aumentos significativos, eclipsando cualquier progreso que haya resultado de la adopción de tecnología de vanguardia por parte de los gobiernos.

Esto se debe, en primer lugar, a que el conflicto armado es un esfuerzo humano, con muchos factores que influyen en sus resultados. Incluso los más acérrimos defensores de las soluciones impulsadas por la IA, como David Lane, director de Asuntos Públicos de Huawei en África del Sur, admiten que no pueden abordar las causas subyacentes de la inseguridad, como el desempleo o la desigualdad: "En última instancia, prevenir el crimen requiere abordar estas causas de una manera muy local". Ningún algoritmo de IA puede evitar la pobreza o la exclusión política, las disputas por la tierra o los recursos nacionales, o que los líderes políticos hagan llamamientos chovinistas a la identidad de grupo. Del mismo modo, los problemas centrales de los ejércitos de África (corrupción endémica, abusos de los derechos humanos, lealtades a líderes y grupos específicos en lugar de a instituciones y ciudadanos, y una tendencia a las tomas de poder inoportunas) no son problemas que la inteligencia artificial pueda resolver por sí sola.

En segundo lugar, los aspectos de los conflictos armados que la IA parece más probable que altere (la capacidad de recopilación de inteligencia a distancia y el poder aéreo) son las tecnologías que permiten a los ejércitos mantener a los enemigos a distancia y ganar en batallas campales convencionales. La utilidad de la IA en la lucha contra las insurgencias, en las que los actores armados no estatales llevan a cabo ataques de guerrilla y tratan de mezclarse y obtener el apoyo de la población, es más cuestionable. Para ganar en las insurgencias se requiere una presencia sostenida sobre el terreno para mantener el orden y gobernar el territorio en disputa. Los Estados no pueden esperar prevalecer en tales conflictos confiando en una tecnología que los elimine efectivamente de la lucha.

Por último, el uso de la IA para combatir los conflictos armados modernos sigue estando en una etapa incipiente. Hasta la fecha, la evidencia disponible prevaleciente ha documentado cómo los actores estatales están adoptando la IA para combatir el conflicto, y no cómo los actores no estatales armados están respondiendo. Sin embargo, los estados no serán los únicos en buscar aprovechar las armas autónomas. Los ex militares africanos especulan que es solo una cuestión de tiempo antes de que "los actores no estatales desplieguen 'enjambres' o grupos de drones ofensivos" en África, dada su accesibilidad, bajos costos y uso existente en vigilancia y contrabando. Los activistas de derechos humanos han dado la alarma sobre el potencial de "robots matadores" pequeños, baratos y enjambres, que usan sistemas de reconocimiento facial e IA de libre acceso para cometer actos de terrorismo masivos. Este escenario particular es controvertido, pero según Audrey Kurth Cronin de la American University, "es tecnológicamente factible y coherente con los patrones clásicos de difusión".

La evolución de la IA en los conflictos armados

Estos inconvenientes y riesgos sugieren que es poco probable que la continua difusión de la IA dé como resultado los cambios revolucionarios en los conflictos armados sugeridos por algunos de sus defensores y partidarios más ardientes. Más bien, tal vez sea mejor considerar a la IA moderna como una continuación y tal vez una aceleración de las tendencias tecnológicas de larga data que han mejorado las capacidades de detección y han digitalizado y automatizado las operaciones y tácticas de los actores armados en todas partes.

A pesar de toda su complejidad, la IA es, ante todo, una tecnología digital, y su impacto depende de una "tríada técnica" de "datos, algoritmos y potencia informática" y es difícil de desenredar de ella. El impacto de las plataformas de vigilancia impulsadas por IA, desde el software EarthRanger utilizado en Liwonde hasta las plataformas de "vigilancia inteligente" suministradas por Huawei, no es solo el resultado de algoritmos de aprendizaje automático que permiten capacidades de razonamiento similares a las humanas, sino también de la capacidad de almacenar, recopilar, procesar, cotejar y gestionar grandes cantidades de datos. De la misma manera, como señalan analistas como Kelsey Atherton, el Kargu 2 utilizado en Libia puede clasificarse como una munición merodeadora autónoma como el dron israelí Harpy. La principal diferencia entre el Kargu 2 y el Harpy, que se fabricó por primera vez en 1989, es que el primero utiliza un reconocimiento de imágenes impulsado por IA, mientras que el segundo utiliza sensores electroópticos para detectar y localizar las emisiones de radar del enemigo.

Es probable que la difusión de la IA en África, al igual que la difusión más amplia de la tecnología digital, sea diversa y desigual. África sigue siendo la región menos digitalizada del mundo. Las tasas de penetración de Internet son bajas y es probable que sigan siendo así en muchos de los países más propensos a los conflictos (https://www.internetworldstats.com/stats1.htm). En Somalia, Sudán del Sur, Etiopía, la República Democrática del Congo y gran parte de la cuenca del lago Chad, la penetración de Internet está por debajo del 20 %. Es poco probable que la IA tenga un gran impacto en los conflictos en regiones donde los ciudadanos dejan poca huella digital y los grupos armados no estatales controlan territorios fuera del alcance del Estado.

En conjunto, estos avances sugieren que la IA provocará una evolución constante de los conflictos armados en África y en otros lugares, en lugar de revolucionarlos. La digitalización y la adopción generalizada de plataformas de armas autónomas pueden ampliar los ojos y los puños de los ejércitos estatales. Los actores no estatales adoptarán estas tecnologías por sí mismos y encontrarán formas inteligentes de explotarlas o anularlas. La inteligencia artificial se utilizará en combinación con inventos igualmente influyentes, pero menos llamativos, como el AK-47, el vehículo táctico no estándar y el IED para permitir nuevas tácticas que aprovechen o exploten las tendencias hacia mejores capacidades de detección y mayor movilidad.

De manera gradual y en conjunto con otras tecnologías emergentes, la IA está transformando las herramientas y tácticas de la guerra. Sin embargo, la experiencia de África sugiere que los humanos seguirán siendo los actores principales en el drama de los conflictos armados modernos.

Nathaniel Allen es profesor adjunto del Centro Africano de Estudios Estratégicos de la Universidad Nacional de Defensa y miembro del Consejo de Relaciones Exteriores.

Marian "Ify" Okpali es investigadora en políticas cibernéticas y especialista académica del Centro Africano de Estudios Estratégicos de la Universidad Nacional de Defensa. Las opiniones expresadas en este artículo son las de los autores.

Microsoft brinda apoyo financiero a la Brookings Institution, una organización sin fines de lucro dedicada a la investigación rigurosa, independiente y exhaustiva de políticas públicas.