Incidentes Asociados
Las guerras del siglo XXI a menudo se describen como de alta tecnología y cada vez más dependientes de la Inteligencia Artificial (IA): la ocupación estadounidense de Afganistán, la invasión rusa de Ucrania, aunque el último ataque de Hamas contra Israel también muestra que la excesiva confiabilidad de los drones, Los datos y las herramientas digitales pueden crear lagunas de seguridad devastadoras.
Para comprender cómo la IA da forma a una guerra asimétrica en Ucrania contra un agresor ruso mucho mayor, Global Voices habló con Anton Tarasyuk, un experto en datos e IA, quien también es cofundador y líder de experiencia de [Mantis Analytics](https:// mantisanalytics.com/), una empresa con sede en Kiev. También es periodista y escribe comentarios sobre temas de actualidad.
La entrevista se realizó por correo electrónico después de una reunión en persona en Kiev y está editada por estilo y brevedad.
Filip Noubel (FN) ¿Cómo utilizan los actores ucranianos la IA en la guerra de desinformación? ¿Quién lo está usando? ¿Es sólo el gobierno u otros actores también?
Anton Tarasyuk (AT): Comencemos reconociendo que la guerra ruso-ucraniana es el conflicto más digitalizado y dependiente de la IA de la historia. La IA desempeña un papel importante tanto en el campo de batalla como en el ámbito de la información. De hecho, la guerra a gran escala comenzó inicialmente no mediante una guerra cinética, sino mediante una guerra de información. Antes del 24 de febrero de 2022, Rusia lanzaba activamente ciberataques y campañas de información hostiles en un intento de sembrar confusión, miedo y desconfianza entre los ciudadanos ucranianos.
¿Tuvieron éxito? Estratégicamente, el desarrollo de la guerra indica que no lo fueron. Sin embargo, sobre todo en las primeras etapas, lograron éxitos tácticos. Tomemos, por ejemplo, la campaña de las "marcas de graffiti", que afirmaba falsamente que supuestos agentes rusos estaban dejando marcas de graffiti específicas en las calles para guiar la artillería y los ataques aéreos rusos. Esto puede parecer absurdo, pero la gente realmente estaba buscando estas marcas, y las personas podrían meterse en problemas si se las asociaba erróneamente con estas "marcas" imaginarias. Desde entonces se ha hecho evidente que se trataba de una campaña de desinformación, presumiblemente de origen ruso, diseñada para sembrar el caos y el pánico.
El papel de la IA en este tipo de campañas de desinformación es sustancial. Con las tecnologías generativas, el costo de producir contenido textual y visual se ha reducido a casi nada, requiriendo sólo una alfabetización digital básica. En tal contexto, sólo la IA puede combatirla eficazmente. Ninguna mente humana puede operar a la velocidad requerida. Por tanto, no queda más remedio que emplear estas tecnologías.
En cuanto a los usuarios de nuestra tecnología, inicialmente nos centramos en el sector gubernamental, específicamente el Consejo de Seguridad y Defensa Nacional de Ucrania. Sin embargo, nuestro objetivo principal no se limita al gobierno o las instituciones de seguridad. La guerra de información se está extendiendo rápidamente al sector empresarial. Anualmente se pierden miles de millones de dólares debido a campañas de desinformación, fraudes basados en deepfakes y actividades similares, todo ello impulsado por la IA. Toda la infraestructura de información que garantiza nuestra toma de decisiones informadas en defensa, política y negocios está en riesgo. Por eso estamos ampliando activamente nuestro alcance en el sector empresarial.
FN: ¿Cómo lo utiliza Rusia para imponer sus narrativas no sólo en Ucrania, sino en otros lugares, incluido el Sur Global?
AT: Muchos de los países del Sur Global son, con todas las debidas reservas, democracias electorales. Esto significa que la opinión pública importa. Significa que influir en la opinión pública es crucial. Esto, a su vez, subraya la importancia de las campañas informativas. Cuando se combinan todos estos factores con el escepticismo histórico hacia el llamado "Occidente", se crea el terreno perfecto para que los rusos difundan sus mensajes.
Según nuestra evaluación, las campañas informativas de Rusia generalmente giran en torno a fomentar el sentimiento antioccidental, a menudo presentando a Rusia como el líder de una elusiva "coalición antioccidental". ¿Recuerdan el repentino surgimiento de Putin con su retórica "anticolonial"? Sirve como una narrativa adaptada al Sur Global.
Para promover este mensaje, Rusia emplea varias tácticas, no sólo recurriendo a la desinformación (información que es a la vez verdadera y dañina), sino también a la desinformación en toda regla (información que es a la vez falsa y dañina). En cuanto a Ucrania, el contenido que difunden allí es sencillamente escandaloso.
La IA está preparada para asumir un papel cada vez más fundamental en esta difusión, especialmente a medida que la infraestructura de los medios tradicionales continúa erosionándose. ¿Está Occidente preparado? Será mejor que así sea, antes de que sea demasiado tarde. Algunas pistas sobre las soluciones se encuentran aquí, en Ucrania, ya que fuimos los primeros en abordar el desafío de la agresión rusa.
**FN: ¿Qué pasa con el reconocimiento facial? ¿En qué contexto se utiliza y ve posibles zonas de peligro en su uso? **
AT: Para ser sincero, en el panorama actual, si buscas información detallada, puedes descubrir una gran cantidad de conocimientos al monitorear atentamente lo que la gente está discutiendo, dónde lo están haciendo y de qué manera. Esto es precisamente en lo que nos especializamos.
El análisis de contenido visual planteará preguntas desafiantes, que usted puede clasificar como "zonas de peligro". El economista ruso exiliado radicado en París Sergei Guriev llama acertadamente a ciertos países "autocracias informativas" o "dictaduras sesgadas", que ha sido el modelo ruso para manipular el sector informativo. paisaje.
La pregunta para nosotros es: ¿de qué sirve oponerse a estas autocracias informacionales si al mismo tiempo estamos construyendo un estado de vigilancia? De ahí nuestro compromiso con los valores democráticos. De hecho, lo tomamos muy en serio.
Sin embargo, y aquí está mi predicción futurista, algunas de nuestras creencias fundamentales con respecto a la transparencia deberán reinventarse en el futuro cercano. No por la voluntad de alguna empresa o institución, sino por lo que el filósofo alemán Jürgen Habermas llama "La transformación estructural de la esfera pública", provocada por nuevas tecnologías. Las sociedades deberían prepararse para este cambio.
FN: ¿Existe legislación actualizada en Ucrania sobre el uso y control de la IA?
AT: Durante un período considerable, Ucrania operó como una frontera de regulación mínima de IA. Actualmente, este tema está atrayendo cada vez más atención y debate. El Ministerio de Transformación Digital presentó recientemente una hoja de ruta para la regulación de la IA.
Dado que muchas tecnologías emergentes, particularmente en el ámbito de la tecnología de defensa, dependen en gran medida de la IA, la necesidad de alinear nuestros marcos regulatorios con los de la UE y los EE. UU. se está volviendo cada vez más urgente. Estas consideraciones están lejos de ser abstractas, ya que incluso aspectos comerciales fundamentales, como la obtención de capital de riesgo, pueden depender de esta alineación.
Lo que está claro es que debemos trazar un rumbo que fomente la innovación en IA sin sofocarla mediante una regulación excesiva, que según algunos expertos caracteriza al mercado de la UE. Si bien el mantra de Silicon Valley de "moverse rápido y romper cosas" puede ser demasiado peligroso para nuestro contexto, ya que cualquier interrupción en tiempos de conflicto puede tener consecuencias potencialmente mortales, también reconocemos el riesgo de la IA centralizada y vertical de China y Rusia. regulaciones.
Encontrar un camino a seguir para Ucrania presenta un desafío. ¿Nos levantaremos para enfrentarlo? Estoy seguro de que lo haremos, porque no tenemos otra opción.