Incidentes Asociados
Dada la proliferación de falsificaciones de IA en las recientes elecciones eslovacas, cada vez es más difícil saber quién está hablando. Pero primero...
El ángulo cibernético
Algo no cuadraba en una supuesta conversación entre el líder de Eslovaquia progresista, Michal Simecka, y un periodista local que circuló en el período previo a las elecciones del sábado en Eslovaquia.
El discurso fue forzado y sus voces planas incluso cuando el líder del principal partido proeuropeo del país parecía criticar a los votantes locales, discutir la compra de votos de la minoría romaní y bromear sobre la pornografía infantil.
Si sonó mal es porque lo fue. Los verificadores de datos de la AFP concluyeron que la grabación era un engaño sintetizado por un Herramienta de inteligencia artificial entrenada con muestras de las voces de los hablantes. Fue una de un puñado de falsificaciones que circularon en las redes sociales, aplicaciones de mensajería y correo electrónico, incluida una en la que una persona que sonaba como Simecka conspiraba para aumentar los precios de la cerveza después de las elecciones.
Mis colegas Jillian Deutsch y Daniel Hornak [detallado](https://www.bloomberg.com/news/articles/2023-09-29/eu-s-ability-to-fight-disinfo-gets-fact-checked-in -eslovaquia) el uso de desinformación en las elecciones de Eslovaquia, y Olivia Solon documentado el papel de los deepfakes de IA.
Simecka denunció las falsificaciones como "una estupidez colosal y evidente", y no hay pistas de quién estaba detrás de ellas. También es imposible cuantificar su impacto en las elecciones después de que la Eslovaquia progresista [obtuviera el segundo lugar](https://www.bloomberg.com/news/articles/2023-10-01/russia-sanctions-critic-headed-for-victory- en las elecciones eslovacas "Fico pro-Rusia gana las elecciones en Eslovaquia en un golpe a Ucrania (2)") detrás del favorito Smer, liderado por un ex primer ministro populista que se ha burlado de las sanciones de la Unión Europea contra Rusia.
Lo que está claro es que está amaneciendo una nueva era de desinformación. Si bien los expertos han advertido durante mucho tiempo sobre el uso de deepfakes para influir en los votantes, la IA ahora es lo suficientemente barata y accesible para que cualquiera pueda probarla.
"Aunque el deepfake era técnicamente bastante burdo (definitivamente se podía escuchar que no se trataba de una persona real), esta grabación se difundió rápidamente", dijo Daniel Milo, jefe de una unidad del Ministerio del Interior eslovaco que lucha contra la desinformación. "Dentro de uno o dos años, es posible que no puedas notar la diferencia".
La rápida mejora de la tecnología, junto con una serie de hackeos de alto perfil dirigidos a las listas de votantes en todo el mundo, sugieren que el problema sólo va a empeorar.
Este año, la Comisión Electoral del Reino Unido reveló una violación eso potencialmente expuso los datos de 40 millones de votantes, mientras que la investigación del Consejo Especial Robert Mueller sobre la interferencia en las elecciones estadounidenses de 2016 encontró que piratas informáticos rusos atacaron los datos de los votantes en muchos estados.
Los deepfakes que contienen discursos de odio o desinformación electoral en Eslovaquia se difundieron a través de Facebook e Instagram de Meta Platforms Inc., X y YouTube de Alphabet Inc., según un informe de la semana pasada de Reset, un grupo de investigación que analiza el impacto de la tecnología en la democracia.
Más de la mitad de las publicaciones rastreadas por Reset llegaron a través de Telegram, una aplicación de mensajería. No revisó los correos electrónicos, aunque había informes de los clips que también circulan de esa manera. Milo dijo que las respuestas de las plataformas fueron "inconsistentes", y algunas de ellas eliminaron o etiquetaron las publicaciones problemáticas.
El Ministerio del Interior eslovaco está en el canal de información gubernamental de Meta, según el portavoz de Meta, Ben Walters. "No vimos muchas escaladas durante el período electoral, pero respondimos de manera oportuna a las que recibimos", dijo.
YouTube tiene un canal prioritario con los funcionarios locales para abordar el contenido marcado que viola sus políticas, según el portavoz de Google, Ciaran Ward.
Los portavoces de X y Telegram no respondieron a las solicitudes de comentarios.
Las elecciones en Eslovaquia, una nación de Europa oriental de 5,4 millones de habitantes, presagian crecientes divisiones entre los aliados con respecto a la asistencia a Ucrania a medida que se estanca el progreso en su guerra con Rusia. Pero lo más inquietante es que también dieron un adelanto de cómo es probable que los deepfakes se conviertan en parte de la realidad política.
"Esta es la primera vez, hasta donde yo sé, que hubo un intento serio de influir en el resultado de las elecciones utilizando contenido producido artificialmente" para crear deepfakes, dijo Milo. "Así es como será el futuro".
Como si confiar en los políticos no fuera ya suficientemente difícil.