Incidentes Asociados
Los partidos políticos se ayudaron entre sí directamente con grabaciones e imágenes falsas, pero también con actores desconocidos en segundo plano. También abusaron de la moratoria.
Con el auge de las herramientas de la llamada inteligencia artificial generativa, que pueden crear imágenes, vídeos o grabaciones de audio casi a pedido, las preocupaciones legítimas sobre su mal uso en situaciones delicadas, como elecciones .
Las elecciones parlamentarias prematuras fueron las primeras desde que las herramientas mencionadas llegaron a manos del público en general. Y como muchos esperaban, el abuso efectivamente ocurrió. Al final, sin embargo, no a gran escala: su potencial definitivamente no se aprovechó.
Sin embargo, los últimos días de la campaña electoral trajeron varias lecciones, conclusiones y advertencias interesantes para el futuro. ¿Qué nos espera quizás pronto? En el artículo leerás:
- Qué materiales manipulados concretos se difundieron al final de la campaña electoral.
- En qué formato se distribuyeron, cuál fue su contenido y finalidad.
- Qué partido se ayudó con la inteligencia artificial y abusó del voto de sus oponentes políticos.
- Cuál era la principal debilidad de los materiales falsificados y viceversa, cuál era su arma más poderosa.
- ¿Cuáles son las principales lecciones, qué podemos esperar de las próximas elecciones del año que viene y cómo pueden los propios votantes empeorar la situación?
"El parecido es pura coincidencia"
La campaña preelectoral incluyó mucha desinformación, pero las grabaciones editadas intencionalmente o el audio creado con la ayuda de inteligencia artificial aparecieron solo en su final.
A sólo cinco días de las elecciones, el movimiento de extrema derecha Republika se ayudó mutuamente de esta manera. Publicó un par de anuncios promocionales atacando a la comunidad LGBTI y utilizando imitaciones de voz creíbles de la presidenta Zuzana Čaputová y del líder de Eslovaquia progresista Michal Šimečka.
"Las voces en este lugar son ficticias y su parecido con personas reales es pura coincidencia. Pero de todos modos, voten por la República", se escucha en los vídeos, admitiendo que Čaputová y Šimečka nunca hicieron las afirmaciones presentadas.
Las grandes plataformas digitales tienen reglas relativamente estrictas para los llamados deepfakes, es decir, contenidos creados o manipulados artificialmente. Sin embargo, suelen hacer la vista gorda cuando el autor admite que el contenido no es auténtico.
Este fue también el caso de la República. Meta, el operador de Facebook, proyectó los vídeos del movimiento de extrema derecha. Tuvo en cuenta la advertencia de que las voces de las personas en el vídeo no eran reales y también las percibió como una sátira. Así lo confirmó Rasťo Kužel, de la organización no gubernamental Memo 98, a la redacción de Živé.sk, que estuvo en contacto con Meta en relación con el contenido manipulador de la campaña.
Fueron al limite
El vídeo [del taller del medio extremista Kulturblog] (https://zive.aktuality.sk/clanok/VASIltm/sud-udajne-rozhodol-ze-kulturblog-su-extremisti-a-odsudil-mazurekovho-asistenta/) se tambaleó aún más, que publicó su propia grabación de audio manipulada del presidente Čaputová una semana antes de las elecciones.
"Después de un seguimiento regular y prolongado de los programas de Kulturblog, decidí expresar mi apoyo a Milan Mazurek en las próximas elecciones. Marque con un círculo el número 150 en la lista de candidatos de la República", dice la voz falsificada del presidente en la grabación.
La grabación en sí no contiene ninguna advertencia de que se trata de un trabajo de inteligencia artificial. Kulturblog lo afirmó únicamente en la descripción textual de la grabación, que publicó [en Telegram] (https://zive.aktuality.sk/clanok/XdaPqhh/sloboda-slova-po-rusky-co-je-telegram-a- ako-trabaja/). Podría propagarse aún más sin la información de que es falso.
No es de extrañar que Kulturblog haya creado la grabación a favor de la República. Su [conexión personal y financiera con la República se conoce desde hace mucho tiempo] (https://zive.aktuality.sk/clanok/zoTm0wz/google-pred-volbami-zavaril-republike-z-youtube-zmazal-mazureka-kulturblog -a- otros/). Milan Uhrík y Milan Mazurek incluso tienen sus propios programas regulares en Kulturblog.
¡No toques nuestra cerveza!
Sin embargo, el contenido verdaderamente malicioso apareció en las redes sociales sólo con la inminente moratoria. El martes 26 de septiembre hubo un ataque directo contra Progresívne Slovensko, un vídeo que presenta la intención inventada del PS de aumentar el precio de la cerveza entre un 70 y un 100 por ciento.
Al parecer, el propio Michal Šimečka presentó una mentira muy simple con el potencial de llegar (e influir) a un público más amplio. "Por lo tanto, un aumento drástico en el precio de la cerveza es uno de los puntos clave de la Eslovaquia progresista y será una de las primeras cosas que implementará el gobierno liderado por la Eslovaquia progresista", dijo la voz falsa.
Como en el caso del contenido de Republika, aquí también se trataba de audio falso distribuido en forma de vídeo con imágenes ilustrativas. Así que no vimos a Šimečka hablar directamente, sólo lo escuchamos hablar con el fondo de su fotografía y una imagen ilustrativa de una pinta de cerveza.
El vídeo también se volvió viral gracias a que lo compartió el ex candidato del partido de extrema derecha ĽSNS de Kotleb, Rudolf Huliak, quien finalmente [el sábado se reincorporó al parlamento](https://www.aktuality.sk/clanok/HnBOKeR /vysledky-volieb-2023 -look-at-the-list-of-elected-diputates-to-nr-sr/) sobre el candidato del SNS (no es miembro del mismo).
El tiempo fue clave
En cuanto al tema de la cerveza, fue una afirmación relativamente fácilmente refutable: el PS no tiene nada parecido en su programa y Šimečka no mencionó nada parecido en ninguna de las entrevistas preelectorales.
Sin embargo, no fue tan fácil en el caso del siguiente ataque, que comenzó a extenderse masivamente el jueves 28 de septiembre, ya durante la moratoria.
Se trataba también de un vídeo con audio, en cuyo fondo aparecía una imagen estática en forma de fotografías de los "protagonistas": Michal Šimečka y Monika Tódová, periodista de Denník N. El vídeo parecía ser una grabación de Una conversación telefónica entre las personas mencionadas tuvo como tema la manipulación de papeletas y una recompensa para el periodista.
Aquí la situación era mucho más complicada. En aquel momento, las últimas encuestas preelectorales ya situaban a la Eslovaquia progresista en la posición de rival directo del Smer-SD. La grabación secreta inventada tenía como objetivo desacreditar al partido y posiblemente su éxito electoral.
Además, durante la moratoria, no sólo los propios partidos candidatos, sino también los medios de comunicación tienen opciones limitadas. No pueden publicar nada relacionado con las elecciones; al contrario, tienen que sopesar cada palabra para no violar la moratoria.
Esto puede provocar un retraso en la publicación de [artículos de noticias sobre el tema](https://zive.aktuality.sk/clanok/G3Zgfjc/pozor-na-umele-hlasy-politika-prezidentky-ci-novinarky-maju- opinovljit-hlasovanie-ludi /). Además, la refutación independiente del engaño lleva algún tiempo, y en este período tan delicado para los medios de comunicación, inmediatamente antes del día de las elecciones, la información verdadera puede no llegar al público a tiempo para todos los votantes.
Un ataque así, estratégicamente programado, puede lograr así el objetivo previsto y afectar a una determinada parte de la población. Sin embargo, al mismo tiempo es una lección para el futuro para los políticos, los medios de comunicación o las autoridades e instituciones que supervisan la integridad del proceso electoral.
¿Baja calidad? A veces eso es suficiente
¿A cuántas personas podrían influir los vídeos manipuladores? Eso es difícil de estimar. Pero ciertamente no tanto como podría ser el caso si actores cuestionables utilizaran todo el potencial de la inteligencia artificial.
En cambio, obtuvimos grabaciones de muy mala calidad. En particular, la entrevista ficticia de Šimečka con Tódová fue manejada de manera francamente amateur. La voz en off sonaba extremadamente antinatural y la entonación no coincidía en absoluto con el "guión". Combinado con las impactantes revelaciones y la forma aparentemente alegre en que los supuestos actores las revelaron, para muchos estaba claro que no estaban escuchando a nadie. grabación auténtica.
Sin embargo, bastantes personas quedaron atrapadas. Estamos hablando de decenas de miles de visitas y miles de acciones compartidas sólo en Facebook, sin olvidar la difusión comunitaria a través de plataformas de comunicación como WhatsApp o Telegram. Fue literalmente una forma barata de convencer a una parte de los votantes de que el PS es su enemigo.
Preparémonos para las próximas elecciones.
La inteligencia artificial ya puede hacer maravillas hoy en día. Incluyendo la generación de contenido creíble basado en una serie de materiales de entrada disponibles públicamente (fotos y videos de figuras públicas y sus muestras de voz). Además, escribimos sobre ello [en un gran artículo en agosto] (https://zive.aktuality.sk/clanok/CDMxaRJ/napodobnia-vas-hlas-i-tvar-sofistikovane-ai-podvody-skusaju-aj- na -eslovaco-firmy/).
Lo que vimos justo antes de las elecciones fue sólo un leve brebaje de lo que podríamos encontrar el año próximo durante la campaña para las elecciones presidenciales o al Parlamento Europeo.
Cada vez habrá más herramientas que utilicen inteligencia artificial generativa disponibles no solo para los actores nefastos, sino también para el público en general, incluidos los gratuitos. O aquellos que no tienen implementados suficientes límites de seguridad y así facilitan aún más la creación de contenido malicioso.
Esta vez los desinformadores simplemente probaron las posibilidades de la IA, pudieron evaluar el efecto resultante y la disposición de la gente a creer fácilmente incluso en las falsificaciones menos convincentes.
En apenas unos meses, además de grabaciones de audio, también podremos encontrarnos con vídeos falsos en los que aparecerán políticos en situaciones que nunca sucedieron. Estos deepfakes serán aún más creíbles. Después de todo, la gente cree más fácilmente en lo que ven con sus propios ojos, por así decirlo.
Además, con la creciente disponibilidad de estas herramientas (especialmente en forma gratuita) para el público en general, también aumenta el riesgo de que los propios votantes produzcan videos falsos de manera proactiva. Ya sea en un esfuerzo por ayudar a su candidato o con la intención de perjudicar a su oponente.
Las posibilidades son casi ilimitadas y la cuestión no es si realmente sucederá, sino si sucederá ya en las elecciones del próximo año o en las próximas.
Consulte el informe original para obtener copias de los deepfakes en cuestión.