Incidentes Asociados
BRATISLAVA – Vídeos que muestran voces falsas de políticos generadas por inteligencia artificial se están difundiendo en las redes sociales antes de las elecciones parlamentarias eslovacas de este fin de semana, mostrando cómo se está aprovechando la tecnología emergente para la desinformación política.
Los clips se comparten en sitios como Facebook e Instagram de Meta Platforms y aplicaciones de mensajería como Telegram que incluyen audio que se hace pasar por oponentes políticos, dijo Reset, un grupo de investigación que analiza el impacto de la tecnología en la democracia, en un informe del viernes.
Uno de esos vídeos muestra una conversación de dos minutos de duración en la que el líder del partido progresista, Michal Simecka, parece discutir la compra de votos de la minoría romaní con un periodista.
Los verificadores de datos de la AFP consultaron a varios expertos que concluyeron que el audio fue sintetizado por una herramienta de inteligencia artificial (IA) entrenada con muestras reales de las voces de los hablantes, y varias copias están disponibles en las redes sociales sin una etiqueta que las califique como engañosas.
Un portavoz de Meta dijo que si bien las publicaciones de partidos políticos no son elegibles para la verificación de datos porque Meta no debería "impedir que el discurso de un político llegue a su audiencia y esté sujeto al debate y escrutinio público", sus verificadores de datos que cubren Eslovaquia "continúan desacreditar activamente las afirmaciones falsas relacionadas con las elecciones que circulan en línea”.
Un representante de Telegram no respondió a una solicitud de comentarios.
Investigadores y legisladores han estado advirtiendo sobre una ola de desinformación impulsada por la IA, pero hasta ahora las imágenes y vídeos falsos han sido más bien una curiosidad lúdica.
Los ejemplos eslovacos parecen mostrar cómo se puede utilizar la tecnología para engañar y antagonizar a los votantes en los últimos días antes de unas elecciones reñidas por un estrecho margen.
Las elecciones se perfilan como una de las más importantes para la nación de 5,4 millones de habitantes de la Unión Europea del este desde la caída del comunismo. El partido SMER de Robert Fico es uno de los favoritos y lleva a cabo una campaña populista que ha denunciado sanciones contra Rusia y ayuda militar a Ucrania. Se enfrenta al partido proeuropeo Eslovaquia Progresista del señor Simecka.
En otro vídeo, el partido político de extrema derecha República publicó anuncios políticos con voces en off generadas por inteligencia artificial basadas en Simecka y la presidenta Zuzana Caputova advirtiendo a los votantes que no siguieran "a ciegas al rebaño progresista". Los videos permanecieron en Facebook e Instagram el viernes.
“Durante tres o cuatro años, todo el mundo ha estado hablando de la próxima ola de manipulación de deepfakes, pero por alguna razón no sucedió. Pero hay razones para pensar que podría ser diferente ahora”, dijo Rolf Fredheim, quien dirigió la investigación para Reset, que se centró más ampliamente en rastrear un aumento en la desinformación y el discurso de odio antes de las elecciones.
Fredheim, que anteriormente rastreó la desinformación en StratCom de la OTAN, dijo que la tecnología deepfake se ha vuelto mucho más fácil de usar para la persona promedio sin necesidad de una computadora muy potente.
Señaló aplicaciones como HeyGen que hacen que sea muy fácil convertir guiones en vídeos deepfake parlantes utilizando muestras breves de la voz de alguien.
"Con los ejemplos de las elecciones eslovacas, hay muchas razones para pensar que los manipuladores profesionales están buscando estas herramientas para crear efectos y distribuirlos de forma coordinada", añadió.
HeyGen no respondió de inmediato a una solicitud de comentarios. BLOOMBERG