Incidentes Asociados
Esta semana me llamó una amiga. "¿Viste el video de Ossoff sobre el cierre del gobierno?", me preguntó refiriéndose al senador demócrata Jon Ossoff, incrédula de que el demócrata de Georgia dijera lo que decía en el video en línea.
No había visto el video al que se refería, pero buscando un poco encontré un clip de Ossoff en la cuenta de campaña de Mike Collins. Collins, republicano de Jackson, es uno de los tres candidatos en las reñidas primarias republicanas para el escaño de Ossoff en el Senado.
"Hola. Soy el senador Jon Ossoff. Acabo de votar a favor de mantener el gobierno cerrado", dice.
El video parece bastante real, y debería serlo, ya que la imagen proviene del retrato oficial de Ossoff en el Senado, con el pin del Senado en la solapa de su traje. Pero sus palabras son tan exageradas que no queda del todo claro si el video es auténtico o no.
En realidad, se trata de un vídeo creado por la campaña de Collins con un guion escrito para Ossoff, al que le añadieron la voz generada por inteligencia artificial.
«Dicen que perjudicará a los agricultores, pero no lo sé. Solo he visto una granja en Instagram», dice Ossoff, la IA. «Y a los beneficiarios del SNAP. No creo que estén en mis eventos de recaudación de fondos en Nueva York o California, así que ¿a quién le importa?».
Un pequeño aviso legal informa a los espectadores de que el vídeo está generado por IA, pero este aviso solo es visible en un teléfono si se pulsa el vídeo para verlo a pantalla completa y se vuelve a pulsar para eliminar el texto que lo cubre.
El Partido Demócrata de Georgia criticó duramente el vídeo. «En lugar de intentar engañar a los votantes con vídeos deepfake, el congresista Mike Collins, cuya integridad es cuestionable, debería explicar por qué apoya duplicar las primas del seguro médico de los georgianos», declaró un portavoz.
Pero la campaña de Collins no se disculpó por el video ni anunció planes para dejar de manipular a Ossoff en futuros videos.
"A medida que la tecnología evoluciona y crea nuevas oportunidades para llegar a los votantes y comunicarnos con ellos, la campaña de Collins estará a la vanguardia, adoptando nuevas tácticas y estrategias que superen la cobertura sesgada de los medios tradicionales y transmitan nuestro mensaje directamente a los votantes", declaró un portavoz de la campaña.
Supongo que yo formo parte de la "cobertura sesgada de los medios tradicionales", pero no soy el único que ve los videos generados por IA en las campañas como un paso peligroso.
Tanto republicanos como demócratas han alertado en los últimos años sobre los peligros que se avecinan, incluyendo al propio Ossoff, quien declaró ante el Comité de Reglas del Senado en 2023 que cualquiera podría usar la IA para "deliberadamente, a sabiendas y con extremo realismo, presentar falsamente a cualquiera de nosotros, o a un candidato que nos desafíe, haciendo declaraciones que nunca hicimos, indistinguibles para el consumidor de los medios de una documentación realista de nuestro discurso". Esa es la situación actual. Dentro de tres o seis meses, el video de Ossoff podría ser manipulado aún más por otros o simplemente uno más entre un mar de falsificaciones sobre Ossoff, Collins y cualquier otro candidato a un cargo público en Georgia, independientemente de su partido.
Los representantes estatales Todd Jones, republicano de Cumming, y Brad Thomas, republicano del condado de Cherokee, han dado su apoyo a Collins en su contienda por el Senado. Juntos, lideran una iniciativa para criminalizar el uso de deepfakes en las campañas electorales de Georgia, cuyo objetivo es engañar a los votantes. La legislación presentada en dos ocasiones por Jones y Thomas exigiría la divulgación clara del contenido generado por IA y prohibiría los videos creados con IA 60 días antes de las elecciones.
Para que algunos de sus colegas menos familiarizados con la tecnología comprendieran lo que se avecinaba, Jones y Thomas crearon un deepfake y lo reprodujeron en una audiencia de la Cámara de Representantes en 2024.
El video mostraba al representante estatal Colton Moore, republicano de Trenton, respaldando el proyecto de ley de IA al que se había opuesto abiertamente.
«Si la IA puede usarse para que Colton Moore hable a favor de una ley popular, también puede usarse para que cualquiera de ustedes diga cosas que jamás ha dicho», afirma la IA de Colton Moore. «¿Están preparados para afrontar las consecuencias de permitir que los deepfakes generados por IA sigan siendo una estrategia de campaña viable y legal?».
La Cámara de Representantes aprobó los proyectos de ley de Jones y Thomas en dos ocasiones, pero ambos fueron rechazados en el Senado.
Jones afirmó que es crucial salvaguardar la Primera Enmienda y la libertad de expresión, pero también que los legisladores actúen pronto y encuentren la solución adecuada.
«El electorado tiene que saber, de hecho, no solo por quién vota, sino también qué piensa realmente esa persona», declaró.
¿Es posible prohibir por completo la IA en las campañas estadounidenses? Si la respuesta tan positiva que he recibido de otros miembros de campañas electorales en Georgia sirve de indicio, el video de Ossoff generado por IA por Collins es solo el comienzo de hacia dónde se dirigen las campañas con la IA.
La Casa Blanca ha utilizado la IA de forma habitual para crear videos extravagantes en su afán por captar la atención de los votantes. Habrá muchas más campañas que seguirán su ejemplo con falsificaciones de IA más grandes, audaces y sofisticadas, aunque su contenido no sea verídico.
"Para quienes dicen que es demasiado tarde, ¿de verdad lo es?", dijo Jones. "Es importante que aclaremos esto, porque la verdad debe estar presente en el electorado antes de que emitan su voto".
Hasta que el Senado de Georgia apruebe la sólida legislación de Jones y Thomas, todos debemos ser cautelosos.
Antes de ver un video de campaña increíble en redes sociales, como el de Ossoff, y preguntarle a un amigo: "¿Te lo puedes creer?", detente un momento y pregúntate: "¿Me lo creo?".