Problema 2868

El Partido Demócrata ha comenzado a probar el uso de inteligencia artificial para escribir primeros borradores de algunos mensajes de recaudación de fondos, llamamientos que a menudo funcionan mejor que los escritos íntegramente por seres humanos.

IA falsa las imágenes del arresto de Donald J. Trump en Nueva York se difundieron más rápido de lo que pudieron verificarse la semana pasada.

Y las herramientas de clonación de voz están produciendo un audio vívidamente real del presidente Biden, y muchos otros, diciendo cosas que en realidad no dijeron.

La inteligencia artificial no solo llegará pronto a la campaña electoral de 2024. Ya está aquí.

El rápido avance de la I.A. promete ser tan perjudicial para la esfera política como para la sociedad en general. Ahora, cualquier aficionado con una computadora portátil puede producir los tipos de sonidos e imágenes convincentes que alguna vez fueron dominio de los reproductores digitales más sofisticados. Esta democratización de la desinformación está desdibujando los límites entre lo real y lo falso en un momento en que la aceptación de las verdades universales —que Biden venció a Trump en 2020, por ejemplo— ya se está tensando.

Y a medida que los medios sintéticos se vuelven más creíbles, la pregunta es: ¿Qué sucede cuando las personas ya no pueden confiar en sus propios ojos y oídos?

Dentro de las campañas, se espera que la inteligencia artificial pronto ayude a realizar tareas mundanas que antes requerían flotas de pasantes. Tanto los ingenieros republicanos como los demócratas están compitiendo para desarrollar herramientas para aprovechar la inteligencia artificial. para hacer que la publicidad sea más eficiente, para participar en análisis predictivos del comportamiento público, para escribir más y más textos personalizados y para descubrir nuevos patrones en montañas de datos de votantes. La tecnología está evolucionando tan rápido que la mayoría predice un impacto profundo, incluso si las formas específicas en las que pondrá patas arriba el sistema político son más especulaciones que ciencia.

“Es un momento iPhone, ese es el único corolario que todos apreciarán”, dijo Dan Woods, director de tecnología de la campaña 2020 de Biden. “Se necesitarán pruebas de presión para determinar si es bueno o malo, y probablemente sean ambos”.

OpenAI, cuyo chatbot ChatGPT marcó el comienzo de la fiebre del oro del texto generativo, ya ha lanzado un modelo más avanzado . Google ha anunciado planes para expandir A.I. ofertas dentro de aplicaciones populares como Google Docs y Gmail, y está desplegando su propio chatbot. Microsoft también ha lanzado una versión al mercado. Una empresa más pequeña, ElevenLabs, ha desarrollado una herramienta de texto a audio que puede imitar la voz de cualquier persona en minutos. Midjourney, un popular A.I. generador de arte, puede conjurar imágenes hiperrealistas con unas pocas líneas de texto que son [lo suficientemente convincentes como para ganar concursos de arte](https://www.nytimes.com/2022/09/02/technology/ai-artificial-intelligence- artistas.html).

"AI. está a punto de hacer un cambio significativo en las elecciones de 2024 debido a la capacidad predictiva del aprendizaje automático”, dijo Brad Parscale, el primer gerente de campaña de Trump para 2020, quien desde entonces fundó una empresa digital que anuncia algunos productos de inteligencia artificial. capacidades.

La desinformación y los “deepfakes” son el miedo dominante. Si bien las falsificaciones no son nada nuevo en la política, una imagen modificada con Photoshop de [John Kerry y Jane Fonda se compartió ampliamente en 2004] (https://www.reuters.com/article/factcheck-fonda-kerry/fact-check-old-altered -photo-of-jane-fonda-and-john-kerry-at-an-anti-war-rally-resurfaces-idUSL1N2LL28P): la capacidad de producirlos y compartirlos se ha acelerado, con I.A. viral. las imágenes del Sr. Trump siendo retenido por la policía son solo el último ejemplo. Una imagen falsa del [papa Francisco con un abrigo blanco hinchado] (https://www.buzzfeednews.com/article/chrisstokelwalker/pope-puffy-jacket-ai-midjourney-image-creator-interview) se volvió viral en los últimos días. también.

Muchos están particularmente preocupados por las carreras locales, que reciben mucho menos escrutinio. Antes de la reciente primaria en la carrera por la alcaldía de Chicago, un video falso brevemente [surgió en una cuenta de Twitter llamada “Chicago Lakefront News”] (https://www.cbsnews.com/chicago/news/vallas-campaign-deepfake- video/) que se hizo pasar por un candidato, Paul Vallas.

“Desafortunadamente, creo que la gente descubrirá cómo usar esto para el mal más rápido que para mejorar la vida cívica”, dijo Joe Rospars, quien fue estratega jefe en la campaña 2020 de la senadora Elizabeth Warren y ahora es director ejecutivo de una consultoría digital.

Quienes trabajan en la intersección de la política y la tecnología vuelven repetidamente a la misma hipótesis histórica: si hoy se rompiera la infame cinta de “Access Hollywood”, en la que se escucha a Trump jactándose de agredir a las mujeres y salirse con la suya, ¿el Sr. ¿Trump reconoce que fue él, como lo hizo en 2016?

La respuesta casi universal fue no.

“Pienso en ese ejemplo todo el tiempo”, dijo Matt Hodges, quien fue director de ingeniería en la campaña 2020 de Biden y ahora es director ejecutivo de Zinc Labs, que invierte en tecnología demócrata. Los republicanos, dijo, “no pueden usar más ‘noticias falsas’. Puede ser 'Woke A.I.'"

Por ahora, la función de primera línea de A.I. Se espera que en las campañas escriba los primeros borradores de las interminables solicitudes de efectivo por correo electrónico y texto.

“Dada la cantidad de palabrería tonta y de memoria que se produce en la política, la gente la pondrá a trabajar”, dijo Luke Thompson, un estratega político republicano.

Como experimento, The New York Times le pidió a ChatGPT que produjera un correo electrónico de recaudación de fondos para Trump. La aplicación inicialmente decía: “No puedo tomar partido político ni promover ninguna agenda política”. Pero luego proporcionó de inmediato una plantilla de un posible correo electrónico similar a Trump.

El chatbot rechazó una solicitud para hacer que el mensaje fuera "más enojado", pero cumplió cuando se le pidió que "le diera más ventaja", para reflejar mejor el tono a menudo apocalíptico de las súplicas de Trump. “Necesitamos su ayuda para enviar un mensaje a la izquierda radical de que no daremos marcha atrás”, dijo el A.I. mensaje dijo. “Dona ahora y ayúdanos a hacer que Estados Unidos vuelva a ser grandioso”.

Entre los grupos destacados que han experimentado con esta herramienta se encuentra el Comité Nacional Demócrata, según tres personas informadas sobre los esfuerzos. En las pruebas, el contenido generado por A.I., el D.N.C. ha utilizado, la mayoría de las veces, se ha desempeñado tan bien o mejor que una copia redactada completamente por humanos, en términos de generar compromiso y donaciones.

Los funcionarios del partido todavía hacen ediciones en el A.I. borradores, dijeron las personas familiarizadas con los esfuerzos, y no A.I. Aún no se han escrito mensajes con el nombre del Sr. Biden o de cualquier otra persona, dijeron dos personas. El D.N.C. rechazó hacer comentarios.

Higher Ground Labs, una pequeña empresa de capital de riesgo que invierte en tecnología política para los progresistas, está trabajando actualmente en un proyecto, llamado Quiller, para utilizar de manera más sistemática la IA. para escribir, enviar y probar la eficacia de los correos electrónicos de recaudación de fondos, todo a la vez.

"AI. ha estado principalmente comercializando galimatías durante los últimos tres ciclos”, dijo Betsy Hoover, socia fundadora de Higher Ground Labs y directora de organización digital para la campaña del presidente Barack Obama en 2012. “Estamos en un momento en el que hay cosas que la gente puede hacer que son realmente útiles”.

Operativos políticos, a varios de los cuales se les otorgó el anonimato para discutir usos potencialmente desagradables de la inteligencia artificial que les preocupan o planean implementar, plantearon una serie de posibilidades.

Algunos malos actores temidos podrían aprovechar la IA. chatbots para distraer o desperdiciar el valioso tiempo del personal de una campaña haciéndose pasar por votantes potenciales. Otros flotaron produciendo falsificaciones profundas de su propio candidato para generar videos personalizados, agradeciendo a los seguidores por sus donaciones, por ejemplo. En India, un candidato en 2020 produjo un deepfake para difundir un video de sí mismo hablando en diferentes idiomas; la tecnología es muy superior ahora.

El propio Sr. Trump compartió un A.I. imagen en días recientes que parecía mostrarlo arrodillado en oración. Lo publicó en Truth Social, su sitio de redes sociales, sin explicación.

Un estratega predijo que la próxima generación de trucos sucios podría ser información errónea directa al votante que omite por completo los sitios de redes sociales. ¿Qué pasaría si, dijo este estratega, una I.A. ¿La grabación de audio de un candidato se envió directamente al correo de voz de los votantes en vísperas de una elección?

El audio y el video sintéticos ya circulan en línea, en gran parte como parodia.

En TikTok, hay todo un género de videos que muestran al Sr. Biden, el Sr. Obama y el Sr. Trump bromeando profanamente, con el audio generado por IA superpuesto como comentario durante sesiones imaginarias de videojuegos en línea.

En “The Late Show”, Stephen Colbert utilizó recientemente A.I. audio para que el presentador de Fox News, Tucker Carlson, "lea" en voz alta sus mensajes de texto criticando a Trump. El Sr. Colbert etiquetó el audio como A.I. y la imagen en pantalla mostraba una mezcla del rostro del Sr. Carlson y un cyborg Terminator para enfatizar.

El provocador derechista Jack Posobiec publicó un video "deepfake" el mes pasado en el que Biden anunciaba un borrador nacional debido al conflicto en Ucrania. Rápidamente fue [visto por millones] (https://twitter.com/jackposobiec/status/1630263716473077766).

“Los videos que hemos visto en las últimas semanas son realmente el canario en la mina de carbón”, dijo Hany Farid, profesor de informática en la Universidad de California en Berkeley, que se especializa en análisis forense digital. “Medimos los avances ahora no en años sino en meses, y quedan muchos meses antes de las elecciones”.

Algo de I.A. Las herramientas se implementaron en 2020. La campaña de Biden creó un programa, cuyo nombre en código es Couch Potato, que vinculaba el reconocimiento facial, la voz con el texto y otras herramientas para automatizar la transcripción de eventos en vivo, incluidos los debates. Reemplazó el trabajo de una gran cantidad de pasantes y asistentes, y se pudo buscar de inmediato a través de un portal interno.

La tecnología ha mejorado tan rápidamente, dijo Woods, que las herramientas estándar son "1000 veces mejores" que las que se tenían que construir desde cero hace cuatro años.

Una pregunta inminente es qué pueden y no pueden hacer las campañas con las poderosas herramientas de OpenAI. [Una lista] (https://openai.com/policies/sharing-publication-policy) de usos prohibidos el otoño pasado agrupados "campañas políticas, contenido para adultos, spam, contenido de odio".

Kim Malfacini, quien ayudó a crear las reglas de OpenAI y forma parte del equipo de confianza y seguridad de la empresa, dijo en una entrevista que “las campañas políticas pueden usar nuestras herramientas con fines de campaña. Pero es el uso a escala lo que estamos tratando de prohibir aquí”. OpenAI [revisó sus reglas de uso] (https://openai.com/policies/usage-policies) luego de ser contactado por The Times, especificando ahora que está prohibido "generar grandes volúmenes de materiales de campaña".

Tommy Vietor, ex vocero de Obama, incursionó en la IA. herramienta de ElevenLabs para crear una grabación falsa del Sr. Biden llamando al popular podcast "Pod Save America" que el Sr. Vietor copresenta. Pagó unos pocos dólares y subió un audio real del Sr. Biden, y salió una imagen de audio.

“La precisión fue asombrosa”, dijo Vietor en una entrevista.

El programa lo etiquetó claramente como A.I. Pero el Sr. Vietor no pudo evitar notar que algunos comentaristas en línea, sin embargo, parecían confundidos. “Empecé a jugar con el software pensando que esto es muy divertido, que será un gran vehículo para las bromas”, dijo, “y terminé pensando: ‘Dios mío, esto va a ser un gran problema’”.