Incidentes Asociados
A última hora de la tarde del domingo 21 de enero, Kathy Sullivan recibió un mensaje de texto de un familiar que decía que habían recibido una llamada de Sullivan o de su marido y que estaban haciendo un seguimiento.
Sullivan, tesorera de un super PAC que estaba llevando a cabo una campaña de voto por escrito para el presidente Joe Biden en las elecciones primarias de New Hampshire, estaba ocupada con tareas antes de una elección que se celebraría a solo dos días de distancia. Descartó el mensaje de texto y supuso que habían llamado a su amiga por accidente.
Unas horas más tarde, Sullivan se dirigía a la puerta para cenar cuando recibió otra llamada, esta vez de un votante de New Hampshire que le preguntó por qué estaba enviando mensajes de voz automáticos de Biden a su teléfono. Desconcertada, Sullivan le dijo que no había hecho tales llamadas y se fue sin pensar mucho más en los incidentes.
A mitad de la cena, Sullivan miró su teléfono y vio una docena de llamadas perdidas de números que no reconocía. Fue entonces cuando pensó: "Oh, rayos, hay algo más aquí de lo que me doy cuenta. Algo está pasando".
Alguien había comenzado a inundar a los votantes de New Hampshire con una llamada automática que sonaba como si Biden advirtiera a los demócratas de no votar en las primarias del martes porque "solo ayuda a los republicanos en su búsqueda por elegir a Donald Trump". La voz instaba a los demócratas leales a recordar que "su voto hace la diferencia en noviembre, no este martes".
Una grabación de audio de una llamada automática haciéndose pasar por el presidente Joe Biden dirigida a los votantes de New Hampshire.
Aún más extraño, el número de teléfono que apareció en el identificador de llamadas parecía pertenecer a Sullivan, la expresidenta del partido estatal demócrata de New Hampshire. Quien haya orquestado las llamadas había falsificado su número de celular, lo que provocó que Sullivan fuera bombardeada con preguntas y quejas de los votantes de New Hampshire.
Lo que había estado preocupando a Sullivan resultó haber sido un posible hito en las elecciones estadounidenses de 2024: lo que parece ser el primer caso de desinformación de audio generada por IA dirigida a los votantes estadounidenses. Es poco probable que sea el último.
Los tecnólogos, especialistas en ciberseguridad y agencias gubernamentales han advertido durante años que las herramientas de inteligencia artificial podrían usarse para crear imágenes, videos y audios realistas de personas haciendo y diciendo cosas que nunca hicieron. La llamada automática de New Hampshire marca el momento en el que la posibilidad de que actores maliciosos aprovechen las falsificaciones profundas en las elecciones de 2024 se volvió visceralmente real.
"Lo que estamos viendo ahora en New Hampshire es la aplicación de esta tecnología a gran escala", dijo a CyberScoop Rex Booth, ex funcionario de la Agencia de Seguridad de Infraestructura y Ciberseguridad y de la Oficina del Director Nacional de Ciberseguridad.
En este caso, el actor detrás de las llamadas, así como su motivo final, sigue siendo desconocido. El impacto de la llamada en el comportamiento de los votantes sigue sin estar claro, y Biden ganó cómodamente sus primarias a pesar de no aparecer en la boleta.
Si bien los votantes estadounidenses ya han estado expuestos a deepfakes, información errónea y desinformación, el incidente en New Hampshire muestra cómo la IA puede "aplicarse de una manera que tenga la capacidad de impactar a un mayor número de votantes potenciales de manera más rápida, más inmediata y de formas más relevantes y directas", dijo Booth, quien ahora es el director de seguridad de la información en la empresa de software Sailpoint.
El año pasado se produjo una explosión de desinformación generada por IA en países como Eslovaquia, Reino Unido y Taiwán. Si bien los deepfakes se han utilizado en las elecciones estadounidenses antes, como cuando el Comité Nacional Republicano publicó un anuncio generado por IA para describir una visión apocalíptica del futuro de los Estados Unidos si Biden fuera reelegido en 2024, el incidente de New Hampshire es la primera vez que se ha utilizado para apuntar directamente a los votantes estadounidenses y cambiar su comportamiento en las urnas.
"Esto era predecible y se predijo", dijo a CyberScoop Lindsay Gorman, investigadora principal de tecnologías emergentes en la Alianza para Asegurar la Democracia del German Marshall Fund y ex asesora principal de la Casa Blanca sobre IA, democracia y seguridad nacional.
La proliferación de sistemas de inteligencia artificial y la relativa facilidad con la que se puede imitar a una persona mediante tecnología deepfake (que normalmente requiere un audio de alrededor de una hora y, a veces, de tan solo tres minutos) significa que la llamada automática de New Hampshire probablemente sea un indicio de lo que está por venir en el transcurso de las elecciones de 2024.
"Dudo mucho que este sea el último incidente de este tipo que veamos", dijo Gorman.
Sullivan y otros han presentado una denuncia ante la Fiscalía General de New Hampshire por las llamadas, aunque reconoció que no está segura de qué leyes estatales o federales pueden haberse violado. La policía de New Hampshire ya está investigando el incidente. Los miembros demócratas del Congreso han pedido al Fiscal General de los Estados Unidos, Merrick Garland, que abra una investigación federal.
“Estos mensajes parecen ser un intento ilegal de perturbar las elecciones primarias presidenciales de New Hampshire y de suprimir a los votantes de New Hampshire”, dijo la oficina del Fiscal General del estado en una declaración del 23 de enero.
En cierto modo, Sullivan estaba excepcionalmente preparada para manejar un incidente como este. En 2002, era la presidenta del partido demócrata estatal cuando los agentes del Partido Republicano llevaron a cabo un plan de interferencia telefónica que tenía como objetivo perturbar la operación de su partido para conseguir votos en una carrera al Senado muy reñida. Cuatro personas, entre ellas Charles McGee, director ejecutivo del Partido Republicano de New Hampshire, fueron acusadas y condenadas o se declararon culpables de cargos derivados de sus papeles en el incidente.
En otros sentidos, Sullivan es un símbolo de lo mal equipados que están muchos funcionarios estatales y locales para manejar las amenazas de la IA. Se describe a sí misma como “una persona no técnica” y alguien que antes de esta semana solo tenía un conocimiento general sobre la inteligencia artificial, las falsificaciones profundas y su posible impacto en las elecciones.
“Por supuesto, ahora estoy extremadamente interesada y prestaré mucha más atención”, dijo Sullivan.
La primera línea de defensa contra campañas como la de New Hampshire serán los funcionarios electorales estatales y locales, muchos de los cuales ya están lidiando con la falta de recursos y la creciente hostilidad de los votantes que desconfían del sistema electoral.
Las agencias federales como CISA han desempeñado un papel importante en la lucha contra la desinformación en elecciones pasadas, sobre todo a través de una página web de “Control de rumores” que desacreditó varias teorías conspirativas relacionadas con las elecciones antes de las elecciones de 2020.
Sin embargo, una serie de recientes sentencias judiciales y una presión de todo el tribunal por parte de miembros republicanos del Congreso, quienes han argumentado que el gobierno federal no debería dedicarse a vigilar la desinformación, ha obstaculizado significativamente la capacidad de agencias como CISA para interactuar con empresas de redes sociales y coordinarse con terceros en torno a la desinformación.
Para una agencia cuyo director fundador fue despedido sumariamente en 2020 después de rechazar la desinformación relacionada con las elecciones, las cicatrices políticas y las reacciones negativas han continuado.
"No creo que CISA tenga ni el apetito ni la autoridad para meterse en esas aguas nuevamente", dijo Booth.
En un artículo de opinión de enero [https://www.foreignaffairs.com/united-states/artificial-intelligences-threat-democracy] publicado en Foreign Affairs, la directora de CISA, Jen Easterly, la asesora principal de seguridad electoral, Cait Conley, y el secretario de estado de Kansas, Scott Schwab, escribieron que si bien se necesita apoyo federal, "en gran parte, la responsabilidad de enfrentar esta amenaza recaerá en los funcionarios electorales estatales y locales del país".
"Tenemos que resolver esto. “No tenemos la capacidad para hacer eso, así que vamos a tener que depender de alguna ayuda de los nacionales”, dijo Sullivan, quien pidió a las organizaciones partidarias nacionales y a los legisladores federales que aborden el problema a través de capacitaciones, recursos y legislación.
Si bien la llamada automática de New Hampshire fue disruptiva, Sullivan cree que los funcionarios estatales y locales pueden aprender del episodio y de cómo ella y otros funcionarios respondieron a él. Si bien muchas campañas ya emplean equipos de respuesta rápida para acontecimientos de última hora, ese equipo debería tener algún tipo de plan para lidiar con la aparición de medios falsos o probablemente falsos, dijo Sullivan.
“Tienes que tener personas que estén preparadas para actuar en un abrir y cerrar de ojos. Tienes que estar preparado para los mensajes, de modo que no te tomes tres horas para averiguar qué decir en ese correo electrónico masivo”, argumentó Sullivan.
En el caso de New Hampshire, Sullivan y otros funcionarios del partido se movilizaron de inmediato para enviar correos electrónicos a los partidarios advirtiéndoles sobre el audio falso e instándolos a votar en las primarias del martes. También se comunicaron con los medios de comunicación en un esfuerzo por obtener una cobertura más amplia del incidente.
Se recurrió a los abogados del personal para que identificaran y contactaran rápidamente a los funcionarios pertinentes de las fuerzas del orden y la oficina del fiscal general del estado para informar sobre la llamada. Sullivan dijo que tener esos contactos a mano ahorró un tiempo precioso y contribuyó a un rápido anuncio emitido el lunes de que las fuerzas del orden estatales estaban investigando el incidente, algo que podría no haber sucedido si hubieran llamado a las autoridades de la nada con denuncias de fraude electoral habilitado por IA.
Pero las campañas y oficinas electorales más pequeñas pueden carecer de los recursos para responder de manera efectiva a estos incidentes en tiempo real. Y a medida que avanza la campaña de 2024, las campañas políticas más oscuras pueden resultar blancos más fáciles para la desinformación de la IA, que podría ser más difícil de detectar en carreras menos examinadas.
Si bien el tono monótono y la cadencia robótica de la llamada automática de New Hampshire pueden no haber engañado a los votantes familiarizados con el estilo de hablar de Biden por décadas de exposición en los medios, los votantes podrían ser engañados más fácilmente por una falsificación profunda de un candidato menos conocido que se postula para un cargo estatal. Si ese candidato alguna vez habló en una reunión pública o apareció en una entrevista televisiva, lo más probable es que haya suficiente audio y video de ellos en el dominio público para crear falsificaciones profundas convincentes.
"No sé si alguien podría haber evitado que esto sucediera, si alguien tuviera la capacidad de hacerlo", dijo Sullivan. "Entonces, ¿cómo podemos estar mejor preparados?"