Incidentes Asociados
NUEVA ORLEÁNS — Un consultor demócrata que trabajó para una campaña presidencial rival le pagó a un mago de Nueva Orleans para que usara inteligencia artificial para hacerse pasar por el presidente Joe Biden en una llamada automática que ahora está en el centro de una investigación policial en varios estados, según mensajes de texto, registros de llamadas y transacciones de Venmo que el creador compartió con NBC News.
Paul Carpenter dice que fue contratado en enero por Steve Kramer, quien ha trabajado en el acceso a las boletas para el candidato presidencial demócrata Dean Phillips, para usar software de inteligencia artificial para hacer la imitación de la voz de Biden instando a los demócratas de New Hampshire a no votar en las primarias presidenciales del estado.
“Yo creé el audio que se usó en la llamada automática. No lo distribuí”, dijo Carpenter en una entrevista en Nueva Orleans, donde reside actualmente. “Estaba en una situación en la que alguien me ofreció dinero para hacer algo, y lo hice. No había ninguna intención maliciosa. No sabía cómo se iba a distribuir”.
Carpenter, que posee récords mundiales en huidas con tenedores doblados y con camisas de fuerza, pero no tiene una dirección fija, mostró a NBC News cómo creó el audio falso de Biden y dijo que se presentó porque lamenta su participación en la terrible experiencia y quiere advertir a la gente sobre lo fácil que es usar la inteligencia artificial para engañar.
Crear el audio falso tomó menos de 20 minutos y costó solo $1, dijo, por el cual le pagaron $150, según los pagos de Venmo de Kramer y su padre, Bruce Kramer, que compartió.
“Da mucho miedo que sea tan fácil de hacer”, dijo Carpenter. “La gente no está preparada para ello”.
Carpenter compartió lo que dice que es el archivo de audio original creado con Eleven Labs que parece ser una versión completa y de mayor calidad de la grabación de la llamada que NBC News informó anteriormente.
La llamada automática ha llamado intensamente la atención de los funcionarios encargados de hacer cumplir la ley de New Hampshire y federales por posiblemente violar la supresión de votantes del estado y las leyes federales de telecomunicaciones. Los funcionarios han mencionado el nombre de una empresa de Dallas que se utilizó para realizar las llamadas telefónicas automáticas a los votantes antes de las primarias del estado y se han comprometido a investigar, citando el deseo de hacer un ejemplo de los involucrados en el primer ejemplo conocido de un deepfake generado por IA que se implementó maliciosamente en una campaña política estadounidense. Las autoridades no han nombrado a Carpenter ni a Steve Kramer como objetivos de su investigación.
Después de la publicación, un portavoz del fiscal general de New Hampshire se negó a hacer comentarios, pero dijo: "Nuestra investigación sigue activa y en curso".
Los protagonistas
Steve Kramer es un veterano agente político que ha trabajado en docenas de campañas durante 20 años, incluida la campaña presidencial de 2020 de Ye, el rapero anteriormente conocido como Kanye West.
Inicialmente, Steve Kramer no respondió a múltiples solicitudes de comentarios. Días después, dijo que esperaría para hablar sobre el asunto hasta que publique un artículo de opinión el sábado. "Mi artículo de opinión lo explicará todo", dijo en un mensaje de texto.
La campaña de Phillips y el propio candidato expresaron su indignación cuando se les preguntó sobre la presunta participación de Steve Kramer, diciendo que nunca volverán a trabajar con él y que podrían emprender acciones legales si se confirman las acusaciones.
"Me repugna que un consultor contratado para ayudar a mi campaña con el acceso a las papeletas supuestamente haya falsificado una llamada automática haciéndose pasar por Joe Biden", escribió Phillips en Twitter el viernes después de que se publicara esta historia. "Si bien no conozco a la persona, tal comportamiento es despreciable y confío en que las autoridades lo investiguen".
"También es despreciable que el Partido limite activamente el acceso a las papeletas estatales y ponga en la lista negra a consultores respetables que de otro modo trabajarían con rivales como yo. La corrupción en la política es omnipresente y debe ser expuesta y abordada", agregó.
NBC News no ha visto evidencia de que la campaña le haya ordenado a Steve Kramer que produjera o difundiera la llamada automática.
Los registros de la Comisión Federal Electoral muestran que la campaña de Phillips le pagó a Steve Kramer $259,946 en diciembre y enero. Los pagos fueron para el trabajo de acceso a las papeletas en Nueva York y Pensilvania, que incluye la búsqueda de las firmas necesarias para calificar para la papeleta. La campaña dijo que el trabajo incluía la producción y distribución de una llamada automática que incluía la voz de Phillips.
Los pagos enumerados en sus archivos de financiación de campaña indicaron que Steve Kramer hizo un trabajo para conseguir votos
“Si es cierto que el Sr. Kramer tuvo alguna participación en la creación de llamadas automáticas deepfake, lo hizo por su propia voluntad y no tuvo nada que ver con nuestra campaña”, dijo la secretaria de prensa de Phillips, Katie Dolan. “La noción fundamental de nuestra campaña es la importancia de la competencia, la elección y la democracia. Nos disgusta saber que el Sr. Kramer supuestamente está detrás de esta llamada, y si las acusaciones son ciertas, denunciamos absolutamente sus acciones”.
La campaña de Phillips dijo que su relación con Steve Kramer terminó hace varias semanas, después de que completó su contrato para reunir firmas para ayudar al candidato a aparecer en la boleta electoral en sus estados asignados y no había habido comunicación con él hasta el jueves por la noche.
La asesora principal de la campaña de Biden, Liz Purdy, dijo en una declaración posterior a la publicación que la campaña está “hipervigilante” ante la “amenaza urgente” de la desinformación.
"Apoyamos los esfuerzos, incluidos los de las fuerzas del orden de New Hampshire, para exigir responsabilidades a quienes quieran perturbar nuestras elecciones democráticas", añadió.
El mago y el consultor político
Carpenter, que nació en Houston y se autodenomina un "artista nómada digital de la vida", no esperaba acabar en medio de un escándalo político nacional cuando dice que conoció a Steve Kramer el año pasado.
"Lo único que falta en el circo político es un mago y aquí estoy", dijo Carpenter, que también presenta un podcast, ha creado mentalismo videos instructivos y dice que ha actuado en 24 países.
En los últimos años, dijo que ha estado desarrollando programas informáticos y experimentando con NFT, creación de contenido e IA.
Conduce una motocicleta con su mezcla de Dachshund y Chihuahua, que usa gafas para perros. Sus opiniones políticas son excéntricas.
Habla de su creencia en teorías conspirativas de derecha como la del “estado profundo” y tiene “algunos problemas” con el primer alunizaje, pero también dice que montó una pieza de arte escénico en la que colocó un inodoro de porcelana sobre la estrella del expresidente Donald Trump en el Paseo de la Fama de Hollywood y fingió defecar sobre él.
Ha realizado varias de esas maniobras con el objetivo de provocar, dice, como una en la que llevaba solo una hoja de parra en Times Square en la ciudad de Nueva York como expresión de “autenticidad radical”, y otra en la que se filmó a sí mismo retratando varios arquetipos estadounidenses, incluido un supremacista blanco con una esvástica en la frente, que dice que tenía como objetivo mostrar que todos somos humanos, a pesar de lo mucho que nos odiemos unos a otros.
Él y Steve Kramer fueron presentados a través de un conocido en común, para quien había hecho algunos trabajos de diseño web y gestión de redes sociales, dijo Carpenter, y se interesó en su experiencia con IA.
Carpenter dijo que creía que Steve Kramer estaba trabajando para las personas cuyas voces se le pedía que imitara y que los proyectos de voz estaban autorizados por las campañas. No había oído hablar de Phillips, un congresista de Minnesota, y dijo que no estaba al tanto del trabajo de Steve Kramer para el candidato.
Los dos primeros proyectos se hicieron pasar por el senador Lindsey Graham, republicano por Carolina del Sur, aparentemente para ser utilizados en encuestas robóticas que preguntaban a los votantes de las primarias presidenciales del Partido Republicano a qué candidato apoyaban, dijo Carpenter. El tercero fue el audio falso de Biden que decía a los demócratas que no salieran a votar en New Hampshire.
"Ten un proyecto de voz de IA", le escribió Steve Kramer a Carpenter el 27 de septiembre, según los mensajes de texto que Carpenter compartió con NBC News. El número de teléfono en esos mensajes de texto para Steve Kramer coincidía con una búsqueda de registros en línea y también se confirmó al contactarlo para obtener comentarios. Steve Kramer le envió a Carpenter una muestra de audio de la voz del senador de Carolina del Sur y le dijo que le enviaría un "guión para que la encuesta de Prez coincidiera con la voz de Carolina del Sur antes mencionada".
En enero, tres días antes de las primarias presidenciales de New Hampshire, Steve Kramer le envió un mensaje de texto a Carpenter nuevamente, diciendo que le había enviado un guion por correo electrónico. Para el pago, Steve Kramer luego dirigió a Carpenter a su padre, Bruce Kramer, por razones que Carpenter desconoce.
Las transacciones de Venmo muestran que una cuenta con el nombre de Bruce Kramer le pagó a Carpenter $150 en dos transacciones el 20 de enero.
"No tengo nada que decir sobre el tema", dijo Bruce Kramer en una breve entrevista telefónica el jueves.
El 22 de enero, cuando NBC News dio a conocer por primera vez la noticia de la falsa llamada automática a Biden, Steve Kramer le envió un mensaje de texto a Carpenter con un enlace a la historia junto con el mensaje "Shhhhhhh", a lo que Carpenter respondió "Gtfooh", un acrónimo utilizado para expresar asombro.
Las capturas de pantalla de los registros de llamadas muestran numerosas llamadas telefónicas de ida y vuelta entre Steve Kramer y Carpenter durante las siguientes horas. Carpenter dice que cumplió con la solicitud de Steve Kramer de eliminar toda su correspondencia por correo electrónico, que dice que incluía los guiones de la falsa llamada automática a Biden y otras instrucciones.
Un veterano estratega demócrata que no conoce personalmente a Steve Kramer recibió un mensaje urgente de él el 30 de enero pidiendo hablar sobre la llamada automática a Biden. El agente, que pidió el anonimato para hablar sobre la conversación privada, no respondió.
¿Quién es Steve Kramer?
Steve Kramer, presidente de su propia pequeña firma, es un especialista en movilización de votantes que ha trabajado en docenas de campañas, en su mayoría demócratas, durante los últimos 20 años, incluidas algunas de alto perfil. Tiene una amplia experiencia con llamadas automáticas, según los registros de financiación de campañas estatales y federales.
Anteriormente radicado en Nueva York, tiene un historial de trabajo en la política de la ciudad de Nueva York. Su página de Facebook lo muestra con frecuencia de vacaciones y disfrutando de la vida nocturna en Nueva Orleans o Miami con una camisa llamativa y una bebida en la mano.
Steve Kramer ha trabajado en numerosas campañas importantes, pero este no es su primer roce con la controversia.
En 2020, mientras trabajaba para la campaña presidencial independiente de Ye, Steve Kramer ayudó a Ye con el acceso a las papeletas en varios estados y habló oficialmente como uno de los principales estrategas de la campaña. Ye terminó teniendo problemas por el acceso a su papeleta electoral en tres estados y también fue criticado por sus comentarios sobre la esclavitud.
En 2021, una excliente, Sara Tirschwell, republicana que se había postulado para alcaldesa de la ciudad de Nueva York, demandó a Steve Kramer. Ella lo acusó de sabotear su campaña al entregar firmas que terminaron siendo en su mayoría inválidas, lo que le impidió entrar en la boleta. Se ha negado a hacer comentarios sobre litigios pendientes, pero negó las acusaciones en los documentos judiciales; el caso sigue abierto.
Cómo se hizo el deepfake
Carpenter le mostró a NBC News cómo creó la imitación de la voz de Biden, usando la voz de un reportero como sustituto para evitar violar los términos de servicio de la plataforma de IA contra el uso no autorizado de la voz de una persona.
Utilizó Eleven Labs, un generador de voz de texto a voz de IA que ha sido identificado por un análisis de NBC News y expertos externos como la herramienta utilizada para crear la llamada automática de Biden. También utilizó otras herramientas de IA en su mayoría gratuitas para mostrar cómo podía agregar el audio a un video de una persona hablando y animar sus labios para que coincidan.
"No les estoy mostrando nada que no puedan aprender a hacer en YouTube", dijo Carpenter.
Carpenter también demostró que su cuenta anterior de Eleven Labs, vinculada a su dirección de correo electrónico principal, fue cerrada por la empresa con un mensaje que decía: "Hemos cerrado su cuenta debido a una actividad inusual". Carpenter dijo que la cuenta fue bloqueada días después de que NBC News publicara la historia por primera vez, lo que coincide con un informe de Bloomberg que indicaba que Eleven Labs había bloqueado la cuenta que creó el audio de la llamada automática el 26 de enero.
Lo está representando pro-bono un abogado que encontró en Reddit, Brandon Kizy, un abogado de defensa penal y de la Primera Enmienda con sede en Detroit.
“Paul no tenía conocimiento previo de para qué se usaría el contenido generado por IA y Paul no tenía conocimiento de que se usaría para afectar potencialmente o ser usado en conexión con cualquier elección o actividad de votantes”, dijo Kizy.
Hasta ahora, la parte pública de la investigación policial sobre las llamadas se ha centrado en una empresa de telemarketing de Texas que, según dicen, distribuyó las llamadas automáticas. Las autoridades de New Hampshire han dicho que han pedido a los funcionarios federales que examinen si las llamadas violaron la Ley de Protección al Consumidor Telefónico; la Ley de Veracidad en la Identificación de Llamadas; y la Ley de Prevención del Abuso y Fraude al Consumidor y al Telemarketing.
Las llamadas falsas de Biden llegaron a entre 5.000 y 25.000 personas y “falsificaron” el número de origen, según las autoridades, para que apareciera en el identificador de llamadas como si estuvieran llegando del ex presidente del Partido Demócrata de New Hampshire, que en ese momento dirigía una campaña de voto por escrito a favor de Biden.
“Nunca antes habíamos visto algo tan cercano a una elección y con un intento tan descarado de engañar a los votantes”, dijo el fiscal general de New Hampshire, John Formella, a principios de este mes. “No queremos que este sea el primero de muchos”.