Incidentes Asociados
Un grupo de defensa de los derechos de voto está demandando a un consultor político y a las empresas que están detrás de una llamada automática generada por inteligencia artificial al presidente Biden que en enero instó a los votantes de New Hampshire a no participar en las primarias presidenciales del estado.
La Liga de Mujeres Votantes de New Hampshire acusa al consultor de campaña Steve Kramer y a las empresas de telecomunicaciones Life Corp. y Lingo Telecom de intimidación, coerción y engaño de votantes en violación de las leyes federales y estatales, incluida la Ley de Derecho al Voto y la Ley de Protección del Consumidor Telefónico. La demanda, presentada en el Tribunal de Distrito de los EE. UU. de New Hampshire en nombre de tres votantes que dijeron haber recibido las llamadas automáticas, solicita a un juez que multe a los acusados y les impida producir, generar o distribuir otras llamadas automáticas generadas con inteligencia artificial.
"Estas llamadas automáticas engañosas intentaron causar una confusión generalizada entre los votantes de New Hampshire", dijo Liz Tentarelli, presidenta de la Liga de Mujeres Votantes de New Hampshire, en una declaración en la que anunció la demanda. "La Liga de Mujeres Votantes trabaja para garantizar que todos los votantes, independientemente de su afiliación partidaria, tengan la información electoral más precisa para que sus voces se escuchen. Continuaremos defendiendo a los votantes de New Hampshire y luchando contra los esquemas maliciosos para suprimir el voto".
La IA generativa (tecnología que forma texto, imágenes o sonidos en función de los datos que se le suministran) se ha vuelto más común y sofisticada en los últimos años. Los deepfakes suelen propagarse en X, Facebook y otras plataformas de redes sociales, informa The Washington Post, pero el incidente de la llamada automática de enero es uno de los primeros usos importantes conocidos de la IA para interferir en una elección presidencial estadounidense y muestra los poderes disruptivos y radicales de la IA: casi cualquiera puede usarla para sembrar el caos y la confusión.
"Si bien los actores de mala fe han buscado durante mucho tiempo socavar el proceso electoral mediante amenazas, intimidación y coerción, el uso malicioso de la inteligencia artificial por parte de los acusados plantea una amenaza novedosa y peligrosa para la democracia estadounidense", escribió el capítulo de la Liga de Mujeres Votantes en su denuncia.
Life Corp.; su propietario, Walter Monk; Lingo Telecom; y un representante de Kramer se negaron a hacer comentarios el sábado.
Kramer, el consultor veterano que trabajó para el candidato presidencial demócrata Dean Phillips, le dijo a The Washington Post en febrero que contrató al mago y autodenominado "nómada digital" Paul Carpenter para imitar la voz de Biden utilizando un software de la empresa de clonación de voz con inteligencia artificial ElevenLabs. Kramer dijo que la voz falsa de Biden fue creada en menos de 30 minutos y entregada por Voice Broadcasting, una entidad asociada con Life Corp. Kramer le dijo a The Post que creó la llamada automática para crear conciencia sobre los peligros de la IA durante un año electoral crucial.
"Si cualquiera puede hacerlo, ¿qué va a hacer una persona con dinero real, o una entidad con dinero real?", dijo.
Carpenter no está nombrado como acusado en la demanda.
Su abogado Brandon Kizy dijo que Carpenter está cumpliendo con las investigaciones, pero por lo demás se negó a hacer comentarios.
Los datos de identificación de la persona que llama mostraron que los mensajes parecían provenir de la expresidenta del Partido Demócrata de New Hampshire, Kathy Sullivan, quien lideraba el esfuerzo para lograr que los votantes escribieran el nombre de Biden en la boleta, según la demanda, aunque Sullivan no estaba involucrada.
La llamada decía: "El próximo martes son las primarias de preferencia presidencial de New Hampshire", según la demanda. "Los republicanos han estado tratando de presionar a los votantes no partidistas y demócratas para que participen en sus primarias. ¡Qué montón de tonterías! Sabemos el valor de votar por los demócratas cuando nuestros votos cuentan. Es importante que guardes tu voto para las elecciones de noviembre. Necesitaremos tu ayuda para elegir a los demócratas en todos los niveles. Votar este martes solo ayuda a los republicanos en su búsqueda por elegir a Donald Trump nuevamente. Tu voto marca la diferencia en noviembre, no este martes".
A principios de febrero, el fiscal general de New Hampshire, John Formella (R), abrió una investigación criminal sobre Life Corp. y envió a la empresa de telecomunicaciones con sede en Texas una carta ordenándole que detuviera las llamadas. La Comisión Federal de Comunicaciones también está investigando.
Las leyes han sido lentas para igualar el ritmo al que avanza la IA generativa. Las discusiones sobre esta tecnología se han estancado en el Congreso, a pesar de las advertencias de funcionarios de la industria como el director ejecutivo de OpenAI Sam Altman. Mientras tanto, los reguladores europeos se han movido a una velocidad vertiginosa.
Sin embargo, la FCC ha tomado medidas para frenar la IA. En las semanas posteriores a las llamadas automáticas, la FCC adoptó por unanimidad una resolución que aclara que generar una voz con IA para una llamada automática es ilegal.
"Los malos actores están utilizando voces generadas por IA en llamadas automáticas no solicitadas para extorsionar a familiares vulnerables, imitar a celebridades y desinformar a los votantes", dijo la presidenta de la FCC, Jessica Rosenworcel, en un comunicado. "Estamos poniendo sobre aviso a los estafadores detrás de estas llamadas automáticas".