Incidentes Asociados
El presidente del Comité de Relaciones Exteriores del Senado, Ben Cardin, demócrata por Maryland, fue el objetivo de una sofisticada operación de suplantación de identidad en la que un usuario de una videollamada utilizó imágenes falsas para hacerse pasar por un funcionario ucraniano de alto nivel, según varios informes publicados el miércoles por la noche, lo que pone de relieve la creciente amenaza de las imágenes y los vídeos falsos generados por inteligencia artificial.
El incidente, informado por primera vez por Punchbowl News y confirmado posteriormente por el New York Times, fue citado en un aviso enviado por la oficina de seguridad del Senado sobre una reciente llamada de Zoom que un senador tuvo con un individuo que se hizo pasar por Dmytro Kuleba, exministro de Asuntos Exteriores de Ucrania.
Citando a dos funcionarios del Senado, el Times confirmó que Cardin era el senador en cuestión, quien también le contó al medio sobre el “intento engañoso de un malhechor de tener una conversación conmigo haciéndose pasar por un individuo conocido”.
Según el aviso, Cardin se conectó con una persona que llamó por Zoom que se parecía y sonaba como Kubela después de recibir un correo electrónico de alguien que decía ser el líder ucraniano que recientemente renunció a su cargo como parte de una reorganización más amplia del gabinete.
Cardin, sin embargo, comenzó a sospechar sobre la autenticidad de la persona que llamó después de que le hicieran “preguntas políticamente cargadas en relación con las próximas elecciones”, incluso si apoyaba el uso de misiles de largo alcance para atacar territorio ruso.
En un aviso aparte publicado por NBC News, la oficina de seguridad del Senado también advirtió a los legisladores sobre una “campaña activa de ingeniería social… dirigida a senadores y personal del Senado”.
Cita crucial
“Si bien hemos visto un aumento de las amenazas de ingeniería social en los últimos meses y años, este intento se destaca por su sofisticación técnica y credibilidad”, decía el aviso.
En las últimas semanas, tanto los funcionarios de inteligencia como los ejecutivos tecnológicos han advertido que actores extranjeros están tratando de influir en las elecciones estadounidenses utilizando herramientas impulsadas por inteligencia artificial. En una evaluación publicada a principios de esta semana, la Oficina del Director de Inteligencia Nacional dijo que los actores extranjeros, incluidos Rusia e Irán, estaban utilizando "tecnología de inteligencia artificial generativa para impulsar sus respectivos esfuerzos de influencia electoral en Estados Unidos". Sin embargo, la declaración agregó que si bien la inteligencia artificial está "ayudando a mejorar y acelerar aspectos de las operaciones de influencia extranjera", el comité de inteligencia hasta ahora no la ha visto "revolucionar tales operaciones". La semana pasada, el vicepresidente de Microsoft, Brad Smith, testificó ante un comité del Senado sobre las operaciones de interferencia extranjera dirigidas a las elecciones de noviembre. Smith dijo que el uso de herramientas de IA en operaciones de interferencia este año ha sido “menos impactante de lo que muchos habían temido”, pero reconoció que “los actores decididos y avanzados” agudizarán su uso de IA con el tiempo.
Tangente
La semana pasada, el gobernador de California, Gavin Newsom, firmó tres nuevos proyectos de ley, incluido uno que entra en vigencia de inmediato y hace ilegal distribuir “medios de audio o visuales materialmente engañosos de un candidato” 120 días antes de una elección y, en algunos casos, 60 días después. La legislación de California llegó después de que Newsom prometiera acabar con las falsificaciones políticas. Ese llamado se produjo después de que el dueño de X y multimillonario Elon Musk compartiera un video de campaña alterado de la vicepresidenta Kamala Harris que usaba clips de audio generados por IA que imitaban su voz y la calificaba de “la mejor contratación de la diversidad” y “una marioneta del estado profundo”. Si bien la ley incluye excepciones para la parodia, siempre que estén claramente etiquetadas como tales, Musk atacó las leyes como censura y afirmó que “hacen que la parodia sea ilegal”.