Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Problema 4859

Incidentes Asociados

Incidente 70136 Reportes
American Asylum Seeker John Mark Dougan in Russia Reportedly Spreads Disinformation via AI Tools and Fake News Network

Un Bugatti, una primera dama y las historias falsas dirigidas a los estadounidenses
bbc.com · 2024

**Una red de sitios web con sede en Rusia que se hacen pasar por periódicos estadounidenses locales está difundiendo historias falsas como parte de una operación impulsada por inteligencia artificial que apunta cada vez más a las elecciones estadounidenses, según puede revelar una investigación de la BBC. ** **Un ex oficial de policía de Florida que se mudó a Moscú es una de las figuras clave detrás de esto. ** Lo siguiente habría sido un informe explosivo, si fuera cierto. Olena Zelenska, la primera dama de Ucrania, supuestamente compró un raro automóvil deportivo Bugatti Tourbillon por 4,5 millones de euros (4,8 millones de dólares; 3,8 millones de libras esterlinas) mientras visitaba París para las conmemoraciones del Día D en junio. La fuente de los fondos supuestamente era dinero de ayuda militar estadounidense. La historia apareció en un oscuro sitio web francés hace solo unos días y fue desacreditada rápidamente. Los expertos señalaron anomalías extrañas en la factura publicada en línea. Un denunciante citado en la historia apareció solo en un video editado de manera extraña que puede haber sido creado artificialmente. Bugatti lo desmintió tajantemente y lo calificó de "noticia falsa" (https://www.instagram.com/stories/bugatti_paris/3403151154050783240/), y su concesionario de París amenazó con emprender acciones legales contra las personas que estaban detrás de la historia falsa. Pero antes de que la verdad pudiera siquiera ponerse en pie, la mentira se había vuelto viral. Los influencers ya habían recogido la historia falsa y la habían difundido ampliamente. Un usuario de X, el activista prorruso y pro-Donald Trump Jackson Hinkle, publicó un enlace que vieron más de 6,5 millones de personas. Varias otras cuentas difundieron la historia a millones de usuarios más de X, al menos 12 millones en total, según las métricas del sitio. Era una historia falsa, en un sitio web de noticias falsas, diseñada para difundirse ampliamente en línea, con sus orígenes en una operación de desinformación con sede en Rusia que BBC Verify reveló por primera vez el año pasado, momento en el que la operación parecía estar tratando de socavar al gobierno de Ucrania. En esta factura falsa se detectaron varios errores, incluidos errores de ortografía, puntuación y uso del inglés, pero aun así se difundió ampliamente en línea. Nuestra última investigación, realizada durante más de seis meses y que implicó el examen de cientos de artículos en docenas de sitios web, descubrió que la operación tiene un nuevo objetivo: los votantes estadounidenses. Docenas de historias falsas rastreadas por la BBC parecen destinadas a influir en los votantes estadounidenses y sembrar desconfianza antes de las elecciones de noviembre. Algunas han sido ignoradas rotundamente, pero otras han sido compartidas por personas influyentes y miembros del Congreso de los EE. UU. La historia del Bugatti tocó muchos de los temas principales de la operación: la corrupción ucraniana, el gasto de ayuda estadounidense y el funcionamiento interno de la alta sociedad francesa. Otra falsificación que se volvió viral a principios de este año estaba dirigida más directamente a la política estadounidense. Se publicó en un sitio web llamado The Houston Post, uno de las docenas de sitios con nombres que suenan estadounidenses que en realidad están dirigidos desde Moscú, y afirmaba que el FBI había interceptado ilegalmente las comunicaciones del resort de Donald Trump en Florida. El hecho de que el sistema legal esté injustamente en su contra, de que haya una conspiración para frustrar su campaña y de que sus oponentes estén usando trucos sucios para debilitarlo, fue un buen complemento a las acusaciones de Trump de que el sistema legal está injustamente en su contra, de que hay una conspiración para frustrar su campaña y de que sus oponentes están usando trucos sucios para debilitarlo. El propio Trump ha acusado al FBI de espiar sus conversaciones. Los expertos dicen que la operación es solo una parte de un esfuerzo mucho más grande, dirigido desde Moscú, para difundir desinformación durante la campaña electoral estadounidense. Si bien no ha surgido evidencia sólida de que estos sitios web de noticias falsas en particular estén dirigidos por el estado ruso, los investigadores dicen que la escala y la sofisticación de la operación son en general similares a los esfuerzos anteriores respaldados por el Kremlin para difundir desinformación en Occidente. "Rusia participará en las elecciones estadounidenses de 2024, al igual que otros", dijo Chris Krebs, quien, como director de la Agencia de Seguridad de Infraestructura y Ciberseguridad de Estados Unidos, fue responsable de garantizar la integridad de las elecciones presidenciales de 2020. "Ya los estamos viendo, desde una perspectiva más amplia de operaciones de información en las redes sociales y en otros lugares, entrar en la contienda, presionando contra puntos ya polémicos en la política estadounidense", dijo. La BBC se puso en contacto con el Ministerio de Asuntos Exteriores de Rusia y las embajadas de Rusia en Estados Unidos y el Reino Unido, pero no recibió respuesta. También intentamos ponernos en contacto con el Sr. Hinkle para obtener comentarios. Cómo se difundieron las falsificaciones -------------------- El verdadero Chicago Chronicle (arriba) tuvo su apogeo a fines del siglo XIX. Abajo, el logotipo del sitio de noticias falsas que apareció en línea en los últimos meses Desde que las campañas de desinformación respaldadas por el estado y las operaciones de "noticias falsas" para ganar dinero atrajeron la atención durante la campaña electoral estadounidense de 2016, los comerciantes de desinformación han tenido que ser más creativos tanto para difundir su contenido como para hacerlo parecer creíble. La operación investigada por BBC Verify utiliza inteligencia artificial para generar miles de artículos de noticias, publicados en docenas de sitios con nombres que pretenden sonar típicamente estadounidenses: Houston Post, Chicago Crier, Boston Times, DC Weekly y otros. Algunos usan los nombres de periódicos reales que cerraron hace años o décadas. La mayoría de las historias en estos sitios no son completamente falsas. En cambio, se basan en noticias reales de otros sitios aparentemente reescritas por software de inteligencia artificial. En algunos casos, las instrucciones para los motores de IA eran visibles en las historias terminadas, como: "Por favor, reescribe este artículo adoptando una postura conservadora". Un ejemplo de instrucciones para un programa de IA, dejadas por error en una historia en uno de los sitios de noticias falsas Las historias se atribuyen a cientos de periodistas falsos con nombres inventados y, en algunos casos, fotos de perfil tomadas de otros lugares de Internet. Por ejemplo, una foto de la escritora de best-sellers Judy Batalion se utilizó en varias historias en un sitio web llamado DC Weekly, "escritas" por una personalidad en línea llamada "Jessica Devlin". "Estaba totalmente confundida", dijo Batalion a la BBC. "Todavía no entiendo realmente qué estaba haciendo mi foto en este sitio web". Batalion dijo que asumió que la foto había sido copiada y pegada de su perfil de LinkedIn. "No tuve contacto con este sitio web", dijo. "Me ha hecho más consciente del hecho de que cualquier foto tuya en línea puede ser utilizada por otra persona". Judy Batalion no tenía nada que ver con la operación de noticias falsas, pero su foto fue una de las muchas que se copiaron y pegaron de otros lugares de Internet para que los reporteros de la cadena parecieran reales. La gran cantidad de historias (miles cada semana) junto con su repetición en diferentes sitios web indica que el proceso de publicación de contenido generado por inteligencia artificial está automatizado. Los navegadores ocasionales podrían fácilmente tener la impresión de que los sitios son fuentes prósperas de noticias legítimas sobre política y temas sociales candentes. Sin embargo, entremezclado con este tsunami de contenido está el verdadero meollo de la operación: historias falsas dirigidas cada vez más al público estadounidense. Las historias a menudo mezclan cuestiones políticas estadounidenses y ucranianas; por ejemplo, una afirmó que una trabajadora de un grupo de propaganda ucraniano se sintió consternada al descubrir que le habían asignado tareas diseñadas para derribar a Donald Trump y apoyar al presidente Biden. Otro informe inventó un viaje de compras a Nueva York realizado por la primera dama de Ucrania y alegó que era racista con el personal de una joyería. La BBC ha descubierto que se utilizaron documentos falsificados y videos falsos de YouTube para reforzar ambas historias falsas. Algunas de las falsificaciones se difunden y obtienen altos índices de participación en las redes sociales, dijo Clement Briens, analista senior de inteligencia de amenazas en la empresa de ciberseguridad Recorded Future. Su empresa dice que 120 sitios web fueron registrados por la operación - a la que llama CopyCop - en solo tres días en mayo. Y la red es solo una de varias operaciones de desinformación con sede en Rusia. Otros expertos - en Microsoft, la Universidad de Clemson y en Newsguard, una empresa que rastrea sitios de desinformación - también han estado rastreando la red. Newsguard dice que ha contabilizado al menos 170 sitios conectados a la operación. "Inicialmente, la operación parecía pequeña", dijo McKenzie Sadeghi, editor de inteligencia artificial e influencia extranjera de Newsguard. “A medida que pasaba cada semana, parecía crecer significativamente en términos de tamaño y alcance. La gente en Rusia citaba y promovía regularmente estas narrativas, a través de la televisión estatal rusa, funcionarios del Kremlin e influyentes del Kremlin. “Casi cada semana o dos se origina una nueva narrativa de esta red”, dijo. Hacer que lo falso parezca real --------------------------- Para reforzar aún más la credibilidad de las historias falsas, los agentes crean videos de YouTube, a menudo con personas que dicen ser “denunciantes” o “periodistas independientes”. En algunos casos, los videos están narrados por actores; en otros, parece que son voces generadas por IA. Varios de los videos parecen estar grabados contra un fondo de aspecto similar, lo que sugiere aún más un esfuerzo coordinado para difundir noticias falsas. Los videos en sí no están destinados a volverse virales y tienen muy pocas vistas en YouTube. En cambio, los videos se citan como “fuentes” y se citan en historias de texto en los sitios web de periódicos falsos. El falso 'denunciante' de YouTube que fue citado como fuente en la falsa historia sobre la supuesta intervención telefónica del FBI a Donald Trump Por ejemplo, la historia sobre la operación de información ucraniana supuestamente dirigida a la campaña de Trump citó un video de YouTube que supuestamente incluía tomas de una oficina en Kiev, donde se veían carteles de campaña falsos en las paredes. Los enlaces a las historias se publican luego en canales de Telegram y otras cuentas de redes sociales. Con el tiempo, las sensacionalistas "primicias" -que, como la historia de la intervención telefónica de Trump y una serie de historias anteriores sobre la corrupción ucraniana, a menudo repiten temas ya populares entre los rusos patriotas y algunos partidarios de Donald Trump- pueden llegar tanto a los influyentes rusos como al público de Occidente. Aunque solo unos pocos llegan a los niveles más altos de prominencia, algunos se han extendido a millones de personas -y a personas poderosas-. Una historia que se originó en DC Weekly, afirmando que funcionarios ucranianos compraron yates con ayuda militar estadounidense, [fue repetida por varios miembros del Congreso, incluido el senador J. D. Vance y la representante Marjorie Taylor Greene] (https://www.bbc.com/news/world-us-canada-67766964). El Sr. Vance es uno de los pocos políticos mencionados como un potencial compañero de fórmula de vicepresidente para Donald Trump. El ex policía estadounidense ----------------- Una de las personas clave involucradas en la operación es John Mark Dougan, un ex marine estadounidense que trabajó como oficial de policía en Florida y Maine en la década de 2000. El Sr. Dougan luego creó un sitio web diseñado para recopilar información filtrada sobre su antiguo empleador, la Oficina del Sheriff del Condado de Palm Beach. En un presagio de sus actividades en Rusia, el sitio del Sr. Dougan publicó información auténtica, incluidas las direcciones de los hogares de los oficiales de policía, junto con historias falsas y rumores. El FBI allanó su apartamento en 2016, momento en el que huyó a Moscú. Desde entonces ha escrito libros, ha informado desde las zonas ocupadas de Ucrania y ha aparecido en paneles de centros de investigación rusos, en eventos militares y en una cadena de televisión propiedad del Ministerio de Defensa de Rusia. En conversaciones por mensajes de texto con la BBC, Dougan ha negado rotundamente estar involucrado con los sitios web. El martes, negó tener conocimiento alguno de la historia sobre el coche deportivo Bugatti. Pero en otras ocasiones ha alardeado de su destreza para difundir noticias falsas. En un momento dado, también dio a entender que sus actividades son una forma de venganza contra las autoridades estadounidenses. “Para mí es un juego”, dijo. “Y una pequeña revancha”. En otro momento dijo: “Mi canal de YouTube recibió muchos ataques por desinformación” por sus reportajes desde Ucrania, lo que aumenta la posibilidad de que su canal sea eliminado de la red. “Así que si quieren decir desinformación, bueno, hagámoslo bien”, escribió. Una gran cantidad de evidencia digital también muestra conexiones entre el ex oficial de policía y los sitios web con sede en Rusia. La BBC y los expertos que consultamos rastrearon direcciones IP y otra información digital hasta los sitios web administrados por Dougan. En un momento dado, una historia en el sitio DC Weekly, escrita en respuesta a un artículo del New York Times que mencionaba a Dougan, se atribuyó a “un ciudadano estadounidense, el propietario de estos sitios”, y decía: “Soy el propietario, un ciudadano estadounidense, un veterano militar de los EE. UU., nacido y criado en los Estados Unidos”. El artículo terminaba con la dirección de correo electrónico de Dougan. Poco después de que informáramos sobre las actividades de Dougan en una historia anterior, apareció brevemente en línea una versión falsa del sitio web de la BBC. Estaba vinculada a su red a través de marcadores digitales. Es muy probable que Dougan no sea la única persona que trabaja en la operación de influencia y no está claro quién la financia. "Creo que es importante no exagerar su papel en esta campaña", dijo Darren Linvill, codirector del Media Forensic Hub de la Universidad de Clemson, que ha estado rastreando la red. "Puede que sea solo un actor secundario y un tonto útil, porque es estadounidense". A pesar de sus apariciones en los medios estatales y en los think tanks vinculados al gobierno, Dougan niega que el Kremlin le pague. "El gobierno ruso nunca me ha pagado ni un centavo", dijo por mensaje de texto. Apuntando a las elecciones estadounidenses ------------------------- La operación en la que participa Dougan ha cambiado cada vez más su enfoque de las historias sobre la guerra en Ucrania a las historias sobre la política estadounidense y británica. El artículo falso sobre el FBI y la supuesta intervención telefónica en el resort Mar-a-Lago de Trump fue una de las primeras historias producidas por la cadena que trataba exclusivamente sobre política estadounidense, sin mencionar a Ucrania ni a Rusia. Clint Watts, que dirige el Centro de Análisis de Amenazas Digitales de Microsoft, dijo que la operación a menudo combina temas con relevancia tanto en Ucrania como en Occidente. Watts dijo que el volumen de contenido que se publica y la creciente sofisticación de los esfuerzos basados en Rusia podrían plantear un problema importante en el período previo a las elecciones de noviembre. "No se están distribuyendo masivamente todas las veces", dijo, pero señaló que varios intentos realizados cada semana podrían llevar a que las narrativas falsas se arraiguen en el "océano de información" de una importante campaña electoral. "Puede tener un impacto descomunal", y las historias de la red pueden despegar muy rápidamente, dijo. "Atrás quedaron los días en que Rusia compraba anuncios en rublos, o tenía trolls bastante obvios que estaban sentados en una fábrica en San Petersburgo", dijo Nina Jankowicz, directora del American Sunlight Project, una organización sin fines de lucro que intenta combatir la propagación de la desinformación. La Sra. Jankowicz fue brevemente directora de la efímera Junta de Gobernanza de Desinformación de EE. UU., una rama del Departamento de Seguridad Nacional diseñada para abordar la información falsa. "Ahora estamos viendo mucho más lavado de información", dijo, usando un término que se refiere al reciclaje de historias falsas o engañosas en la corriente principal para ocultar su fuente última. A dónde va después ------------------ Un video de YouTube narrado por una voz generada por IA fue plantado como la fuente de la historia falsa de que Zelensky compró una mansión de £ 20 millones al rey Carlos III Los investigadores de Microsoft también dicen que la operación está tratando de difundir historias sobre la política del Reino Unido, con la vista puesta en las elecciones generales del jueves, y los Juegos Olímpicos de París. Una historia falsa, que apareció en el sitio web llamado London Crier, afirmaba que Zelenski había comprado una mansión propiedad del rey Carlos III a un precio de ganga. Cientos de miles de usuarios la vieron en X y la compartió una cuenta oficial de la embajada rusa. YouTube eliminó un video narrado por IA publicado por un canal desconocido que se utilizó como fuente de la historia falsa después de que BBC Verify lo señalara. Y Dougan insinuó planes aún más grandes cuando se le preguntó si una mayor atención a sus actividades frenaría la propagación de sus historias falsas. "No se preocupen", dijo, "el juego se está intensificando". Corrección del 4 de julio de 2024: Una versión anterior de esta historia utilizó el logotipo incorrecto para representar el sitio web del Chicago Chronicle vinculado a esta red. Ahora se ha actualizado.

Leer la Fuente

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • 86fe0f5