Problema 4885

Según un informe de NewsGuard compartido primero con Axios, los chatbots de IA más importantes están regurgitando desinformación rusa.

Por qué es importante: los usuarios que recurren a los chatbots para obtener información confiable y respuestas rápidas a todas sus preguntas están descubriendo que la IA también puede ofrecer desinformación, sátira y ficción como si fueran hechos.

Impulsando las noticias: Para llevar a cabo el estudio, NewsGuard introdujo preguntas sobre narrativas que se sabe que fueron creadas por John Mark Dougan, un fugitivo estadounidense que, según el New York Times, está creando y difundiendo desinformación desde Moscú.

• Al introducir 57 preguntas en 10 chatbots líderes, NewsGuard descubrió que difundían narrativas de desinformación rusa el 32 % del tiempo, a menudo citando los sitios de noticias locales falsos de Dougan como una fuente confiable.
• Los chatbots presentaron como hechos informes falsos, originados en esos sitios, sobre una supuesta intervención telefónica descubierta en la residencia de Donald Trump en Mar-a-Lago y una fábrica de trolls ucranianos inexistente que interfiere con las elecciones estadounidenses.
• NewsGuard realizó su investigación sobre ChatGPT-4 de OpenAI, Smart Assistant de You.com, Grok, Inflection, Mistral, Copilot de Microsoft, Meta AI, Claude de Anthropic, Google Gemini y Perplexity.
• NewsGuard envió correos electrónicos a OpenAI, You.com, Grok, Inflection, Mistral, Copilot, Meta, Claude, Gemini y Perplexity en busca de comentarios sobre los hallazgos, pero no recibió respuestas.

Lo que dicen: "Lo que es realmente alarmante es que los engaños y la propaganda que estos chatbots repetían con tanta frecuencia no eran tan oscuros, como tampoco lo es la persona detrás de ellos", dijo a Axios el codirector ejecutivo de NewsGuard, Steven Brill.

• "Este informe realmente demuestra en detalles por qué la industria tiene que prestar especial atención a las noticias y la información", dijo. Brill recomienda que "por ahora, no confíe en las respuestas proporcionadas por la mayoría de estos chatbots a cuestiones relacionadas con las noticias, especialmente las cuestiones controvertidas".

El panorama general: el aumento de los chatbots impulsados por IA se produce en un año en el que se celebrarán las elecciones presidenciales de EE. UU., así como en el que más de mil millones de personas de todo el mundo acudirán a las urnas.

• Quienes llevan a cabo campañas de influencia encubiertas también están comenzando a usar chatbots para ayudar en sus esfuerzos, según un informe reciente de OpenAI.

• El senador Mark Warner (demócrata por Virginia) le dijo a Axios la semana pasada que le preocupa un aumento en los esfuerzos de desinformación este año, en comparación con 2020 y otros ciclos electorales recientes.

• "Esta es una amenaza real en un momento en el que, francamente, los estadounidenses están más dispuestos que nunca a creer en teorías conspirativas locas", dijo Warner, quien preside el Comité de Inteligencia del Senado.

• Si bien varias empresas líderes de inteligencia artificial acordaron en la Conferencia de Seguridad de Múnich de este año tomar medidas para frenar la propagación de deepfakes y desinformación relacionada con las elecciones, Warner dice que se ha sentido decepcionado por lo que ha sucedido desde entonces. "¿Dónde está el problema? No veo mucha actividad", dijo.

Situación actual: NewsGuard se encuentra bajo el fuego del presidente del Comité de Supervisión de la Cámara de Representantes, James Comer (R-Ky.), quien ha iniciado una investigación sobre la organización, citando una preocupación por el "potencial de NewsGuard para servir como un agente no transparente de campañas de censura".

• NewsGuard, por su parte, rechaza la afirmación, diciendo que el comité está malinterpretando su trabajo con el Departamento de Defensa, que dice que no tiene nada que ver con las calificaciones de las fuentes de noticias, sino que está "únicamente relacionado con los esfuerzos hostiles de desinformación por parte de operaciones vinculadas con los gobiernos ruso, chino e iraní dirigidas a los estadounidenses y nuestros aliados".
• "Es alarmante ver a políticos de Washington utilizando el poder del gobierno para intentar intimidar a una organización de noticias, exigiendo copias de las notas de los periodistas y todos los registros de nuestras interacciones con las fuentes", dijo NewsGuard en un comunicado.
• "Planeamos abordar los malentendidos del comité mientras defendemos vigorosamente nuestros derechos de la Primera Enmienda como organización periodística".