Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Problema 4156

Incidentes Asociados

Incidente 8178 Reportes
Purportedly AI-Generated Images Reportedly Spread Misinformation During Hurricane Helene Response

Loading...
La niebla del desastre se está haciendo cada vez más tenue
theatlantic.com · 2024

Mantenerse al tanto de los acontecimientos durante un desastre natural era bastante difícil en el pasado, antes de que personas con motivos dudosos comenzaran a inundar las redes sociales con imágenes sensacionalistas generadas por inteligencia artificial. En una crisis, los funcionarios públicos, los socorristas y las personas que viven en zonas de peligro necesitan información confiable. Las secuelas del huracán Helene han demostrado que, si bien la tecnología ha mejorado teóricamente nuestra capacidad para conectarnos con otras personas, nuestra visibilidad de lo que está sucediendo en el terreno puede estar deteriorándose.

A fines de la semana pasada, la marejada ciclónica, los vientos y las lluvias de Helene crearon un camino de destrucción de 500 millas en todo el sureste. Para sorpresa de muchas personas, la tormenta causó inundaciones catastróficas en el interior del país, incluso en Asheville, Carolina del Norte, un lugar que había sido etiquetado con frecuencia como un "paraíso climático". Las imágenes que muchos usuarios asumieron que se habían tomado en algún lugar alrededor de Asheville comenzaron a difundirse rápidamente en las redes sociales. Entre ellas, había fotografías de mascotas paradas en los tejados de edificios rodeados de agua; Otra imagen mostraba a un hombre vadeando una inundación para rescatar a un perro. Pero los medios de comunicación que observaron más de cerca notaron que el hombre tenía seis dedos y tres fosas nasales, una señal de que la imagen era producto de una inteligencia artificial, que con frecuencia se equivoca en ciertos detalles.

La propagación de rumores descabellados siempre ha sido un problema durante los grandes desastres, que suelen producir cortes de energía y obstáculos de transporte que interfieren con los canales de comunicación de los que la mayoría de las personas dependen día a día. La mayoría de las agencias de gestión de emergencias recopilan información de los medios locales y fuentes públicas, incluidas las publicaciones de los ciudadanos locales, para determinar dónde se necesita más ayuda. El ruido en el sistema dificulta su respuesta.

En crisis pasadas, los administradores de emergencias en todos los niveles de gobierno han dependido de los medios locales para obtener información veraz sobre los eventos en el terreno. Pero la erosión de la industria de noticias locales (el número de periodistas de periódicos se ha reducido en dos tercios desde 2005, y las estaciones de televisión locales enfrentan una seria presión financiera) ha reducido la oferta de informes confiables.

Durante un tiempo, la plataforma de redes sociales antes conocida como Twitter proporcionó beneficios compensatorios: la información se movía instantáneamente y, al emitir cheques azules por adelantado a las cuentas autenticadas, la plataforma les dio a los usuarios una forma de separar a los comentaristas confiables de los rumores aleatorios de Internet. Pero bajo el mando de su actual propietario, Elon Musk, la plataforma, rebautizada como X, ha cambiado sus algoritmos, sistema de verificación de cuentas y enfoque de moderación de contenido de maneras que hacen que la plataforma sea menos confiable en una crisis.

Helene pareció demostrar el punto. X estaba inundada de afirmaciones de que las comunidades afectadas serían arrasadas, que las personas desplazadas se verían privadas de sus hogares, incluso de que intereses oscuros están controlando el clima y señalando algunas áreas para dañarlas. Samantha Montano, profesora de gestión de emergencias de la Academia Marítima de Massachusetts y autora de Disasterology: Dispatches From the Frontlines of the Climate Crisis, declaró en una publicación en X que Helene era "el último desastre de Twitter".

También fue el primer gran desastre de la IA. Las imágenes falsas de devastación que proliferaron en X, Facebook y otras plataformas aumentaron la incertidumbre sobre lo que estaba sucediendo. Algunos usuarios que difundieron esas imágenes parecen haber estado tratando de recaudar dinero o captar miradas desprevenidas para proyectos favoritos. Otros usuarios tenían motivos políticos. Para ilustrar las afirmaciones de que Joe Biden y Kamala Harris habían abandonado a las víctimas de Helene, los influencers de derecha compartieron una imagen generada por IA de un niño llorando sosteniendo un cachorro mojado. Otra imagen viral falsa mostró a Donald Trump vadeando las aguas de la inundación (https://www.usatoday.com/story/news/factcheck/2024/10/03/ai-image-trump-hurricane-helene-fact-check/75483588007/).

La desinformación, rápida y poco confiable, llenó un vacío exacerbado por los cortes de energía, el mal servicio celular y las rutas de transporte destruidas; luego tuvo que ser reprimida por los medios tradicionales. Las salas de redacción de prensa escrita, televisión y radio locales han hecho un esfuerzo heroico (https://www.cnn.com/2024/09/30/media/hurricane-helene-local-radio-north-carolina/index.html) para cubrir Helene y sus consecuencias. Pero ellos también se ven obligados a dedicar parte de sus energías a desacreditar los rumores que los no locales promueven en las plataformas nacionales.

Lamentablemente, es probable que la crisis de información que se está desarrollando empeore. A medida que el cambio climático produzca desastres relacionados con el clima más frecuentes, muchos de ellos en lugares inesperados, los propagandistas cínicos tendrán más oportunidades de hacer travesuras. Las buenas fuentes de información son vulnerables a los mismos desastres climáticos que se supone que deben monitorear. Esto es cierto no solo en el caso de los medios de comunicación locales. En un giro irónico, el camino de destrucción de Helene incluyó la sede en Asheville de los Centros Nacionales de Información Ambiental de la Administración Nacional Oceánica y Atmosférica (NOAA, por sus siglas en inglés) (https://www.nytimes.com/2024/10/03/climate/asheville-noaa-center.html), que rastrea los datos climáticos, incluido el clima extremo.

Más desastres [nos esperan] (https://www.usatoday.com/story/news/weather/2024/10/01/october-hurricane-forecast-says-kirk-could-kick-off-big-storms/75468124007/). Necesitamos ver las comunicaciones confiables como una precaución de seguridad en sí misma, no diferente de los diques marinos o un refugio contra tornados.

Con el tiempo, los avances tecnológicos deberían permitir un monitoreo cada vez más preciso de las condiciones climáticas. Pero nuestro sistema más amplio de respuesta a desastres está colapsando, porque depende de la comunicación y la colaboración entre funcionarios gubernamentales, personal de primera respuesta y ciudadanos, y algunas de las suposiciones bajo las cuales se desarrolló ya no se sostienen. Los funcionarios no pueden llegar a todos a través de los medios de comunicación locales; las fotos y videos supuestamente tomados en un desastre no son una prueba definitiva; la cantidad de personas que difunden deliberadamente información errónea no es trivial, y hacerlo es cada vez más fácil. Los funcionarios del gobierno deben tener en cuenta estas limitaciones en todas sus comunicaciones con el público. FEMA se está adaptando; ahora tiene una página web dedicada a disipar rumores.

Pero la carga también recae sobre los ciudadanos promedio. Los administradores de emergencias instan regularmente a las personas a almacenar alimentos o agua para 72 horas. Pero los estadounidenses también deberían planificar su dieta mediática sobre desastres con el mismo cuidado. Eso significa seguir solo fuentes conocidas, aprender a identificar fotos y videos manipulados y comprender el peligro de amplificar afirmaciones no verificadas. En momentos de crisis, las comunidades deben centrarse en ayudar a las personas necesitadas. Lo mínimo que todos podemos hacer es evitar sumar ruido.

Leer la Fuente

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd