Incidentes Asociados
A primera vista, no había nada fuera de lo común en el pronóstico de viento del sábado para Camas Prairie, Idaho.
"¡Agárrense los sombreros!", decía una publicación en redes sociales de la oficina meteorológica local de Missoula, Montana. "Orangeotild" tenía un 10 % de probabilidad de vientos fuertes, mientras que, justo al sur, "Whata Bod" se libraría de ráfagas más fuertes.
¿El problema? Ninguno de esos lugares existe.
Tampoco existen algunos de los otros puntos marcados en el gráfico de pronóstico del Servicio Meteorológico Nacional, plagados de errores ortográficos y geográficos que la agencia confirmó que estaban relacionados con el uso de IA generativa.
Este error —que no es el primero de este tipo publicado por el NWS en el último año— se produce mientras la agencia experimenta con una amplia gama de usos de la IA, desde pronósticos avanzados hasta diseño gráfico. A los expertos les preocupa que, sin funcionarios debidamente capacitados, los errores puedan erosionar la confianza en la agencia y la tecnología.
El NWS afirmó que la IA no se utiliza habitualmente para contenido público, ni está prohibido. La agencia afirmó estar explorando maneras de emplear IA para informar al público y reconoció que se han cometido errores.
"Recientemente, una oficina local utilizó IA para crear un mapa base que mostrara información del pronóstico; sin embargo, el mapa mostraba inadvertidamente nombres de ciudades ilegibles", declaró la portavoz del NWS, Erica Grow Cei. "El mapa se corrigió rápidamente y se publicaron publicaciones actualizadas en redes sociales".
Una publicación con el mapa inexacto fue eliminada el lunes, el mismo día que The Washington Post contactó a los funcionarios con preguntas sobre la imagen.
Cei añadió: "El NWS está explorando estrategias para seguir optimizando la prestación de servicios a los estadounidenses, incluyendo la implementación de IA donde sea viable. El NWS seguirá evaluando cuidadosamente los resultados en los casos en que se implemente IA para garantizar la precisión y la eficiencia, y suspenderá su uso en los casos en que la IA no sea eficaz". Un tuit del 25 de noviembre, proveniente de la oficina de Rapid City, Dakota del Sur, también contenía ubicaciones mal escritas y el logotipo de Google Gemini en su pronóstico.
El NWS no confirmó si la imagen de Rapid City se generó con IA generativa.
El Servicio Meteorológico a menudo crea productos de pronóstico experimentales, afirmó John Sokich, quien trabajó allí durante 45 años antes de jubilarse en enero de 2025. "Pero su política es garantizar que ese tipo de experimentación esté etiquetada. Cuentan con un proceso riguroso para probar un producto antes de que entre en funcionamiento".
Sokich añadió que, en su opinión, no etiquetar estas imágenes como experimentales fue "solo un descuido".
El año pasado, cientos de empleados fueron despedidos, jubilados o abandonaron el NWS como parte de los esfuerzos de la administración Trump para reducir el personal del gobierno federal. La Administración Nacional Oceánica y Atmosférica (NOAA), la agencia matriz del NWS, se comprometió a cubrir muchos de esos puestos para septiembre, pero las pérdidas han afectado negativamente al servicio y a sus empleados.
"Si existe una manera de usar la IA para cubrir esa falta, no soy quién para juzgar", declaró Chris Gloninger, experto en comunicación meteorológica y climática y exmeteorólogo de radiodifusión. "Pero me temo que, en el caso de crear pueblos inexistentes, eso perjudicaría o perjudicaría la confianza pública que necesitamos seguir construyendo".
Señaló que el pronóstico de viento era relativamente leve en comparación con otros posibles peligros meteorológicos. "Si este fuera un pronóstico que tuviera impactos directos en la seguridad pública, o si se tratara de un evento de alto impacto, no creo que se utilizara [IA generativa]", dijo Gloninger.
Si bien no es inusual ver desinformación en nuestras redes sociales, los errores de IA generativa provenientes de una agencia gubernamental resaltan la necesidad de capacitación y concientización a medida que organizaciones de todo el mundo evalúan las ventajas y desventajas de esta tecnología en rápido desarrollo, dijo Claire Wardle, profesora asociada del departamento de comunicaciones de la Universidad de Cornell, especializada en desinformación e IA.
"Hay muchas ventajas. El problema es que también presenta importantes deficiencias", afirmó Wardle. "Si no estás capacitado para verificar dos veces si hay alucinaciones, los nombres de las ubicaciones o el logotipo, no te darás cuenta de que estás cometiendo un error".
Señaló que este tipo de errores podría hacer que el público desconfíe de otras formas de IA completamente diferentes a la tecnología que se usaría para crear un gráfico meteorológico.
La NOAA anunció en diciembre un ambicioso y avanzado conjunto de nuevos modelos de predicción meteorológica global basados en IA. Muchos expertos en meteorología celebraron este avance como un gran paso hacia una predicción mejor y más precisa.
"Necesitamos mejorar la labor, de forma más general en la sociedad, para ayudar a la gente a comprender las diferentes maneras en que se está implementando la IA", afirmó Wardle.
Gloninger afirmó que la brecha de conocimiento era cada vez más importante a medida que los avances de la IA en la ciencia se generalizaban.
"Que un gráfico saliera mal no significa que las matemáticas, la ciencia y la física que sustentan los modelos generados por IA sean erróneas. Son muy diferentes", afirmó.