Incidentes Asociados
Miles de neozelandeses están dando "me gusta", comentando y compartiendo "noticias" en redes sociales que quizás no se percaten de que han sido creadas por inteligencia artificial y combinadas con imágenes inventadas, sin etiquetar y erróneas, según una investigación de 1News.
Los expertos afirman que la popularidad y proliferación de estas cuentas difuminan la línea entre la información real y el contenido inventado, y podrían contribuir a la ya baja confianza de los neozelandeses en las noticias. Por otro lado, grupos de defensa civil han emitido advertencias públicas sobre estas páginas.
1News ha identificado al menos 10 páginas de Facebook que toman noticias neozelandesas existentes, las procesan mediante inteligencia artificial para reescribirlas y las publican en Facebook con imágenes sintéticas.
Un análisis de una de estas páginas de "noticias" en redes sociales, llamada NZ News Hub, con miles de "me gusta", comentarios y publicaciones compartidas, analizó 209 publicaciones realizadas en enero. El nombre de la página era similar al del medio nacional Newshub, que cerró en 2024.
Su biografía decía: "NZ News Hub te trae las últimas noticias de Nueva Zelanda, noticias de última hora, política, negocios, deportes y actualizaciones de la comunidad", pero la página no parece contener ningún reportaje original.
Ninguna de las imágenes estaba etiquetada como generada por IA, y algunas publicaciones presentaban fotos inventadas de personas reales.
En un caso, una foto fija de una menor fallecida en el deslizamiento de tierra del Monte Maunganui fue manipulada para mostrarla bailando. En otro, una imagen de unos padres que habían perdido a su hija adolescente por suicidio fue editada para que la pareja pareciera cariñosa.
Los desastres naturales y las publicaciones que involucraban a los servicios de emergencia fueron constantemente dramatizados, más allá de lo que realmente ocurrió.
NZ News Hub representó deslizamientos auténticos en las autopistas de la Costa Este como mucho más destructivos, se agregaron casas y automóviles aplastados al deslizamiento del Monte Maunganui, y un barco turístico encallado en Akaroa fue editado para que pareciera lleno de Más pasajeros que en la realidad.
La policía a menudo vestía uniformes británicos o estadounidenses y aparecía con armas desenfundadas cuando no había indicios de que los agentes estuvieran armados en los comunicados oficiales.
En algunos casos, las indicaciones sin formato se dejaron erróneamente en la publicación: "Aquí tienes una versión reescrita al estilo de las noticias con un titular claro, emojis y hashtags principales" encima de una, y "Si quieres, también puedo hacer esto más corto, más dramático o con un estilo de redes sociales" debajo de otra.
Las búsquedas de imágenes en Google revelan que varias imágenes publicadas por la página contenían una marca de agua digital "SynthID" incrustada en sus píxeles, lo que indica que se crearon con las herramientas de generación de imágenes con IA de la empresa tecnológica.
NZ News Hub, creado a finales de noviembre del año pasado, tenía más de 4700 seguidores. Las publicaciones individuales atraen regularmente más de 1000 "me gusta" y comentarios, muchos de ellos criticando las imágenes generadas por IA y culpando a los medios de comunicación por las noticias falsas y el uso de la tecnología, aunque la página no tiene conexión con ninguna organización de noticias.
Cuando un usuario criticó el uso de una foto generada por IA, la respuesta de NZ News Hub fue: "La noticia es cierta".
Los administradores de la página leyeron, pero no respondieron, las preguntas detalladas de 1News sobre el uso de imágenes generadas por IA, incluyendo por qué se creó la imagen de una persona fallecida sin permiso familiar y por qué el contenido generado por IA no estaba etiquetado.
Para cualquiera que se desplace rápidamente, no hay casi nada que distinga estas publicaciones de las noticias reales.
Las autoridades alertan sobre la desinformación generada por IA
Las autoridades han emitido advertencias públicas sobre páginas falsas en redes sociales que imitan a medios de comunicación y comparten contenido inventado o generado por IA.
El Consejo del Distrito de Gisborne y la Defensa Civil de Tairāwhiti declararon el jueves pasado que tenían conocimiento de páginas falsas que "se hacen pasar por medios de comunicación y comparten imágenes generadas por IA y contenido inventado sobre eventos y emergencias locales".
Las agencias indicaron que algunas publicaciones parecían creíbles porque usaban números de teléfono o direcciones de Nueva Zelanda, imitaban marcas y estilos de "noticias de última hora", o mencionaban a personas y organizaciones reales sin su permiso.
"La información precisa es importante, especialmente durante una respuesta a una emergencia. Mantengamos a nuestra comunidad segura y bien informada", decía el comunicado publicado en Facebook.
La Agencia Nacional de Gestión de Emergencias (NEMA) emitió una advertencia el mes pasado sobre la circulación en línea de imágenes generadas por IA durante condiciones climáticas severas en todo el país, en particular en relación con el mortal deslizamiento de tierra del Monte Maunganui.
"Es importante que el público confíe en canales de información de emergencia fiables y precisos", declaró la agencia.
"En caso de emergencia, nuestro principal canal para difundir información al público son los medios de comunicación".
La NEMA colaboró estrechamente con los medios de comunicación para garantizar que proporcionaran información verificada y fiable al público, añadió.
Animamos a la gente a estar alerta, a utilizar fuentes fiables para informarse y a comprobar si la fuente es creíble antes de compartirla.
Seguimos de cerca lo que circula durante una respuesta, pero animamos a los neozelandeses a denunciar las imágenes sospechosas cuando las vean o a denunciarlas si existe una forma adecuada de hacerlo.
Información extraída, imágenes inventadas
Merja Myllylahti, profesora asociada de la AUT y codirectora de su Centro de Periodismo, Medios de Comunicación y Democracia, afirmó que las páginas de "noticias" generadas por IA en redes sociales corrían el riesgo de difuminar la línea entre el periodismo legítimo y el contenido inventado al reutilizar comunicados oficiales y combinarlos con imágenes de IA sin etiquetar.
"Toman noticias obviamente legítimas de notificaciones policiales o comunicados de prensa (la misma información que aparece en sitios de noticias reales), pero luego crean imágenes de IA que no son reales y no están etiquetadas", afirmó.
Myllylahti, quien publicó recientemente un informe sobre el uso de la IA en el panorama mediático neozelandés, declaró: Para 1News, esta práctica difería marcadamente del funcionamiento de las principales organizaciones.
"Cuando elaboré mi informe y hablé con los editores de noticias de todas las grandes organizaciones de noticias --- TVNZ, RNZ, el New Zealand Herald y Stuff afirmaron que no crean ni generan vídeos ni imágenes con IA, y que si alguna vez lo hicieran, lo revelarían".
Andrew Lensen, profesor titular de IA de la Universidad de Victoria, afirmó que la difusión de contenido generado por IA que se hace pasar por noticias se estaba acelerando y se estaba volviendo más difícil de detectar.
"Es claramente un problema emergente, que está empeorando cada vez más".
Lensen explicó que muchas de las páginas se basaban en noticias reales, pero que a menudo se introducían imprecisiones a medida que los sistemas de IA extraían, reescribían y republicaban automáticamente el contenido.
"Aunque la historia subyacente pueda ser cierta, los detalles pueden no serlo". "Las páginas que producían el material estaban "casi siempre completamente automatizadas", afirmó, utilizando flujos de trabajo con guiones que monitorean fuentes de noticias legítimas y alimentan el contenido a grandes modelos de lenguaje, como ChatGPT, que luego lo reescriben según una instrucción preestablecida.
Las imágenes o videos se generaban automáticamente para acompañar el texto, a veces utilizando imágenes existentes como base, antes de publicarse en redes sociales.
Las páginas falsas erosionan la confianza en los medios legítimos
Myllylahti explicó que el problema radicaba en que a muchos públicos les costaba distinguir entre organizaciones de noticias profesionales y páginas de redes sociales diseñadas para imitarlas.
La confusión corría el riesgo de dañar la confianza en los medios legítimos, especialmente cuando las páginas falsas adoptaban marcas o nombres similares, explicó.
"Pueden pensar: 'Los medios solo están publicando imágenes falsas', sin darse cuenta de que esta página no está conectada a ninguna sala de redacción", añadió.
Ambos investigadores advirtieron que el creciente volumen de material generado por IA corre el riesgo de erosionar la confianza incluso en medios de comunicación de buena reputación, especialmente en un momento en que solo el 32 % de los neozelandeses Confíe en las noticias, según la encuesta más reciente de Confianza en las Noticias de AUT.
"La gente podría pensar: 'Bueno, está sucediendo en las redes sociales, ¿por qué confiar en lo que hacen 1News o el Herald?'", dijo Lensen.
A medida que la tecnología evoluciona y las imágenes generadas por IA se vuelven más convincentes, las señales visuales se vuelven poco fiables, añadió, dejando la verificación de la fuente como la principal defensa contra el engaño.
"¿Es Radio Nueva Zelanda o 1News, o es alguna página con un nombre un poco raro que no se encuentra referenciada en ningún otro lugar?", preguntó.
"Tendrán que hacer su propia verificación de datos".
Por ahora, Lensen dijo que las inconsistencias aún podrían ofrecer pistas, como uniformes incorrectos, equipo que no cumple con los estándares neozelandeses o información distorsionada y Texto sin sentido incrustado en imágenes.
Myllylahti afirmó que el momento representaba una oportunidad para que los medios de comunicación generaran confianza al ser claros sobre cómo se utilizaba la inteligencia artificial para apoyar el trabajo periodístico.
"Sean muy transparentes, díganle a la audiencia si la utilizan para investigar, resumir documentos extensos o transcribir textos", afirmó.
"Cuanto más le digan a la audiencia, mayor será su confianza".
Meta, propietaria de Facebook, no proporcionó una declaración a 1News antes de la fecha límite sobre si las páginas violaban sus políticas o qué medidas de cumplimiento, si las hubiera, se tomarían.
Actualización: El lunes por la tarde, NZ News Hub había desaparecido de Facebook. No estaba claro si la cuenta se había eliminado automáticamente o si Meta había tomado medidas.