Incidents associés
Des milliers de Néo-Zélandais « aiment », commentent et partagent sur les réseaux sociaux des « actualités » dont ils ignorent peut-être qu'elles ont été rédigées par une intelligence artificielle et accompagnées d'images truquées, non légendées et inexactes, selon une enquête de 1News.
Des experts affirment que la popularité et la prolifération de ces comptes brouillent la frontière entre reportages authentiques et contenus fabriqués de toutes pièces et pourraient contribuer à la faible confiance déjà existante des Néo-Zélandais envers l'information. Les services de protection civile ont par ailleurs lancé des avertissements publics concernant ces pages.
1News a identifié au moins dix pages Facebook qui reprennent des articles de presse néo-zélandais existants, les réécrivent grâce à une intelligence artificielle et les publient sur Facebook avec des images synthétiques.
L'analyse de l'une de ces pages « d'actualités », nommée NZ News Hub et comptant des milliers de mentions « J'aime », de commentaires et de partages, a porté sur 209 publications datant du mois de janvier. Le nom de la page était similaire à celui du média national Newshub (qui a fermé ses portes en 2024).
Sa description indiquait : « NZ News Hub vous apporte les dernières actualités de Nouvelle-Zélande, les informations de dernière minute, la politique, l’économie, le sport et les actualités locales », mais la page ne semble contenir aucun reportage original.
Aucune des images n’était identifiée comme étant générée par IA, et certaines publications présentaient des photos truquées de personnes réelles.
Dans un cas, une photo d’une mineure tuée dans le glissement de terrain du mont Maunganui a été manipulée pour la montrer en train de danser. Dans un autre, une image de parents ayant perdu leur fille adolescente par suicide a été retouchée pour donner au couple une apparence affectueuse.
Les catastrophes naturelles et les publications concernant les services d’urgence étaient systématiquement dramatisées.
Des glissements de terrain authentiques sur les autoroutes de la côte est (https://www.1news.co.nz/2026/01/24/weeks-of-work-to-clear-part-of-state-highway-35-due-to-massive-slip/) ont été présentés par NZ News Hub comme étant beaucoup plus destructeurs : des maisons et des voitures écrasées ont été ajoutées à la description du glissement de terrain de Mount Maunganui (https://www.1news.co.nz/2026/02/01/recovery-operation-at-mt-maunganui-concludes-11-days-after-landslide/), et un bateau touristique échoué à Akaroa (https://www.1news.co.nz/2026/02/01/we-felt-a-thud-dozens-rescued-as-akaroa-tourist-boat-grounds/) a été retouché pour paraître beaucoup plus bondé qu'en réalité.
Les policiers portaient souvent des uniformes britanniques ou américains et étaient représentés armes au poing, alors qu'aucun communiqué officiel n'indiquait qu'ils étaient armés.
Dans certains cas, les textes bruts étaient conservés par erreur dans la publication. On pouvait lire, par exemple : « Voici une réécriture de style journalistique avec un titre clair, des émojis et les meilleurs hashtags » au-dessus d'un texte, et « Si vous voulez, je peux aussi le raccourcir, le rendre plus percutant ou l'adapter aux réseaux sociaux » en dessous d'un autre.
Une recherche d'images sur Google révèle que plusieurs photos publiées par la page contenaient un filigrane numérique « SynthID » intégré à leurs pixels, indiquant qu'elles avaient été créées à l'aide des outils de génération d'images par intelligence artificielle de cette entreprise.
NZ News Hub, créé fin novembre de l'année précédente, comptait plus de 4 700 abonnés. Les publications individuelles attiraient régulièrement plus de 1 000 mentions « J'aime » et commentaires, dont beaucoup critiquaient les images générées par l'IA et accusaient les médias de diffuser de fausses informations et d'utiliser cette technologie, bien que la page n'ait aucun lien avec un quelconque organe de presse.
Lorsqu'un internaute a dénoncé l'utilisation d'une photo générée par IA, NZ News Hub a répondu : « L'information est vraie. »
Les administrateurs de la page ont lu les questions détaillées de 1News concernant leur utilisation d'images générées par IA, notamment pourquoi une image d'une personne décédée a été créée sans autorisation familiale et pourquoi le contenu généré par IA n'était pas étiqueté.
Pour un utilisateur qui fait défiler rapidement la page, il est presque impossible de distinguer ces publications des véritables informations.
Les autorités tirent la sonnette d'alarme concernant la désinformation générée par IA.
Les autorités ont lancé des avertissements publics concernant de fausses pages sur les réseaux sociaux imitant des médias et partageant du contenu fabriqué ou généré par IA.
Le conseil du district de Gisborne et la protection civile de Tairāwhiti ont déclaré jeudi dernier être au courant de l'existence de fausses pages « se faisant passer pour des médias et partageant des images générées par IA et du contenu inventé concernant des événements et des urgences locales ».
Les agences ont indiqué que certaines publications semblaient crédibles car elles utilisaient des numéros de téléphone ou des adresses néo-zélandaises, imitaient des marques et le style des articles de presse d'« actualités de dernière minute », ou mentionnaient des personnes et des organisations réelles sans leur autorisation.
« L'exactitude des informations est primordiale, surtout en cas d'urgence. Assurons la sécurité et la bonne information de notre communauté », pouvait-on lire dans la déclaration publiée sur Facebook.
L'Agence nationale de gestion des urgences (NEMA) avait émis un avertissement le mois dernier concernant des images générées par intelligence artificielle circulant en ligne lors d'épisodes de conditions météorologiques extrêmes dans le pays, notamment en lien avec le glissement de terrain meurtrier du mont Maunganui.
« Il est essentiel que le public ait confiance dans les sources d'information d'urgence fiables et précises », a déclaré l'agence.
« En cas d'urgence, notre principal canal de diffusion de l'information auprès du public est constitué par les médias. »
La NEMA a ajouté avoir travaillé en étroite collaboration avec les médias afin de garantir la diffusion d'informations vérifiées et crédibles au public.
« Nous encourageons la vigilance, à s'informer auprès de sources fiables et à vérifier la crédibilité des sources avant de partager une information.
Nous surveillons de près les contenus diffusés lors d'une intervention, mais nous encourageons les Néo-Zélandais à signaler les images suspectes dès qu'ils les voient ou à les rapporter s'il existe un moyen approprié de le faire. »
Informations récupérées illégalement, images fabriquées
Merja Myllylahti, professeure associée à l'AUT et codirectrice de son Centre de journalisme, médias et démocratie, a déclaré que les pages d'« actualités » générées par l'IA sur les réseaux sociaux risquaient de brouiller la frontière entre journalisme légitime et contenu fabriqué en réutilisant des communiqués officiels et en les associant à des images générées par l'IA sans légende.
« Ils utilisent des informations manifestement légitimes provenant de communiqués de police ou de communiqués de presse – les mêmes informations que celles publiées sur les sites d'information traditionnels – mais ils créent ensuite des images par IA qui sont fictives et non légendées », a-t-elle expliqué.
Mme Myllylahti, qui a récemment publié un rapport sur l'utilisation de l'IA dans le paysage médiatique néo-zélandais, a évoqué cette pratique auprès de 1News. Cela différait nettement du fonctionnement des organisations traditionnelles.
« Lorsque j'ai rédigé mon rapport et que j'ai discuté avec les rédacteurs en chef de tous les grands médias – TVNZ, RNZ, le New Zealand Herald et Stuff –, ils ont tous affirmé ne pas créer ni générer de vidéos ou d'images à l'aide de l'IA, et que s'ils le faisaient, ils le divulgueraient. »
Andrew Lensen, maître de conférences en IA à l'Université Victoria, a déclaré que la diffusion de contenus générés par l'IA et se faisant passer pour des informations s'accélérait et devenait plus difficile à détecter.
« Il s'agit clairement d'un problème émergent qui ne cesse de s'aggraver. »
M. Lensen a expliqué que nombre de ces pages étaient basées sur de véritables articles de presse, mais que des inexactitudes étaient souvent introduites lors de la récupération, de la réécriture et de la republication automatiques des contenus par les systèmes d'IA.
« Même si l'histoire de base est vraie, les détails peuvent être inexacts », a-t-il ajouté. a-t-il déclaré.
Les pages produisant ce contenu étaient « presque toujours entièrement automatisées », a-t-il précisé, utilisant des flux de travail scriptés qui surveillent les sources d'information légitimes et alimentent de grands modèles de langage, comme ChatGPT, qui le réécrivent ensuite selon une consigne prédéfinie.
Des images ou des vidéos étaient ensuite générées automatiquement pour accompagner le texte – parfois à partir d'images existantes – avant d'être publiées sur les réseaux sociaux.
Fausses pages érodant la confiance dans les médias légitimes
Myllylahti a expliqué que le problème résidait dans la difficulté pour de nombreux publics de distinguer les organes de presse professionnels des pages de réseaux sociaux conçues pour les imiter.
Cette confusion risquait de nuire à la confiance dans les médias légitimes, en particulier lorsque les fausses pages adoptaient une identité visuelle ou des noms similaires, a-t-elle ajouté.
« Les gens pourraient penser : “Les médias diffusent simplement de fausses images”, sans se rendre compte que cette page n'est liée à aucune rédaction », a-t-elle déclaré.
Les deux chercheurs ont averti que le volume croissant de contenu généré par l'IA risquait d'éroder la confiance, même dans les médias réputés – surtout à une époque où seulement 32 % des nouveaux utilisateurs de l'information sont affiliés à l'IA. Les Néo-Zélandais font confiance à l'information (https://www.1news.co.nz/2025/04/13/trust-in-news-stabilises-after-sharp-decline-over-five-years/), selon la dernière enquête de l'AUT sur la confiance dans l'information.
« Les gens pourraient se dire : "Cela se passe déjà sur les réseaux sociaux, alors pourquoi ferais-je confiance à ce que font 1News ou le Herald ?" », a déclaré Lensen.
À mesure que la technologie évolue et que les images générées par l'IA deviennent plus convaincantes, les indices visuels deviendront moins fiables, a-t-il ajouté, faisant de la vérification des sources le principal rempart contre la désinformation.
« Est-ce Radio New Zealand ou 1News, ou une page au nom un peu étrange dont on ne trouve aucune autre référence ? », a-t-il demandé.
« Vous devrez vérifier les faits vous-même. »
Pour l'instant, Lensen a indiqué que des incohérences pouvaient encore fournir des indices, comme des uniformes incorrects ou du matériel non conforme aux normes néo-zélandaises. ou des textes déformés et incohérents intégrés à des images.
Myllylahti a déclaré que cette situation offrait aux médias l'opportunité de renforcer la confiance en expliquant clairement comment l'intelligence artificielle était utilisée pour appuyer le travail journalistique.
« Soyez totalement transparents, dites au public si vous l'utilisez pour la recherche, la synthèse de documents volumineux ou la transcription de textes », a-t-elle déclaré.
« Plus vous informez le public, plus la confiance sera grande. »
Meta, propriétaire de Facebook, n'a pas communiqué avec 1News avant la date limite de publication concernant une éventuelle violation de ses règles par les pages concernées, ni les mesures d'application qui seraient prises.
Mise à jour : Lundi après-midi, NZ News Hub avait disparu de Facebook. On ignore si le compte a été supprimé automatiquement ou si Meta a pris des mesures.